L’algoritmo di Facebook scambia i neri per scimmie

Un portavoce di Facebook, interrogato su questo algoritmo, ha ammesso che si trattava di “chiaramente un errore inaccettabile”.

Un algoritmo di raccomandazione di Facebook ha chiesto agli utenti se volevano vedere altri “video sui primati“ sotto un video tabloid del Regno Unito che mostrava persone di colore, ha rivelato il New York Times venerdì (3 settembre).

Il video del Daily Mail, che risale a più di un anno fa, si intitola “L’uomo bianco chiama i poliziotti contro gli uomini di colore al porto turistico”. Mostra solo persone, non scimmie.

Di seguito, la domanda “vedi più video sui primati?” con le opzioni “Sì/Rifiuta” è stato visualizzato sullo schermo di alcuni utenti, secondo uno screenshot pubblicato su Twitter da Darci Groves, ex designer del colosso dei social media.

“È scandaloso”, ha commentato, invitando i suoi ex colleghi di Facebook a intensificare la questione.

“Si tratta chiaramente di un errore inaccettabile”, ha reagito un portavoce di Facebook, richiesto dall’Afp . “Ci scusiamo con chiunque abbia visto queste raccomandazioni offensive”.

“Abbiamo progressi da fare”

Il gruppo californiano ha disattivato lo strumento di raccomandazione su questo argomento “non appena abbiamo notato cosa stava succedendo al fine di indagare sulle cause del problema ed evitare che si ripetesse”, ha affermato.

“Come abbiamo detto, anche se abbiamo migliorato i nostri sistemi di intelligenza artificiale, sappiamo che non sono perfetti e che abbiamo dei progressi da fare”, ha continuato.

Leggi anche:

• Twitter: algoritmo di ritaglio delle foto rimosso a causa di pregiudizi razziali

Il caso mette in luce i limiti delle tecnologie di intelligenza artificiale, regolarmente evidenziati dalla piattaforma nei suoi sforzi per costruire un feed personalizzato per ciascuno dei suoi quasi 3 miliardi di utenti mensili.

Lo utilizza anche ampiamente nella moderazione dei contenuti, per identificare e bloccare messaggi e immagini problematici prima ancora che vengano visti.

Ma Facebook, come i suoi concorrenti, è regolarmente accusato di non combattere abbastanza contro il razzismo e altre forme di odio e discriminazione.

L’argomento suscita ancor più tensione in quanto molte organizzazioni della società civile accusano i social network e i loro algoritmi di contribuire alla divisione della società americana, nel contesto delle manifestazioni del movimento “black Lives Matter”.

Fonte

Ti potrebbe interessare:

• Boom di recensioni negative. L’app Facebook rischia l’eliminazione dagli store?