Twitter: algoritmo di ritaglio delle foto rimosso a causa di pregiudizi razziali
INTELLIGENZA ARTIFICIALE Il programma ha favorito i bianchi del 4% e le donne bianche il 7% rispetto alle donne di colore.
Sui social media, la tecnologia quando è completamente automatizzata non è sempre buona. Twitter ha appena notato che l’intelligenza artificiale non fa sempre rima con l’etica. L’azienda ha infatti stabilito che il suo algoritmo che ritaglia le foto è leggermente sbilanciato a favore dei bianchi e delle donne. Un problema segnalato da specialisti già da diversi mesi su diversi siti web. La piattaforma quindi preferisce farne a meno.
“Gli algoritmi non sono adatti a tutto su Twitter” , ha ammesso mercoledì il social network su uno dei suoi blog. “È meglio che gli utenti decidano come inquadrare un’immagine.”
Un algoritmo in servizio dal 2018
L’algoritmo, messo in servizio nel 2018, ha lo scopo di ritagliare le immagini secondo ciò che ritiene più importante, in modo da ridurne le dimensioni e ingombrare meno il filo dei tweet. “Le persone su Twitter hanno osservato casi in cui il nostro programma ha scelto individui bianchi anziché neri”, afferma Rumman Chowdhury, direttore del software . “Abbiamo testato il nostro sistema su un database di grandi dimensioni per determinare se c’era un problema”. I ricercatori hanno scoperto che c’era una differenza del 4% a favore dei bianchi in generale e del 7% a favore delle donne bianche rispetto alle donne nere. Il confronto tra uomini e donne in generale ha rivelato un divario dell’8% a favore delle donne.
L’azienda con sede a San Francisco ha anche cercato un possibile cosiddetto bias dello “sguardo maschile”, nel senso che l’algoritmo avrebbe scelto il petto o le gambe di una donna invece del suo viso. Ma solo il 3% delle foto testate è stato ritagliato fuori dalla testa delle persone e su elementi non fisici, come un numero su una maglia sportiva. “Non abbiamo trovato alcuna prova di un pregiudizio di oggettivazione”, dice Rumman Chowdhury.
Meno utilizzo del “machine learning”
Il social network ha testato a marzo un nuovo modo di visualizzare le immagini senza ritagliarle, quindi ha esteso lo strumento a tutti, per consentire a tutti di vedere come appare il proprio tweet prima di pubblicarlo. “Riduce la nostra dipendenza dall’apprendimento automatico per un’attività che i nostri utenti sono in grado di svolgere meglio”, ha aggiunto Rumman Chowdhury. L’intelligenza artificiale quindi deve ancora fare progressi.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: http://bit.ly/gurugooglenews
- Telegram: https://t.me/guruhitech
- Facebook: https://www.facebook.com/guruhitechfb
- Twitter: https://twitter.com/guruhitech1
- Instagram: https://www.instagram.com/guruhitech_web/
- Gab: https://gab.com/guruhitech
- Parler: https://parler.com/profile/Guruhitech/posts
- MeWe: https://mewe.com/i/guruhitech
- Tillor: https://tillor.com/guruhitech
- Skype: live:.cid.e496a29c3d8dfd2
Esprimi il tuo parere!
Eri a conoscenza di questo algoritmo “razzista” su Twitter? Lascia un commento nell’apposita sezione che trovi più in basso.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].