Quando l’IA sbaglia mira: lo studente arrestato per un pacchetto di patatine
Negli Stati Uniti, un ragazzo è stato arrestato per colpa di un errore di un sistema di sorveglianza basato sull’intelligenza artificiale. Alla Kenwood High School di Baltimora, una telecamera “intelligente” ha scambiato un innocuo sacchetto di patatine nelle mani di uno studente per una pistola. Pochi minuti dopo, la polizia ha fatto irruzione nella scuola.
La macchina che ha perso il senso della realtà
L’episodio, riportato da WBFF FOX45 Baltimore, rivela quanto sia pericolosa l’automazione cieca delle decisioni. Il sistema Omnalert, che monitora i flussi video delle telecamere di sicurezza, ha emesso un allarme per “presenza di arma da fuoco”.
Le forze dell’ordine sono intervenute immediatamente, costringendo Taki Allen, un adolescente afroamericano, a terra e portandolo via in manette.
Ma Allen non aveva alcuna arma. Solo un pacchetto di chip, acquistato dopo l’allenamento di football.
Il suo unico “errore” è stato trovarsi davanti a un occhio elettronico che non distingue più un gesto umano da una minaccia.
La promessa della sicurezza, il prezzo dell’umiliazione
Secondo la famiglia, la reazione della polizia è stata sproporzionata e la scuola non ha mostrato empatia verso lo stato emotivo del ragazzo, ancora sotto shock.
«Se mangio un’altra confezione di patatine o bevo qualcosa, sento che verranno di nuovo», ha dichiarato Allen, descrivendo la paura che ora accompagna anche i suoi gesti più banali.
La scuola ha cercato di difendersi, spiegando che il sistema AI “privilegia la sicurezza” e che gli avvisi vengono successivamente “verificati da operatori umani”. Ma i fatti dicono altro: in questo caso, nessun controllo umano è arrivato in tempo per impedire un arresto ingiusto.
Leggi anche:
Algoritmi che sbagliano, vite reali che pagano
Omnalert ha riconosciuto l’errore e promesso “un’analisi interna” per migliorare la precisione dei suoi algoritmi. Ma questo linguaggio tecnico non basta più. Perché dietro ogni “falso positivo” non c’è un numero, c’è una persona.
Un ragazzo di diciassette anni che ha subito una perquisizione armata e una crisi di panico per colpa di una telecamera che ha visto un’arma dove c’erano solo patatine.
Il problema non è solo nell’algoritmo, ma nel sistema che lo legittima: scuole, aziende e forze dell’ordine che si affidano ciecamente a software di riconoscimento automatizzato, come se l’errore non fosse più possibile.
La promessa dell’intelligenza artificiale è quella di rendere il mondo più sicuro. Ma quando la sicurezza diventa sorveglianza algoritmica senza umanità, il confine tra protezione e abuso si fa sottile — e pericoloso.
Il lato oscuro della “sicurezza intelligente”
Baltimora non è un caso isolato. Sistemi simili sono già in uso in centinaia di scuole americane, prigioni, aeroporti e spazi pubblici. Queste IA vengono addestrate su milioni di immagini per “riconoscere minacce” — ma spesso non comprendono il contesto, ignorano differenze culturali, colori, movimenti.
Quando una macchina “vede” un’arma dove non c’è, non è un errore tecnico: è un fallimento etico, perché qualcuno ha deciso di fidarsi di lei più che delle persone.
Le autorità scolastiche di Baltimora hanno inviato una lettera ai genitori con il commento di Omnalert e la promessa di “supporto psicologico” agli studenti. Ma la famiglia di Allen afferma che nessuno ha contattato direttamente il ragazzo, né si è preoccupato di capire come stia davvero.
Un errore di codice può essere corretto in pochi minuti.
Ma un trauma psicologico inflitto da una macchina cieca al contesto umano resta per anni.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- GETTR: gettr.com/user/guruhitech
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.