L’IA scambia un pacchetto di patatine per una pistola: quattro studenti fanno causa alla scuola

Un sistema di sorveglianza basato sull’intelligenza artificiale ha scambiato un pacchetto di patatine per una possibile pistola, provocando un intervento della polizia con le armi in pugno. Ora quattro studenti della Kenwood High School, nella contea di Baltimora, negli Stati Uniti, hanno presentato una causa contro le autorità scolastiche, la polizia e la società responsabile della tecnologia. L’episodio risale al 20 ottobre 2025, mentre l’azione legale è stata depositata il 17 novembre 2026.
I ragazzi si trovavano all’esterno della scuola dopo un allenamento di football e aspettavano di essere accompagnati a casa. Uno di loro, Taki Allen, aveva in mano un sacchetto di Doritos. Il sistema Omnilert Gun Detect, collegato alle telecamere dell’istituto, ha interpretato la scena come una possibile minaccia armata. La segnalazione è stata sottoposta anche a un controllo umano prima di essere inoltrata ai responsabili della sicurezza.
Secondo la denuncia, almeno sei auto della polizia sono arrivate sul posto. Gli agenti avrebbero puntato le armi verso gli adolescenti, ordinato loro di inginocchiarsi, ammanettandoli e perquisendoli. Non è stata trovata alcuna arma. Gli studenti raccontano di aver temuto per la propria vita durante l’intervento.
L’allarme dell’IA era già stato annullato
La ricostruzione contenuta nella causa evidenzia un problema ancora più serio del falso riconoscimento. Entro due minuti dalla segnalazione, alcuni responsabili della sicurezza scolastica e della polizia avevano verificato che non c’era alcuna pistola e annullato l’allarme. Il sistema aveva anche inviato una seconda notifica per comunicare la cancellazione.
La dirigente scolastica, tuttavia, avrebbe visualizzato la segnalazione originale oltre dieci minuti dopo senza verificare che fosse stata annullata. Avrebbe quindi inviato un’immagine della registrazione a un agente assegnato alla scuola, che l’avrebbe inoltrata alla polizia. Da questa catena di comunicazioni sarebbe partito l’intervento armato.
La denuncia sostiene inoltre che, una volta chiarito l’equivoco, alcuni responsabili abbiano scherzato sull’accaduto tramite messaggi con emoji sorridenti. Si tratta di circostanze contestate nell’azione giudiziaria e non ancora accertate definitivamente da una sentenza.
Leggi anche:
Un’indagine chiarisce che cosa ha riconosciuto davvero l’IA
Un rapporto dell’ispettorato per l’istruzione del Maryland ha precisato che il software non aveva identificato direttamente il sacchetto blu come una pistola. La segnalazione sarebbe derivata soprattutto dalla posizione e dall’angolazione della mano dello studente, interpretate come potenzialmente compatibili con una minaccia.
Lo stesso rapporto non ha trovato prove di discriminazione razziale nel funzionamento del sistema. Ha però evidenziato che, nel periodo esaminato, oltre il 99% delle segnalazioni Omnilert nelle scuole della contea non aveva richiesto un intervento della polizia. Questo dato non significa che il software abbia sbagliato in ogni caso: indica che la stragrande maggioranza degli avvisi non ha portato a una risposta delle forze dell’ordine.
Omnilert ha sostenuto che la propria tecnologia abbia funzionato secondo il processo previsto, individuando una possibile minaccia e sottoponendola alla verifica umana. Il caso mostra però come un avviso automatico, anche quando viene corretto, possa provocare conseguenze gravi se la cancellazione non viene comunicata e rispettata.
Quattro studenti chiedono un risarcimento e nuove regole
La causa denuncia presunte violazioni dei diritti costituzionali, perquisizioni e detenzioni ingiustificate e negligenza. I ricorrenti chiedono un risarcimento economico, il cui importo non è stato specificato, e misure per impedire che il sistema venga utilizzato senza procedure più rigorose di verifica e gestione degli allarmi.
Il procedimento dovrà stabilire le responsabilità delle persone e delle organizzazioni coinvolte. Un falso positivo non basta da solo a dimostrare una responsabilità legale, ma la sequenza descritta nella denuncia solleva interrogativi sul controllo umano delle decisioni automatizzate, soprattutto quando una segnalazione può provocare l’intervento di agenti armati.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Che ne pensi?
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
