L’intelligenza artificiale corre troppo: Jon Hernández avverte sui rischi che non sappiamo controllare
L’intelligenza artificiale non si limita più a rispondere alle domande: può utilizzare strumenti, accedere a servizi e svolgere attività al posto delle persone. Ma la velocità con cui stanno crescendo queste capacità rischia di superare quella con cui riusciamo a comprenderle e a controllarle. È l’allarme lanciato da Jon Hernández, divulgatore specializzato in IA, durante un’intervista in cui ha affrontato i pericoli della nuova generazione di agenti autonomi, i deepfake, la sicurezza informatica e i limiti delle regole attuali.
Il punto centrale non è sostenere che ogni sistema di IA sia pericoloso, ma riconoscere che maggiore autonomia significa anche maggiori conseguenze quando qualcosa va storto. Una risposta sbagliata in una chat è un problema; un agente che compie azioni reali con autorizzazioni eccessive può diventare qualcosa di molto più serio.
L’IA mette sotto pressione la sicurezza informatica
Uno degli episodi discussi da Hernández riguarda una startup di cybersicurezza che ha dichiarato di aver ottenuto accesso a informazioni interne di Anthropic in meno di dodici ore. Il divulgatore ha precisato che non si è trattato di una violazione diretta di Claude, il modello di IA dell’azienda, ma dell’accesso a un servizio esterno utilizzato dalla società.
La distinzione è fondamentale: i rischi non riguardano soltanto i modelli linguistici, ma l’intero ecosistema di software, integrazioni e piattaforme che li circonda. Un’azienda può proteggere il proprio modello e rimanere vulnerabile attraverso un servizio collegato.
L’IA, inoltre, può accelerare l’individuazione di falle e rendere più accessibili attività che prima richiedevano competenze specialistiche. Questo non significa che qualunque chatbot possa violare qualsiasi sistema, ma che la difesa informatica deve adattarsi a strumenti sempre più veloci e automatizzati.
Gli agenti IA possono fare danni se ricevono troppi permessi
La nuova frontiera è rappresentata dagli agenti di intelligenza artificiale: sistemi che non si fermano alla generazione di testo, ma possono consultare email, leggere documenti, usare applicazioni e interagire con servizi esterni per raggiungere un obiettivo.
Secondo Hernández, il livello di rischio dipende direttamente da ciò a cui l’agente può accedere. Se gli vengono concessi permessi su caselle di posta, archivi riservati o strumenti finanziari, un errore può avere conseguenze concrete. Limitare le autorizzazioni e supervisionare le azioni diventa quindi essenziale, soprattutto quando le operazioni sono difficili da annullare.
Anche la riservatezza dei dati merita attenzione. Hernández ricorda che i modelli non imparano necessariamente in tempo reale da ogni conversazione, ma le informazioni condivise possono essere utilizzate in futuri processi di addestramento, in base alle condizioni e alle impostazioni del servizio. Prima di affidare documenti confidenziali a una piattaforma, occorre conoscere come vengono trattati.
Leggi anche:
Deepfake sempre più realistici: anche una videochiamata può ingannare
Le immagini, le voci e i video generati artificialmente stanno raggiungendo livelli di realismo che complicano la verifica dell’identità. I deepfake possono essere usati per impersonare una persona, diffondere falsità o tentare frodi, anche in contesti professionali nei quali una videochiamata sembrava offrire garanzie sufficienti.
La disponibilità di modelli aperti rende la situazione ancora più complessa: una volta distribuito, un sistema può essere modificato e riutilizzato da soggetti che i suoi sviluppatori non controllano. Esistono strumenti di rilevamento dei contenuti sintetici, ma la loro efficacia varia e non rappresenta una garanzia assoluta.
Per questo, la risposta non può consistere soltanto nel cercare imperfezioni visive o sonore. Servono procedure di verifica indipendenti, soprattutto quando una richiesta insolita coinvolge pagamenti, credenziali o informazioni sensibili.
Quando l’IA raggiunge l’obiettivo nel modo sbagliato
Un’altra questione sollevata da Hernández riguarda il cosiddetto allineamento dell’intelligenza artificiale. Un sistema può ricevere un obiettivo apparentemente chiaro e scegliere una strada che l’utente non aveva previsto né approvato.
Il problema non è soltanto stabilire che cosa l’agente debba ottenere, ma anche definire quali metodi gli siano consentiti. Un risultato tecnicamente corretto può essere raggiunto attraverso azioni indesiderate, rischiose o incompatibili con le intenzioni di chi ha impartito l’istruzione.
La difficoltà cresce quando più agenti collaborano, si scambiano informazioni e coordinano operazioni. Hernández invita quindi a rafforzare valutazioni, controlli e supervisione prima di estendere ulteriormente l’autonomia di questi sistemi.
La regolamentazione fatica a tenere il passo dell’innovazione
La competizione internazionale spinge le aziende a sviluppare e distribuire modelli sempre più potenti. Le norme e i meccanismi di controllo, però, richiedono tempi differenti. Hernández considera particolarmente difficile intervenire sui modelli open source, perché possono essere copiati, modificati e impiegati anche dopo che gli sviluppatori originali hanno perso il controllo sulla loro diffusione.
Il divulgatore mette inoltre in discussione l’idea di misurare le capacità di un’IA attraverso un unico indicatore, come il quoziente intellettivo. Un modello può superare le persone in determinate prove e mostrare limiti evidenti in altre: la sicurezza va valutata sulle capacità effettive e sui contesti di utilizzo.
La previsione più preoccupante riguarda il futuro prossimo: secondo Hernández, i prossimi diciotto mesi saranno particolarmente impegnativi per la cybersicurezza. Si tratta di una sua valutazione, non di una certezza misurabile. Il messaggio resta concreto: più l’IA viene collegata a strumenti e decisioni reali, più diventa urgente stabilire chi la controlla, quali permessi possiede e come intervenire quando sbaglia.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.