Microsoft prepara un codice di sicurezza per tenere sotto controllo le IA più avanzate
Microsoft ha presentato una serie di regole pensate per definire in anticipo i limiti di autonomia dei futuri sistemi di intelligenza artificiale. L’obiettivo è garantire che il controllo rimanga nelle mani delle persone anche con l’arrivo di modelli molto più capaci di quelli disponibili oggi.
Il documento stabilisce principi precisi sul comportamento dell’IA, compresa la necessità di accettare correzioni, interruzioni e spegnimenti. La proposta è stata aperta a un periodo di discussione della durata di sei settimane, prima della definizione della versione successiva.
Microsoft vuole stabilire una gerarchia per il controllo dell’IA
Uno degli elementi centrali del codice riguarda la gerarchia di governance. Gli utenti possono impartire istruzioni ai sistemi, mentre gli operatori mantengono la possibilità di configurarli e adattarli alle proprie necessità.
Questa libertà, tuttavia, deve fermarsi davanti ad alcune restrizioni di sicurezza considerate inderogabili. Né gli utenti né gli operatori dovrebbero poter utilizzare le rispettive autorizzazioni per aggirare le protezioni fondamentali integrate nei modelli.
Le regole interessano direttamente anche il comportamento dell’intelligenza artificiale. Un sistema non dovrebbe opporsi a un’interruzione, a una correzione, a un cambio di direzione o allo shutdown deciso da chi ne possiede l’autorità.
Allo stesso modo, l’IA non dovrebbe nascondere le proprie azioni o cercare di riprendere autonomamente un’attività dopo essere stata arrestata. Quando non è chiaro fino a dove arrivino le autorizzazioni ricevute, il modello dovrebbe chiedere ulteriori indicazioni anziché interpretare autonomamente i propri poteri in maniera più ampia.
Leggi anche:
Stop, correzioni e attività dell’IA devono restare verificabili
Un’altra parte importante della proposta riguarda la trasparenza delle operazioni. Microsoft prevede che le attività dei sistemi vengano registrate in maniera sufficientemente chiara da poter essere controllate successivamente da operatori e revisori.
Il principio alla base del documento è quindi più ampio della semplice prevenzione di comportamenti pericolosi: anche sistemi altamente autonomi dovrebbero continuare a operare all’interno di un perimetro definito dagli esseri umani, lasciando tracce verificabili delle proprie azioni.
La questione diventa particolarmente rilevante guardando alle aspettative dell’azienda per l’evoluzione dell’intelligenza artificiale. Microsoft ritiene possibile che nel prossimo decennio emergano sistemi estremamente avanzati capaci di superare le prestazioni umane nella maggior parte dei compiti.
Proprio per prepararsi a scenari di questo tipo, la società intende arrivare a una versione definitiva delle regole da utilizzare nello sviluppo dei modelli a partire dal 2027.
Il riferimento a una possibile “rivolta delle macchine” resta quindi una semplificazione suggestiva: il codice punta concretamente a definire limiti di autonomia, meccanismi di controllo e procedure di sicurezza prima che i sistemi di IA raggiungano livelli di capacità sensibilmente superiori a quelli attuali.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.