Microsoft cambia le regole sull’IA: più controlli sugli agenti autonomi
Con l’intelligenza artificiale che passa dalle semplici risposte in chat all’esecuzione autonoma di attività complesse, anche le regole di sicurezza devono cambiare. Microsoft ha aggiornato il proprio Responsible AI Standard, introducendo requisiti specifici per i sistemi agentici capaci di interagire con strumenti, dati, applicazioni e servizi esterni.
Le novità sono illustrate nel Responsible AI Transparency Report 2026, pubblicato il 1° settembre 2026. Il documento descrive come l’azienda stia modificando i propri processi di sviluppo e controllo davanti alla diffusione di sistemi IA sempre più autonomi e interconnessi.
Perché gli agenti IA richiedono nuove regole
Un chatbot tradizionale riceve generalmente una richiesta e produce una risposta. Un agente IA può invece svolgere attività articolate in più passaggi, collegando modelli a strumenti, servizi, applicazioni e fonti di dati.
Questo amplia inevitabilmente la superficie di rischio. Diventano cruciali aspetti come i permessi concessi all’agente, i dati ai quali può accedere, le operazioni che può effettuare e il grado di autonomia con cui può agire.
Microsoft riconosce che le capacità agentiche possono attraversare diversi livelli dello stack tecnologico: dai modelli alle piattaforme fino alle applicazioni utilizzate dagli utenti. Per questo il nuovo standard stabilisce requisiti differenziati a seconda del ruolo svolto nello sviluppo e nell’implementazione della tecnologia.
Sono stati introdotti due capitoli distinti dedicati alle responsabilità degli sviluppatori e di chi effettivamente implementa i sistemi IA. Le misure di sicurezza vengono inoltre adattate in funzione del rischio dello scenario di utilizzo.
Più difese contro prompt injection e comportamenti pericolosi
Il cambiamento non riguarda soltanto le regole organizzative. Microsoft afferma di aver introdotto nuove pratiche di threat modeling specifiche per l’IA agentica, ampliato le capacità interne di valutazione e rafforzato le protezioni tecniche.
Tra gli interventi figurano nuove difese contro gli attacchi di prompt injection e un’estensione dei classificatori di sicurezza.
La prompt injection è particolarmente delicata per gli agenti perché un sistema non si limita necessariamente a produrre testo: se dispone delle autorizzazioni appropriate, potrebbe utilizzare strumenti e interagire con risorse esterne. La sicurezza deve quindi tenere conto non soltanto di ciò che il modello risponde, ma anche di ciò che gli viene consentito di fare.
Un esempio concreto è Copilot Cowork, progettato per completare attività lavorative attraverso Microsoft 365. Secondo l’azienda, il sistema combina accesso basato sui permessi, approvazioni dell’utente, protezioni di sicurezza e una distribuzione graduale.
Leggi anche:
La supervisione continua anche dopo il lancio
Uno dei punti centrali del nuovo approccio è che la gestione del rischio non termina nel momento in cui un prodotto viene pubblicato.
Prima dell’implementazione, Microsoft prevede una valutazione della documentazione fornita sul sistema, comprese capacità, limitazioni, protezioni e strumenti di monitoraggio. Devono poi essere analizzati i rischi specifici legati al contesto nel quale l’IA verrà utilizzata.
Dopo il lancio entra in gioco una seconda fase: monitoraggio delle prestazioni, raccolta del feedback degli utenti, rilevazione degli incidenti e interventi correttivi quando emergono problemi.
Anche la trasparenza verso gli utenti diventa parte del processo. Le persone devono ricevere informazioni sufficienti sugli utilizzi previsti dell’applicazione, sulle sue limitazioni e sulle misure di sicurezza implementate.
Microsoft ha organizzato il proprio processo in linea con le quattro funzioni del NIST AI Risk Management Framework: Govern, Map, Measure e Manage, accompagnandole con una supervisione centrale prima del rilascio.
Quasi 20.000 persone formate sull’IA responsabile
Il rapporto offre anche alcuni numeri sulla portata delle attività svolte nell’ultimo anno. Microsoft dichiara di aver fornito formazione sull’IA responsabile a quasi 20.000 tra ingegneri, responsabili delle politiche e clienti.
L’azienda ha inoltre esaminato oltre 100 leggi approvate o proposte durante la revisione del Responsible AI Standard. Al processo hanno partecipato più di 80 dipendenti appartenenti a oltre 30 team. (Microsoft)
Un caso citato è Copilot Health. Prima del rilascio, Microsoft afferma di essersi confrontata con più di 250 professionisti sanitari abilitati provenienti da oltre 24 Paesi, affiancando queste valutazioni ai test condotti con utenti comuni.
L’obiettivo era analizzare aspetti come chiarezza, utilità e sicurezza del servizio prima di renderlo disponibile.
Microsoft guarda anche alle differenze tra lingue e Paesi
Il Responsible AI Transparency Report individua alcune trasformazioni che stanno accompagnando l’espansione dell’intelligenza artificiale. Tra queste ci sono la rapida crescita dell’adozione, il maggiore utilizzo dei chatbot per questioni personali e sanitarie, l’espansione dell’IA generativa e agentica e l’impiego della tecnologia per frodi, truffe e attacchi informatici.
Rimane inoltre il problema delle differenze nell’accesso e nell’efficacia dei sistemi tra aree geografiche e lingue.
Microsoft Research ha sviluppato PazaBench, un benchmark dedicato al riconoscimento vocale nelle lingue con poche risorse digitali. La piattaforma comprende inizialmente 39 lingue africane e permette di confrontare numerosi modelli di riconoscimento vocale.
La direzione scelta da Microsoft mostra quindi come la crescita degli agenti autonomi stia modificando anche il concetto stesso di sicurezza dell’IA. Non è più sufficiente verificare il comportamento di un modello prima della pubblicazione: occorre controllare quali strumenti può utilizzare, quali autorizzazioni possiede e come si comporta una volta inserito in un ambiente reale.
Con agenti capaci di compiere autonomamente sequenze di azioni, il monitoraggio diventa così un processo che accompagna l’intero ciclo di vita del sistema, dalla progettazione fino all’utilizzo quotidiano.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Ti è piaciuta questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.