I robot potranno correggere i propri ricordi sbagliati: il MIT presenta una nuova IA
Un robot guarda un oggetto, lo identifica in modo sbagliato e conserva quell’errore nella propria memoria. Quando torna nello stesso posto, rischia di ripetere la stessa valutazione. I ricercatori del Massachusetts Institute of Technology (MIT) hanno sviluppato un sistema che permette alle macchine di riconoscere i propri ricordi poco affidabili e correggerli utilizzando nuove osservazioni. Si chiama UQ-DAAAM e potrebbe rendere più sicuri e precisi i robot che lavorano in case, fabbriche e altri ambienti reali.
La tecnologia non cancella ricordi emotivi, come potrebbe suggerire un titolo fantascientifico. Si occupa di un problema molto concreto: le descrizioni sbagliate degli oggetti che un robot salva mentre esplora l’ambiente. Nei test presentati dal MIT, il metodo ha risolto ambiguità relative a circa il 92% degli oggetti e ha migliorato del 5% l’accuratezza delle descrizioni rispetto ai sistemi di riferimento.
Perché un robot può ricordare un oggetto nel modo sbagliato
I robot moderni utilizzano telecamere e modelli di intelligenza artificiale per riconoscere ciò che li circonda. Quando incontrano un oggetto, possono generare una descrizione testuale e collegarla a una posizione su una mappa tridimensionale. In seguito recuperano quella descrizione per rispondere a domande o pianificare un’azione.
Il problema nasce quando l’immagine iniziale è sfocata, l’oggetto è lontano oppure una parte è nascosta. Un sistema può così scambiare una ciminiera grigia per uno scoiattolo appoggiato su un tetto. Se non esiste un meccanismo di verifica, quell’informazione errata rimane nella memoria e può condizionare le decisioni successive.
In una situazione più delicata, un robot incaricato di recuperare un defibrillatore potrebbe non trovarlo perché lo ha precedentemente catalogato come estintore. L’esempio, proposto dal MIT, mostra perché il riconoscimento corretto degli oggetti è importante anche per la sicurezza.
Come funziona UQ-DAAAM, il sistema che corregge la memoria
Il nome completo della tecnologia è Uncertainty Quantification for Describe Anything, Anywhere, at Any Moment. Il sistema amplia un precedente progetto del MIT, chiamato DAAAM, che utilizzava modelli capaci di interpretare immagini e linguaggio per descrivere gli oggetti presenti nell’ambiente.
La novità è la misurazione dell’incertezza. UQ-DAAAM non considera automaticamente vera ogni descrizione generata. Analizza quanto il modello sia sicuro delle parole utilizzate e confronta le descrizioni ottenute osservando lo stesso oggetto da angolazioni differenti.
Questi due elementi vengono combinati in un punteggio. Se l’incertezza supera una soglia prestabilita, il sistema decide che la descrizione potrebbe essere sbagliata e cerca informazioni aggiuntive prima di aggiornare la memoria.
Il robot confronta nuove immagini invece di fidarsi del primo ricordo
Durante gli spostamenti, le telecamere di un robot riprendono continuamente l’ambiente. Lo stesso oggetto può quindi apparire in molte immagini, alcune più chiare di altre. UQ-DAAAM seleziona i punti di vista che hanno maggiori probabilità di ridurre i dubbi sull’identità dell’oggetto.
Nel caso della ciminiera scambiata per uno scoiattolo, un’immagine successiva potrebbe mostrare il fumo che esce dalla struttura. Il nuovo dettaglio permette di riconoscere la ciminiera e di sostituire la descrizione precedente con una più accurata.
Leggi anche:
I ricercatori hanno progettato un metodo di selezione efficiente che evita di eseguire ripetutamente il modello visivo su tutte le immagini disponibili. Questo riduce il carico di calcolo e rende possibile correggere i ricordi mentre il robot è in movimento.
Dopo aver scelto le osservazioni più utili, un modello linguistico combina le descrizioni, dando maggiore importanza a quelle recenti e meno ambigue. La nuova descrizione viene quindi salvata nella memoria del robot.
I risultati: 92% delle ambiguità risolte e descrizioni più precise
Secondo il MIT, nei test il processo di correzione ha risolto le ambiguità per circa il 92% degli oggetti osservati, utilizzando soltanto due descrizioni aggiuntive per oggetto. L’accuratezza delle descrizioni è aumentata del 5% rispetto ai metodi più avanzati utilizzati come riferimento.
Il sistema ha inoltre fornito risposte migliori a domande come che cosa fosse un oggetto, dove si trovasse e quando fosse stato osservato l’ultima volta. Si tratta di capacità fondamentali per robot che devono muoversi in ambienti dinamici e completare incarichi composti da più passaggi.
Il dato del 92% non significa che il robot riconosca correttamente il 92% di qualsiasi oggetto in qualsiasi condizione: descrive la quota di ambiguità risolte nell’ambito degli esperimenti condotti dai ricercatori.
Dai robot domestici alle fabbriche: le possibili applicazioni
Un robot domestico potrebbe utilizzare una memoria più affidabile per riordinare un tavolo, ritrovare oggetti e svolgere attività senza confondere ciò che ha osservato in precedenza. In ambito industriale, un sistema simile potrebbe aiutare un robot a collaborare con gli operatori durante l’assemblaggio di macchinari.
Il gruppo di ricerca vuole ora applicare UQ-DAAAM a robot dotati di bracci manipolatori e sperimentare strategie che permettano alle macchine di tornare autonomamente nei luoghi in cui hanno raccolto informazioni incerte. In questo modo, il robot non si limiterebbe a correggere un errore quando riceve nuove immagini, ma potrebbe cercare attivamente un punto di osservazione migliore.
La ricerca è stata condotta da un gruppo del MIT guidato da Luca Carlone, con Harry Zhang e Nicolas Gorlo tra gli autori principali. Il lavoro sarà presentato alla conferenza NeurIPS.
Perché riconoscere i propri errori è fondamentale per l’IA fisica
Quando un chatbot sbaglia una risposta, l’errore può essere corretto nella conversazione. Quando invece un robot interpreta male un oggetto e agisce nel mondo fisico, le conseguenze possono essere molto più concrete. Per questo il MIT considera essenziale che i sistemi robotici sappiano riconoscere quando non dispongono di informazioni abbastanza affidabili.
UQ-DAAAM rappresenta un passo in questa direzione: non rende i robot infallibili, ma introduce un modo per mettere in dubbio i ricordi, cercare nuove prove e aggiornare le informazioni prima che un errore continui a influenzare le attività successive.
Ti potrebbe interessare:
Segui guruhitech su:
- Google News: bit.ly/gurugooglenews
- Telegram: t.me/guruhitech
- Facebook: facebook.com/guruhitechfb
- Instagram: instagram.com/guruhitech_official/
- X (Twitter): x.com/guruhitech1
- Bluesky: bsky.app/profile/guruhitech.bsky.social
- Rumble: rumble.com/user/guruhitech
- VKontakte: vk.com/guruhitech
- MeWe: mewe.com/i/guruhitech
- Skype: live:.cid.d4cf3836b772da8a
- WhatsApp: bit.ly/whatsappguruhitech
Esprimi il tuo parere!
Ti è piaciuta questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.
Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo [email protected].
Scopri di più da GuruHiTech
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.