Ex dipendente di OpenAI lancia l’allarme sulla minaccia della superintelligenza

Un ex dipendente di OpenAI ha iniziato a parlare delle gravi implicazioni future di un’Intelligenza Artificiale Generale (AGI) senza regolamentazione. Ci sono timori che l’IA supererà presto le capacità umane e comincerà a programmare se stessa, o verrà sfruttata da avversari stranieri per nuocere alle persone in tutto il mondo.

L’autore del rapporto, Leopold Aschenbrenner, ha lanciato un terrificante messaggio sulla superintelligenza che prenderà piede entro il 2027. Egli suggerisce che i leader americani dovrebbero assumere il controllo di questa tecnologia emergente.

“Avremo bisogno del governo per schierare la superintelligenza per difenderci da qualsiasi minaccia estrema che si manifesti, per attraversare la situazione internazionale straordinariamente volatile e destabilizzata che seguirà”, ha affermato Aschenbrenner. “Avremo bisogno che il governo mobiliti una coalizione democratica per vincere la gara con i poteri autoritari e forgi (e faccia rispettare) un regime di non proliferazione per il resto del mondo.”

• I progressi dell’intelligenza artificiale cominciano a fare paura

Secondo il rapporto, la superintelligenza sarà in grado di superare l’intelligenza persino degli esseri umani più intelligenti di oggi. Aschenbrenner ritiene che il governo degli Stati Uniti dovrà svolgere un ruolo centrale nello sviluppo dell’AGI a causa delle enormi implicazioni per la sicurezza nazionale. Le startup private non saranno in grado di gestire un compito così monumentale da sole.

Aschenbrenner suggerisce che nessun singolo CEO o entità privata dovrebbe avere il comando unilaterale sulla superintelligenza, in quanto ciò potrebbe comportare gravi rischi di abuso del potere e minare i principi democratici. La trasparenza sui progressi dell’IA sarà fondamentale per impedire a uno stato canaglia di utilizzare questa tecnologia per impadronirsi del potere.

L’ex ricercatore di OpenAI afferma che sarà praticamente impossibile fermare lo sviluppo della superintelligenza e impedirne l’uso improprio. Garantire che la superintelligenza si allinei con i valori umani sarà una sfida difficile che diventerà sempre più ardua con il passare del tempo. La possibilità di abuso e sfruttamento crescerà man mano che la tecnologia supererà i suoi progettisti e i regolatori.

Aschenbrenner suggerisce che la sola regolamentazione potrebbe non essere sufficiente ad affrontare queste sfide e sottolinea la necessità di una governance competente in grado di prendere decisioni difficili in situazioni in rapida evoluzione. Secondo lui, gli Stati Uniti non hanno attualmente questo tipo di leadership, quindi i pericoli imminenti sono molto reali.

Fonte

• GPT-4 ha superato con successo il test di Turing

• Google News: bit.ly/gurugooglenews
• Telegram: t.me/guruhitech
• X (Twitter): x.com/guruhitech1
• Bluesky: bsky.app/profile/guruhitech.bsky.social
• GETTR: gettr.com/user/guruhitech
• Rumble: rumble.com/user/guruhitech
• VKontakte: vk.com/guruhitech
• MeWe: mewe.com/i/guruhitech
• Skype: live:.cid.d4cf3836b772da8a
• WhatsApp: bit.ly/whatsappguruhitech

Che ne pensi di questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo guruhitech@yahoo.com.