Quantcast
News

Microsoft lancia Phi-3-mini: una potente alternativa a ChatGPT

Condividi l'articolo

Il colosso dell’informatica Microsoft ha da poco presentato un nuovo modello linguistico su larga scala chiamato Phi-3-mini, che può vantare prestazioni paragonabili a ChatGPT 3.5 di OpenAI. Ciò che rende Phi-3-mini particolarmente interessante è la sua capacità di funzionare perfettamente anche su dispositivi mobili come iPhone.

Nonostante le dimensioni ridotte, il modello Phi-3-mini ha 3,8 miliardi di parametri ed è stato addestrato su ben 3.300 miliardi di token di testo. Questo enorme set di dati di addestramento gli consente di raggiungere un livello di prestazioni molto elevato.

Un’ulteriore caratteristica chiave di Phi-3-mini è la sua capacità di essere quantizzato a 4 bit, riducendone notevolmente le dimensioni a soli 1,8 GB di memoria. Questa ottimizzazione permette a Phi-3-mini di girare nativamente e in modo completamente offline su un iPhone 14, raggiungendo oltre 12 token al secondo.

Leggi anche:

Secondo i ricercatori di Microsoft, le prestazioni complessive di Phi-3-mini sono paragonabili a quelle di modelli più grandi come Mixtral 8x7B e GPT-3.5 di OpenAI, che alimenta ChatGPT.

Microsoft sta inoltre lavorando su versioni ancora più piccole di Phi-3, come Phi-3-small (7 miliardi di parametri) e Phi-3-medium (14 miliardi di parametri), oltre a estendere la finestra di contesto di Phi-3-mini fino a 128.000 token grazie all’utilizzo di un “estensore” chiamato LongRoPE.

Questo nuovo modello Phi-3-mini di Microsoft rappresenta un importante passo avanti nella corsa all’IA generativa di nuova generazione, dimostrando come sia possibile ottenere prestazioni straordinarie anche su dispositivi mobili e in locale, senza dover necessariamente ricorrere al cloud.

Fonte

Ti potrebbe interessare:
Segui guruhitech su:

Esprimi il tuo parere!

Ti è piaciuta questa notizia? Lascia un commento nell’apposita sezione che trovi più in basso e se ti va, iscriviti alla newsletter.

Per qualsiasi domanda, informazione o assistenza nel mondo della tecnologia, puoi inviare una email all’indirizzo guruhitech@yahoo.com.

+1
0
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0
(Visited 65 times, 1 visits today)
0 0 votes
Article Rating

Rispondi

0 Commenti
Inline Feedbacks
View all comments
0
Would love your thoughts, please comment.x