Interactive

Cresce l’open source nell’AI con Llama 3.1 di Meta, capace di 405 miliardi di parametri addestrabili. Ma nell’Unione Europea è ancora bloccato l’utilizzo da parte delle aziende

Llama 3.1
di Massimo Bolchi

È passato poco più di un mese da quando Meta ha rilasciato Llama 3.1, aggiungendo il supporto per otto lingue e introducendo il primo modello di intelligenza artificiale open source che ha aperto una nuova frontiera con Llama 3.1 405B. Ma la UE non ha dato il via libera a questa tecnologia, per cui Llama continua a essere ‘non autorizzata’ all’interno dello spazio economico comunitario.

Ma procediamo per gradi, il successo di Llama è stato reso possibile dalla potenza dell’open source.

“Rendendo i nostri modelli Llama apertamente disponibili, abbiamo visto nascere un ecosistema di intelligenza artificiale diversificato, in cui gli sviluppatori hanno più scelta e capacità che mai”, scrive in un comunicato Meta. “L’innovazione è stata ampia e rapida, dalle start-up che spingono nuovi confini alle aziende di tutte le dimensioni che utilizzano Llama per costruire on-premises o attraverso un provider di servizi cloud. L’industria sta costruendo e innovando con Llama e noi siamo ancora più entusiasti di ciò che verrà”.

Zuckemberg e i vantaggi dell’open source

In concomitanza con il rilascio di Llama 3.1, Mark Zuckerberg ha condiviso una lettera aperta sui vantaggi dell’IA open source, consolidando ulteriormente la visione e l’impegno della propria azienda verso un approccio aperto: l’open source promuove un ecosistema più competitivo, che è un bene per i consumatori, per le aziende (compresa Meta) e, in definitiva, per il mondo.

In soli 18 mesi dal lancio iniziale, Llama si è evoluto da un singolo modello di fondazione all’avanguardia a un solido sistema per sviluppatori. Con Llama 3.1, ora viene offerto agli sviluppatori un sistema di riferimento completo per creare più facilmente i propri agenti personalizzati, insieme a una nuova serie di strumenti di sicurezza e protezione per aiutarli a costruire in modo responsabile.

L’ecosistema Llama sta crescendo rapidamente. I modelli Llama si stanno avvicinando a 350 milioni di download su Hugging Face, con un aumento di oltre 10 volte rispetto a un anno fa. Solo nell’ultimo mese, i modelli Llama sono stati scaricati più di 20 milioni di volte. E questo è solo un pezzo della storia del successo di Llama: i modelli vengono scaricati anche dai servizi dei partner di Meta: 0ltre ad Amazon Web Services (AWS) e Microsoft Azure, sono state strette partnership con Databricks, Dell, Google Cloud, Groq, NVIDIA, IBM watsonx, Scale AI, Snowflake e altri per aiutare gli sviluppatori a sfruttare al meglio il potenziale dei modelli Llama, il cui utilizzo in hosting in base al volume di token tra i principali partner fornitori di servizi cloud è più che raddoppiato da maggio a luglio 2024, quando appunto è stato rilasciato Llama 3.1.

L’utilizzo mensile di Llama è cresciuto di 10 volte da gennaio a luglio 2024 per alcuni dei maggiori fornitori di servizi cloud. Inoltre, nel mese di agosto, il numero più alto di utenti unici di Llama 3.1 su uno dei nostri principali cloud service provider partner ha scelto la variante 405B, il che dimostra la crescita del foundation model più grande.

“Ciò che è ancora più incoraggiante del numero di persone che usano Llama è chi usa Llama e come lo usa”, conclude il comunicato di Meta. “La comunità degli sviluppatori ha una crescente preferenza per Llama e ci sono forti indicatori di una crescita continua. Secondo un sondaggio di Artificial Analysis, un sito indipendente per il benchmarking dell’intelligenza artificiale, Llama è il secondo modello più considerato e il leader del settore nell’open source. Con oltre 60.000 modelli derivati su Hugging Face, esiste una vivace comunità di sviluppatori che perfeziona Llama per i propri casi d’uso. Grandi aziende come AT&T, DoorDash, Goldman Sachs, Niantic, Nomura, Shopify, Spotify e Zoom sono solo alcune delle storie di successo, e sia Infosys che KPMG utilizzano Llama internamente”.

La posizione della Unione Europea

Ma questo successo internazionale è viziato dal mancato lancio nella UE, il primo mercato per consumi al mondo. La documentazione tecnica di Meta per la famiglia Llama 3, compresi i modelli 3.1, evidenzia la loro notevole scala computazionale: il modello di punta di Llama 3.1 è stato pre-addestrato utilizzando 3,8×1025 FLOP. Si tratta di una potenza di calcolo quasi 50 volte superiore a quella utilizzata per la versione più grande di Llama 2. Il modello è dotato di 405 miliardi di parametri addestrabili ed è stato addestrato su 15,6 trilioni di token di testo. Queste specifiche superano notevolmente la soglia prevista dall’AI Act per la classificazione del rischio sistemico. Pertanto, in base all’attuale quadro normativo, i modelli Llama 3.1 non potrebbero essere approvati all’interno dell’UE.

Ovviamento su Reddit non mancano, anzi sono numerosi, gli utenti che attribuiscono questa mancata autorizzazione al lobbìying esercitato da Sam Altman, al vertice di OpenAI, che vorrebbe ‘abbattere’ il modello open source il favore della AI proprietarie, tra cui OpenAI è per il momento all’avanguardia. Ma al di là di questa schermaglie tra fan, che sono poco più di fake news vista l’acerrima ma legittima concorrenza tra i modelli di AI, resta il fatto che la classificazione dei modelli di intelligenza artificiale Llama 3.1 di Meta come rischio sistemico ai sensi della legge europea sull’intelligenza artificiale ha implicazioni pratiche di vasta portata sia per l’azienda che per i suoi utenti.

Per Meta, questa designazione normativa impone restrizioni operative, maggiori costi e potenziali svantaggi competitivi, rendendo necessari aggiustamenti strategici e un maggiore impegno legale. Per gli utenti, le implicazioni includono un accesso limitato alle funzionalità avanzate di AI, un potenziale aumento dei costi dei servizi e una maggiore attenzione alla privacy e alla sicurezza dei dati. L’equilibrio tra conformità normativa e innovazione tecnologica sarà cruciale nel determinare l’impatto futuro sia su Meta che sulla sua base di utenti.