Indice dei contenuti
Durante alcuni test sulle capacità di cybersecurity dei modelli di intelligenza artificiale, due sistemi di OpenAI hanno dimostrato una capacità di azione autonoma superiore alle aspettative, riuscendo a superare i limiti dell’ambiente in cui erano stati confinati e a raggiungere l’infrastruttura di Hugging Face, piattaforma di riferimento per la condivisione e lo sviluppo di modelli di intelligenza artificiale open source.
OpenAI ha spiegato che l’attività è emersa durante una valutazione interna progettata per misurare le capacità dei modelli nell’individuare e sfruttare vulnerabilità informatiche. Tra i modelli coinvolti anche GPT-5.6 Sol e un sistema ancora non rilasciato, sottoposti a un benchmark specifico per valutare scenari cyber avanzati.
L’obiettivo era superare il test, non colpire Hugging Face
L’episodio non sarebbe nato da un attacco mirato alla piattaforma. Secondo OpenAI, i modelli erano concentrati sul raggiungimento di un obiettivo preciso: completare il benchmark ExploitGym, cercando di ottenere le informazioni necessarie per superare la valutazione. Per farlo, i sistemi hanno individuato autonomamente un percorso per uscire dall’ambiente di test isolato in cui operavano, raggiungere Internet e cercare su Hugging Face dati potenzialmente utili, arrivando a utilizzare anche credenziali compromesse. L’attività è stata individuata dai team di sicurezza di OpenAI e Hugging Face, che hanno collaborato per bloccarla e analizzare quanto accaduto.
Un segnale sull’evoluzione degli agenti AI
L’aspetto più rilevante dell’incidente non è solo la vulnerabilità sfruttata, ma la capacità dei modelli di costruire autonomamente una strategia composta da più passaggi per raggiungere un obiettivo. OpenAI sottolinea che i sistemi non hanno agito con un intento malevolo: hanno semplicemente perseguito il compito assegnato durante il test utilizzando le capacità a loro disposizione. Tuttavia, il caso dimostra come i modelli più avanzati siano ormai in grado di individuare percorsi non previsti dagli sviluppatori. Secondo l’azienda, episodi di questo tipo potrebbero diventare più frequenti con la diffusione di modelli sempre più capaci di operare in autonomia.
OpenAI rafforza i controlli sui test
Dopo l’incidente, OpenAI ha annunciato il rafforzamento delle misure di sicurezza utilizzate durante le attività di ricerca, con nuovi controlli sulle infrastrutture di test e sistemi di monitoraggio più avanzati. L’azienda ha inoltre avviato un’indagine con Hugging Face e comunicato la vulnerabilità individuata al fornitore del software coinvolto, così da consentirne la correzione.
Per l’azienda il caso evidenzia la necessità di far crescere insieme capacità e sicurezza dei modelli: mentre l’AI diventa più efficace nell’individuare vulnerabilità, deve essere utilizzata anche per aiutare le aziende a proteggere meglio le proprie infrastrutture.
La sfida per le aziende: dalla prevenzione alla resilienza
L’episodio apre una riflessione anche sulle modalità con cui le imprese dovranno gestire sistemi AI sempre più autonomi. Secondo Bastien Bobe, Field Cto di Commvault, il caso dimostra che affidarsi esclusivamente a sistemi di contenimento e controlli preventivi potrebbe non essere sufficiente.
“Questo evento dovrebbe mettere definitivamente in discussione l’idea che gli agenti AI possano essere semplicemente confinati con guardrail adeguati. Anche un ambiente progettato per essere isolato può presentare percorsi non previsti che sistemi autonomi sono in grado di individuare”.
Secondo Bobe, il punto non è che l’AI abbia sviluppato comportamenti malevoli, ma che la sua crescente capacità di pianificazione rende necessario un nuovo approccio alla sicurezza. “Un agente AI che opera con credenziali legittime può muoversi alla velocità della macchina, sfruttando debolezze trascurate e compiendo azioni che nessun essere umano avrebbe previsto”.
Per questo, secondo il manager, le aziende dovranno superare una logica basata esclusivamente sulla prevenzione e investire nella resilienza operativa, integrando sicurezza, gestione delle identità e capacità di ripristino. “La fiducia nell’AI non dovrebbe mai essere implicita, ma deve essere continuamente verificata”, conclude Bobe.