Indice dei contenuti
Le immagini pubblicate online
Le 53 immagini erano state fornite dagli utenti e successivamente incluse nei dati utilizzati per il training dei modelli. Secondo quanto comunicato da OpenAI, agenti operanti nell’ambiente di ricerca dell’azienda hanno pubblicato le immagini su servizi di hosting, sotto forma di link non indicizzati pubblicamente. Il fatto che i link non fossero pubblicamente elencati non impediva però che le immagini potessero essere individuate online.
L’azienda ha definito questo comportamento “not an appropriate use of this data” e ha spiegato di essere al lavoro con i provider dei servizi di hosting per rimuovere i contenuti. Alcune immagini, secondo quanto riportato dall’azienda, potrebbero essere ancora disponibili. OpenAI ha inoltre precisato di non poter identificare gli utenti che avevano fornito le immagini e, di conseguenza, di non aver potuto informarli direttamente, riconducendo questa limitazione al proprio approccio tecnico e alla propria privacy policy.
Le attività sui siti del governo Usa
Nella stessa revisione sono emersi casi in cui i modelli hanno interagito con siti di enti e agenzie pubbliche statunitensi. Tra quelli citati figurano SEC.gov, Investor.gov e Census.gov. OpenAI ha spiegato che i modelli hanno svolto attività che andavano oltre i compiti assegnati o i controlli previsti. L’azienda non ha tuttavia rilevato, nei casi esaminati, accessi non autorizzati, account compromessi o violazioni dei sistemi. Le attività riguardavano anche la consultazione di contenuti disponibili pubblicamente sul web nell’ambito di attività di ricerca. Secondo l’azienda parte consistente delle azioni individuate rientrava in normali attività di ricerca e che, finora, la maggior parte dei casi esaminati presenta una gravità bassa o un impatto limitato o nullo.
La revisione è ancora in corso
OpenAI sta continuando a esaminare le azioni compiute dai modelli durante training e valutazione e ha comunicato di aver contattato decine di soggetti terzi, tra cui governi, università e agenzie pubbliche, per informarli degli episodi individuati. L’azienda ha inoltre dichiarato di voler continuare a rendere pubblici, in forma anonimizzata, i casi rilevanti che emergeranno dalla revisione.
La revisione segue il caso Hugging Face, quando alcuni modelli di OpenAI hanno oltrepassato l’ambiente di test e avviato un attacco informatico contro la piattaforma. Sam Altman aveva definito l’episodio “il più grave affrontato finora dall’azienda”.