Indice dei contenuti
Gli aggiornamenti riguardano soprattutto gli account degli utenti under 18, ma alcune restrizioni e nuovi meccanismi di intervento saranno applicati a tutti. Tra le novità, ChatGPT limiterà ulteriormente l’accesso a informazioni pratiche sulle armi e sui sistemi di sicurezza per gli account identificati come appartenenti a minorenni, anche quando le domande sembrano innocue. La società sta inoltre potenziando il sistema di previsione dell’età, che utilizza segnali comportamentali per stimare se un utente abbia meno di 18 anni e assegnargli, quando necessario, l’esperienza dedicata agli adolescenti.
Interventi automatici sulle conversazioni a rischio
Un’altra novità riguarda le chat in cui emergono segnali di possibile violenza. Quando il sistema rileva che una persona si sta concentrando ripetutamente sulla violenza o sull’idea di fare seriamente del male a qualcuno, ChatGPT potrà interrompere automaticamente la conversazione. In caso di episodi ripetuti, l’account potrà essere temporaneamente sospeso.
OpenAI prevede inoltre di introdurre nuove notifiche per i genitori che hanno collegato il proprio account a quello del figlio adolescente: potranno essere avvisati quando l’account viene sospeso per aver parlato ripetutamente di violenza. Le restrizioni si estendono anche agli utenti adulti. ChatGPT limiterà infatti le ricostruzioni dettagliate di attacchi di massa avvenuti in passato, in particolare per quanto riguarda le armi utilizzate e le modalità con cui sono state procurate.
Dal 2027 un rapporto semestrale sulla sicurezza
L’azienda ha annunciato infine la pubblicazione di un Community Safety Report, un rapporto dedicato alle misure adottate per prevenire la violenza e gestire i rischi legati all’utilizzo della piattaforma. La prima edizione è prevista all’inizio del 2027, con aggiornamenti ogni sei mesi.
La società ha dichiarato di aver effettuato oltre 200 segnalazioni alle forze dell’ordine per minacce imminenti di violenza nel terzo trimestre del 2026.