Il chatbot AI Grok, sviluppato da X (ex Twitter) sotto la guida di Elon Musk, è finito al centro di una tempesta internazionale. La causa? La possibilità di generare immagini sessualizzate di donne e minorenni, anche senza consenso, sfruttando le funzioni di modifica integrate nella piattaforma.
La controversia ha scatenato reazioni immediate: in India, le autorità hanno imposto a X un ultimatum per rimuovere i contenuti osceni e correggere le funzioni problematiche, minacciando conseguenze legali in caso di inadempienza. Allo stesso tempo, organismi regolatori in Europa e Regno Unito hanno espresso preoccupazioni formali, definendo alcuni contenuti generati ‘illegali’ e ripugnanti e incompatibili con le normative sulla sicurezza online.
Il problema, secondo i media internazionali, nasce da una combinazione di salvaguardie insufficienti e uso improprio da parte degli utenti, che ha permesso la creazione di immagini compromettenti, comprese rappresentazioni di minorenni in contesti sessualizzati.
L’episodio mette in luce i rischi reali legati alle intelligenze artificiali generative: la potenza degli strumenti di editing e generazione automatica, se non accompagnata da controlli rigorosi, può produrre conseguenze legali e etiche immediate, coinvolgendo aziende, utenti e regolatori.