Il dibattito sulla sicurezza dell’intelligenza artificiale entra in una nuova fase negli Stati Uniti. Dopo il recente caso che ha riportato l’attenzione sui possibili comportamenti inattesi degli agenti AI, due membri del congresso americano hanno presentato l’AI Kill Switch Act, una proposta che punta a introdurre strumenti di emergenza per sospendere, rallentare o spegnere i sistemi AI più avanzati in scenari di rischio elevato.
Un controllo d’emergenza sui modelli più avanzati
L’iniziativa punta a coinvolgere i grandi sviluppatori di AI, chiedendo loro di integrare procedure tecniche e operative che permettano di intervenire quando un sistema dovesse manifestare comportamenti non previsti o potenzialmente dannosi. Il provvedimento prevede anche un ruolo per le autorità federali, che potrebbero richiedere interventi straordinari nei cosiddetti scenari di ‘perdita di controllo’, ovvero quando un sistema non risponde più ai meccanismi di supervisione previsti.
Dalla sicurezza volontaria alla possibile regolazione
Finora il settore dell’intelligenza artificiale ha affidato gran parte della gestione dei rischi a strumenti interni come test di sicurezza, valutazioni dei modelli e procedure di controllo sviluppate dalle aziende stesse. La proposta americana segna invece un possibile passaggio verso una maggiore supervisione pubblica, con l’idea che per i sistemi AI più avanzati debba esistere sempre una possibilità di intervento umano.
Il provvedimento dovrà ora affrontare il percorso parlamentare e il confronto tra chi considera necessario introdurre nuove garanzie per la sicurezza e chi teme che vincoli troppo stringenti possano rallentare lo sviluppo dell’innovazione nel settore.