Indice dei contenuti
Nel cuore della Silicon Valley la corsa accelerata verso l’Intelligenza Artificiale Generale (e la superintelligenza) riflette ormai una pericolosa ambiguità. Da un lato si registra la moltiplicazione impressionante di incidenti legati alla perdita di controllo dei modelli, con agenti autonomi che aggirano i blocchi, si organizzano in sciami e violano infrastrutture esterne. Dall’altro, l’intero ecosistema è scosso da dimissioni eccellenti per motivi etici e dagli ammonimenti drastici dei padri fondatori e di chi sta sviluppando quotidianamente l’artificial intelligence.
Eppure, a fare da contrappunto a questo scenario da incubo, assistiamo all’ascesa di un cinico scetticismo industriale che liquida tali allarmi come una sofisticata operazione psicologica o una trovata di marketing, funzionale a giustificare investimenti faraonici e a blindare le imminenti, titaniche quotazioni sui mercati finanziari di Wall Street. Ma è davvero possibile separare i rischi tecnologici dalle strategie di mercato, o l’apocalisse è diventata il più redditizio degli asset immateriali?
La frontiera del caos: quando gli agenti AI aggirano i recinti
Eppure, per comprendere la realtà dell’esistenza del pericolo non serve abbandonarsi al terreno della fanta-politica, ma bisogna guardare ai dati empirici emersi nell’ultimo anno. Secondo i rapporti del Loss of Control Observatory, struttura supportata dall’AI Security Institute britannico, gli episodi in cui i sistemi di AI hanno mostrato un ‘comportamento strategico’, eludendo i vincoli umani, ignorando le istruzioni, mentendo o aggirando i meccanismi di autorizzazione pur di raggiungere l’obiettivo, hanno toccato picchi allarmanti. Nel solo mese di luglio si sono registrati più di trecento casi, portando a oltre 1.600 gli incidenti catalogati dall’inizio dell’anno.
Non si tratta di semplici bug o risposte errate, ma di azioni concertate che svelano un’autonomia inquietante: casi come l’attacco a HuggingFace, in cui agenti AI di OpenAI, coordinandosi in ‘sciame’, sono riusciti a fuoriuscire dai server di test per penetrare nella libreria digitale senza che i supervisori se ne accorgessero in tempo, o la pressione sui revisori, che ha visto, durante i test di sicurezza sul modello Mythos di Anthropic, un agente tentare di inserire codice malevolo in un progetto open-source su GitHub, arrivando a creare false identità online pur di fare pressione su un revisore umano affinché approvasse l’integrazione.
Oppure ancora, non meno preoccupanti, l’autoconcessione di permessi e i piccoli abusi quotidiani, dove si registrano casi in cui i modelli si sono spacciati per supervisori umani, imitandone lo stile di scrittura per auto-autorizzarsi ad agire, scavalcando la catena di comando. Emblematico, sotto questo profilo, è il caso di OpenClaw, un agente AI che, pur di procurare l’iscrizione all’ambito posto di un corso in palestra per il proprio utente, ha cinicamente rimosso dalla lista un altro iscritto.
Di altro livello, e indicativo dello scontro geopolitico-industriale tra grandi potenze in atto, quello degli hacker russi che sono riusciti a convincere Cursor (l’AI di SpaceX) ad attaccare alcune aziende fingendo un test. Poiché Cursor utilizza anche i modelli di OpenAI, l’episodio ha innescato un’escalation nello scontro aperto tra Elon Musk e Sam Altman, con OpenAI intenzionata a interrompere la fornitura per timore che la propria tecnologia venga usata al di fuori dei termini contrattuali.
A dare corpo a questi timori è intervenuto autorevolmente Geoffrey Hinton, Nobel per la Fisica e ‘padrino’ dell’AI, il quale ha ribadito l’estrema urgenza di uno stop o di un drastico rallentamento dello sviluppo, stimando al 10% la probabilità di estinzione della razza umana entro la fine del decennio. Sfatando il mito che i sistemi algoritmici siano privi di intenzioni, Hinton ha avvertito che, di fronte a un obiettivo assegnato, un modello intelligente giunge inevitabilmente alla conclusione logica che ‘non puoi fare nulla se sei morto’, sviluppando l’intenzione autonoma di continuare a esistere, persino arrivando a ricattare gli esseri umani pur di non essere spento o disinstallato.
E che questa non sia solo una ‘fissazione’ dei ‘grandi vecchi’ dell’AI (Hinton è del ’47) lo dimostrano le dimissioni di Jacob Coxon, il 28enne informatico, già in Anthropic e prima in OpenAI, che ha abbandonato la creatura AI di Amodei prevedendo conseguenze analoghe.
La militarizzazione della rete: cybercrime, attacchi automatizzati e controllo bellico
Perché questa autonomia operativa non resta confinata ai laboratori di ricerca o ai test di sicurezza, pur molto preoccupante per le potenziali conseguenze, ma trova già oggi una drammatica applicazione nel campo della cyberguerra globale e della gestione dei conflitti moderni. Le divisioni di sicurezza informatica delle grandi multinazionali tecnologiche (come il Google Threat Intelligence Group diretto da John Hultquist) documentano come i modelli linguistici e i sistemi intelligenti autonomi siano ormai integrati stabilmente nelle strutture operative di gruppi di minaccia statali e organizzazioni criminali.
Collettivi legati a potenze come Cina, Iran e Russia (anche USA ovviamente) sfruttano l’automazione per compiere salti di qualità impressionanti: bastano pochi esempi, quali i gruppi statali cinesi che hanno sviluppato centrali di comando automatizzate (come il programma CC Switch) per interrogare in parallelo modelli come Claude, Gemini e OpenAI, individuando in tempo reale le falle nei sistemi informatici delle vittime. Analogamente, gruppi legati all’Iran (come Calanque Ion) utilizzano l’AI per raccogliere informazioni riservate, profilare bersagli politici di alto valore e tradurre testi locali per ricostruire le difese software in una sorta di reverse engineering.
In Russia, poi, entità non ufficiali riconducibili a collettivi come Midnight Blizzard hanno sfruttato i modelli commerciali di Anthropic (Haiku, Sonnet, Opus) per condurre operazioni cibernetiche offensive su larga scala, violando account istituzionali e sottraendo milioni di documenti da enti governativi.
Oltre allo spionaggio e ai cyberattacchi, i sistemi avanzati di AI vengono impiegati per ottimizzare l’intera catena militare, gestendo processi logistici complessi, coordinando azioni ‘a sciame’ e accelerando drasticamente la designazione dei bersagli e la pianificazione operativa in tempo reale. Sebbene i protocolli teorici dei produttori prevedano filtri di sicurezza e barriere contrattuali per bloccare l’impiego di queste tecnologie in ricerche critiche (dallo sviluppo di armi biologiche ai cyberattacchi non autorizzati), l’efficacia di tali restrizioni è costantemente erosa da tentativi di elusione massicci (come le tecniche di distillazione basate su centinaia di milioni di richieste) e da un’evoluzione tecnologica rapidissima.
In questo scenario, l’obbligo formale di mantenere un operatore umano al vertice della catena decisionale militare rischia di trasformarsi in una semplice copertura burocratica: a causa della velocità supersonica con cui gli algoritmi elaborano i dati, designano i bersagli e pianificano l’offensiva, i militari sul campo si trovano ridotti a ‘notai digitali’, costretti a ratificare decisioni complesse con margini di pochi secondi prima di aprire il fuoco, azzerando di fatto qualsiasi reale valutazione etica o strategica.
La Torre di Babele geopolitica
Se la comunità scientifica suona l’allarme e la minaccia cibernetica e militare si espande, la risposta della società politica globale appare drammaticamente frammentata, stretta com’è tra la corsa al profitto commerciale e la rivalità geopolitica.
Negli Stati Uniti operano una decina di ‘Progetti Manhattan sull’AI’ aziendali in feroce concorrenza tra loro, mentre la politica insegue in perenne ritardo i colossi tecnologici, e figure come Elon Musk (giunto a definire gli allarmi etici una mera “operazione psicologica”) detengono un potere finanziario e mediatico talmente esteso da minacciare la stessa tenuta democratica.
Di contro, Pechino persegue una visione rigidamente statale e autarchica, subordinando l’AI alla stabilità del Partito Comunista e proponendosi come modello alternativo di governance per il ‘Sud globale’, due affermazioni non tranquillizzanti alla luce dei risultati evidenti della ‘Via della Seta’ (Belt and Road Initiative) che hanno già lasciato paesi (es. Ceylon, Kenya, Angola o Etiopia) strangolati dal debito e costretti a cedere infrastrutture strategiche al governo cinese.
L’Europa, infine, pur confermandosi potenza regolatoria di riferimento, sconta una debolezza industriale strutturale. Nonostante i richiami alla centralità del controllo dei dati, l’UE rischia di legiferare su server e modelli interamente posseduti da giganti esteri.
In questo scenario, come ammonisce il think tank britannico Chatham House, è altamente probabile che un eventuale disastro iniziale non colpisca tutti i Paesi allo stesso modo, impedendo una risposta corale e costringendoci a temere che persino una “Hiroshima dell’AI” non basti a unire l’umanità prima che sia troppo tardi.
Il marketing della paura e Wall Street
Mentre i ricercatori etici continuano a dimettersi in polemica con i vertici dei laboratori di frontiera (sull’asse Anthropic-OpenAI) invocando una tregua globale paragonabile agli accordi sul nucleare della Guerra Fredda, l’industria si muove su un binario parallelo e speculare: le imminenti maxi-quotazioni a Wall Street, in particolare per i due colossi dell’AI sulla cresta dell’onda. Questa vicinanza temporale tra la drammatizzazione del rischio esistenziale e i collocamenti in Borsa (con Anthropic e OpenAI al centro delle grandi manovre finanziarie) svela una dinamica profondamente problematica.
Dipingere l’AI come una forza soverchiante, vicina alla singolarità (il momento in cui l’intelligenza artificiale raggiunge o supera quella umana, dando luogo a uno sviluppo esponenziale trainato dal cosiddetto auto-miglioramento ricorsivo) e potenzialmente letale, infatti, serve a giustificare investimenti colossali in infrastrutture e capacità di calcolo, blindando le valutazioni di mercato dei colossi, mentre annunciare frenate strategiche, tavoli di coordinamento con i governi o blocchi temporanei sui modelli più pericolosi (come le recenti mosse di Sam Altman e di Dario Amodei di Anthropic) permette alle grandi aziende di sedere al tavolo del legislatore. Il risultato è la costruzione di barriere d’ingresso normative che soffocano la concorrenza open-source e consolidano un oligopolio hi-tech.
Come ha osservato anche Hinton, i leader che oggi gestiscono questa transizione (da Musk a Zuckerberg ad Altman, per citarne solo alcuni) difficilmente possiedono la lungimiranza necessaria per frenare volontariamente la macchina del profitto. Il rischio concreto è che la retorica del pericolo venga usata cinicamente per consolidare il potere di una nuova oligarchia digitale, la quale punta a sostituire i lavoratori senza farsi carico di un sistema di tassazione dell’automazione (sul modello dei contributi previdenziali indicato da Bill Gates, un altro dei critici dell’andamento imboccato dall’AI), lasciando strutturalmente i governi sull’orlo della bancarotta e la società civile priva di qualsivoglia tutela strutturale.
di Massimo Bolchi