Una lettera aperta firmata da centinaia di grandi nomi dell’industria tecnologica, tra cui Elon Musk, ha esortato i principali laboratori di intelligenza artificiale del mondo a sospendere per sei mesi l’addestramento di nuovi sistemi superpotenti, affermando che i recenti progressi dell’IA presentano “rischi profondi per la società e l’umanità”.
La lettera arriva solo due settimane dopo il rilascio pubblico del GPT-4 di OpenAI, il sistema di intelligenza artificiale più potente mai realizzato, che ha portato i ricercatori a ridimensionare le loro aspettative sulla data di arrivo dell’AGI, ovvero l’intelligenza artificiale generale che supera le capacità cognitive umane. Molti esperti temono che, con l’intensificarsi della ‘corsa agli armamenti’ dell’IA, l’umanità stia andando incontro a una catastrofe.
“L’IA avanzata potrebbe rappresentare un cambiamento profondo nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con attenzione e risorse adeguate”, si legge nella lettera. “Sfortunatamente, questo livello di pianificazione e gestione non sta avvenendo, anche se negli ultimi mesi i laboratori di IA si sono impegnati in una corsa fuori controllo allo sviluppo e all’impiego di menti digitali sempre più potenti che nessuno – nemmeno i loro creatori – può comprendere, prevedere o controllare in modo affidabile”.
I firmatari della lettera affermano che la pausa che chiedono dovrebbe essere “pubblica e verificabile, e includere tutti gli attori chiave”. Se questa pausa “non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria”, si legge nella lettera.
È interessante notare che nessuno di OpenAI, l’azienda che sta dietro a GPT-4, ha firmato questa lettera. E nemmeno di Anthropic, il cui team è nato da OpenAI per costruire un chatbot AI ‘più sicuro’.
