di Massimo Bolchi
A fine ottobre è stato pubblicato sulla rivista ‘Nature Human Behaviour’ uno studio, a firma di Massimo Chiriatti, Infrastructure Solutions Group, Lenovo; Marianna Ganapini, Philosophy Department, Union College, Schenectady, NY, USA; Enrico Panai, docente all’Università Cattolica; e di altri, sulla rapida integrazione degli strumenti di intelligenza artificiale (AI) nella vita quotidiana e su come questo fatto stia rimodellando il modo stesso di pensare e di prendere decisioni.
Il lavoro di analisi ha preso il via dall’opera di Daniel Kahneman, psicologo israelo-statunitense scomparso quest’anno, vincitore del Nobel per l’Economia, che nel suo libro ‘Thinking, Fast and Slow’ (2011), aveva introdotto due sistemi mentali per differenziare il modo di pensare delle persone, battezzati Sistema 1 e Sistema 2. Ognuno di essi ha un ‘linguaggio’ peculiare e delle potenzialità ben precise.
I due sistemi di Kahneman
Il Sistema 1 è come un pilota automatico, rapido e intuitivo. Il suo linguaggio è ricco di associazioni, metafore e scorciatoie cognitive. Permette di comprendere le situazioni in modo istantaneo, cogliendo le sfumature emotive e reagendo rapidamente agli stimoli. È il sistema della creatività, dell’empatia e dell’intuizione, fondamentale per la sopravvivenza (sopratto un tempo) e indispensabile per costruire relazioni sociali.
Il Sistema 2 è invece quello del pensatore razionale, lento e deliberativo. Il suo linguaggio è logico, analitico e basato sulle regole. È il sistema che consente di risolvere problemi complessi, di prendere decisioni ponderate e di pianificare il futuro. È il sistema della precisione, del controllo e dell’apprendimento.
Secondo Kahneman, il lavoro sinergico tra i due sistemi è fondamentale per un funzionamento cognitivo ottimale. Il Sistema 1 genera idee e intuizioni, mentre il Sistema 2 le valuta e le affina.
Questa teoria, pur offrendo una visione affascinante del funzionamento della mente umana, presenta alcune criticità e limitazioni quando si parla di ‘potenzialità’ dei suoi linguaggi: in particolare per i bias cognitivi intrinseci. Entrambi i sistemi infatti sono soggetti distorsioni sistematiche: il Sistema 1, per la sua rapidità, è particolarmente vulnerabile a euristiche e scorciatoie mentali che possono portare a conclusioni errate, mentre il Sistema 2, pur essendo più analitico, può essere influenzato anch’egli da bias quali la conferma dei propri convincimenti.
Ma non è stato su questo che si sono concentrati gli autori dell’articolo: hanno invece ipotizzato che questi Sistemi, nella loro essenzialità, non fossero più sufficienti a descrivere l’iterazione con un ‘nuovo’ soggetto, i large language model appunto, per descrive il quale hanno coniato una nuova espressione: ‘Sistema 0’, scelto deliberatamente per sottolineare il suo ruolo fondamentale e pervasivo nella più moderna attività attività cognitiva AI-supported.
Il ‘sistema 0’ forma un nuovo strato, artificiale e non biologico, di un’intelligenza AI distribuita che interagisce e aumenta sia i processi di pensiero intuitivi sia quelli analitici, funzionendo come preprocessore e potenziatore delle informazioni, che modella attivamente e trasforma gli input dei sistemi cognitivi tradizionali, anziché limitarsi a estenderli.
Il ‘Sistema 0’: ibrido, umano e AI insieme
Tuttavia, il ‘sistema 0’ si differenzia in modo cruciale dal sistema 1 e dal sistema 2 per la mancanza di capacità intrinseca di creazione di significato. Sebbene sia in grado di elaborare e manipolare i dati con notevole efficienza, il ‘sistema 0’ potrebbe non comprendere (notare il dubbio degli autori: in realtà l’informazione è prodotta su base statistica, non gnosica, ndr) le informazioni che gestisce e suggerisce. Comunque, poiché le persone si affidano (ancor più in futuro) a informazioni e processi decisionali mediati dall’IA, potrebbero trovarsi ad adottare norme allineate con la logica computazionale dell’IA, invece che le logiche ‘umane’ del ragionamento indipendente e del pensiero critico.
“Ad esempio, nel regno dell’introspezione (che è tradizionalmente considerato un dominio di assoluta autorità personale), potremmo presto vedere intuizioni generate dalle ‘macchine’ sui i nostri stessi stati mentali. Sebbene i sistemi di intelligenza artificiale possano analizzare grandi quantità di dati comportamentali, di dati comportamentali, rimane discutibile (altro dubbio retorico, ndr) se questa analisi possa davvero replicare o sostituire l’esperienza soggettiva dell’introspezione”, scrivono gli autori nell’articolo. “Una delle preoccupazioni più pressanti è la potenziale erosione del nostro pensiero critico e delle capacità di ragionamento. Se ci fidiamo ciecamente dei risultati del ‘Sistema 0’ senza metterlo in discussione o analizzarlo, rischiamo di perdere la nostra capacità di pensare di pensare in modo indipendente e di formulare i nostri giudizi”.
L’emergere del ‘Sistema 0’ apre scenari affascinanti e complessi, che vanno dal potenziamento cognitivo – l’IA può aiutare gli esseri umani a risolvere problemi e a prendere decisioni più informate, oltre a migliorare la propria creatività – allo sviluppo di nuove tecnologie, come interfacce cervello-computer e sistemi di intelligenza artificiale sempre più sofisticati.
Senza dimenticare infine le sfide etiche poste dall’integrazione tra uomo e macchina, quali la privacy, la sicurezza e la responsabilità. A questo proposito, uno dei limiti attuali è la difficoltà nel comprendere appieno il funzionamento interno di alcuni sistemi di IA, il che potrebbe limitare la fiducia e la trasparenza nell’utilizzo del Sistema 0. Detto in parole povere: se io mi limito ad applicare quanto suggerito dalla macchina nel ‘Sistema 0’, posso essere ancora ritenuto responsabile delle conseguenze? E in che misura?
La riflessione finale degli autori, in ogni caso, non può che essere condivisa: “senza cedere a visioni polarizzate sul tema dell’evoluzione dell’IA, raccomandiamo che questo sistema rivoluzionario (il Sistema 0) sia oggetto di una riflessione profonda e condivisa su come integrarlo nel futuro del pensiero umano”.
Intanto attendiamo di scoprire che cosa, praticamente, il ‘Sistema 0’ sarà in grado di generare in questo nuovo ambito, soprattutto quando si parlerà di questioni centrali nella comunicazione, quali la creatività e l’originalità delle idee.