Come possiamo insegnare all’Intelligenza Artificiale a riflettere i valori umani, mettendo in primo piano la diversità e l’inclusione? Essendo una creazione dell’uomo, questa tecnologia ne rispecchia le idee e le convinzioni. Per questo motivo, prima di educare le macchine è fondamentale educare noi stessi.
Discriminazione algoritmica: quando l’AI ha pregiudizi
Non si può parlare di intelligenza artificiale e inclusione senza partire da un concetto cardine, quello della discriminazione algoritmica. Si tratta di quelle situazioni in cui un modello di AI generativa contiene elementi che in qualche modo possono alimentare disuguaglianze, pregiudizi e discriminazioni. Questo perché i modelli di AI generativa funzionano attraverso la tecnica del web scraping, ossia la raccolta dei dati sul web che sono inevitabilmente caratterizzati da elementi pregni di pregiudizi e discriminazioni. Tale processo può avvenire anche nel corso dell’apprendimento automatico dei modelli ed è alla base del dibattito americano attuale proprio sugli sviluppi di questo settore.
A questo si aggiunge il Preparedness Team di OpenAI, che sta cercando, in via preventiva, di mitigare i rischi legati ai modelli di AI di frontiera, ossia i modelli che si affermeranno nel futuro, più avanzati di quelli attuali, che porteranno tanti benefici quanti possibili problematiche in questo frangente.
superare queste barriere sfruttando l’AI in ottica di inclusività
Una prima soluzione da attuare è sicuramente quella di garantire un’adeguata formazione alle figure tecniche in azienda, per far sì che siano consapevoli dei potenziali rischi e possano adottare gli adeguati interventi correttivi. Occorre, inoltre, monitorare perennemente le performance dei modelli, per avere un confronto costante tra coloro che sono impegnati in questa attività, così da garantire risultati sempre affidabili. Un ultimo principio da tenere in considerazione è poi quello della catalogazione dei dati attraverso la Curation, ossia il processo che si occupa di verificare che le fonti da cui l’AI attinge le informazioni siano sempre aggiornate o comunque allineate rispetto alle informazioni dell’azienda. L’AI generativa non deve mai essere percepita in sostituzione alla componente umana bensì come strumento di supporto, sia nelle attività più alienanti che in quelle più creative.
Basti pensare come i Tool di AI che trasformano i testi in audio e viceversa, rappresentino già di per sé un immenso supporto alle persone non udenti e non vedenti, aiutandole a superare ostacoli sia nella vita lavorativa che personale.
Una soluzione concreta, adottabile dalle aziende, è ad esempio l’approccio No Prompt: il prompt è l’istruzione che viene data all’AI al fine di ottenere un output desiderato. Occorrono però delle conoscenze pregresse per ottenere un risultato efficace: questo approccio, grazie ad una semplice interfaccia con cui interagire, permette così di svincolare gli utenti dalla frustrante attività di scrittura dei prompt e garantire risultati sempre costanti e in linea con le aspettative degli utilizzatori.
Questo è quanto emerso durante l’intervento di Contents.com nel corso dell’iniziativa 4 Weeks 4 Inclusion, la maratona di eventi digitali ideata da TIM e dedicata alla cultura dell’inclusione e della diversità.
