“Un’alleanza tra tecnologia e diritto può rappresentare l’architrave di una risposta democratica e lungimirante alle nuove minacce del digitale, inevitabilmente connesse agli opposti, straordinari benefici”. (A. Soro – 30/01/2020, Giornata europea della protezione dati).
Anna Italiano, Senior Advisor Osservatorio Artificial Intelligence del Politecnico di Milano ha introdotto con questa citazione il suo intervento durante il convegno ‘Artificial Intelligence: learn to fly!’ organizzato dall’Osservatorio Artificial Intelligence della School of Management del Politecnico di Milano, di cui abbiamo parlato in un precedente articolo.
“L’evoluzione tecnologica è inarrestabile e, con essa, i rischi che ne sono inevitabilmente connessi. In questo contesto il diritto non rappresenta un ‘limite’ ma uno ‘strumento di presidio’ rispetto alle minacce e ai rischi del digitale”, ha spiegato Anna Italiano.
Parlando di privacy, c’è un legame inscindibile tra AI, Big Data e trattamento dei dati personali. L’analisi dei dati e la profilazione che sta alla base delle tecniche di AI comporta in tutta evidenza minacce rispetto alla riservatezza degli individui e al corretto utilizzo dei dati.
Poi c’è il tema dell’ algocrazia: la diffusione di sistemi tecnologici governati da algoritmi capaci di assumere decisioni in completa autonomia, ma sulla base di modelli predefiniti dall’uomo, espone a rischi sovra individuali (alterazione della concorrenza, controllo delle notizie e delle informazioni, incidenza sui sistemi di campagna elettorale) e individuali (libertà di autodeterminazione, accesso ai pubblici servizi, accesso al credito, accesso al mondo del lavoro).
I pregiudizi algoritmici
Anche nel caso in cui le determinazioni del sistema tecnologico siano regolate da algoritmi, infatti, non è possibile ritenere che esse siano del tutto avulse da pregiudizi e preconcetti riferibili all’uomo, in particolare a colui che ha elaborato l’algoritmo stesso. Si parla, in questo caso, di ‘pregiudizi algoritmici’ che, se non correttamente monitorati, possono provocare discriminazioni sociali.
L’algoritmo, inoltre, oltre a essere condizionato dall’uomo, può a sua volta condizionarlo: può riverberarsi sulla formazione delle opinioni degli individui che con esso si confrontano, così provocando la formazione dei cosiddetti ‘bias cognitivi’ (schemi di deviazione del giudizio) anche per costoro.
Il diritto come presidio per gli individui
A fronte di questo scenario, lo scopo delle norme è quello di tutelare gli individui, offrendo un presidio per i loro diritti e libertà fondamentali. Il diritto deve valorizzare una visione antropocentrica nel rapporto ‘uomo-macchina’, ove la tecnologia è al servizio dell’indivduo e non viceversa. Una visione che trova riscontro, non solo come principio etico, ma come statuizione giuridico-normativa all’interno dell’articolo 22 del GDPR, laddove, al primo comma, si afferma che “l’interessato ha diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla persona”.
Presidio dei rischi di natura civilistica
In assenza di una puntuale disciplina normativa che consenta di identificare e bilanciare le responsabilità dei soggetti coinvolti, come regolamentare le conseguenze delle condotte dannose dei sistemi intelligenti?
Innanzitutto con strumenti contrattuali con i quali predeterminare le condotte prevedibili, stabilendo la relativa responsabilità e gli strumenti per reagire; individuare criteri di soluzione per le ipotesi nelle quali si verifichino condotte imprevedibili.
Poi con strumenti assicurativi, in particolar modo stipulando polizze assicurative idonee a coprire il più ampio ventaglio di ipotesi dannose conseguenti alle azioni compiute dai sistemi di AI.
Il valore della compliance per un’azienda
Il rispetto delle normative dei diritti e delle libertà degli individui rappresenta un valore aggiunto per le aziende che decidono, sin da subito, di adeguare il proprio operato in quest’ottica. Si tratta di vantaggi rilevanti sotto almeno due profili:
- sul piano interno: una condotta compliant consente di arginare l’insorgere di problematiche che, una volta verificatesi, comporterebbero costi du soluzione ben più gravosi dei relativi costi di prevenzione;
- sul piano esterno: a fronte di una sempre crescente sensibilità da parte degli individui rispetto ai temi di compliance in esame, un’azienda che opera tutelando anche i diritti e le libertà dei singoli aumenta notevolmente la propria credibilità nel mercato di riferimento rispetto agli altri competitor.
La conformità con il rispetto delle norme può essere usata come una leva di mercato e, soprattutto, come un vantaggio competitivo.