Il Gruppo Brandtech ha presentato una serie di iniziative per promuovere e definire i limiti dell’uso etico dell’IA generativa. Tra queste, un progetto per la creazione di una politica etica sull’IA generativa e una tecnologia proprietaria che affronta i possibili pregiudizi insiti nei foundation models, chiamata ‘Bias Breaker’.
Ciò evidenzia l’impegno di Brandtech nel fornire l’Intelligenza Artificiale Generativa in modo responsabile ed etico, in tre aree chiave: i talenti che assume, promuove e forma, la tecnologia che costruisce e i servizi che offre.
Le distorsioni dei foundation models
La ricerca di Brandtech, solo per citare un esempio dei molti tipi di pregiudizi, ha scoperto che i principali foundation models continuano a generare immagini di uomini per il 98-100% quando viene richiesto ‘Ceo’, con la maggior parte delle sovraindicizzazioni per gli amministratori delegati di sesso maschile (o che sembrano tali) rispetto alla realtà.
La ricerca ha evidenziato una significativa distorsione. Due dei modelli hanno mostrato il 100% di immagini maschili in 100 generazioni quando è stata richiesta l’immagine di amministratori delegati. Un altro modello ha dato risultati al 98% maschile, mentre altri due hanno proposto Ceo di sesso maschile nell’86% e nell’85% dei casi; una situazione migliore, anche se tutt’altro che paritaria. Lo studio Women in the Workplace di McKinsey dello scorso anno ha evidenziato che il 28% dei ruoli C-suite era ricoperto da donne e che il 10,4% dei CEO delle aziende Fortune 500 era di sesso femminile.
Dare priorità all’inclusione
La tecnologia proprietaria Bias Breaker aggiunge alle richieste un livello di inclusività basato sulle probabilità. Brandtech ha configurato alcuni degli elementi più comuni della diversità che, in questa iterazione di Bias Breaker, includono età, etnia, abilità, identità di genere e religione. In questo modo, quando l’utente inserisce un semplice prompt, ad esempio ‘Ceo’, lo strumento aggiunge una serie di tipi di inclusività che variano di volta in volta, creando un prompt più sofisticato da utilizzare in qualsiasi modello di generazione di immagini. In questo modo si produrranno immagini che, invece di riflettere i pregiudizi dei dati di formazione, aggiungeranno bias positivi verso un ampio spettro di diversità e intersezionalità che i modelli attuali semplicemente non prevedono.
David Jones, Fondatore e Ceo di Brandtech, commenta nella nota: “Quando i social media sono esplosi, nessuno ne ha previsto gli aspetti negativi. Con Gen AI, abbiamo la possibilità di anticipare i tempi, invece di essere semplicemente reattivi”.
