Intelligenza artificiale: perché l'algoritmo discrimina le donne

Intelligenza artificiale e discriminazioni di genere: perché l’algoritmo discrimina le donne

Forse è ancora lontano il tempo in cui ogni attività umana sarà soppiantata dall’intelligenza artificiale (I.A.). Forse, con un pizzico di fortuna, quel momento non arriverà mai. Quel che certo è che un numero crescente di operazioni, oggigiorno, sono devolute a processi decisionali algoritmici.

Il che sembrerebbe un bene, attesi i vantaggi dell’automazione: fra tanti, la rapidità e l’efficienza. Tuttavia, da più parti si sottolinea come i sistemi di I.A. possano, talvolta, rivelarsi non del tutto neutrali. Possano, cioè, presentare dei bias, ossia pregiudizi che si traducono in risultati discriminatori.

L’I.A., dunque, lungi dall’essere archetipo di imparzialità si farebbe viatico di discriminazioni, anche di genere. La conferma viene dalle istituzioni europee. Nella Strategia per la parità di genere 2020-2025, la Commissione europea ha, infatti, osservato come l’impiego degli algoritmi di apprendimento automatico rischi di aggravare le disparità di genere: un pericolo tanto più concreto, se si considera che talvolta i pregiudizi da cui sono affetti siano ignoti agli stessi programmatori.

Qual è, allora, la causa dei bias di genere? Va chiarito che i bias di genere sono spesso “by design”; tuttavia, gli algoritmi possono avere effetti discriminatori, pur essendo by design neutri. Uno dei fattori che inficiano le prestazioni dell’I.A. è l’utilizzo di un set di dati distorti per l’allenamento dei modelli. Chiariamo il tutto con un esempio.

Pensiamo agli algoritmi di assunzione del personale: uno fra tutti, quello del colosso dell’e-commerce, Amazon. L’algoritmo, in uso dal 2014 al 2017, penalizzava i Curriculum vitae contenenti la parola “donne” o riportanti nomi di college statunitensi esclusivamente femminili. Ciò perché l’algoritmo valutava e classificava le qualifiche dei candidati in base ai dati estratti dalle informazioni sui candidati assunte nelle ricerche precedenti: in netta prevalenza uomini.

La sottorappresentazione del genere femminile nei dati utilizzati per l’apprendimento automatico si traduce in disparità di trattamento anche in sede di predisposizione algoritmica dei turni di lavoro. L’European Institute for Gender Equality non lascia esenti da critiche nemmeno gli algoritmi valutativi della performance del dipendente: strumenti di vera e propria “sorveglianza” dell’operatività del lavoratore, spinto a ritmi sempre più incalzanti in nome dell’efficienza; applicativi che rischiano, peraltro, di svantaggiare i fisici meno robusti.

Se questa è, a grandi linee, la problematica, una possibile strategia risolutiva viene, ancora una volta, dall’Europa. Il Parlamento europeo, in una risoluzione volta a promuovere la parità di genere in campo STEM (science, technology, engineering and mathematics), ha espresso preoccupazione per la carenza di figure femminili impiegate nel settore delle tecnologie innovative, come l’intelligenza artificiale, proprio perché la stessa contribuirebbe allo sviluppo di algoritmi viziati da pregiudizi di genere.

Se ciò è vero, la penna del legislatore europeo sembrerebbe suggerire, quale argine alla discriminazione algoritmica, il consolidamento e l’espansione della compagine femminile in ambito I.A. Se – come appare – l’algoritmo non fa che riprodurre i pregiudizi propri del team che ne cura lo sviluppo, è lampante l’urgenza di includere la diversità – nelle sue sfaccettature, dunque, non soltanto di genere – tra gli addetti ai lavori.

Alla diversità dovrebbero, inoltre, essere improntati i set di dati utilizzati per l’apprendimento, di modo da arginare il rischio di sottorappresentazioni di genere o razziali. Insomma, la strategia vincente sembrerebbe dismettere gli stereotipi umani, prima che diventino pregiudizi della macchina.

di Ilaria Ainora e Edna Borrata

TRATTO DA MAGAZINE INFORMARE

N°227 – MARZO 2022