Oltre l'algoritmo
All Episodes
14 - Donne e intelligenza artificiale: il futuro che stiamo progettando

14 - Donne e intelligenza artificiale: il futuro che stiamo progettando

0:00|0:00

Un episodio interamente basato sul documento caricato, in forma di monologo divulgativo, per riflettere sul divario di genere nell’intelligenza artificiale, sulle sue cause storiche e culturali, e su perché la diversità non sia solo una questione di equità ma di qualità tecnologica.

Questo episodio è prodotto dall'Università del Salento con il supporto di tecnologie di Intelligenza Artificiale. Le voci presenti sono sintetiche e/o clonate artificialmente, così come i dialoghi e parte della realizzazione sonora del podcast.

Tutti i contenuti sono sottoposti a supervisione e verifica umana continua, al fine di garantire accuratezza, affidabilità e qualità delle informazioni condivise.


Chapter 1

La stanza delle decisioni

Ilaria

Immaginiamola davvero, questa stanza. Una stanza piena di computer, di schermi luminosi un po' ovunque, di finestre aperte su grafici, righe di codice, tabelle che scorrono veloci. Su una lavagna, in fondo, si intravedono formule che a un primo sguardo sembrano quasi eleganti, e a un secondo diventano subito incomprensibili. Intorno a un tavolo ci sono persone che discutono, anche con una certa intensità, di modelli predittivi, di reti neurali, di algoritmi, di dati, di variabili. C'è magari un ragazzo seduto su una di quelle sedie comode da gaming, apre tre fogli di calcolo, due ambienti di sviluppo, e con l'altra mano prende un pezzo di pizza. Un collega passa, gli dà una pacca sulla spalla. La scena è quasi familiare, no? Se pensiamo all'intelligenza artificiale, spesso la immaginiamo così. Un laboratorio, o comunque uno spazio tecnico, vivace, acceso, affollato di strumenti e di persone che stanno progettando qualcosa che avrà un impatto sul mondo.

Ilaria

Ecco, il punto è proprio questo: guardarla bene, quella stanza. Fermarsi un attimo. Non soltanto vedere i computer, non soltanto vedere il fascino un po' cinematografico dell'innovazione, ma osservare le persone che ci sono dentro. Chi occupa quelle sedie? Chi parla? Chi decide? Chi addestra i modelli? Chi costruisce davvero l'architettura dei sistemi che poi entrano, un pezzo alla volta, nella nostra vita quotidiana?

Ilaria

Io credo che, se facessimo questo esercizio con sincerità, la maggior parte di noi arriverebbe più o meno alla stessa immagine. E non come impressione vaga, non come sensazione superficiale, ma come qualcosa che trova conferma nei numeri. Nella maggior parte dei casi, quelle stanze sono dominate dagli uomini. Non da soli uomini, certo. Non in modo assoluto. Ma in modo maggioritario, sì. E quando si parla di intelligenza artificiale questo dato diventa molto evidente.

Ilaria

Secondo diversi studi internazionali, le donne rappresentano circa il ventinove per cento della forza lavoro globale nel settore dell'AI. Questo significa che il settantuno per cento delle persone che lavorano allo sviluppo dell'intelligenza artificiale sono uomini. Già qui si avverte uno squilibrio netto, piuttosto chiaro. Ma se si restringe ancora di più il campo, se si smette di guardare il settore in generale e si entra nella ricerca scientifica più pura, quella che progetta i nuovi algoritmi, che addestra i modelli, che costruisce nuove architetture, allora il quadro diventa ancora più sbilanciato. Solo circa il dodici per cento dei ricercatori di intelligenza artificiale nel mondo sono donne.

Ilaria

Dodici per cento. È un numero che resta addosso. Perché a quel punto non stiamo parlando soltanto di presenza nel settore, ma di presenza nei luoghi in cui il settore prende forma. Nei luoghi in cui il futuro tecnologico viene definito. In cui si decide, spesso senza dirlo in questi termini, che cosa una macchina potrà fare, che cosa sarà capace di riconoscere, a quali problemi verrà applicata, con quali criteri verrà giudicata efficace.

Ilaria

Allora sì, forse si potrebbe dire così: il futuro tecnologico del nostro pianeta, almeno in questo momento, viene progettato in grandi stanze come quella che abbiamo immaginato. Stanze luminose, operative, piene di intelligenza e di competenza. Ma non particolarmente equilibrate dal punto di vista della rappresentanza. E questa non è una nota marginale. Non è un dettaglio da aggiungere alla fine. È una parte della storia.

Ilaria

Naturalmente questo non vuol dire che le donne non esistano nel mondo della tecnologia. Sarebbe falso, e anche ingiusto. Le donne ci sono. Nel mondo tech, in senso ampio, la presenza femminile arriva intorno al quaranta per cento. Però il dato cambia quando si va a guardare i ruoli più tecnici e specializzati. Ingegneria del software, machine learning, data science avanzata: lì il calo è importante. Le donne ci sono, sì, ma sono molto più rare quelle che progettano gli algoritmi più complessi. E soprattutto sono rarissime, purtroppo, quelle che guidano i team tecnici.

Ilaria

Questa è una delle cose che colpisce di più: non tanto l'idea di un'assenza totale, che non esiste, ma quella di una presenza che si assottiglia man mano che ci si avvicina al nucleo del potere tecnico. Come se ai bordi del settore ci fosse più spazio, e poi, andando verso il centro, il numero si riducesse sempre di più. Meno nelle decisioni, meno nella ricerca, meno nella leadership dei gruppi che costruiscono.

Ilaria

E allora quella stanza iniziale cambia significato. Non è più soltanto la stanza affascinante dell'innovazione. Diventa anche una stanza da interrogare. Perché se è lì che si progettano sistemi destinati a intervenire nella realtà, e se a farlo è una composizione così poco equilibrata, forse vale la pena domandarsi che cosa questo produca. Non ancora come risposta definitiva, no. Più come apertura, come una soglia. Chi costruisce l'intelligenza artificiale? Da quali esperienze del mondo parte? E soprattutto, che cosa resta fuori quando a progettare è soprattutto una sola parte della società?

Chapter 2

L’imbuto invisibile

Ilaria

La domanda successiva viene quasi da sé: perché accade? Perché le donne sono meno presenti nell'intelligenza artificiale, soprattutto proprio nelle aree più tecniche, più specializzate, più decisive? E qui le spiegazioni sono tante, si intrecciano, si sovrappongono. Non c'è probabilmente una sola causa semplice. C'è piuttosto una dinamica che si costruisce nel tempo, un insieme di passaggi, di aspettative, di incoraggiamenti e scoraggiamenti, di immagini culturali che si sedimentano quasi senza fare rumore.

Ilaria

In molti paesi del mondo, per esempio, le iscrizioni femminili all'università sono addirittura superiori a quelle maschili. Questo è importante dirlo, perché smonta subito un'idea troppo comoda: non è che le donne manchino all'inizio del percorso. Non è che non studino, o che non entrino nei luoghi della formazione. I numeri iniziali, in molti casi, sono abbastanza equilibrati. Eppure, qualcosa succede lungo il cammino. Come se a un certo punto il sentiero si stringesse.

Ilaria

L'immagine più efficace, forse, è proprio quella di un imbuto invisibile. All'inizio lo spazio sembra ampio. Ci si entra in molte, con possibilità apparentemente aperte. Poi però, man mano che ci si avvicina ai settori più tecnici e specialistici, le percentuali calano. Diminuiscono ancora. E poi ancora. Finché quell'imbuto, che all'inizio sembrava quasi trasparente, finisce per diventare evidente. Molto evidente.

Ilaria

E non si tratta, almeno non soltanto, di una questione individuale. Non è una faccenda da leggere con la lente della predisposizione naturale, del talento misterioso che alcuni avrebbero e altri no. Il testo da cui partiamo lo dice con chiarezza: non perché le donne, o le ragazze, manchino di capacità. Ma perché esistono stereotipi culturali che continuano a resistere. A volte in modo esplicito, a volte in modo sotterraneo. La matematica è da maschi. Il coding è da nerd. E i nerd, nella narrativa popolare, sono quasi sempre maschi.

Ilaria

Sono frasi che sembrano banali, perfino vecchie, e invece continuano ad agire. Magari non sempre come divieti netti, ma come piccoli orientamenti ripetuti nel tempo. Un incoraggiamento in meno. Un modello in meno. Un'immagine in meno in cui riconoscersi. E così, passo dopo passo, si costruisce un ambiente in cui alcune ragazze finiscono per sentirsi un po' meno chiamate, un po' meno attese, un po' meno legittimate ad avvicinarsi alle materie STEM. Durante l'adolescenza, certo, ma anche più avanti, nei percorsi di studio più maturi.

Ilaria

La conseguenza è che questo divario si allarga proprio là dove il lavoro diventa più tecnico. E qui il punto, per me, si fa molto interessante. Perché spesso si affronta il tema come se fosse solo un problema di equità. Che già sarebbe abbastanza, intendiamoci. Ma non è solo questo. Il problema è anche, e forse soprattutto, la qualità delle tecnologie che costruiamo.

Ilaria

L'intelligenza artificiale non nasce nel vuoto. Questa è una cosa che andrebbe ripetuta piano, con calma. La macchina non decide da sola come funziona il mondo. Gli algoritmi imparano dai dati. E i dati arrivano dalla società. La società è fatta di persone. Le tecnologie vengono progettate da persone, con una certa formazione, una certa cultura, una certa esperienza del mondo. Questo vuol dire che non esiste un punto di vista neutro che scenda dall'alto dentro ai sistemi. Esiste sempre un processo umano di selezione, di progettazione, di interpretazione.

Ilaria

Allora, se il gruppo che progetta queste tecnologie è poco diversificato, se c'è un disequilibrio forte nella rappresentanza, il rischio è che anche le tecnologie riflettano inconsapevolmente una visione limitata della realtà. Non necessariamente per cattiva volontà. Anzi, molto spesso no. Ma proprio perché certi punti ciechi, quando sono condivisi da quasi tutti quelli che stanno nella stanza, smettono di apparire come punti ciechi. Diventano normalità. Diventano il modo in cui si pensa che il mondo sia fatto.

Ilaria

È qui che rientra il tema dei bias di genere nei sistemi di intelligenza artificiale, richiamato anche nel documento. Se alcuni sistemi hanno riflesso bias di genere, forse la domanda non è soltanto tecnica. Forse è anche sociale, culturale, perfino simbolica. Chi ha costruito quei sistemi? Con quali dati? Con quale immaginario? Con quale pluralità di esperienze oppure, al contrario, con quale ristrettezza di prospettive?

Ilaria

Ecco perché parlare di partecipazione femminile nell'AI non significa fare un discorso separato, laterale, quasi decorativo. Significa parlare del cuore della tecnologia. Della sua capacità di comprendere, o almeno di approssimare, la complessità del mondo in cui verrà usata. Se nella stanza delle decisioni entrano sempre gli stessi sguardi, le stesse biografie, gli stessi riferimenti, il rischio è che anche l'intelligenza artificiale finisca per restituirci un'immagine parziale della realtà. E una tecnologia parziale, quando viene applicata su larga scala, non resta mai un fatto solo tecnico.

Ilaria

Forse è questo il passaggio più delicato. Non si tratta semplicemente di aggiungere più donne a una fotografia già fatta. Si tratta di chiedersi se quella fotografia, così com'è, sia sufficiente a progettare strumenti che dovrebbero riguardare tutti. E da questa domanda, in fondo, discendono tutte le altre.

Chapter 3

Storia, stereotipi e possibilità future

Ilaria

C'è poi un altro aspetto che trovo quasi paradossale, e anche molto rivelatore. Quando si pensa ai grandi innovatori tecnologici moderni, i nomi che vengono in mente sono quasi sempre maschili. Steve Jobs, Mark Zuckerberg, Bill Gates... ecco, nomi, volti, narrazioni. L'immaginario contemporaneo della tecnologia è costruito così: il genio, il visionario, il fondatore, l'uomo che cambia il mondo da un garage, da una startup, da un campus. È una storia molto potente, talmente potente da sembrare naturale. Eppure la storia dell'informatica, quella vera, è piena di figure femminili fondamentali.

Ilaria

Ada Lovelace, per esempio. Nell'Ottocento scrisse quello che oggi viene considerato il primo algoritmo della storia. Lo fece per Charles Babbage, che aveva creato una macchina analitica. Già solo questo dovrebbe bastare a incrinare molti stereotipi. Una pioniera dell'informatica moderna si trova all'inizio stesso del racconto, non ai margini. Non dopo. All'inizio.

Ilaria

Poi c'è Grace Hopper, figura chiave nello sviluppo dei primissimi linguaggi di programmazione, tra cui il COBOL. Anche qui, non una presenza secondaria, non una comparsa da ricordare a parte. Una protagonista. Una di quelle persone senza cui il campo non sarebbe stato lo stesso.

Ilaria

E in effetti, nei primi decenni dell'informatica, programmare era considerato un lavoro più adatto alle donne. Questa cosa colpisce sempre, perché è quasi l'opposto della percezione attuale. Negli anni Quaranta, negli anni Cinquanta, molte delle persone che scrivevano codice erano donne. Dunque la domanda cambia ancora: se all'inizio la presenza femminile era così significativa, che cosa è successo dopo?

Ilaria

Secondo il materiale da cui stiamo partendo, il cambiamento arriva quando il settore informatico comincia a diventare molto più prestigioso e molto ben pagato. In quel momento la narrazione culturale si sposta. E il campo diventa progressivamente maschile. È un passaggio quasi brutale nella sua chiarezza. Finché un lavoro è percepito in un certo modo, può essere associato alle donne. Quando però quel lavoro acquisisce prestigio, status, riconoscimento economico, allora cambia anche chi viene immaginato come suo protagonista legittimo.

Ilaria

La storia della tecnologia, in questo senso, è davvero un paradosso continuo. Da una parte abbiamo figure femminili fondative, essenziali. Dall'altra abbiamo un presente in cui, nei ruoli tecnici più avanzati, la presenza femminile si riduce drasticamente. Come se il settore avesse dimenticato una parte della propria genealogia. O forse l'avesse tenuta sullo sfondo, mentre al centro si consolidava un'altra immagine, molto più maschile, molto più uniforme.

Ilaria

Però qualche segnale di cambiamento c'è. Non abbastanza da parlare di equilibrio, questo no. Il panorama dell'intelligenza artificiale oggi non è affatto equilibrato. Però rispetto al passato, forse, qualcosa si sta muovendo. Ci sono più programmi di mentoring, borse di studio dedicate, iniziative nelle scuole. Il senso di questi interventi sembra essere quello di allargare la partecipazione. E già questo conta, perché significa riconoscere che il problema esiste e che non può essere lasciato semplicemente alla spontaneità del mercato o del tempo.

Ilaria

C'è anche un altro elemento interessante. Le nuove generazioni hanno un rapporto molto diverso con la tecnologia. L'intelligenza artificiale non appare più soltanto come qualcosa di distante, iperspecialistico, chiuso dentro laboratori separati dal resto del mondo. È qualcosa che si usa quotidianamente, che entra nella vita ordinaria, che sembra più accessibile. Questo clima, questo mood di maggiore diffusione e minore distanza culturale, può essere importante. Perché una tecnologia che smette di sembrare territorio esclusivo di pochi può forse diventare uno spazio in cui più persone immaginano di poter entrare davvero.

Ilaria

Io credo che sia qui che si apre la parte più interessante della riflessione. Non tanto nello stabilire una sentenza sul presente, ma nel guardare al fatto che il futuro non è qualcosa che semplicemente accade. È qualcosa che viene progettato. Lo progettiamo noi. E se quel progetto arriva solo da una parte della società, il risultato rischia di essere incompleto. Non necessariamente inutile, non necessariamente fallimentare, ma incompleto sì. Come un racconto raccontato da una voce sola.

Ilaria

Forse allora la domanda non è soltanto quante donne lavorino nell'intelligenza artificiale. Forse la domanda più viva è un'altra: quanto potrebbe diventare più ricca, più intelligente, più capace questa tecnologia se più persone diverse partecipassero alla sua costruzione? Quanto cambierebbe la qualità dello sguardo incorporato nei sistemi? Quanto si allargherebbe il campo delle domande possibili, dei problemi riconosciuti, delle soluzioni immaginate?

Ilaria

Non ho l'impressione che esista una risposta chiusa, definitiva. Anzi, forse è meglio così. Perché vuol dire che siamo ancora in una fase in cui qualcosa può essere spostato. In cui la stanza delle decisioni non è per forza destinata a restare identica a se stessa. Forse tra qualche anno il panorama dell'intelligenza artificiale sarà molto più equilibrato. Forse no, o forse solo in parte. Ma il punto è che dipenderà da chi entra nella stanza, da chi resta, da chi riesce a essere ascoltato, da chi non viene perso lungo l'imbuto.

Ilaria

E mentre l'intelligenza artificiale continua ad avanzare, a diffondersi, a diventare sempre meno distante e sempre più presente, questa domanda resta lì, aperta, quasi sospesa: non solo chi sta costruendo il futuro, ma chi potrebbe ancora partecipare a costruirlo... se davvero decidessimo di allargare il progetto.