Oltre l'algoritmo
All Episodes
08 - Etnografia dell’AI: quando le macchine incontrano le culture

08 - Etnografia dell’AI: quando le macchine incontrano le culture

0:00|0:00

Un viaggio nella “etnografia dell’intelligenza artificiale”: dalle traduzioni automatiche che riflettono stereotipi di genere ai sistemi di riconoscimento delle emozioni addestrati solo su volti occidentali, fino ai progetti pionieristici che usano l’AI per preservare lingue, saperi e ambienti. In questo episodio esploriamo come i modelli di intelligenza artificiale incorporano visioni del mondo e pregiudizi culturali, e raccontiamo esperienze dall’Australia all’Africa, dalla Nuova Zelanda all’Amazzonia e alle comunità Sámi, dove l’AI diventa strumento di custodia, cura reciproca e trasmissione intergenerazionale della conoscenza.

Questo episodio è prodotto dall'Università del Salento con il supporto di tecnologie di Intelligenza Artificiale. Le voci presenti sono sintetiche e/o clonate artificialmente, così come i dialoghi e parte della realizzazione sonora del podcast.

Tutti i contenuti sono sottoposti a supervisione e verifica umana continua, al fine di garantire accuratezza, affidabilità e qualità delle informazioni condivise.


Chapter 1

Le AI capiscono davvero il nostro mondo?

Ilaria

Vorrei partire da una domanda che sembra semplice, quasi innocente... ma in realtà apre un abisso. Le intelligenze artificiali comprendono davvero il nostro mondo? La risposta più onesta, almeno per come possiamo porla oggi, è: no, non davvero. O forse dovrei dire... dipende da che cosa intendiamo per comprendere. Perché un sistema di intelligenza artificiale può riconoscere schemi, prevedere parole, classificare immagini, imitare modi di parlare, perfino generare testi che ci sembrano convincenti. Però tutto questo non significa, automaticamente, che quel sistema abbia accesso al significato umano delle cose. Non vive il mondo. Non cresce in una cultura. Non eredita rituali, memorie, sfumature, silenzi. Li apprende solo indirettamente, attraverso tracce.

Ilaria

E qui c’è il punto centrale. Le AI non nascono nel vuoto. Riflettono, in modo quasi inevitabile, le visioni del mondo contenute nei dati con cui sono state addestrate e nelle scelte compiute da chi le progetta. Scelte tecniche, sì, ma anche culturali. Cosa raccogliamo? In quale lingua? Da quali paesi? Con quali priorità? Che cosa consideriamo normale, affidabile, rappresentativo? Ogni risposta a queste domande lascia un’impronta. E quell’impronta diventa parte del comportamento della macchina.

Ilaria

È per questo che mi interessa parlare di etnografia dell’AI. Il nome può sembrare un po’ specialistico, ma l’idea è molto concreta. L’etnografia, tradizionalmente, osserva come gli esseri umani costruiscono senso dentro relazioni, pratiche, simboli, ambienti condivisi. Applicata all’intelligenza artificiale, ci invita a guardare a un’altra scena: che cosa succede quando le macchine incontrano culture diverse? Come si comportano quando attraversano lingue, valori, gesti, modi di esprimere emozioni, gerarchie sociali, memorie collettive? E soprattutto: chi viene riconosciuto da questi sistemi, e chi invece resta ai margini?

Ilaria

L’etnografia dell’AI, in fondo, ci costringe a smettere di vedere la tecnologia come qualcosa di neutro e universale. Ci chiede di guardarla come un oggetto sociale, situato, pieno di presupposti. Un modello può essere potentissimo e, allo stesso tempo, profondamente parziale. Può funzionare benissimo in certi contesti e male in altri. Può sembrare intelligente proprio perché riproduce bene il mondo di alcuni, mentre capisce poco o niente del mondo di altri.

Ilaria

E allora il tema non è soltanto se l’AI sia avanzata oppure no. Il tema è: quale umanità riesce a vedere? Quale realtà sa leggere? Quale differenza sa accogliere? Perché se una tecnologia incontra il mondo portandosi dietro una sola idea di normalità, rischia di scambiare la diversità per errore. E da qui iniziano molti dei problemi di cui si parla troppo poco. Problemi che non riguardano soltanto l’efficienza dei sistemi, ma il modo stesso in cui il nostro tempo decide chi è visibile, chi è comprensibile, e chi invece viene tradotto male... o non viene tradotto affatto.

Chapter 2

Bias, traduzione e stereotipi invisibili

Ilaria

Un esempio molto chiaro risale a qualche anno fa, prima della pandemia, credo intorno al 2018. Un gruppo di ricercatori osservò un comportamento curioso nei sistemi di traduzione automatica. Curioso, sì, ma anche rivelatore. Quando alcune frasi venivano tradotte dall’ungherese all’inglese, accadeva questo: professioni come ingegnere o scienziato tendevano a essere rese al maschile, mentre ruoli come infermiera o segretaria finivano più facilmente al femminile. Ora, il punto è che l’ungherese non usa pronomi di genere nello stesso modo. Quindi quel passaggio non era obbligato. Era una scelta statistica del sistema.

Ilaria

E proprio qui si vede bene come lavora un modello. Non inventa dal nulla. Restituisce regolarità assorbite dai dati. Se nei materiali con cui è stato addestrato trova, più spesso, uomini associati a certe professioni e donne associate ad altre, tenderà a replicare quel disegno come se fosse naturale. Ma non è naturale. È storico, culturale, sociale. È il riflesso di pregiudizi sedimentati. E quindi no, non stiamo parlando di un errore casuale. Stiamo parlando di bias. Di stereotipi invisibili che entrano nei sistemi senza fare rumore e poi, una volta lì, acquistano il prestigio dell’automazione.

Ilaria

Questo è importante, perché quando una macchina sbaglia in modo sistematico non sta semplicemente fallendo un compito tecnico. Sta rivelando da quale mondo è stata istruita a imparare. E spesso quel mondo è più stretto di quanto immaginiamo. Più omogeneo. Più sbilanciato. Più dominato da alcune prospettive che da altre. Il problema, poi, non si ferma al genere. Anzi, il genere è solo una porta d’ingresso per capire qualcosa di più ampio.

Ilaria

I bias culturali possono deformare il modo in cui l’AI interpreta professioni, relazioni, intenzioni, perfino credibilità e competenza. Possono influenzare il linguaggio con cui una persona viene descritta, il tono che viene attribuito a un messaggio, il tipo di normalità che il sistema considera attesa. E più questi meccanismi restano invisibili, più sembrano oggettivi. È questo il paradosso: l’automazione, per molte persone, dà un’impressione di neutralità. Ma l’output di una macchina non è neutro solo perché arriva da un calcolo.

Ilaria

A volte penso che il vero rischio sia proprio questo: confondere la frequenza con la verità. Se una cosa compare spesso nei dati, il sistema la tratta come probabile. Ma ciò che è probabile non è sempre giusto, e ciò che è dominante non è sempre universale. L’etnografia dell’AI serve anche a questo: a rimettere in luce ciò che i modelli tendono a nascondere. Le asimmetrie, le esclusioni, le gerarchie implicite. Perché prima ancora di correggere una traduzione, dobbiamo imparare a riconoscere il mondo che quella traduzione sta presupponendo.

Chapter 3

Emozioni, volti e il rischio dell’universalismo occidentale

Ilaria

Se allarghiamo lo sguardo, vediamo che il problema non riguarda solo le parole. Riguarda anche i volti, i gesti, le emozioni. Per molto tempo, molti modelli di intelligenza artificiale sono stati addestrati soprattutto su contenuti occidentali. Questo valeva per testi, immagini, categorie interpretative. E quando si lavora così, inevitabilmente, si finisce per trattare come universale qualcosa che in realtà è locale. Un’abitudine culturale diventa norma generale. Una convenzione diventa misura del mondo.

Ilaria

Pensiamo al sorriso. In molti contesti occidentali, sorridere viene letto come un segno di gioia, apertura, felicità, talvolta ironia. È un codice che per noi sembra quasi ovvio. Ma non ovunque il sorriso viene vissuto allo stesso modo. In Giappone, per esempio, può anche indicare imbarazzo, contenimento, disagio. E questa differenza, che a noi umani può sembrare sottile ma comprensibile se conosciamo il contesto, per una macchina può diventare un punto cieco enorme. Se il modello è stato addestrato prevalentemente a leggere il sorriso secondo una sola tradizione culturale, rischierà di interpretare male l’emozione che ha davanti.

Ilaria

Questo non è un dettaglio accademico. Non è una di quelle finezze teoriche che restano chiuse nei laboratori. Perché i sistemi di AI vengono usati, o comunque orientano decisioni, in ambiti molto concreti. Penso alla diagnostica medica, dove certe implementazioni possono contribuire alla valutazione di segnali e dati. Penso ai processi di selezione del personale, dove strumenti automatici o semi-automatici possono influenzare la percezione di un candidato. Penso anche al credito, all’approvazione di un prestito, a tutte quelle situazioni in cui un giudizio computazionale si traduce in accesso o esclusione.

Ilaria

Se un sistema legge male una persona perché è stato educato su un repertorio troppo ristretto, allora il problema non è solo la precisione. È la giustizia. È la possibilità che un fraintendimento culturale produca conseguenze reali sulla vita delle persone. Magari non sempre in modo clamoroso, ma a volte proprio in quelle piccole decisioni ripetute che, sommandosi, definiscono un destino sociale.

Ilaria

Ecco perché parlare di universalismo occidentale, in questo campo, è così importante. Non per colpevolizzare una regione del mondo, ma per mostrare i limiti di qualsiasi prospettiva che si presenti come totale. Nessuna cultura esaurisce il ventaglio del possibile umano. Nessun dataset può essere assunto come specchio trasparente dell’umanità intera. Le emozioni, i modi di relazionarsi, perfino ciò che viene considerato appropriato o affidabile, cambiano. E l’AI, se vuole davvero essere utile, deve imparare a incontrare questa complessità senza ridurla a una sola grammatica del comportamento.

Ilaria

Forse la domanda giusta, allora, non è se le macchine possano riconoscere le emozioni. La domanda è: di quali emozioni stanno parlando? E attraverso quale cultura hanno imparato a chiamarle così?

Chapter 4

Quando l’AI tutela le lingue e le comunità

Ilaria

Fin qui ho parlato soprattutto dei limiti. Però sarebbe riduttivo fermarsi lì, perché esistono anche esperienze molto belle, molto intelligenti, in cui l’AI non cancella la diversità ma prova a custodirla. Una di queste nasce in Australia e si chiama Mukurtu Eyi. È un progetto che esplora il rapporto tra intelligenza artificiale, memoria e preservazione linguistica, in particolare per alcune comunità aborigene esposte al rischio di perdere la propria lingua. E già questa scelta è importante: usare strumenti contemporanei non per uniformare, ma per proteggere ciò che rischia di scomparire.

Ilaria

Nel progetto, da quanto emerge, tecniche di apprendimento automatico sono state usate per trascrivere registrazioni storiche e trasformarle in strumenti utili all’apprendimento linguistico. Ma la parte più significativa, per me, è un’altra. Questo lavoro non è stato pensato come un semplice recupero tecnico di archivi sonori. È stato costruito con il coinvolgimento degli anziani della comunità aborigena, nel rispetto dei loro protocolli culturali. E questa parola, protocolli, conta tantissimo. Perché condividere conoscenza non è mai un gesto neutro. Ogni cultura ha regole, tempi, responsabilità, forme di autorizzazione. Inserire questi aspetti nel progetto vuol dire riconoscere che il sapere non è solo contenuto: è relazione.

Ilaria

Un altro esempio molto forte è Masakane, in Africa. Anche qui parliamo di un lavoro collettivo che punta a costruire modelli di traduzione automatica per decine di lingue africane. Decine, non una o due. E questa scala ci dice qualcosa di fondamentale. Quando usiamo i comuni strumenti di traduzione, siamo portati a pensare che il mondo linguistico sia già ampiamente coperto. Ci sembra tanto, magari novanta e passa lingue. Eppure nel mondo esistono circa settemila lingue diverse. Settemila. Quindi i sistemi attuali, per quanto sofisticati, raggiungono solo una piccolissima frazione della diversità linguistica reale.

Ilaria

Questo significa che miliardi di persone che parlano lingue diverse da quelle dominanti possono restare escluse dai benefici dell’intelligenza artificiale. E non solo escluse: con l’aumento dell’innovazione digitale, le lingue con pochi parlanti rischiano di diventare ancora più fragili. Se una lingua non è supportata dagli strumenti, dai servizi, dalle interfacce, perde spazio d’uso. E quando una lingua perde spazio, perde anche futuro.

Ilaria

Per questo progetti come questi sono così preziosi. Ci mostrano un’altra possibilità. Un’AI che non impone una sola voce, ma aiuta le comunità a trasmettere la propria. Un’AI che non tratta la differenza come rumore da correggere, ma come patrimonio da ascoltare. E forse è proprio qui che l’etnografia dell’AI diventa più viva: quando la tecnologia smette di parlare sopra le culture... e comincia, finalmente, a lavorare con loro.

Chapter 5

Custodia, cura reciproca e futuro dell’etnografia dell’AI

Ilaria

C’è poi un livello ancora più profondo, che non riguarda solo le lingue ma i principi con cui immaginiamo il rapporto tra tecnologia, comunità e mondo vivente. In Nuova Zelanda, per esempio, ricercatori e sviluppatori maori hanno elaborato framework etici per l’AI fondati su due concetti molto belli: Kaitiakitanga e Manakitanga. Il primo richiama l’idea di custodia. Il secondo quella di cura reciproca. Già sentirli così, uno accanto all’altro, cambia il campo. Perché ci sposta da una visione dell’intelligenza artificiale come puro strumento di prestazione a una visione relazionale, responsabile, radicata.

Ilaria

In questi approcci, il linguaggio dell’AI viene ricontestualizzato dentro relazioni comunitarie, dentro una visione della cultura che non separa il sapere dal dovere di custodire. E trovo significativo che, in esperienze diverse tra loro, dall’Africa alla Nuova Zelanda, fino ad altri contesti indigeni, torni spesso anche il riferimento all’ambiente. Come se la domanda non fosse soltanto: questa tecnologia funziona? Ma anche: per chi funziona, con quali conseguenze, e quale mondo aiuta a mantenere in vita?

Ilaria

In Amazzonia, per esempio, un piccolo team di ricercatori ha utilizzato droni con AI per monitorare la deforestazione. Anche qui, la tecnologia entra in scena per osservare un territorio fragile, per capire come preservarne alcune parti. Poi certo, resta una domanda aperta, quasi inevitabile: chi userà davvero quei dati? Chi agirà? Chi si assumerà la responsabilità delle decisioni? Non lo sappiamo. Ma il fatto stesso che l’AI possa essere messa al servizio della tutela, e non solo dell’estrazione o del controllo, ci mostra un’alternativa concreta.

Ilaria

E un’altra alternativa arriva dal popolo Sámi, in Finlandia, dove si guarda all’intelligenza artificiale anche per trasmettere alle nuove generazioni la conoscenza tradizionale legata, per esempio, alla migrazione delle renne. Qui l’immagine è quasi perfetta: sensori modernissimi da una parte, e dall’altra una saggezza ecologica millenaria custodita dagli anziani. Non una contro l’altra. Insieme. Come se il futuro, per essere davvero all’altezza di sé, avesse bisogno di imparare a non disprezzare la memoria.

Ilaria

Forse è proprio questo che l’etnografia dell’AI ci insegna. Che il mondo è grande, vario, meravigliosamente non uniforme. E che una tecnologia degna di questo nome non dovrebbe chiedere alle culture di assomigliarsi per poter essere comprese. Dovrebbe, semmai, imparare a incontrarle meglio. La diversità culturale non è un ostacolo da superare. È un tesoro. E credo davvero che per le nuove generazioni possa diventare una forza immensa, se sapremo costruire strumenti capaci di ascoltare, custodire, restituire.

Ilaria

E allora sì, forse la domanda iniziale resta aperta. Le AI capiscono il nostro mondo? Non ancora, non fino in fondo. Ma il modo in cui sceglieremo di educarle dirà moltissimo di come noi, esseri umani, scegliamo di capire il mondo gli uni degli altri. E da qui... secondo me, vale la pena ripartire, ancora.