
06 - Diciamocelo: l’intelligenza artificiale non è intelligente
In questa puntata di Oltre l’algoritmo, Antonella parte da un monologo generato da un modello linguistico per affrontare – senza giri di parole – i grandi non detti sull’intelligenza artificiale.
Capovolgendo la retorica dell’IA “geniale” e quasi magica, l’episodio racconta perché questi sistemi siano in realtà enormi macchine statistiche, abili a imitare ma incapaci di comprendere, provare empatia o fare esperienza del mondo.
Antonella esplora tre fronti spesso ignorati: i bias e la non neutralità dei modelli (specchio dei nostri stereotipi), la nuova classe di “schiavi digitali” che etichettano dati per pochi centesimi e il costo ambientale enorme dell’addestramento. Da qui, il focus si sposta su come l’IA stia cambiando il nostro modo di pensare, tra dipendenza cognitiva, bolle algoritmiche stile TikTok e perdita di spirito critico.
La puntata si chiude sul nodo della creatività: cosa può – e soprattutto cosa non può – fare davvero l’IA quando si parla di arte, emozioni e sguardo sul mondo? Un invito a ricordare che l’intelligenza artificiale può fare molte cose, ma non può sostituire la nostra umanità.
Questo episodio è prodotto dall'Università del Salento con il supporto di tecnologie di Intelligenza Artificiale. Le voci presenti sono sintetiche e/o clonate artificialmente, così come i dialoghi e parte della realizzazione sonora del podcast.
Tutti i contenuti sono sottoposti a supervisione e verifica umana continua, al fine di garantire accuratezza, affidabilità e qualità delle informazioni condivise.
Chapter 1
Diciamocelo: smontare il mito dell’IA intelligente
Ilaria
Mi piacerebbe chiamare questa puntata così: diciamocelo. Perché è arrivato proprio il momento di dircelo... senza inchinarci alla liturgia un po’ ridicola dell’innovazione per forza. Abbiamo parlato tantissimo di intelligenza artificiale, la vediamo ovunque, la nominiamo come se fosse una creatura misteriosa, quasi superiore. GPT, Claude, Gemini, DeepSeek, il modello che fa meglio i compiti, quello che scrive poesie, quello che sembra più brillante. Ecco. Io oggi vorrei fare una cosa molto semplice e un po’ scortese: togliere il velluto da sopra questa statua e guardarla bene.
Ilaria
L’intelligenza artificiale non è intelligente. Proprio no. Non è una mente. Non è una coscienza. Non è lì che riflette in silenzio sul destino umano. È una gigantesca macchina statistica che gioca a fare il pappagallo con i dati che noi le abbiamo messo in bocca. Detta in modo divulgativo, terra terra: prende una quantità enorme di testi, immagini, esempi, relazioni tra cose, e impara quali elementi tendono a stare vicini ad altri elementi. In un modello linguistico, per esempio, il gioco è spesso questo: quale parola è più probabile che venga dopo? Poi quale viene dopo ancora? E avanti così, con una raffinatezza tecnica enorme, certo, ma sempre dentro questa logica di previsione.
Ilaria
La parte buffa, o inquietante, dipende dall’umore, è che questo meccanismo funziona così bene perché noi umani siamo terribilmente prevedibili. Noi ci immaginiamo creature complesse, imprevedibili, speciali... e invece lasciamo ovunque tracce ripetitive, abitudini, formule, cliché, tic linguistici, desideri piuttosto standardizzati. Siamo un po’ noiosi, ecco. Abbastanza noiosi da poter essere imitati con una precisione che ci impressiona. Quando una macchina ci sembra sorprendentemente umana, forse il punto non è che la macchina sia diventata umana. Forse è che noi, in molte situazioni, siamo più imitabili di quanto ci piaccia ammettere.
Ilaria
E qui c’è il primo grande inganno: imitare non significa comprendere. Un modello può produrre la frase giusta, il tono giusto, la struttura giusta. Può persino sembrare sensibile. Ma sembrare non è essere. Se io sento una frase perfetta sul dolore, sull’amore, sulla perdita, non posso automaticamente concludere che chi l’ha generata sappia che cosa significhi davvero attraversare quel dolore, quell’amore, quella perdita. Una macchina può descrivere una carezza. Non per questo l’ha mai sentita.
Ilaria
E poi c’è il prompting, che io trovo affascinante, sia chiaro. Mi piace, mi diverte, lo considero davvero un’arte sottovalutata. Saper fare una buona domanda cambia tantissimo. Però, se vogliamo essere onesti fino in fondo, il prompting è anche una piccola grande farsa. Perché in fondo che cosa stiamo facendo? Stiamo cercando di addomesticare una macchina che non ha idea di quello che sta facendo. Le giriamo intorno, le diamo contesto, tono, istruzioni, esempi, sperando che produca la versione più utile della sua imitazione. È un po’ come spiegare a E.T. come funziona un tostapane. Bellissimo tentativo, tenerissimo, magari ogni tanto riesce anche... ma non perché E.T. abbia capito la colazione occidentale. Solo perché ha colto abbastanza bene lo schema.
Ilaria
Quindi sì, diciamocelo subito, così poi possiamo ragionare meglio sul resto: l’IA non è magia, non è genio, non è un oracolo. È un sistema potentissimo di previsione e imitazione. E questa cosa, da sola, dovrebbe già renderci un po’ più lucidi... e un po’ meno incantati.
Chapter 2
L’IA non è neutrale: lo specchio dei nostri pregiudizi
Ilaria
C’è un’altra cosa che mi colpisce sempre: la nostra ossessione per il progresso. Progresso, progresso, progresso. Come se bastasse dire la parola per sentirci dalla parte giusta della storia. Come se tecnologia volesse dire automaticamente benessere, maturità, felicità. Ma non è così lineare. Stiamo costruendo macchine sempre più veloci, più forti, più efficienti, più persuasive. E intanto continuiamo a confondere la potenza con la comprensione. Una macchina può risolvere un’equazione complessa, certo. Può anche scrivere una poesia con una metrica elegante. Ma non sa che cosa sia l’empatia. Non sa che cosa significhi ricevere una carezza sulla guancia, essere traditi, vergognarsi, perdonare, restare svegli la notte con un pensiero che rode. Non lo sa. E non è un dettaglio romantico: è il cuore della questione.
Ilaria
Quando allora sento dire che l’IA è neutrale, oggettiva, pura, mi viene da sorridere... e subito dopo mi passa. Perché l’IA non può essere neutrale. Non nasce nel vuoto. È figlia dei dati che noi le diamo, e quei dati sono pieni di stereotipi, pregiudizi, semplificazioni, idiozie, cattiverie, automatismi culturali. Sono pieni di noi. E noi, mi spiace, non siamo una materia prima limpida. Siamo contraddittori. Siamo spesso superficiali. Siamo capaci di scrivere meraviglie e anche montagne di cavolate.
Ilaria
L’immagine che mi viene sempre è questa: è come prendere un bebè, allevarlo facendogli guardare soltanto reality show terrificanti, e poi aspettarsi che cresca diventando un grande filosofo. Non accadrà. Non potrebbe. Se il suo nutrimento cognitivo è quello, quello sarà il suo orizzonte. E i modelli fanno la stessa cosa: ingeriscono mondo umano già impastato di storture, poi lo restituiscono sotto forma di output che ci scandalizzano. Ma lo scandalo, se siamo seri, dovrebbe rivolgersi anche verso chi quel materiale lo produce. Cioè noi.
Ilaria
Ogni volta che scoppia la polemica sul modello sessista, sul sistema razzista, sull’algoritmo stupido, io penso: sì, certo, il problema c’è. Ma da dove pensiamo che abbia imparato? Chi ha scritto i testi? Chi ha popolato internet? Chi ha creato le immagini, i forum, i commenti, le descrizioni, i database? Noi. L’intelligenza artificiale, molto spesso, non fa altro che riflettere la nostra mediocrità. E questa cosa fa male, perché ci costringe a guardarci allo specchio.
Ilaria
Invece siamo tentati di fare una cosa comodissima: dare la colpa al prompt. Ah, forse hai chiesto male. Ah, forse dovevi specificare meglio. Ah, forse bastava una formulazione più accorta. Sì, a volte il prompting conta eccome. Ma non può diventare l’alibi universale per evitare il punto. Il punto è sistemico. Se la macchina restituisce certi schemi, è anche perché quegli schemi circolano, sono stati prodotti, ripetuti, normalizzati. Non basta correggere la domanda se il mondo da cui peschi le risposte è già storto.
Ilaria
E allora forse la frase più onesta è questa: l’IA non è il mostro alieno che ci giudica dall’alto. È il nostro specchio. E quello che ci rimanda indietro, troppo spesso, non è un ritratto nobile. È un’immagine impastata di pregiudizi, pigrizia, automatismi e fame di scorciatoie. La macchina non ci sta solo mostrando i suoi limiti. Ci sta mostrando i nostri.
Chapter 3
Schiavi digitali e costo ambientale dell’intelligenza artificiale
Ilaria
Adesso però arriviamo a un punto che trovo quasi osceno per quanto viene lasciato ai margini del discorso pubblico. Tutti parlano dell’IA che sostituirà il lavoro. Tutti eccitati, impauriti, drammatici. Ma molto meno spesso si parla del lavoro che l’IA lo rende possibile già adesso. Del lavoro invisibile. Del lavoro sporco. Della nuova classe di schiavi digitali, sì, uso questa espressione apposta perché deve dare fastidio. Persone sottopagate che passano giornate intere a etichettare dati per addestrare e ripulire questi modelli meravigliosi che poi noi usiamo con un’interfaccia linda, elegante, quasi sexy.
Ilaria
Che cosa fanno, in concreto, queste persone? Guardano immagini, leggono testi, classificano contenuti, dicono alla macchina: questo è un cane, questo è un tavolo, questo è un volto, questo è un insulto, questo è violento, questo no, questo è appropriato, questo è da bloccare. Ore e ore così. Un lavoro ripetitivo, usurante, spesso pagato pochissimo. Eppure senza quel lavoro, il giocattolo non reggerebbe. Senza quelle mani invisibili, la famosa intelligenza artificiale sarebbe molto meno capace di apparire pulita, utile, presentabile.
Ilaria
La cosa che mi colpisce è proprio il silenzio. Perché di questi lavoratori quasi nessuno parla? Perché non sono glamour. Perché non fanno copertina. Perché non si prestano bene al racconto scintillante della tecnologia che cambia il mondo. Nel racconto ufficiale ci sono i founder, i laboratori, i keynote, i video patinati. Manca quasi sempre la persona che, per pochi centesimi, ha passato il pomeriggio a insegnare a una macchina la differenza tra una frase innocua e una frase d’odio. E questa omissione non è un dettaglio. È parte del problema morale.
Ilaria
Poi c’è l’altra faccia, quella materiale, pesante, fisica. Perché l’IA ci viene raccontata come qualcosa di etereo, quasi immateriale. Nuvole, cloud, flussi, dati. Sembra tutto pulito, astratto, sospeso. Ma addestrare un grande modello consuma energia. Tanta. E ha un’impronta ambientale importante. Alcuni studi, si dice, paragonano l’impronta di carbonio di un singolo modello a quella di decine di auto che guidano per anni. Ora, il punto qui non è fare la gara alla cifra più drammatica. Il punto è ricordarci che dietro ogni risposta istantanea, dietro ogni immagine generata in pochi secondi, dietro ogni meraviglia apparentemente gratuita, c’è una macchina industriale che brucia risorse.
Ilaria
E noi che cosa facciamo? Continuiamo a costruire modelli sempre più grandi, più complessi, più voraci. Perché possiamo. Perché c’è la corsa. Perché fermarsi sembra un delitto contro il futuro. Ma chi ha deciso che più grande equivale sempre a meglio? Chi ha deciso che ogni salto di scala sia automaticamente desiderabile? A volte ho l’impressione che si stia gonfiando tutto per inerzia competitiva, per prestigio, per paura di arrivare secondi. E intanto il costo umano e ambientale resta sotto il tappeto.
Ilaria
Quindi no, l’IA non è soltanto una questione di software brillante. È anche lavoro umano invisibile e materia consumata. È anche gerarchie, sfruttamento, energia, impronte. Se non guardiamo questa infrastruttura, stiamo guardando soltanto la vetrina. E la vetrina, da sola, racconta sempre una bugia molto elegante.
Chapter 4
Dipendenza cognitiva, bolle algoritmiche e perdita di spirito critico
Ilaria
C’è poi il tabù che per me è forse il più importante, perché ci tocca da vicino ogni giorno. L’intelligenza artificiale sta cambiando il nostro modo di ragionare. E io non sono convinta che lo stia migliorando. Doveva aiutarci a pensare meglio, no? A liberare tempo mentale, a supportare il giudizio, ad ampliare possibilità. In teoria bellissimo. In pratica rischia di renderci più pigri, più dipendenti, meno capaci di stare nell’incertezza e fare fatica cognitiva. E la fatica cognitiva, mi spiace, è parte della libertà.
Ilaria
Perché pensare davvero è scomodo. Significa confrontarsi con ciò che non sappiamo, sbagliare, tornare indietro, dubitare, cambiare idea. Una macchina che ti propone subito una risposta plausibile, ben confezionata, ti dà un sollievo immediato. Ti evita attrito. Ti consola quasi. Ma proprio per questo può diventare una stampella mentale. E le stampelle, se le usi sempre, indeboliscono anche i muscoli che dovrebbero sorreggerti da soli.
Ilaria
L’esempio più evidente è quello degli algoritmi di raccomandazione. Pensiamo a TikTok, ma non solo. Questi sistemi ci suggeriscono che cosa guardare, leggere, comprare, ascoltare. E sembrano comodissimi. Anzi, lo sono. Ma che cosa fanno, davvero? Ci chiudono in bolle sempre più piccole, sempre più lisce, sempre più aderenti ai nostri gusti già noti. Ci mostrano quello che probabilmente ci terrà lì, non quello che ci allargherà la mente. Non quello che ci contraddirà. Non quello che ci metterà in crisi in modo fertile. Ci danno una dieta cognitiva ad alta palatabilità e basso attrito.
Ilaria
E qui scatta un meccanismo pericoloso. Se io vedo sempre ciò che conferma ciò che già sono, finisco per credere che il mondo sia quella cosa lì. Che la complessità sia rumore. Che il dissenso sia eccezione. Che il reale coincida con il personalizzato. Piano piano si restringe l’esposizione alla differenza, all’imprevisto, al fastidio utile. E senza quel fastidio utile si atrofizza una facoltà preziosa: il pensiero critico. Perché il pensiero critico nasce anche dall’attrito, dallo scontro con qualcosa che non ci piace subito.
Ilaria
La parte più ironica, e un po’ tragica, è che non ci stiamo ribellando a questa cosa. Ci stiamo adattando. Con sollievo. Lasciamo che la macchina scelga per noi il prossimo video, il prossimo acquisto, la prossima risposta, a volte persino la prossima opinione da testare. E questa delega continua, piccola ma costante, cambia il nostro rapporto con l’autonomia. Non ce ne accorgiamo perché avviene in dosi minime, quotidiane, quasi tenere. Però succede.
Ilaria
Io non sto dicendo che ogni strumento di raccomandazione sia il male assoluto. Sarebbe troppo facile, e anche falso. Sto dicendo una cosa più scomoda: la comodità ha un prezzo. Ogni volta che rinunciamo a cercare, confrontare, dubitare, scegliere, e lasciamo che il sistema lo faccia per noi, stiamo cedendo un pezzetto di allenamento mentale. E se continuiamo così, il rischio non è solo diventare più informati male. È diventare meno capaci di pensare da soli. E questa, per me, è una perdita enorme. Silenziosa, progressiva, elegantissima... ma enorme.
Chapter 5
Creatività, esperienza e ciò che l’IA non potrà mai sostituire
Ilaria
E infine la creatività. Altro grande mito del momento. L’IA crea arte, scrive musica, genera poesia, disegna immagini. Sì. Tutto vero, in un certo senso. E io non ho alcun bisogno infantile di negare quello che vediamo. Produce oggetti culturali, produce forme, produce combinazioni spesso sorprendenti. Ma il punto è capire di che cosa stiamo parlando quando diciamo creatività. Perché se intendiamo soltanto la capacità di assemblare elementi in modo plausibile o seducente, allora sì, la macchina può fare parecchio. Se invece intendiamo la creatività umana nel senso più pieno, allora il discorso cambia moltissimo.
Ilaria
La creatività autentica nasce dall’esperienza vissuta. Dalle emozioni, dalle ferite, dalle ossessioni, dai desideri, dai corpi, dai ricordi, dagli errori, dalle perdite, dagli incontri. Nasce da un modo singolare di stare al mondo. Una poesia umana non è solo una sequenza ben costruita di parole. È il precipitato di una vita, anche quando è ironica, leggera, minima. Dietro c’è qualcuno che ha abitato il tempo. Qualcuno che ha sentito freddo, nostalgia, vergogna, fame, tenerezza. La macchina questo non lo possiede. Ha dati, non vita interiore.
Ilaria
E i dati, per quanto sterminati, non equivalgono a un mondo. Possono contenere tracce del mondo, rappresentazioni del mondo, descrizioni del mondo. Ma non sono il fatto di esserci dentro. Non sono l’esperienza di innamorarsi. Non sono il peso di un lutto. Non sono l’imbarazzo di un silenzio, la gioia stupida di una scoperta, la memoria improvvisa scatenata da un odore. Questo non è sentimentalismo. È una distinzione strutturale. Se manca l’esperienza, manca quella fonte profonda da cui l’umano trae il suo gesto creativo più radicale: vedere il mondo da un punto di vista incarnato e irripetibile.
Ilaria
Per questo io credo che l’IA possa produrre molto, ma non possa creare nel senso umano del termine qualcosa di davvero nuovo che nasca da un’esistenza. Può ricombinare, interpolare, imitare, condensare. E a volte lo farà così bene da metterci in crisi, certo. Ma quella crisi dovrebbe aiutarci a definire meglio che cosa stiamo difendendo. Non una superiorità narcisista dell’uomo sulla macchina. Quella mi interessa poco. Mi interessa custodire il valore dell’esperienza, della coscienza, della sensibilità, della responsabilità. Tutte cose che non si riducono a pattern.
Ilaria
Quindi la prossima volta che qualcuno parlerà dell’intelligenza artificiale come di una divinità, o come della soluzione a tutti i problemi, io vi chiederei di respirare un attimo e di ricordare questo: non è magia. Non è un essere superiore. Non è nemmeno intelligente nel modo in cui lo siamo noi quando comprendiamo, soffriamo, amiamo, scegliamo. È uno strumento potente, sì. Potentissimo. E come ogni strumento riflette il meglio e il peggio di chi lo usa e di chi lo costruisce.
Ilaria
Ma la nostra umanità... quella no. Quella non è un residuo del passato da superare. È il centro. È ciò che dobbiamo tenere stretto mentre tutto accelera. La capacità di sentire, di dubitare, di prenderci cura, di pensare criticamente, di creare a partire dalla vita vera. Se c’è una cosa che non possiamo delegare, non dovremmo delegare, è proprio questa. E forse il compito dei prossimi anni sarà meno adorare le macchine, e molto di più imparare a non svenderci. Ci fermiamo qui, per ora... ma torniamo presto.