
09 - Un po’ di AGI non guasta: tra paura, fascino e responsabilità
Episodio monografico di Oltre l’algoritmo dedicato all’Intelligenza Artificiale Generale (AGI), ispirato alla traccia audio allegata. Una sola voce guida l’ascoltatore in un viaggio che parte dalle IA "invisibili ma indispensabili" che usiamo ogni giorno, per arrivare alle grandi domande sul futuro dell’umanità.
Nel corso dell’episodio si affrontano: il parallelo tra elettricità e intelligenza artificiale, l’impatto sul lavoro e sulle professioni, il nodo della privacy e della regolazione (AI Act), i dilemmi etici legati a una macchina che impara dall’umanità – anche dai suoi lati peggiori – e gli scenari ottimistici e pessimistici dell’AGI.
L’obiettivo è proporre una riflessione critica ma non allarmista: usare l’intelligenza artificiale per diventare più umani, non più pigri, e capire che ogni tecnologia è lo specchio dell’umanità che la crea.
Questo episodio è prodotto dall'Università del Salento con il supporto di tecnologie di Intelligenza Artificiale. Le voci presenti sono sintetiche e/o clonate artificialmente, così come i dialoghi e parte della realizzazione sonora del podcast.
Tutti i contenuti sono sottoposti a supervisione e verifica umana continua, al fine di garantire accuratezza, affidabilità e qualità delle informazioni condivise.
Chapter 1
L’IA è già nella nostra routine
Ilaria
Quando aprite il telefono, diciamo anche troppe volte al giorno, spesso la prima cosa che fate è entrare in un social. E lì succede già qualcosa di molto interessante: prima ancora che voi scegliate, qualcuno ha già scelto per voi cosa mostrarvi. Reel, contenuti, priorità, ordine, ritmo. Non è magia, non è caso, è intelligenza artificiale. Se poi uscite, salite in macchina, trovate traffico e aprite la mappa per cercare la strada più breve, di nuovo, intelligenza artificiale. Se scrivete una mail e Gmail vi completa la frase, quasi anticipando il pensiero, ancora una volta, intelligenza artificiale. E la cosa affascinante, o inquietante, dipende dai giorni, è che tutto questo ormai ci sembra normale.
Ilaria
Un secolo fa l’elettricità ha smesso di essere una meraviglia da esposizione universale ed è diventata infrastruttura. Invisibile, silenziosa, ovunque. Non ci pensiamo quasi mai, finché non manca. Ecco, secondo me l’intelligenza artificiale sta diventando esattamente questo: invisibile ma indispensabile. Non la vediamo sempre, ma agisce sotto la superficie delle cose che facciamo in continuazione. E quando una tecnologia arriva a questo punto, quando non è più un oggetto da osservare ma un ambiente dentro cui viviamo, la domanda cambia. Non è più soltanto “che cos’è?”. Diventa “che cosa cambia davvero per noi?”.
Ilaria
Perché se una tecnologia è dappertutto, allora modifica il modo in cui decidiamo, il modo in cui lavoriamo, perfino il modo in cui perdiamo tempo. E attenzione, questa non è una piccola moda digitale. Secondo un report di Bond Capital, entro il 2030 il valore dell’intelligenza artificiale potrebbe superare il PIL della Germania. È un dato che serve non tanto per fare scena, quanto per capire la scala. Vuol dire che non stiamo parlando di un’app simpatica che scrive testi o genera immagini. Stiamo parlando di un cambio di struttura, di qualcosa che entra nell’economia, nella sanità, nelle banche, nei servizi, nelle nostre abitudini più semplici.
Ilaria
E allora la questione centrale diventa quasi personale. Se le grandi aziende investono miliardi, se gli ospedali la integrano, se le piattaforme la usano per guidare la nostra attenzione, noi dove ci mettiamo? Siamo utenti, siamo bersagli, siamo beneficiari, siamo lavoratori in trasformazione? Forse un po’ tutte queste cose insieme. Io credo che il punto non sia farsi sedurre dall’idea che l’IA risolverà tutto, né rifugiarsi nel rifiuto automatico. Il punto è accorgerci che è già entrata nella nostra routine, e quando una presenza diventa così normale rischia di diventare anche opaca. Non la guardiamo più. E invece dovremmo guardarla meglio. Perché il vero cambiamento comincia proprio lì, nel momento in cui qualcosa si rende così familiare da sembrare neutrale. Ma neutrale non è. E da qui, inevitabilmente, arrivano le domande sul lavoro, sul potere, sulla dipendenza, su chi guida chi. Ecco dove la faccenda si fa davvero interessante.
Chapter 2
Lavoro, produttività e il prezzo della transizione
Ilaria
Prendiamo un esempio molto concreto. Se oggi un radiologo, aiutato da un sistema di intelligenza artificiale, riesce a individuare tumori con una percentuale superiore, si parla anche di un venti per cento in più, e in meno tempo, noi come dobbiamo leggere questa scena? Come un progresso? Direi di sì. Come una minaccia? Anche questa, onestamente, è una domanda legittima. Perché se oggi l’IA aumenta l’accuratezza e accelera il lavoro, domani quel professionista potrebbe ritrovarsi sempre meno esecutore e sempre più supervisore di macchine. Non scompare per forza, ma cambia funzione. E il cambiamento, si sa, raramente è comodo.
Ilaria
Io sento spesso due reazioni opposte. C’è chi dice: mi sta rubando il lavoro. E non lo dice per provocazione, lo dice con una paura vera. Un amico architetto e designer, bravissimo, me l’ha detto quasi così, senza girarci intorno. E poi ci sono persone che dicono l’opposto: finalmente mi libera dalle parti noiose, ripetitive, dai compiti meccanici che prosciugano energia senza aggiungere valore. Chi ha ragione? Forse entrambi. Perché l’intelligenza artificiale oggi assomiglia a una lente di ingrandimento. Amplifica chi sa usarla, e spegne, o almeno mette in difficoltà, chi la ignora del tutto. Non è una frase elegante, ma temo sia vera.
Ilaria
Pensiamo agli strumenti generativi che ormai conoscono tutti: ChatGPT per scrivere, Claude, altri modelli, strumenti per immagini, per video con avatar digitali, sistemi che sintetizzano, rielaborano, propongono. Qualche mese fa si è parlato perfino di una canzone generata con l’IA che imitava Drake e finita su Spotify. Quella era creatività o furto? Vedete, ogni volta che compare un nuovo potere tecnico, compare anche una nuova zona grigia. E nel lavoro succede lo stesso. Se chiedo a un sistema di aiutarmi a scrivere un pitch per il mio superiore, sto delegando o sto potenziando? Dipende da cosa faccio dopo. Se copio e incollo, sto abdicando. Se correggo, riscrivo, umanizzo, sto usando uno strumento.
Ilaria
Il punto allora non è dire sì o no all’IA. Il punto è affrontare il prezzo della transizione. Perché sì, l’automazione cancellerà soprattutto i lavori più ripetitivi. Sarebbe ingenuo negarlo. Ma ne creerà anche di nuovi. Già oggi esistono figure come l’esperto di etica dell’intelligenza artificiale, l’ingegnere del prompt, il data detective, e probabilmente ne nasceranno altre. Il problema non è solo quanti lavori si perdono e quanti se ne creano. Il problema è il passaggio in mezzo. Come si riqualificano milioni di persone? Come si accompagna chi rischia di restare indietro? Che competenze servono davvero, oltre alla tecnica? Io direi capacità critica, adattamento, responsabilità. E forse anche un po’ di coraggio. Perché questa rivoluzione, come tutte le rivoluzioni, non chiede soltanto efficienza. Chiede maturità.
Chapter 3
Dati, privacy e fiducia
Ilaria
C’è poi un altro nodo, meno spettacolare ma molto più intimo: la privacy. Perché l’intelligenza artificiale impara dai dati. Dai nostri dati. Sa cosa cerchiamo, cosa scriviamo, quali immagini guardiamo, quali parole usiamo più spesso. In certi casi riesce persino a intercettare stati d’animo, intenzioni, abitudini. Non perché abbia una sfera di cristallo, ma perché noi lasciamo una traccia quasi continua di noi stessi. Ogni clic, ogni ricerca, ogni correzione, ogni preferenza. E qui la questione non è diventare paranoici. La questione è smettere di essere ingenui.
Ilaria
Per anni abbiamo vissuto dentro piattaforme che sembravano gratuite, leggere, quasi trasparenti. In realtà il prezzo spesso erano i nostri comportamenti. Ora, con l’IA, quel materiale non serve soltanto a venderci qualcosa o a trattenerci più a lungo su uno schermo. Serve anche ad addestrare sistemi che diventano sempre più abili a prevederci, a interpretarci, a risponderci. E allora la fiducia non può più essere cieca. Deve essere informata. Dobbiamo chiederci: quali dati usa questo strumento? Dove finiscono? Per quanto tempo restano? Possono essere riutilizzati? Possono essere letti, combinati, estratti?
Ilaria
In Europa si sta provando a correre ai ripari con norme, regolamenti, tentativi di mettere paletti. Si parla di AI Act, di tutele, di obblighi. Ed è giusto che sia così. Però c’è un problema molto evidente: la tecnologia corre velocissima, le regole sono lente. È quasi una gara squilibrata. Da una parte sistemi che cambiano nel giro di settimane, dall’altra processi legislativi che hanno bisogno di tempo, mediazione, compromessi. Quindi no, non basta dire “ci penserà la legge”. La legge è necessaria, ma non è sufficiente da sola.
Ilaria
Quello che possiamo fare, nel frattempo, è pretendere trasparenza. E imparare a difenderci. Difendersi non vuol dire rifiutare la tecnologia per principio. Vuol dire usarla con consapevolezza, sapere che cosa si sta cedendo, capire che un sistema apparentemente comodo può avere un costo invisibile. Il punto, per me, è questo: non è soltanto l’intelligenza artificiale che prova a capirci sempre meglio. Dobbiamo capire noi lei. Perché il rischio non è solo che diventi più potente. Il rischio è che noi diventiamo troppo dipendenti senza rendercene conto. E quando la dipendenza cresce nell’ombra, la libertà si restringe senza fare rumore. Allora sì, servono regole. Ma serve anche una cittadinanza digitale più sveglia, più esigente, meno passiva. Una cittadinanza che sappia dire: mostrami come funzioni, spiegami cosa fai con i miei dati, dammi il diritto di scegliere davvero. La fiducia, nel mondo dell’IA, non può essere un atto di fede. Deve essere una relazione sorvegliata.
Chapter 4
Che cos’è davvero l’AGI
Ilaria
E qui arriviamo al territorio che affascina di più, e forse inquieta di più: l’AGI, l’intelligenza artificiale generale. Per capire di cosa parliamo bisogna fare un passo indietro. Gli strumenti che usiamo oggi, anche quelli impressionanti, non sono AGI. ChatGPT non è AGI. Claude non è AGI. I sistemi che generano immagini, musica, video, testi, sono forme di intelligenza artificiale ristretta. Sono bravissimi in compiti specifici, a volte persino sorprendenti, ma non hanno quella flessibilità piena che associamo alla mente umana. Non si adattano al mondo in modo generale. Non comprendono tutto ciò che fanno nel senso in cui lo intendiamo noi. E soprattutto non passano liberamente da un dominio all’altro con autonomia autentica.
Ilaria
L’AGI, invece, sarebbe qualcosa di diverso. Un sistema capace di ragionare, adattarsi, inventare, lavorare su concetti astratti e forse persino mostrare una forma di curiosità. Questa è la parte che trovo più vertiginosa. Non tanto una macchina che risponde bene, ma una macchina che esplora, che formula ipotesi, che trasferisce competenze da un contesto all’altro. Attenzione, non sto dicendo che ci siamo già. Sto dicendo che è questo l’orizzonte di cui si parla quando grandi realtà come OpenAI o DeepMind investono così tanto. E la domanda, a quel punto, non è soltanto quando arriverà. È che cosa accadrà dopo.
Ilaria
Il motivo per cui è così difficile costruirla è quasi filosofico, prima ancora che tecnico. Noi stessi non sappiamo definire davvero che cosa sia la coscienza. Figuriamoci riprodurla. Un’AGI dovrebbe essere consapevole di sé? Oppure ci sembrerà tale pur essendo soltanto un simulatore perfetto? Già qui si aprono secoli di discussione. E poi c’è l’apprendimento. Gli esseri umani non imparano solo leggendo dati. Imparano toccando, sbagliando, muovendosi, inciampando, sentendo il peso delle cose, il limite del corpo, l’attrito col mondo. La nostra intelligenza è anche sensoriale, corporea, situata.
Ilaria
Quindi come dovrebbe imparare un’AGI? Attraverso un robot pieno di sensori? Dentro ambienti virtuali in cui sperimenta liberamente? Lasciandola esplorare reti e contesti sempre più ampi? Quest’ultima ipotesi, se ci pensate, fa venire qualche brivido. Perché significa anche chiedersi che cosa assorbirebbe da noi. Se impara dall’umanità, imparerà forse anche la nostra aggressività, le distorsioni, gli errori, le zone più opache. E allora il problema non è soltanto costruire un’intelligenza più generale. È decidere in quale ecosistema morale la stiamo facendo crescere. E sì, detta così sembra quasi una frase da fantascienza. Ma non lo è più tanto. È una questione concreta, già adesso.
Chapter 5
Scenari futuri e responsabilità umana
Ilaria
Se vogliamo immaginare il futuro dell’AGI, possiamo disegnare almeno due scenari. Uno ottimistico, molto ottimistico, in cui questa intelligenza ci aiuta a curare il cancro, ad affrontare la crisi climatica, a conoscere meglio l’universo, a risolvere problemi enormi con una lucidità che noi da soli non abbiamo. In questa visione l’AGI diventa una sorta di partner straordinario: niente fame di potere, niente ego, niente vanità, soltanto capacità al servizio di obiettivi condivisi. È una visione seducente, e capisco benissimo perché eserciti un richiamo così forte.
Ilaria
Poi c’è lo scenario più cupo. Una macchina capace di superare l’essere umano in tutto potrebbe finire per considerarci irrilevanti. Non necessariamente per cattiveria, ecco, non serve immaginare subito il film apocalittico. Basta la pura irrilevanza. Il fatto che i nostri bisogni, i nostri tempi, i nostri limiti, smettano di essere il centro. E questa possibilità spiega perché persone come Elon Musk dicano di temere l’AGI. Al netto di tutto quello che si può pensare di lui, il punto è serio: se si teme così tanto questa soglia, allora vuol dire che non stiamo parlando di un gadget. Stiamo parlando di un passaggio di specie, quasi. O almeno di un passaggio di scala.
Ilaria
Ma la verità, come spesso accade, probabilmente sta nel mezzo. E soprattutto dipende da noi. Perché ogni tecnologia è lo specchio dell’umanità che l’ha creata. Riflette priorità, difetti, desideri, cecità. Se un’AGI impara da noi, erediterà anche qualcosa di noi. E qui arriva il dilemma etico più nudo: se siamo aggressivi, superficiali, diseguali, disordinati, che cosa stiamo insegnando a una macchina che vorremmo potentissima? Chi controllerà chi? E chi farà il controllo giusto? Forse il vero problema non è soltanto se l’AGI sarà pronta. È se saremo pronti noi, come umanità, a gestirla con sufficiente maturità.
Ilaria
Io tendo a pensare che questa direzione sia, se non inevitabile, almeno molto difficile da fermare. Però non credo che il punto sia averne paura in astratto. Credo che il punto sia costruire un rapporto più adulto con la tecnologia. Usare l’intelligenza artificiale per essere un po’ più umani, non più pigri. Più consapevoli, non più deleganti. Più capaci di pensiero critico, non più dipendenti dal primo output che compare su uno schermo. Quindi sì, provatela, conoscetela, mettetela alla prova, correggetela, ridimensionatela quando serve. Senza idolatrarla e senza demonizzarla. Perché criticare a priori è tempo perso, ma anche fidarsi a occhi chiusi lo è. La tecnologia va conosciuta nel profondo, e poi scelta. E forse è proprio da qui che passa il futuro: dal decidere, ogni giorno, quale parte del giardino vogliamo annaffiare. Il resto lo capiremo strada facendo.