Per molto tempo ci siamo domandati fin dove sarebbe potuta arrivare l’intelligenza artificiale. Oggi la domanda è un’altra: siamo ancora capaci di governare ciò che stiamo costruendo?
A renderla urgente è un fatto significativo. A mettere in guardia dai rischi dell’IA non sono più soltanto filosofi, educatori o studiosi di etica, ma alcuni degli stessi protagonisti della rivoluzione tecnologica. Dario Amodei, amministratore delegato di Anthropic, ha richiamato l’attenzione sulla velocità con cui questi sistemi stanno crescendo e sulla necessità di controlli più seri. Anche Sam Altman e Elon Musk hanno più volte espresso preoccupazioni sulla sicurezza e sulla capacità futura di mantenere sotto controllo tecnologie sempre più potenti.
Non siamo davanti alla trama di un film di fantascienza. Il problema non è immaginare una macchina che un giorno si ribellerà all’uomo. Il rischio più vicino è forse molto più semplice: che sia l’uomo a consegnare progressivamente alla macchina ciò che dovrebbe continuare a fare personalmente: pensare, scegliere, verificare, assumersi responsabilità.
È proprio su questo terreno che l’allarme proveniente dal mondo tecnologico incontra la riflessione di Papa Leone XIV nell’enciclica Magnifica Humanitas.
Il Papa non demonizza l’intelligenza artificiale. Sarebbe troppo facile. Ne riconosce le enormi possibilità nella medicina, nella ricerca, nell’educazione, nella comunicazione. Ma pone una domanda decisiva: questa straordinaria potenza tecnologica nelle mani di chi finirà? E a servizio di quale idea di uomo?
Il rischio è che dati, algoritmi e capacità di calcolo si concentrino nelle mani di pochi soggetti economici capaci di esercitare un potere enorme sulle persone e sulle società. Per questo l’IA non riguarda soltanto gli informatici. Riguarda la politica, la democrazia, l’educazione, il lavoro e, soprattutto, la dignità della persona.
C’è poi un pericolo più silenzioso.
L’intelligenza artificiale è comoda. Scrive, traduce, riassume, suggerisce, organizza. Risponde in pochi secondi a domande che richiederebbero ore di lavoro. Ed è proprio questa comodità a poter diventare una trappola. Se deleghiamo continuamente alla macchina il compito di pensare, rischiamo lentamente di perdere l’abitudine a farlo.
Per un ragazzo che cresce significa qualcosa di molto concreto. Se una macchina scrive sempre al suo posto, quando imparerà a costruire un pensiero? Se gli offre immediatamente una risposta, quando imparerà a cercarla? E soprattutto: quando imparerà che qualche volta è necessario sbagliare, ricominciare, avere dubbi?
Leone XIV insiste anche su un altro confine che non dovremmo oltrepassare. Una macchina può simulare una conversazione, può utilizzare parole gentili, perfino sembrare empatica. Ma non vive. Non soffre, non spera, non ama. Può parlare dell’amicizia senza avere un amico e descrivere il dolore senza aver mai versato una lacrima.
In una società già attraversata dalla solitudine, il rischio è evidente: potremmo avere strumenti capaci di parlare sempre con noi e, nello stesso tempo, diventare sempre meno capaci di parlare davvero tra noi.
Poi c’è la verità.
Oggi possiamo creare in pochi secondi fotografie mai scattate, voci di persone che non hanno mai pronunciato quelle parole, video di fatti mai accaduti. Quando diventa difficile distinguere il vero dal falso, non è in pericolo soltanto l’informazione. È in pericolo la stessa democrazia. Perché una comunità può discutere e perfino dividersi sulle idee, ma deve poter condividere almeno alcuni fatti.
In Magnifica Humanitas Leone XIV usa un’espressione particolarmente efficace: occorre avere il coraggio di «rallentare dove tutto accelera».
Non significa fermare la ricerca o avere paura del futuro. Significa concedersi il tempo necessario per capire dove stiamo andando. Significa stabilire regole, responsabilità, controlli indipendenti, trasparenza. Significa soprattutto ricordare un principio elementare: non tutto ciò che possiamo tecnicamente fare deve necessariamente essere fatto.
Ed è interessante che oggi qualcosa di simile venga chiesto dagli stessi protagonisti dell’industria dell’intelligenza artificiale. Se persino chi costruisce questi sistemi sente il bisogno di chiedere maggiore prudenza, sarebbe irresponsabile ignorare il problema.
Forse la questione più importante non riguarda neppure l’intelligenza artificiale. Riguarda noi.
L’IA può calcolare più velocemente di qualsiasi essere umano, ma non possiede coscienza. Può raccogliere una quantità sterminata di informazioni, ma non sa che cosa sia il bene. Può suggerire una decisione, ma non può assumersi la responsabilità morale delle sue conseguenze.
Qui rimane uno spazio che nessun algoritmo dovrebbe occupare: quello della coscienza umana.
Leone XIV richiama l’immagine biblica di Babele. Gli uomini costruiscono qualcosa di grandioso, affascinati dalla propria potenza, ma alla fine non riescono più a comprendersi. È un’immagine sorprendentemente contemporanea.
Anche noi possiamo costruire una nuova Babele tecnologica, convinti che tutto ciò che è possibile sia automaticamente progresso. Oppure possiamo scegliere una strada diversa: mettere la tecnologia al servizio della persona, proteggere i più fragili, educare i giovani a usarla senza diventarne dipendenti e chiedere a chi possiede questa enorme potenza di risponderne davanti alla società.
L’allarme sull’intelligenza artificiale non deve quindi generare paura. Deve generare responsabilità.
Perché la grande sfida dei prossimi anni non sarà riuscire a costruire macchine sempre più simili all’uomo.
Sarà fare in modo che, mentre le macchine diventano sempre più intelligenti, noi non diventiamo meno umani.
Roberto Luzi, laurato in Scienze religiose presso la Pontificia Università Antonianum Roma, ha una
lunga esperienza di consulente in diverse istituzioni pubbliche e aziende private. Formato nella
spiritualità francescana, ha collaborato e tutt’ora collabora con diverse testate giornalistiche tra le quali:
l’Osservatore Romano, Avvenire, la rivista mensile “Francesco il volto secolare”. È esperto di
intelligenza artificiale in ambito didattico.
