it
Slovenščina
English
La prof.ssa Noreen Herzfeld fa parte dell’Artificial Intelligence Research Group (AIRG), un gruppo di ricerca sull’intelligenza artificiale collegato al Dicastero per la Cultura e l’Educazione della Santa Sede. È inoltre coautrice e co-curatrice del volume Encountering Artificial Intelligence: Ethical and Anthropological Investigations, citato in relazione al più ampio contesto intellettuale della prima enciclica di Papa Leone XIV, Magnifica Humanitas, dedicata alla tutela dell’essere umano nell’era dell’intelligenza artificiale.
Prof.ssa Herzfeld, il suo lavoro ha recentemente attirato l’attenzione del grande pubblico in relazione all’enciclica di Papa Leone XIV sull’intelligenza artificiale, presentata nel maggio di quest’anno. In che modo le sue ricerche e la sua partecipazione all’Artificial Intelligence Research Group hanno contribuito all’elaborazione dell’enciclica?
L’Artificial Intelligence Research Group (AIRG), che opera sotto l’egida del Dicastero per la Cultura e l’Educazione, si riunisce dal 2020 per esaminare le conseguenze del rapido sviluppo dell’intelligenza artificiale. Nel 2024 abbiamo pubblicato Encountering Artificial Intelligence, il primo di diversi volumi nati dalle nostre discussioni. Dopo la sua pubblicazione, abbiamo presentato le idee principali durante un incontro a Roma, al quale hanno partecipato anche rappresentanti di altri dicasteri e gruppi di lavoro vaticani. Poco dopo, il Dicastero per la Dottrina della Fede, in collaborazione con il nostro dicastero, ha elaborato la nota dottrinale Antiqua et Nova, citata anche nell’enciclica.
Ripercorriamo brevemente il suo percorso accademico: inizialmente ha studiato matematica e musica, per poi dedicarsi all’informatica e, successivamente, alla teologia e allo studio della spiritualità. In che modo queste diverse discipline si intrecciano nelle sue ricerche sull’intelligenza artificiale?
Già negli anni Novanta, quando ero docente di informatica, insegnavo anche materie legate all’intelligenza artificiale. In quel periodo, filosofi come Hubert Dreyfus e John Searle si interrogavano sulla possibilità di creare un’intelligenza artificiale simile a quella umana, ovvero un’intelligenza artificiale generale (AGI). A me, invece, interessava meno capire se fossimo in grado di farlo e molto di più comprendere perché lo desiderassimo.
Mi sembrava infatti che i computer fossero più utili proprio quando non ci assomigliavano e svolgevano compiti che gli esseri umani non erano particolarmente bravi a eseguire. Durante il mio primo anno sabbatico cercai di approfondire questa domanda, ma senza successo. Come informatica, infatti, non disponevo degli strumenti adeguati per rispondere a una questione che riguardava la motivazione umana.
Con l’intelligenza artificiale, l’essere umano cercava in realtà di creare un Altro a propria immagine. Questo mi condusse al primo capitolo della Genesi e a riformulare la mia domanda di ricerca: il modo in cui desideriamo che un computer rifletta la nostra immagine è lo stesso in cui immaginiamo di riflettere noi stessi l’immagine di Dio? Cominciai così a interpretare il desiderio di creare un’intelligenza artificiale simile all’essere umano come una ricerca spirituale.
Nella sua prima enciclica, Papa Leone XIV presenta l’intelligenza artificiale come una delle questioni antropologiche fondamentali del nostro tempo. È d’accordo con questa visione e perché?
Sì, sono d’accordo. Il nostro desiderio di creare un’intelligenza artificiale a nostra immagine rivela molto di ciò che apprezziamo maggiormente di noi stessi. Viviamo in una cultura che privilegia il fare rispetto all’essere e misura il valore in termini di produttività. Creiamo l’intelligenza artificiale affinché faccia ciò che facciamo noi, ma più velocemente.
Tuttavia, gli esseri umani sono creature che hanno bisogno di relazioni con gli altri. Per questo progettiamo l’intelligenza artificiale non soltanto come uno strumento, ma anche come un Altro con cui instaurare una relazione. L’intelligenza artificiale è uno specchio di noi stessi, ma questo specchio riflette in entrambe le direzioni. La creiamo affinché imiti ciò che apprezziamo di noi stessi, ma quanto più instauriamo relazioni con le macchine anziché tra esseri umani, tanto maggiore è il rischio che diventiamo noi stessi sempre più simili alle macchine.
L’enciclica respinge sia le concezioni transumaniste sia quelle postumaniste dell’essere umano. Potrebbe spiegare brevemente entrambi i concetti? Dove individua il confine tra un uso positivo e responsabile della tecnologia e l’idea più rischiosa di un «superamento» tecnologico dell’essere umano?
Il transumanesimo è il desiderio di creare, attraverso la tecnologia, un essere umano migliore. In un certo senso, potremmo dire che siamo già transumani, dal momento che indossiamo occhiali e apparecchi acustici e utilizziamo pacemaker e protesi. Tuttavia, il termine si riferisce generalmente a interventi più recenti e molto più radicali sulla nostra natura, come l’ingegneria genetica, le cui modifiche possono essere trasmesse ai discendenti, oppure l’impianto di chip informatici nel cervello.
Il postumanesimo, invece, si fonda sull’idea che gli esseri umani siano soltanto una specie transitoria nell’evoluzione dell’intelligenza e della coscienza e che, con il suo ulteriore sviluppo, l’intelligenza artificiale potrebbe un giorno sostituirci.
Papa Leone XIV critica giustamente il postumanesimo e gran parte del transumanesimo, poiché entrambi si basano su una concezione errata della perfezione. Sottolinea che, sebbene il Vangelo ci inviti a prenderci cura dei malati, è sbagliato credere di poter superare tutte le debolezze e le sofferenze umane. In realtà, non dovremmo nemmeno tentare di farlo, perché «è proprio all’interno dei nostri limiti che si apre lo spazio per la compassione, la cura sincera dei bisogni degli altri, la generosità che può nascere anche in mezzo all’oscurità e al fallimento, l’esperienza spirituale e l’adorazione di Dio» (Magnifica Humanitas, MH, 119).
È proprio confrontandoci con i nostri limiti, compresa la nostra mortalità, che impariamo la pazienza e comprendiamo di avere bisogno gli uni degli altri e di Dio.
L’enciclica esprime inoltre una forte preoccupazione per la concentrazione del potere nel settore dell’intelligenza artificiale nelle mani di un numero ristretto di grandi aziende tecnologiche. Tuttavia, alla sua presentazione in Vaticano erano presenti anche rappresentanti dell’industria, tra cui Chris Olah, cofondatore di Anthropic. Qual è l’importanza di coinvolgere queste voci nel dibattito e quali possibili soluzioni intravede rispetto alla concentrazione del potere nel settore dell’intelligenza artificiale?
Storicamente, le encicliche erano documenti di insegnamento rivolti ai vescovi, ai sacerdoti e ai fedeli cattolici. Papa Francesco si è discostato da questa tradizione quando ha indirizzato l’enciclica Laudato si’ a tutte le persone di buona volontà. Papa Leone prosegue su questa strada.
Ritengo che, con l’enciclica Magnifica Humanitas, intenda rivolgersi non soltanto alla Chiesa, ma anche ai leader del settore tecnologico, che hanno il potere di influenzare la direzione della ricerca sull’intelligenza artificiale. Attualmente, la Silicon Valley è fortemente influenzata dalle narrazioni transumaniste e postumaniste. Con questa enciclica, Papa Leone cerca di proporre un’alternativa che possa orientare lo sviluppo dell’intelligenza artificiale verso una direzione più sicura e responsabile.
Non credo che siamo vicini alla realizzazione di un’intelligenza artificiale generale (AGI). In primo luogo, i grandi modelli linguistici, come ChatGPT o Claude, continueranno sempre a generare allucinazioni e, pertanto, non saranno mai completamente affidabili. In secondo luogo, più questi sistemi diventano grandi, maggiore è la quantità di energia di cui necessitano, non soltanto per l’addestramento, ma anche per il loro utilizzo. Non è possibile che tutti li utilizzino ovunque senza provocare gravi pressioni sulle nostre infrastrutture energetiche e idriche, contribuendo così ad accelerare ulteriormente i cambiamenti climatici.
Strumenti di intelligenza artificiale molto più piccoli, progettati per compiti specifici, sono decisamente più efficienti e precisi e possono essere adattati più facilmente alle esigenze concrete. La Cina sta seguendo questa strada, che potrebbe portare a un’integrazione molto più efficace dell’intelligenza artificiale nei sistemi già esistenti.
Il Papa richiama l’attenzione anche sull’impatto dell’intelligenza artificiale nell’istruzione. Che cosa possiamo fare, secondo lei, affinché favorisca l’apprendimento senza indebolire il pensiero critico e lo sviluppo integrale della persona?
Diversi studi hanno già dimostrato che chi si affida eccessivamente all’intelligenza artificiale rischia di perdere progressivamente determinate capacità e di indebolire il proprio pensiero critico. Nei bambini il rischio è ancora maggiore. Potrebbe accadere che non sviluppino mai le capacità di ragionamento, ricerca, risoluzione dei problemi e comprensione che l’istruzione dovrebbe promuovere.
La soluzione non consiste nel vietare l’intelligenza artificiale, bensì nel limitarne l’utilizzo a determinati momenti e ambiti, nei quali possa fungere da strumento e non da sostituto.
Negli Stati Uniti, molte scuole hanno trasferito gran parte delle lezioni e delle attività scolastiche su computer portatili e tablet, ma ora si stanno rendendo conto che è stato un errore. I bambini possono facilmente distrarsi e tendono a evitare l’impegno intellettuale richiesto dall’apprendimento. L’intelligenza artificiale, fornendo loro semplicemente le risposte, aggrava ulteriormente questo problema. D’altra parte, potremmo utilizzare l’intelligenza artificiale per aiutare gli studenti a formulare domande migliori o per incoraggiarli a riflettere più approfonditamente.
Una delle questioni etiche più urgenti riguarda l’utilizzo dell’intelligenza artificiale in ambito militare. Questa tecnologia viene già impiegata per assistere nella selezione degli obiettivi e il mondo sembra orientarsi sempre più verso una guerra algoritmica. Che cosa ci dice tutto questo sulla nostra concezione della vita umana, della responsabilità e del valore della persona?
I conflitti in Ucraina e in Iran dimostrano che la natura della guerra è cambiata. I droni hanno modificato i rapporti di forza e, in un certo senso, hanno riequilibrato le condizioni tra gli avversari. L’Iran può bloccare efficacemente lo Stretto di Hormuz con un solo drone. L’Ucraina, attraverso attacchi con droni contro Mosca e raffinerie situate anche a 2.500 chilometri dal confine, ha esteso il teatro delle operazioni militari in profondità nel territorio russo.
Rispetto ai missili o agli armamenti pesanti, come i carri armati, i droni sono relativamente economici e semplici da produrre. Il loro impiego riduce inoltre un altro «costo» della guerra: la perdita di vite umane tra i soldati.
Nella sua enciclica, il Papa osserva che «la crescente facilità di impiego dei sistemi d’arma autonomi rende la guerra più “praticabile” e meno soggetta al controllo umano» (MH, 197). Questo mette a rischio due principi della teoria della guerra giusta: il principio secondo cui la forza armata deve essere impiegata soltanto come ultima risorsa e quello secondo cui le armi devono rimanere sempre sotto il controllo umano.
Esiste inoltre il rischio di una perdita della responsabilità morale. Durante un seminario al quale ho partecipato, organizzato dalla facoltà di giurisprudenza della Penn State University, i comandanti militari presenti si sono espressi con fermezza contro le armi autonome. La loro principale preoccupazione riguardava la velocità di funzionamento dei computer.
È davvero realistico mantenere l’essere umano nel processo decisionale quando le decisioni vengono prese a una velocità che supera la sua capacità di reazione? Se la velocità delle operazioni militari superasse le capacità umane, gli ufficiali potrebbero essere costretti ad affidare le decisioni alle macchine.
Leone XIV avverte che alcuni «parlano di “agenti morali artificiali”, come se le macchine fossero capaci di distinguere il bene dal male, ma il giudizio morale non può essere ridotto a un calcolo, poiché coinvolge la coscienza, la responsabilità personale e il riconoscimento dell’altro come persona» (MH, 198).
La responsabilità in ambito militare potrebbe rapidamente venir meno se gli Stati e i comandanti militari iniziassero ad attribuire la colpa all’intelligenza artificiale. Per questo motivo, il Papa invita a garantire che le decisioni «rimangano sotto un controllo umano effettivo, consapevole e responsabile» (MH, 200). Resta da vedere se ciò accadrà davvero nell’attuale corsa agli armamenti basati sull’intelligenza artificiale.
In qualità di ricercatrice che da molti anni riflette sul rapporto tra intelligenza artificiale, religione ed essere umano, gli attuali sviluppi tecnologici le suscitano più speranza o preoccupazione?
L’intelligenza artificiale ha il potenziale per diventare uno strumento estremamente utile, purché venga sviluppata e utilizzata in modo responsabile e entro limiti ben definiti. Tuttavia, ha anche il potenziale per causare danni considerevoli.
Chi immagina l’intelligenza artificiale secondo lo scenario di Terminator, nel quale le macchine decidono autonomamente che gli esseri umani sono superflui, si concentra sul pericolo sbagliato. La vera preoccupazione è che soggetti malintenzionati possano utilizzare l’intelligenza artificiale per compromettere i nostri sistemi, dalle infrastrutture alla democrazia.
La mia maggiore preoccupazione, tuttavia, è che, nella corsa allo sviluppo e all’utilizzo degli attuali modelli di intelligenza artificiale, non riflettiamo abbastanza sul loro impatto ambientale, contribuendo così ad accelerare i cambiamenti climatici, le cui conseguenze stiamo già sperimentando attraverso il caldo e gli incendi di quest’estate.
Che cosa pensa della direzione indicata da Papa Leone XIV all’inizio del suo pontificato? Quali temi potrebbero caratterizzare maggiormente il suo operato?
Ritengo che Leone XIV prosegua l’orientamento di Papa Francesco, affrontando le questioni più urgenti del nostro tempo.
Il Papa dispone di una voce e di un’autorevolezza che la maggior parte delle altre comunità religiose non possiede. Mi aspetto che Leone XIV continui a utilizzare questa autorevolezza come ha già iniziato a fare: rivolgendosi senza timore e con spirito critico ai leader politici e impegnandosi a favore della pace, della giustizia sociale ed economica e di un rapporto responsabile con la tecnologia.
Sebbene nell’enciclica Magnifica Humanitas abbia soltanto accennato alle questioni ambientali, spero che prosegua nell’intento di Papa Francesco di approfondire ulteriormente questo tema di fondamentale importanza.
Il suo legame con la Slovenia passa attraverso la collaborazione con l’Istituto di studi filosofici e religiosi del Centro di ricerche scientifiche Capodistria (ZRS Koper). Come è nata questa collaborazione e di quali temi si occupa attualmente?
Nel 2008 ho insegnato a Sarajevo nell’ambito del programma statunitense Fulbright. I successivi viaggi nella regione e i contatti che avevo mantenuto mi hanno messa in relazione con un ricercatore dello ZRS Koper, che mi ha invitata a partecipare a un progetto dedicato all’essere umano nell’era digitale. Da questa esperienza è nata una collaborazione di lungo periodo.
Attualmente collaboro a un progetto che studia l’ecoteologia all’intersezione tra transizione verde e transizione digitale e a un altro progetto dedicato al lavoro e al pensiero di Nikola Tesla e alla loro rilevanza per il mondo contemporaneo.
Recentemente, insieme allo ZRS Koper, abbiamo inoltre presentato una proposta progettuale nell’ambito di un bando di ricerca, con l’obiettivo di studiare gli effetti delle relazioni di compagnia tra esseri umani e computer.
FOTO: Archivio personale
Il presente articolo è stato realizzato nell’ambito del programma di ricerca Teologia costruttiva nell’era della cultura digitale e dell’Antropocene (P6-0434), coordinato presso il Centro di ricerche scientifiche Capodistria (ZRS Koper) dalla dott.ssa Nadja Furlan Štante. Il programma di ricerca è finanziato dall’Agenzia pubblica slovena per la ricerca scientifica e l’innovazione (ARIS).
Editore: Delo mediji d.o.o.
Fonte: Delo
Autrice: Nataša Čepar, ZRS Koper
Data di pubblicazione: 22 settembre 2026
FOTO: Archivio personale
Il presente articolo è stato realizzato nell’ambito del programma di ricerca Konstruktivna teologija v dobi digitalne kulture in antropocena (P6-0434), coordinato presso il Centro di ricerche scientifiche Capodistria (ZRS Koper) dalla dott.ssa Nadja Furlan Štante. Il programma di ricerca è finanziato dall’Agenzia pubblica slovena per la ricerca scientifica e l’innovazione (ARIS).
- Fonte: Delo
- Autrice: Nataša Čepar, ZRS Koper
- Data di pubblicazione: 22 settembre 2026
- Editore: Delo mediji d.o.o.