Le considerazioni di Papa Leone XIV sull’Intelligenza Artificiale
L’Enciclica Magnifica umanitas di Papa Leone XIV sarà l’oggetto del presente editoriale e tratterà aspetti che riguardano precise posizioni legate all’uso e allo sviluppo dell’Intelligenza Artificiale. La delicatezza e l’attualità dei temi proposti apriranno certamente nuovi scenari e occasioni di importanti riflessioni.
Papa Leone XIV colloca l’attuale cambiamento tecnologico sullo stesso piano storico della rivoluzione industriale affrontata da Leone XIII nel 1891. Come allora la Chiesa intervenne per difendere la dignità dei lavoratori di fronte alle trasformazioni economiche, oggi essa è chiamata a interrogarsi sulle conseguenze antropologiche, sociali ed etiche dell’intelligenza artificiale.
Il Papa non considera l’IA semplicemente una nuova tecnologia, ma una forza capace di modificare il lavoro, la cultura, la politica, la comunicazione, la guerra e perfino il modo in cui l’uomo comprende se stesso. Per questo motivo l’enciclica non è principalmente un testo sulla tecnologia, bensì un documento sull’uomo. La domanda fondamentale che attraversa l’intera opera è: come preservare la dignità della persona in un mondo sempre più governato da algoritmi e sistemi automatici?
La “magnifica umanità” è il titolo dell’enciclica e nasce dalla convinzione che l’essere umano possieda una dignità unica e irriducibile. Secondo Leone XIV, nessuna macchina, per quanto sofisticata, può sostituire la coscienza, la libertà morale, la creatività autentica e la capacità di amare che caratterizzano la persona. L’uomo non è un insieme di dati né un algoritmo biologico; egli rimane un soggetto spirituale e relazionale.
Per inciso non potremo esimerci dal sottolineare come questi contenuti siano intimamente vicini al pensiero del fisico e inventore Federico Faggin, soprattutto là dove si nega la possibilità che nessuna macchina possa sostituirsi alla coscienza e alla capacità di provare amore verso chiunque.
Questa precisazione costituisce un ostacolo insormontabile a tutti coloro che vorrebbero vedere nella IA una struttura in grado far emergere in futuro un’autentica forma di coscienza.
La tecnologia deve quindi essere valutata non soltanto in termini di efficienza o produttività, ma in base alla sua capacità di favorire la crescita integrale della persona e delle comunità.
In questo senso il documento rappresenta anche una critica alle visioni transumaniste e postumaniste che immaginano il superamento dell’uomo attraverso la tecnologia. Per Leone XIV il progresso autentico non consiste nel sostituire l’umano, ma nel valorizzarlo.
Uno dei temi centrali dell’enciclica riguarda il lavoro umano. L’IA promette enormi benefici in termini di produttività, ma rischia anche di sostituire milioni di lavoratori e di concentrare ricchezza e potere nelle mani di pochi soggetti economici.
Il Papa denuncia la possibilità che si crei una nuova forma di esclusione sociale, nella quale i vantaggi della rivoluzione digitale vengano raccolti da un numero ristretto di grandi aziende e di Stati tecnologicamente avanzati, mentre intere popolazioni restano marginalizzate.
Per questo l’enciclica insiste sulla necessità di:
* tutelare il lavoro umano;
* garantire una distribuzione equa dei benefici della tecnologia;
* evitare monopoli tecnologici;
* promuovere una governance internazionale delle piattaforme digitali;
* considerare dati, algoritmi e infrastrutture digitali come beni che devono essere orientati al bene comune.
Un altro capitolo importante riguarda il rapporto tra IA e informazione.
Leone XIV osserva che la capacità degli algoritmi di influenzare opinioni, comportamenti e decisioni politiche rappresenta una delle sfide più delicate del nostro tempo. La diffusione di contenuti sintetici, la manipolazione dell’informazione e la personalizzazione estrema dei messaggi possono alterare il dibattito democratico e indebolire la ricerca della verità.
Il Pontefice invita pertanto a sviluppare strumenti normativi e culturali che favoriscano:
* la trasparenza degli algoritmi;
* la responsabilità delle piattaforme;
* l’educazione critica dei cittadini;
* la tutela della libertà di pensiero e di coscienza.
La verità, afferma implicitamente il documento, non può essere delegata alle macchine. Essa richiede discernimento, dialogo e responsabilità umana.
Queste considerazioni ci portano a concludere che l’intelligenza artificiale non è moralmente neutrale.
Ogni algoritmo incorpora inevitabilmente scelte di valore, criteri di classificazione e priorità che influenzano la vita delle persone. Per questo, l’enciclica introduce il principio di accountability, inteso come possibilità di identificare chi è responsabile delle decisioni algoritmiche, di comprenderne le ragioni e di contestarle quando producono effetti ingiusti.
In altre parole… L’accountability è la responsabilità di rendere conto.
Nel contesto dell’intelligenza artificiale significa che, quando un algoritmo prende o influenza una decisione che riguarda una persona, deve essere possibile sapere: chi è responsabile della decisione; su quali criteri è stata presa; come è stato usato l’algoritmo; come contestarla se produce un danno o un’ingiustizia; chi deve rimediare all’errore.
Non basterà quindi dire: “lo ha deciso il sistema”. L’accountability impedisce che il potere si nasconda dietro la macchina.
Personalmente trovo straordinariamente illuminante e condivisibile questo concetto che potremmo tradurre come responsabilità trasparente e verificabile oppure dovere di rendere conto delle decisioni prese.
Considerare l’IA come uno strumento creato dall’uomo, o da un gruppo di tecnici, identificato e riconoscibile, e non da un misterioso “sistema” che sembra essere espressione di una metafisica virtualità, ci aiuta a valutare con calibrata oggettività che tutto ciò che riguarda l’intelligenza artificiale è solo ed esclusivamente opera dell’uomo.
L’uomo è responsabile dei vantaggi e dei danni che tale strumento potrà comportare nel palcoscenico della vita quotidiana. Riconoscere che tali vantaggi o danni possano e debbano avere un nome e cognome… non è certo cosa da poco.
La vera tutela della persona nell’era digitale non consiste più soltanto nel garantire un consenso formale, ma nell’assicurare conoscibilità, trasparenza e contestabilità delle decisioni che la riguardano.
Le nuove tecnologie, pur offrendo opportunità straordinarie, possono generare forme di sorveglianza invasiva, dequalificazione professionale e precarizzazione. La delicatezza di questo punto risulta sostanziale, per questo ogni innovazione dovrebbe essere accompagnata da misure verificabili di tutela occupazionale, formazione e partecipazione dei lavoratori.
La parte forse più forte dell’enciclica riguarda l’impiego militare dell’intelligenza artificiale.
Leone XIV esprime una netta opposizione all’idea che sistemi autonomi possano prendere decisioni di vita o di morte.
Nessuna macchina deve essere autorizzata a decidere autonomamente chi colpire o eliminare. La responsabilità morale deve restare sempre in capo all’essere umano.
Il Papa parla della necessità di “disarmare l’intelligenza artificiale”, non nel senso di arrestarne lo sviluppo, ma di impedirne la trasformazione in uno strumento di dominio e distruzione. L’enciclica invita la comunità internazionale a costruire accordi globali capaci di limitare la corsa agli armamenti digitali e alle armi autonome.
L’enciclica utilizza due immagini bibliche particolarmente suggestive: Babele e Gerusalemme.
Babele rappresenta il rischio di una tecnologia che unifica superficialmente gli uomini ma li priva della loro autentica umanità, concentrando il potere e generando nuove forme di dominio. Gerusalemme, invece, simboleggia una comunità fondata sulla cooperazione, sulla solidarietà e sul riconoscimento della dignità di ogni persona.
La scelta tra questi due modelli costituisce, secondo Leone XIV, una delle grandi sfide del XXI secolo.
Mi sento di affermare che questi due modelli riprendano i concetti di competizione e di collaborazione che il già citato Federico Faggin propone in “Irriducibile”, quando specifica che se non si passerà dalla competizione alla collaborazione probabilmente si definirà un processo di autodistruzione del genere umano.
Come già la Rerum Novarum, Magnifica Humanitas non è rivolta soltanto ai cattolici ma a «tutte le persone di buona volontà». Il Papa considera la questione dell’intelligenza artificiale una sfida che riguarda l’intera famiglia umana.
Il messaggio conclusivo è tuttavia carico di speranza. La tecnologia non viene demonizzata. Essa può contribuire al progresso dell’umanità se rimane subordinata alla persona, alla giustizia e alla pace. Il vero criterio di valutazione del progresso non è ciò che le macchine possono fare, ma ciò che l’uomo può diventare.
L’enciclica deve essere letta come il tentativo di offrire una bussola etica per l’età dell’intelligenza artificiale. Leone XIV invita a non lasciarsi guidare né dall’entusiasmo acritico né dalla paura, ma da una visione della persona umana come valore assoluto. Il futuro non dipenderà dalla potenza degli algoritmi, ma dalla capacità degli uomini di costruire una civiltà fondata sulla dignità, sulla solidarietà e sulla responsabilità morale.
E, aggiungerei, …fondata soprattutto sull’Amore.
Civico20News
Giancarlo Guerreri
Editorialista
Caro Giancarlo, magnifiche considerazioni!
Personalmente mi resterebbe da chiarire se la tanto agognata e attualmente inesistente neutralità morale dell’intelligenza artificiale possa essere raggiunta attraverso la critica di un’istituzione altrettanto poco neutrale come la Chiesa cattolica, che In diverse occasioni, nel corso dei secoli, mi è sembrata proporsi più come autorità politica che non come faro di moralità, discostandosi plurime volte dal pensiero e dalla filosofia cristici. Ma naturalmente è giusto tentare, anche da parte della Chiesa, di dire qualcosa per arginare l’abominio morale che plausibilmente l’intelligenza artificiale potrebbe mettere in campo e che forse sta già iniziando a dilagare.
Carissimo Andrea, le tue sono considerazioni assolutamente legittime… visto quante nefandezze sono state realizzate in passato dalla Chiesa di Roma. Mi auguro che l’agognato cambio di paradigma e la critica alla IA da parte del Papa possano essere dei campanelli d’allarme in grado di riaccendere le coscienze di alcune persone…
L’intelligenza artificiale, nel suo nucleo più profondo, non è un’entità aliena o separata da noi, ma è a tutti gli effetti un frutto dell’intelligenza umana, il riflesso dei nostri dati, dei nostri algoritmi e della nostra capacità di calcolo. Proprio per questo, se viene utilizzata come uno strumento per ampliare l’umanità, espandendo le nostre capacità, curando malattie e superando limiti storici, allora diventa una forza straordinariamente positiva al servizio del bene comune. Se però questa tecnologia viene lasciata correre da sola, priva di quella coscienza e di quell’etica di cui parla anche l’articolo, il rischio diventa drammatico e può essere paragonato a quello delle armi, nate originariamente per scopi di sopravvivenza come cacciare per nutrirsi e difendersi dai pericoli, ma poi tragicamente usate per offendere, dominare e distruggere una parte dell’umanità. L’AI corre lo stesso identico rischio, poiché uno strumento così potente, senza una bussola morale condivisa, può trasformarsi da motore di progresso a mezzo di divisione e danneggiamento sociale, un nodo centrale che ci riporta inevitabilmente alla domanda: l’AI è stata inventata da umani?
Bellissima domanda… forse il tempo ci fornirà qualche risposta 👽
Federico Faggin sostiene che l’intelligenza artificiale non è dotata di vera intelligenza (quindi non è intelligente) o coscienza, sostiene inoltre che l’IA sia solo un potente strumento di calcolo basato sulle statistiche, incapace di provare emozioni, comprendere il significato di ciò che elabora o raggiungere la consapevolezza umana.
Credo che noi tutti, inclusi i “sapienti”, dovremmo partire da questa semplice e incontestabile verità.
Assolutamente vero! Faggin è un sostenitore della assoluta mancanza di coscienza presente e futura di qualsiasi strumento derivato dalla IA…
Ciò di cui mi preoccupo sull’IA, è la Manipolazione Digitale a portata di molti conoscitori dell’informatica e dei vari truffatori. Esempi? Clonazione di voce e volti, generazione di contenuti falsi, anche a scopo giornalistico, che a sua volta sovrappongono piani reali e fantasioni sulla stessa lunghezza d’onda. L’ IA infonde molte illusioni, distorcendo la vera realtà. Poi ancora, non esistono norme legislative vere e proprie che possano bloccare narrazioni fake; non è ancora chiaro il Rispetto della Privacy, la raccolta dei Dati Sensibili, e sulla lesione dei diritti umani, non si è ancora stabilito in base a quale criterio, la macchina agevola o esclude per es. un candidato ammesso ad un concorso o posto di lavoro. Non dimentichiamo che sugli scenari moderni, i droni, macchine robotiche guidate dall’uomo, possono essere impiegati per scopi bellici, lo facciamo già, e se la macchina diventasse senziente e autonoma nell’intraprendere iniziative volontarie? Se si guastasse improvvisamente? Non tralasciamo il consolidato accentramento di potere nelle mani di pochi gestori . Non credo sia fantascienza. Abbiamo fatto passi da giganti: supporti nella chirurgia assistita, problem solving nei guasti delle infrastrutture, contributi nel disinnescare bombe, sveltire burocrazia nei tribunali, identificazione biometrica per contenere spazi contingentati al pubblico. Dimenticavo, con l’APP immuni, qualcosa abbiamo sperimentato.
Il prossimo step: Riconoscimento facciale sui luoghi di lavoro e Microchip sottopelle. Un capolavoro cinematografico in programmazione?
Non credo proprio…..
Lo scenario che proponi per il futuro è sicuramente inquietante… ma per questo non necessariamente esagerato. Purtroppo l’uomo ha dimostrato nel tempo di avere una coscienza primitiva e non curante dei danni provocati dal proprio egoismo… quindi abbassare le armi sperando che ora sia cambiato qualcosa sarebbe da autentici incoscienti…