di Francesco Branda, Unità di Statistica Medica ed Epidemiologia Molecolare, Università
Campus Bio-Medico di Roma
Per lungo tempo il dibattito sull’intelligenza artificiale si è polarizzato tra due narrazioni opposte: da un lato l’entusiasmo tecnocentrico che celebra l’avvento di macchine sempre più potenti e promette il superamento dei limiti umani; dall’altro l’allarme antropologico che vede nell’IA una minaccia esistenziale, una forza inarrestabile destinata a sostituire il lavoro, la creatività e infine la coscienza stessa. Entrambe le prospettive, per quanto comprensibili, condividono un medesimo errore di fondo: considerare la tecnologia come un destino ineluttabile, un processo autonomo davanti al quale gli esseri umani possono soltanto subire o adattarsi.
Con l’Enciclica Magnifica Humanitas, Papa Leone XIV ha offerto all’opinione pubblica un quadro di discernimento che rompe questa sterile alternativa. Lungi dall’essere un intervento meramente dottrinale o un richiamo generico all’etica, il documento consegna a responsabili politici, ricercatori, imprenditori e cittadini una mappa concettuale per orientarsi in quella che potremmo chiamare, riprendendo una categoria della filosofia politica contemporanea, l’encefalopolitica: il governo delle architetture cognitive collettive, cioè dei sistemi artificiali che sempre più strutturano il modo in cui le società del futuro penseranno, conosceranno e prenderanno decisioni.
1. Il paradigma tecnocratico come struttura della disumanizzazione
Uno dei nodi più lucidamente affrontati dall’Enciclica Magnifica Humanitas è la diagnosi del “paradigma tecnocratico” (nn. 92-95), già tematizzato da Papa Francesco in Laudato si’ ma qui ripensato alla luce dell’accelerazione impressa dall’IA. Leone XIV descrive un processo per cui la logica dell’efficienza, del controllo e del profitto diviene criterio esclusivo delle scelte personali e sociali, riducendo la creazione a oggetto di sfruttamento e le persone a ingranaggi di un sistema da rendere sempre più performante. “Più potente, scrive il Papa, non significa necessariamente migliore” (n. 93), richiamando le parole profetiche di Romano Guardini: “L’uomo moderno non è stato educato al retto uso della potenza”.
Questa diagnosi non è un generico richiamo moraleggiante, ma una descrizione puntuale di un meccanismo che oggi possiamo osservare all’opera nei principali ecosistemi digitali. Prendiamo i sistemi di raccomandazione dei social network. A livello ingegneristico, essi operano attraverso pipeline complesse che combinano modelli di collaborative filtering, reti neurali e aggiornamenti in tempo reale basati su segnali comportamentali (click, like, tempo di visualizzazione, scroll). La funzione obiettivo che questi sistemi ottimizzano non è il benessere dell’utente né la qualità delle informazioni, ma metriche di engagement come il click-through rate o il watch time. In termini formali, il sistema risolve un problema di massimizzazione di una funzione di ricompensa definita esclusivamente in termini di ritenzione dell’attenzione. Il risultato è che il feed non è una semplice sequenza cronologica, ma una costruzione dinamica in cui ciò che appare “interessante” è il prodotto di un’ottimizzazione matematica su larga scala.
L’Enciclica descrive esattamente questo processo quando afferma che il paradigma tecnocratico “finisce per stabilire che cosa conta e che cosa può essere scartato” (n. 92). Nel caso dei social network, ciò che conta è ciò che genera engagement, a prescindere dalla sua veridicità, dalla sua rilevanza per la vita delle persone o dal suo impatto sulla salute mentale degli utenti più vulnerabili. Ciò che viene scartato, o reso sistematicamente invisibile, è tutto ciò che non massimizza l’attenzione: informazioni complesse, narrazioni sfumate, contenuti che richiedono tempo per essere compresi. Lo stesso meccanismo opera nei motori di ricerca. Algoritmi di ranking come PageRank e i suoi successori basati su reti neurali ordinano i risultati sulla base di centinaia di feature: segnali comportamentali, contesto geografico, cronologia utente, modelli semantici. Anche in questo caso, la funzione obiettivo è definita in termini di rilevanza predittiva, ciò che l’utente probabilmente cliccherà, non in termini di verità o di pluralismo informativo. Ne consegue che i risultati di ricerca non riflettono una gerarchia oggettiva di rilevanza epistemica, ma una gerarchia costruita a partire da dati storici, scelte di design e obiettivi di business. L’Enciclica coglie con precisione questa dinamica quando afferma che “ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni” (n. 104). La filosofia della tecnologia ha da tempo mostrato che la tecnica non è mai un semplice mezzo neutro. Martin Heidegger, in La questione della tecnica, osservava che la tecnologia moderna non è un insieme di strumenti, ma un modo di “disvelare” il mondo, una cornice , il Gestell, che riduce ogni ente a “fondo disponibile” (Bestand), cioè a risorsa da ottimizzare e sfruttare. Michel Foucault, dal canto suo, ha mostrato come i dispositivi di sapere e potere strutturino i campi del dicibile e del pensabile, stabilendo ciò che può essere detto, da chi, e con quale autorità.
L’IA contemporanea può essere letta come un dispositivo epistemico di nuova generazione: non solo produce risposte, ma contribuisce a definire le domande stesse che riteniamo rilevanti, agendo come una sorta di “a priori tecnico” che precede e condiziona la cognizione umana. Quando tale visione è governata unicamente da attori privati che perseguono la massimizzazione dell’attenzione e del profitto, essa diventa, nelle parole dell’Enciclica, una “nuova torre di Babele” (n. 7): un’opera imponente che pretende di raggiungere il cielo senza Dio, finendo per confondere i linguaggi e disperdere l’umanità. Il paragone con Babele non è solo retorico.
Nel racconto della Genesi, gli esseri umani costruiscono una città e una torre “la cui cima tocchi il cielo” (Gen 11,4) per “farsi un nome” ed evitare di essere dispersi sulla terra. L’impresa è caratterizzata da un’unica lingua, un’unica tecnologia, un’unica direzione. Ma il progetto nasconde un’insidia profonda: è un’opera concepita senza riferimento a Dio, sostenuta da un’uniformità che elimina la diversità e che, invece della comunione, sceglie l’omologazione. Il risultato non è l’unità, ma la dispersione: le lingue si confondono, gli esseri umani non si comprendono più. Oggi, l’uniformità non è imposta da un dittatore, ma emerge silenziosamente dall’architettura dei sistemi di raccomandazione che mostrano a tutti contenuti simili, dagli algoritmi di ranking che privilegiano le stesse fonti, dai grandi modelli linguistici addestrati su corpora che riflettono prevalentemente la cultura occidentale e anglofona. Il risultato è una forma di omogeneizzazione epistemica: non più la diversità delle culture e dei punti di vista, ma una convergenza verso ciò che l’algoritmo ha giudicato rilevante. L’Enciclica avverte che questa è la strada della disumanizzazione: “costruire il futuro escludendo Dio e riducendo l’altro a mezzo” (n. 10).
Il punto decisivo, sottolineato più volte da Leone XIV, è che l’IA non è moralmente neutra (n. 104). Questa affermazione si oppone a una concezione ancora diffusa, secondo cui la tecnologia sarebbe uno strumento neutro che può essere usato bene o male a seconda delle intenzioni di chi lo utilizza. L’Enciclica rovescia questa tesi: ogni artefatto tecnico incorpora già scelte e priorità. Esso misura certe variabili e ne ignora altre; ottimizza determinati obiettivi (ad esempio il profitto o l’efficienza) e ne trascura altri; classifica persone e situazioni secondo criteri che non sono oggettivi o naturali, ma frutto di decisioni umane (di chi progetta, addestra e utilizza il sistema). Per comprendere questa tesi in concreto, consideriamo un sistema di IA utilizzato per la selezione del personale. Un algoritmo di questo tipo viene addestrato su dati storici relativi a assunzioni passate. Se quei dati riflettono pregiudizi di genere o razziali, perché in passato sono state assunte più persone di un certo sesso o di una certa origine etnica, l’algoritmo apprenderà e riprodurrà quei pregiudizi. Non perché sia “malvagio”, ma perché la sua funzione obiettivo è ottimizzare la probabilità di successo predittivo a partire dai dati disponibili. Il sistema non “sa” che sta discriminando; semplicemente, la discriminazione è incorporata nella struttura stessa dei dati e dell’architettura di ottimizzazione. L’Enciclica va oltre: non si tratta solo di pregiudizi statistici, ma di una vera e propria violazione della dignità. “Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento ‘da usare bene’, scrive Leone XIV, introduce già un criterio che contraddice la dignità inalienabile della persona” (n. 104). Il riferimento alla “possibilità di appello” è cruciale. Nella tradizione giuridica occidentale, il diritto di ricorso, di contestare una decisione davanti a un’autorità superiore, è un presidio fondamentale contro l’arbitrio. Quando una decisione viene presa da un algoritmo opaco, senza che sia possibile conoscerne le ragioni, senza che sia possibile chiedere a un umano di riesaminarla, quel diritto viene di fatto abolito. L’Enciclica denuncia questa deriva come intrinsecamente disumana, perché riduce la persona a un profilo, a un punteggio, a un dato da elaborare.
Da questa analisi deriva una conseguenza metodologica importante: “Il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano” (n. 104). In altre parole, non basta chiedersi “sto usando bene questo strumento?”. Bisogna chiedersi: “Quale concezione dell’essere umano è già incorporata nelle scelte progettuali che hanno dato origine a questo sistema? Quali valori sono stati inscritti, consapevolmente o meno, nelle sue metriche di ottimizzazione, nei suoi dati di addestramento, nella sua architettura?”. Questa domanda sposta l’attenzione dall’etica dell’uso all’etica del design: la progettazione dei sistemi di IA deve essere guidata, fin dall’inizio, da criteri di giustizia sociale, trasparenza, responsabilità e rispetto della dignità umana. Non si tratta di un’opzione tra molte, ma di un imperativo categorico per chiunque voglia che la tecnologia resti al servizio dell’umano e non diventi, come ammonisce l’Enciclica, una nuova forma di Babele.
2. La dignità come principio progettuale
Contro la deriva del paradigma tecnocratico, l’Enciclica Magnifica Humanitas non oppone un rifiuto della tecnica, non si tratta di un nostalgico appello a un mondo senza macchine, ma un radicale riorientamento dei suoi fini. Al centro di questo riorientamento sta il principio della dignità inalienabile di ogni persona umana. Leone XIV dedica al tema della dignità un’intera sezione dei fondamenti della Dottrina sociale (nn. 48-53), chiarendo che essa non dipende dalle capacità che la persona possiede, dalle ricchezze o dal ruolo che ricopre, dalle scelte giuste o sbagliate che compie. La dignità è un dono che precede e eccede ogni performance: “nessun peccato, nessun fallimento, nessuna umiliazione, nessuna esclusione può intaccare il valore profondo di una vita umana che Dio ha voluto e chiamato all’essere” (n. 52). Questa affermazione, che affonda le sue radici nella teologia dell’immagine di Dio (cfr Gen 1,26-27), ha conseguenze radicali per il modo in cui pensiamo e progettiamo i sistemi di intelligenza artificiale.
Nella cultura digitale contemporanea, infatti, la logica dominante tende a valutare le persone in base alla loro “performatività”: punteggi di credito, metriche di produttività, classifiche di engagement, profili comportamentali. L’Enciclica denuncia esplicitamente questa deriva: “Tra queste ideologie ritengo particolarmente insidiosa quella che lascia intendere che ogni persona debba guadagnarsi o giustificare il proprio valore, al punto da attribuire maggior pregio a coloro che sono più efficienti e performanti. In una simile prospettiva, la persona finisce per essere ridotta a mezzo per ottenere risultati, a risorsa da usare e sfruttare, e non viene più riconosciuta come fine in sé, mai strumentalizzabile” (n. 51). Questa descrizione calza perfettamente con il funzionamento di molti sistemi di IA oggi in uso. Consideriamo i cosiddetti credit scoring systems, utilizzati da istituzioni finanziarie e talvolta anche da piattaforme di e-commerce o servizi di sharing economy. Questi sistemi elaborano grandi quantità di dati, cronologia dei pagamenti, abitudini di consumo, posizione geografica, persino i contatti sociali dell’utente, per produrre un punteggio che sintetizza l'”affidabilità” percepita della persona. Chi ha un punteggio basso può essere escluso dall’accesso a un mutuo, a un contratto di affitto, a un servizio di mobilità, talvolta senza nemmeno conoscere il motivo del rifiuto. Dal punto di vista ingegneristico, questi sistemi ottimizzano una funzione obiettivo definita in termini di minimizzazione del rischio di insolvenza per il prestatore di servizi. Non c’è alcuna variabile nella funzione che rappresenti la dignità della persona, il suo diritto a non essere ridotta a un profilo statistico, la possibilità di essere ascoltata e di contestare una decisione.
L’Enciclica afferma che una simile prospettiva è insidiosa proprio perché si presenta come “oggettiva” e “neutrale”, mentre in realtà incorpora una precisa scelta antropologica: la persona vale nella misura in cui è performante. Da questo principio generale della dignità, l’Enciclica fa discendere criteri operativi che possono, e devono, diventare parametri di progettazione dei sistemi di IA. Il primo è il bene comune (nn. 59-64). Il Concilio Vaticano II lo definiva come “l’insieme di quelle condizioni della vita sociale che permettono tanto ai gruppi quanto ai singoli membri di raggiungere la propria perfezione più pienamente e più speditamente” (Gaudium et spes, 26). Leone XIV precisa che il bene comune non coincide con la somma dei vantaggi individuali né con l’incrocio dei loro interessi particolari: “è un bene più grande, che appartiene a tutti, e che solo insieme si può costruire, accrescere e custodire” (n. 60). Tradotto nel linguaggio dell’ingegneria dei sistemi, ciò significa che le metriche di ottimizzazione non possono ridursi a indicatori di profitto o di engagement. Devono includere, come proposto da alcuni filoni di ricerca nell’ambito del value-sensitive design e dell’algorithmic fairness, indicatori di inclusione (quanti utenti vengono esclusi o penalizzati?), di pluralismo informativo (quanta diversità di prospettive viene rappresentata?), di tutela dei più fragili (i minori, gli anziani, le persone con disabilità sono protetti o esposti a rischi?), di sostenibilità cognitiva (il sistema favorisce la riflessione o l’impulsività?) e ambientale (quanta energia e quante risorse naturali consuma?). Non si tratta di aggiunte accessorie, ma di ridefinire ciò che il sistema considera un “risultato ottimale”.
Il secondo criterio è la destinazione universale dei beni (nn. 65-67). L’Enciclica ricorda che “Dio ha dato la terra a tutto il genere umano, perché essa sostenti tutti i suoi membri, senza escludere né privilegiare nessuno” (citando San Giovanni Paolo II, n. 65). E aggiunge un elemento di grande attualità: “Oggi, tra i beni che sono universalmente destinati a tutti, dobbiamo annoverare anche le nuove forme di proprietà: brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati” (n. 67). Questa estensione è decisiva. I dati non sono un fenomeno naturale: vengono prodotti dalle attività umane, ogni click, ogni ricerca, ogni transazione, ogni interazione sociale genera dati. Eppure, nella configurazione attuale dell’economia digitale, questi dati vengono estratti, aggregati e monetizzati da pochi attori privati, che li trasformano in vettori di potere epistemico ed economico. L’Enciclica denuncia che “quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi, tra chi può partecipare alla rivoluzione digitale e chi ne rimane ai margini” (n. 67). Ciò implica sostenere modelli di data governance alternativi a quelli proprietari: dati come beni comuni, infrastrutture aperte e verificabili, forme di proprietà collettiva o cooperativa, sistemi di data trust che restituiscano agli utenti il controllo sulle proprie informazioni. Non si tratta di un’utopia: esistono già sperimentazioni in questa direzione, come le data cooperatives nel settore sanitario o le piattaforme di open data per la ricerca scientifica.
Il terzo criterio è la sussidiarietà (nn. 68-72). Questo principio, formulato in modo sistematico da Pio XI nella Quadragesimo anno, afferma che “ciò che possono fare persone, famiglie, comunità locali e corpi intermedi non deve essere assorbito da istanze superiori”. Leone XIV osserva che nell’era digitale la sussidiarietà assume una declinazione inedita: il livello superiore non è più solo lo Stato, ma ogni grande attore economico e tecnologico che esercita un potere di fatto sulle condizioni della vita comune. Piattaforme come Google, Meta, Amazon, Microsoft e le società cinesi come Tencent e Alibaba non sono semplici fornitori di servizi: esse stabiliscono le condizioni di accesso alle informazioni, le regole della visibilità, le possibilità di relazione, le opportunità economiche. In molti casi, il loro potere di regolazione di fatto supera quello degli Stati nazionali. L’Enciclica chiede che “tali processi non si impongano dall’alto in modo opaco e unilaterale, ma siano orientati al bene comune mediante trasparenza, responsabilità e forme reali di partecipazione” (n. 71). E specifica: “verifiche indipendenti, trasparenza sugli algoritmi, accesso equo ai dati, strumenti di ricorso” (ibid.). Si tratta di una chiamata alla accountability algoritmica e alla democrazia tecnica. Nell’ingegneria dei sistemi, ciò si traduce in requisiti concreti: i modelli devono essere documentati in schede trasparenti (schede modello, schede dati) che ne descrivano le modalità di addestramento, i dati utilizzati, i limiti noti; le decisioni automatizzate devono essere accompagnate da spiegazioni accessibili all’utente (diritto alla spiegazione, sancito dall’articolo 22 del GDPR e rafforzato dall’EU AI Act); devono essere previsti meccanismi di ricorso umano effettivi, non solo nominali; gli audit indipendenti devono essere possibili, anche da parte di terze parti non allineate con gli interessi dell’azienda che sviluppa il sistema.
A questi tre criteri l’Enciclica aggiunge solidarietà e giustizia sociale (nn. 73-81). La solidarietà, spiega Leone XIV, non è un generico sentimento di vicinanza, ma “il riconoscimento concreto che il destino di ciascuno è legato al destino di tutti: davvero ‘nessuno si salva da solo'” (n. 73). Nel contesto dell’IA, ciò significa prendere sul serio le esternalità negative della produzione digitale. La letteratura recente ha documentato, ad esempio, le condizioni di lavoro dei data labelers, i lavoratori che annotano manualmente i dati per addestrare i modelli di machine learning. Si tratta per lo più di giovani, spesso donne, impiegati in paesi del Sud globale (Kenya, India, Filippine), che lavorano per pochi dollari all’ora, esposti a contenuti traumatici (violenza, pornografia, immagini di morte) senza adeguato supporto psicologico. L’Enciclica parla esplicitamente di “lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici” (n. 109) e denuncia che “una parte significativa del funzionamento dell’economia digitale si regge sul lavoro silenzioso di milioni di esseri umani” (n. 173).
Allo stesso modo, l’Enciclica denuncia il nuovo colonialismo dei dati: “Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove ‘terre rare’ del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta” (n. 178). La giustizia sociale, nell’era dell’IA, richiede dunque di “impedire la nascita di nuove forme di esclusione e privazione di libertà: persone e popoli a cui è negato o ostacolato l’accesso alle tecnologie di base, comunità esposte a sorveglianza invasiva, gruppi sociali penalizzati da algoritmi opachi che riproducono pregiudizi e discriminazioni” (n. 80). In sintesi, la dignità come principio progettuale significa che nessun sistema di IA può essere considerato eticamente accettabile se tratta le persone come mezzi e non come fini, se le esclude senza possibilità di appello, se le riduce a profili senza ascoltarne la voce, se le sfrutta senza riconoscerne il lavoro.
Non si tratta di un ideale astratto, ma di un insieme di vincoli progettuali concreti: trasparenza, spiegabilità, ricorsabilità, equità, inclusione, sostenibilità. L’Enciclica Magnifica Humanitas offre a tutti i progettisti di IA una bussola: la tecnologia è al servizio dell’umano solo quando, in ogni fase del suo ciclo di vita, dalla raccolta dei dati alla definizione delle metriche, dall’addestramento del modello al suo dispiegamento, la dignità della persona è il criterio non negoziabile che orienta ogni scelta.
3. La normalizzazione della guerra e l’IA come moltiplicatore di disumanità
Il quinto capitolo dell’Enciclica Magnifica Humanitas (nn. 182-228) rappresenta forse il contributo più originale e audace del documento. Mentre gran parte del dibattito etico sull’IA si è concentrato sugli impatti sul lavoro, sulla privacy e sulla disinformazione, Leone XIV sposta l’attenzione su un ambito in cui la posta in gioco è letteralmente la vita e la morte: la guerra.
La tesi di fondo è che l’IA non sia semplicemente un nuovo strumento bellico tra tanti, ma un fattore che modifica la grammatica stessa del conflitto, abbassando la soglia morale del ricorso alla forza e rendendo opaca la responsabilità delle decisioni letali. Leone XIV osserva con preoccupazione un “vero cambio di paradigma nel discorso pubblico e nelle scelte di riarmo” (n. 190). Ciò che un tempo era considerato un ricorso eccezionale, circondato da limiti etici e giuridici rigorosi, la guerra come ultima ratio, dopo aver esaurito tutte le vie pacifiche, oggi viene sempre più presentato come uno strumento ordinario di politica internazionale. L’Enciclica individua tre fattori che alimentano questa deriva.
Il primo è la perdita di memoria storica (n. 191): l’attenuarsi della testimonianza diretta della Shoah e delle due guerre mondiali, conseguenza naturale del passare del tempo ma anche di una narrazione mediatica che spettacolarizza la violenza senza trasmetterne l’orrore, rende più facile riscrivere il passato e dimenticare le lezioni apprese. “Senza una memoria viva degli orrori della guerra, le decisioni politiche rischiano di essere prese sulla base di calcoli di forza, privi di una visione delle conseguenze a lungo termine”. Il secondo è la dimensione mediatica e digitale (n. 192): le reti di comunicazione, gli ambienti informativi frammentati e gli algoritmi che premiano lo scontro amplificano polarizzazione e risentimento. “Così la guerra viene non solo combattuta, ma anche preparata culturalmente attraverso narrazioni semplificanti, logiche amico-nemico, disinformazione e paura”. Il terzo è la riabilitazione della guerra come strumento politico (n. 190): conflitti regionali che si trascinano nel tempo, escalation di tensioni, minacce incrociate, riemergere di forme di conflitto per espansione territoriale che si credevano superate.
È in questo contesto che l’IA diventa un fattore critico: non perché introduca una nuova forma di violenza, ma perché accelera e normalizza quelle esistenti, rendendo la guerra più “praticabile” e meno soggetta al controllo umano. L’Enciclica affronta il tema delle armi autonome con chiarezza e rigore. “Si parla talvolta di ‘agenti morali artificiali’, scrive Leone XIV, come se una macchina potesse garantire, con maggiore coerenza di un essere umano, la distinzione tra bene e male. Ma il giudizio morale non è riducibile a un calcolo: esso implica coscienza, responsabilità personale e riconoscimento dell’altro come persona” (n. 198). Questa affermazione si oppone direttamente a una corrente di pensiero, diffusa in alcuni ambienti della filosofia della tecnologia e della robotica militare, secondo cui i sistemi autonomi potrebbero in linea di principio superare gli esseri umani nella capacità di rispettare il diritto internazionale umanitario, per esempio distinguendo più accuratamente tra combattenti e civili.
L’Enciclica non nega che l’IA possa essere più precisa di un essere umano in determinate attività di classificazione, ad esempio nell’identificazione di uniformi o equipaggiamenti, ma osserva che la precisione tecnica non è sufficiente a costituire un giudizio morale. Il giudizio morale implica la coscienza, cioè la capacità di rendersi conto del significato etico delle proprie azioni; implica la responsabilità personale, cioè la possibilità di essere chiamati a rispondere delle proprie scelte; implica il riconoscimento dell’altro come persona, cioè come un fine e non come un semplice ostacolo da neutralizzare. Nessun sistema di IA possiede, né probabilmente possederà in un futuro prevedibile, queste capacità. Il punto decisivo è che l’IA non sottrae il conflitto alla sua intrinseca disumanità: può soltanto renderlo più rapido e impersonale. E proprio questa rapidità e impersonalità costituiscono il pericolo principale. Quando la decisione di colpire viene delegata a un algoritmo che ottimizza la probabilità di successo in frazioni di secondo, la tradizionale extrema ratio della guerra viene sostituita da una logica di previsione operativa, in cui si colpisce non perché necessario, ma perché possibile ed efficiente. “L’IA, scrive il Papa, può potenziare la difesa e la protezione dei civili, ma può anche abbassare la soglia dell’uso della forza, rendere opache le responsabilità, alimentare una cultura in cui il nemico è ridotto a dato e la vittima a ‘danno collaterale'” (n. 183). Il riferimento ai “sistemi d’arma autonomi” e ai “drone swarm” (sciami di droni) è esplicito. Dal punto di vista ingegneristico, un drone swarm è un sistema multi-agente in cui decine o centinaia di unità operano in coordinamento, spesso con un controllo distribuito e con capacità di adattamento in tempo reale basate su algoritmi di reinforcement learning. La logica operativa di questi sistemi è intrinsecamente accelerante: l’elaborazione dei sensori, la fusione dei dati, l’identificazione dei bersagli, la pianificazione delle traiettorie e l’esecuzione dell’attacco avvengono in cicli di decisione dell’ordine dei millisecondi, troppo rapidi perché un operatore umano possa intervenire in tempo reale. Il “controllo umano significativo” (meaningful human control) diventa così nominale: l’umano autorizza l’operazione, ma la singola decisione letale è presa dalla macchina.
L’Enciclica propone tre criteri di discernimento per l’uso bellico dell’IA (n. 199). Il primo è la responsabilità personale: la catena delle responsabilità deve restare identificabile e verificabile; chi progetta, chi addestra, chi autorizza, chi impiega deve poter rendere conto delle proprie scelte; nessuna decisione letale può dissolversi “nella macchina”. Questo criterio è particolarmente impegnativo nel caso dei sistemi di apprendimento automatico, dove il comportamento emergente del modello non è sempre riconducibile a una specifica scelta progettuale. L’opacità degli attuali modelli di deep learning, il cosiddetto problema della black box, rende difficile, se non impossibile, risalire dalla singola decisione a una responsabilità umana determinata. L’Enciclica chiede che questa opacità venga rimossa, o quantomeno ridotta, attraverso tecniche di explainable AI (XAI) e attraverso la progettazione di architetture che preservino la tracciabilità. Il secondo criterio è il tempo del giudizio morale: l’IA tende a comprimere i tempi decisionali, ma in guerra le decisioni irreversibili non possono avere come criteri supremi rapidità ed efficienza; la riflessione etica richiede tempo, e quel tempo non può essere sacrificato all’ottimizzazione tecnica. Qui l’Enciclica tocca un punto nodale della filosofia della tecnica: la velocità non è mai neutrale. Come ha osservato Paul Virilio, la tecnologia bellica è essenzialmente una “tecnologia della velocità”, e l’accelerazione dei processi decisionali riduce progressivamente lo spazio per la deliberazione etica, fino a renderlo evanescente. L’IA, in questo senso, è il compimento di una tendenza iniziata con il telegrafo, proseguita con il radar e i computer balistici, e ora giunta alla piena automazione del ciclo sense-decide-act. Il terzo criterio è la distinzione e la protezione dei civili: ogni tecnologia che rende più facile colpire senza vedere il volto dell’altro abbassa la soglia morale del conflitto; la selezione dei bersagli non può confondere combattenti e non combattenti, né ignorare l’impatto sulle popolazioni indifese. Anche in questo caso, l’ingegneria dei sistemi mostra che la distinzione tra combattenti e civili è intrinsecamente complessa in contesti di guerra asimmetrica e ibrida, dove i combattenti possono non indossare uniformi, dove le infrastrutture civili possono essere usate per scopi militari, dove la stessa nozione di “campo di battaglia” diventa fluida.
Un algoritmo addestrato su dati storici, che riflettono a loro volta le scelte e i pregiudizi di chi ha etichettato i dati, può riprodurre e amplificare errori sistematici, con conseguenze letali per popolazioni civili. A questi criteri l’Enciclica aggiunge un’esigenza istituzionale: “Per ogni sistema impiegato in ambito bellico devono essere garantite tracciabilità e possibilità di ricostruire le decisioni” (n. 200). Inoltre, “la scelta di impiegare la forza letale non può essere delegata a processi opachi o automatizzati, ma deve restare sotto un controllo umano effettivo, consapevole e responsabile”. È la negazione esplicita di qualsiasi forma di meaningful human control che sia solo nominale o a posteriori. Il principio etico che l’Enciclica oppone a questa deriva è netto e non ammette eccezioni: “Non esiste algoritmo che possa rendere la guerra moralmente accettabile” (n. 198). L’analisi dell’Enciclica non si limita tuttavia ai sistemi d’arma autonomi, cioè droni, swarm, algoritmi di targeting , ma si allarga a forme più sottili ma non meno devastanti di conflitto, che chiama “guerra ibrida” (n. 183). Vi rientrano gli attacchi cibernetici a infrastrutture civili (reti energetiche, ospedali, sistemi di trasporto, reti idriche), che possono causare vittime e sofferenze paragonabili a quelle di un bombardamento tradizionale, ma con l’aggravante dell’attribuzione incerta e della difficoltà di applicare il diritto umanitario. Il diritto internazionale umanitario, concepito per i conflitti armati convenzionali, fatica ad applicarsi a un attacco informatico che non uccide direttamente ma paralizza un ospedale impedendo interventi salvavita, o che contamina l’acqua potabile manipolando i sistemi di trattamento. L’Enciclica denuncia questa zona grigia normativa come inaccettabile. Vi rientra anche la manipolazione dell’informazione su larga scala, resa più efficace dall’uso di deepfake, chatbot propagandistici e algoritmi di amplificazione selettiva. I deepfake, cioè video e audio generati artificialmente che raffigurano persone mentre dicono o fanno cose mai accadute, possono essere utilizzati per screditare leader politici, diffondere false dichiarazioni di resa o di atrocità, seminare confusione e sfiducia. In un contesto di guerra, la disinformazione non è solo un’arma psicologica accessoria: può determinare l’esito del conflitto, influenzando l’opinione pubblica, la coesione sociale, la legittimità dei governi.
L’obiettivo non è solo influenzare l’opinione pubblica, ma destabilizzare interi Paesi dall’interno, erodendo la fiducia nelle istituzioni e nei media fino a rendere impossibile qualsiasi deliberazione collettiva informata. Vi rientrano infine le campagne di influenza orchestrata con l’aiuto dell’IA, che profilano le vulnerabilità psicologiche di intere popolazioni per diffondere narrazioni polarizzanti, alimentare paure e risentimenti, e preparare il terreno culturale al conflitto armato. L’Enciclica osserva che in questo nuovo scenario lo spazio cibernetico è diventato “terreno di confronto” (n. 225). L’attribuzione delle responsabilità è spesso incerta: quando non è chiaro chi abbia colpito, perché gli attacchi cibernetici possono essere lanciati attraverso server in paesi terzi, usando identità rubate o tecniche di offuscamento, cresce il rischio di reazioni sproporzionate, errori di valutazione e spirali di escalation. Un attacco informatico che sembra provenire da un paese potrebbe in realtà essere stato condotto da un attore non statale o da un paese terzo che intende far ricadere la colpa su un rivale. In questo ambiente di incertezza, la tentazione di rispondere con forza militare convenzionale è alta, e il rischio di una guerra per errore è reale. Per questo serve “una diplomazia capace di operare anche in questo nuovo ambiente, negoziando regole condivise sull’uso delle tecnologie digitali, proteggendo i civili e i più vulnerabili da forme di violenza invisibili ma non meno reali” (n. 225). Forse l’immagine più potente del capitolo quinto è quella del “disarmo dell’IA” (n. 110). Leone XIV è consapevole che la parola “disarmo” può suonare ingenua o irrealistica in un mondo segnato da conflitti diffusi e da una corsa globale alle tecnologie belliche. Tuttavia, egli ne precisa il significato in modo articolato: “Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita” (n. 110). Il disarmo dell’IA ha dunque tre dimensioni. La dimensione militare implica vietare lo sviluppo e l’impiego di sistemi d’arma autonomi che sottraggono la decisione letale al controllo umano, richiamando esplicitamente la posizione della Santa Sede secondo cui “lo sviluppo e l’uso dell’IA in campo bellico devono essere sottoposti ai più rigorosi vincoli etici, nel rispetto della dignità umana e della sacralità della vita, evitando una corsa agli armamenti” (n. 197). La dimensione economica significa rompere i monopoli tecnologici che trasformano i dati e gli algoritmi in strumenti di dominio globale, impedendo che pochi attori privati, spesso gli stessi che sviluppano tecnologie a duplice uso civile e militare, possano condizionare i processi democratici, manipolare i mercati e orientare l’informazione a proprio vantaggio (nn. 108-109). La dimensione cognitiva significa restituire alle comunità la capacità di discutere, contestare e decidere sulle tecnologie che le governano, rendendo l’IA “discutibile, contestabile, e quindi abitabile” (n. 110). Dietro la denuncia della guerra e della corsa alle armi, l’Enciclica intravede una radice più profonda: quella che chiama “cultura della potenza” (n. 188), contrapposta alla “civiltà dell’amore” (n. 186). La prima è l’amore di sé fino al disprezzo dell’altro; la seconda è l’amore di Dio fino al disprezzo di sé, che diventa servizio e cura. Leone XIV non oppone ingenuità a realismo. Riconosce che il mondo è segnato da conflitti, interessi contrapposti, violenze. Ma rifiuta il “falso realismo” che scambia la constatazione del male con la sua accettazione: “Ciò che è veramente irresponsabile, scrive, è la Realpolitik, questa forma di ‘realismo’ politico, che semina nelle coscienze e nella cultura la rassegnazione a una guerra ineluttabile, e qualifica la pace e il dialogo come posizioni utopiche o irrazionali” (n. 205). Al contrario, la pace è “frutto, sempre possibile, della giustizia e della carità” (n. 205). E richiede impegno concreto su più fronti: disarmare le parole, costruire la pace nella giustizia, assumere lo sguardo delle vittime, coltivare un sano realismo, rilanciare il dialogo, potenziare la diplomazia e il multilateralismo (nn. 214-227). In questa prospettiva, l’IA può essere uno strumento di pace, se orientata alla prevenzione dei conflitti attraverso l’analisi predittiva delle tensioni, alla protezione dei civili attraverso sistemi di allarme precoce e di identificazione delle aree a rischio, alla trasparenza delle decisioni attraverso la verificabilità degli algoritmi di targeting, o un moltiplicatore di guerra, se lasciata alla logica della competizione e del profitto. La scelta, come ricorda l’Enciclica, non è tecnica, ma etica e politica. E, in ultima istanza, spirituale: perché riguarda ciò che abbiamo nel cuore.
4. Costruire la civiltà dell’amore
Contro la cultura della potenza, l’Enciclica Magnifica Humanitas non si limita a una diagnosi critica, ma propone un percorso costruttivo, articolato in cinque direttrici operative che Leone XIV trae dalla lettura del libro di Neemia: disarmare le parole, costruire la pace nella giustizia, assumere lo sguardo delle vittime, coltivare un sano realismo, rilanciare il dialogo e il multilateralismo (nn. 214-227).
La prima direttrice è “disarmare le parole” (n. 214). “Il primo contributo che possiamo dare a una civiltà più umana, scrive il Papa, è fare attenzione alle nostre parole. Disarmiamo le parole e contribuiremo a disarmare la Terra”. Questa affermazione, che potrebbe apparire ingenua in un contesto di conflitti armati e di competizione tecnologica globale, ha in realtà una portata radicale se letta alla luce della filosofia del linguaggio contemporanea. Le parole non sono semplici etichette che descrivono una realtà preesistente: esse contribuiscono a costruire quella realtà, definendo ciò che è dicibile, ciò che è pensabile, ciò che è legittimo. Nel dibattito sull’IA, il linguaggio è spesso intriso di metafore belliche: si parla di “corsa all’AGI”, di “supremazia algoritmica”, di “guerra dei talenti”, di “dominio dei dati”. Queste metafore non sono innocue: esse inscrivono nell’immaginario collettivo l’idea che la tecnologia sia un campo di battaglia in cui qualcuno vince e qualcuno perde, che l’innovazione sia una competizione spietata, che l’altro sia un avversario da superare o neutralizzare. L’Enciclica invita a sostituire queste metafore belliche con un lessico della cura: trasparenza, responsabilità, partecipazione, inclusione, fraternità. “Tutti dobbiamo quindi fare un esame di coscienza sulle parole che usiamo, sui pregiudizi di cui sono impregnate e sull’aggressività, aperta o larvata, che le abita. Abbiamo una possibilità reale di contribuire al bene ogni volta che diciamo la verità, che diamo un consiglio saggio, che sosteniamo chi ha bisogno di conforto, che denunciamo un’ingiustizia, che diamo voce a chi non ne ha” (n. 214). La seconda direttrice è “costruire la pace nella giustizia” (n. 215). “Noi non cerchiamo infatti una pace qualunque, un’assenza di conflitto a qualsiasi costo, ma quella vera pace che nasce dalla giustizia”. Questa distinzione è cruciale. Una pace che si ottiene rimuovendo le cause strutturali dell’ingiustizia, disuguaglianze economiche, discriminazioni, sfruttamento, esclusione, è una pace fragile, destinata a essere infranta al primo mutamento degli equilibri di forza.
L’Enciclica cita Sant’Agostino: “Non c’è nessuno che rifugga dal volere la pace, mentre al contrario non tutti sono disposti a praticare la giustizia. […] Vuoi dunque conseguire la pace? Pratica la giustizia!” (n. 215, citando Enarrationes in Psalmos, 84, 12). Nel contesto dell’IA, praticare la giustizia significa, anzitutto, garantire un accesso equo alle tecnologie e ai loro benefici. Non si può costruire una pace duratura in un mondo in cui una parte dell’umanità ha accesso a cure mediche potenziate dall’IA, a sistemi educativi personalizzati, a opportunità economiche generate dall’automazione, mentre un’altra parte viene esclusa o sfruttata. Significa anche garantire che i sistemi di IA non riproducano e amplifichino le disuguaglianze esistenti, ma contribuiscano a ridurle. Significa, infine, garantire che le decisioni automatizzate siano giuste, cioè non arbitrarie, non discriminatorie, non opache. La terza direttrice è “assumere lo sguardo delle vittime” (nn. 216-217). “Ci sono situazioni nelle quali, per rimanere umani, dobbiamo abbandonare le esitazioni e prendere posizione. Ci sono conflitti in cui non è giusto rimanere neutrali e non basta ritenere di ‘non essere complici’.” L’Enciclica richiama l’attenzione sulle vittime della guerra, ma il principio è estendibile a tutte le forme di violenza tecnologica: i lavoratori sfruttati dell’economia digitale, le comunità esposte a sorveglianza invasiva, le persone discriminate da algoritmi opachi, i migranti respinti da sistemi automatizzati di controllo delle frontiere. “Dare spazio, nell’informazione e nell’educazione, allo sguardo e alla voce delle vittime aiuta a diventare realmente consapevoli dell’abisso del male racchiuso nella guerra e, in generale, in ogni violenza; a non accettare come normale la logica del conflitto; a non volgere lo sguardo altrove quando avviene un oltraggio alla dignità umana; e a restituire alle persone colpite la dignità di essere riconosciute e ascoltate” (n. 217). Assumere lo sguardo delle vittime significa progettare i sistemi di IA a partire da chi è più vulnerabile, non da chi è più potente. Significa chiedersi, per ogni sistema che si progetta: chi potrebbe essere danneggiato? Chi potrebbe essere escluso? Chi potrebbe perdere voce? E significa costruire meccanismi di ricorso e riparazione che siano effettivamente accessibili a chi subisce le conseguenze delle decisioni automatizzate. La quarta direttrice è “coltivare un sano realismo” (n. 218). L’Enciclica distingue tra due forme di pseudo-realismo. Il primo è l’idealismo che “per salvare la propria visione del mondo, seleziona i fatti, li piega, li rinomina, e finisce per abitare una realtà costruita a misura delle proprie convinzioni”. Il secondo è “un realismo degradato che scambia la constatazione con la rassegnazione: poiché la forza domina, conclude che deve dominare”. Il “sano realismo” proposto dall’Enciclica è invece “cominciare dal vedere con chiarezza interessi, paure, vincoli e rapporti di forza, proprio per calcolare che cosa sia possibile ottenere e con quali passaggi. Non riduce la politica alla moralità, ma neppure la consegna alla violenza: cerca vie praticabili perché la pace sia più di una parola, cioè istituzioni credibili, garanzie verificabili, negoziati pazienti, prevenzione dei conflitti e tutela dei civili”.
Nel contesto dell’IA, ciò significa non cadere né nell’entusiasmo ingenuo che vede nella tecnologia una soluzione automatica a tutti i mali, né nel pessimismo sterile che considera inevitabile la deriva tecnocratica. Significa riconoscere che i rapporti di forza nell’industria tecnologica sono enormemente squilibrati, ma anche che esistono spazi di intervento, regolamentazione, standard tecnici, iniziative dal basso, ricerca indipendente, mobilitazione dell’opinione pubblica, che possono essere utilizzati per orientare la tecnologia verso il bene comune. Significa calcolare realisticamente cosa sia possibile ottenere in un dato contesto, e perseguirlo con determinazione, senza rassegnarsi a ciò che appare come “inevitabile”. La quinta direttrice è “rilanciare il dialogo e il multilateralismo” (nn. 219-227). “Il dialogo è lo strumento principale della convivenza tra le persone e tra i popoli, ed è l’alternativa al conflitto aperto” (n. 219). A livello interpersonale, il dialogo significa “acquisire un’attitudine a costruire legami di fraternità, fatti di ascolto, di sguardi sinceri, di tempo dedicato, persino di tempo perso insieme. Perché se facciamo esperienza dell’incontro autentico con l’altro, il diverso, lo straniero, il migrante, diventa molto più difficile anche solo immaginare la guerra” (n. 220). A livello politico, significa “passare dalla ‘cultura della potenza’ a un’autentica ‘cultura del negoziato’, in cui il dialogo e le relazioni diplomatiche diventino via ordinaria per affrontare i conflitti” (n. 221).
A livello internazionale, significa rafforzare le organizzazioni multilaterali, in particolare le Nazioni Unite, e dotarle degli strumenti necessari per governare le tecnologie emergenti. “La Santa Sede sostiene e accompagna questo impegno, pur riconoscendo che la debolezza attuale dell’ONU e del sistema politico internazionale rivela la necessità di riforme profonde: non si tratta solo di aggiustamenti tecnici, poiché la crisi di convinzioni e di valori tocca anche i fondamenti etici della vita delle nazioni e rende più difficile orientare il multilateralismo al vero bene comune” (n. 226). Nel contesto specifico dell’IA, il multilateralismo è indispensabile per tre ragioni. In primo luogo, l’IA non conosce confini: i dati attraversano le frontiere, gli algoritmi vengono addestrati su dati provenienti da tutto il mondo, le piattaforme operano su scala globale. Nessuno Stato, per quanto potente, può regolare da solo l’IA. In secondo luogo, la governance dell’IA richiede competenze tecniche, risorse informative e capacità di coordinamento che solo istituzioni multilaterali possono aggregare. In terzo luogo, senza una cooperazione internazionale, si rischia una corsa al ribasso: paesi con standard etici più bassi attraggono lo sviluppo e il dispiegamento di sistemi di IA che violerebbero le norme di paesi più rigorosi, creando un dumping normativo. L’Enciclica invita a negoziare “regole condivise sull’uso delle tecnologie digitali, proteggendo i civili e i più vulnerabili da forme di violenza invisibili ma non meno reali” (n. 225). Si tratta di un programma ambizioso, che richiede pazienza, perseveranza e una visione di lungo periodo. Ma è l’unica alternativa realistica alla deriva verso una guerra tecnologica globale, in cui l’IA diventa non uno strumento di pace ma un moltiplicatore di conflitti.
5. Custodire l’umano: un compito politico e spirituale
La domanda fondamentale che l’Enciclica Magnifica Humanitas rivolge a ciascuno di noi è semplice e insieme radicale: “Dove stiamo andando? Verso quale meta desideriamo orientarci? Quale direzione scegliere come comunità umana e come popoli?” (n. 6). Queste domande non hanno risposta negli algoritmi. Le hanno nelle scelte collettive che oggi, come società, decidiamo di compiere. E tali scelte, lo ricorda con forza Leone XIV, non sono solo questione di regolamentazione, di progettazione tecnica o di analisi dei costi e benefici. Sono, in ultima istanza, questione di conversione del cuore: “Due amori fecero due città: l’amore di sé fino al disprezzo di Dio, e l’amore di Dio fino al disprezzo di sé” (n. 130, citando Agostino, De civitate Dei, XIV, 28). La città terrena è Babele, la torre del dominio e dell’omologazione, dove l’umano pretende di bastare a se stesso e finisce per disperdersi. La città celeste è Gerusalemme, la città della pace e della fraternità, che “discende dal cielo, da Dio” (Ap 21,2) ma si costruisce sulla terra, “mattone dopo mattone”, con responsabilità condivisa, ascolto delle paure, coordinamento degli sforzi, fronteggiamento delle opposizioni (n. 8).
Custodire l’umano nell’era dell’IA significa, anzitutto, non dimenticare che la tecnica è al servizio della persona e non viceversa. Sembra un’ovvietà, ma è un’ovvietà che la cultura tecnocratica tende sistematicamente a rovesciare. Quando l’efficienza diventa il criterio supremo, le persone vengono ottimizzate come risorse. Quando il profitto diventa l’unico obiettivo, le persone vengono sfruttate come mezzi. Quando la velocità diventa l’unica metrica, le persone vengono accelerate oltre i limiti della loro natura. Custodire l’umano significa resistere a queste logiche, non con un rifiuto romantico della tecnologia, ma con un’integrazione sapiente della tecnica in un orizzonte di senso più ampio. L’Enciclica indica quattro pilastri per questa custodia (nn. 237-240). Il primo è “restare fedeli alla verità” (n. 237). In un’epoca di disinformazione sistematica, di deepfake, di camere d’eco algoritmiche, la verità è diventata un bene comune minacciato. “La verità che non dobbiamo perdere, scrive Leone XIV, è quella su Dio e sull’essere umano, così come Cristo ce li ha rivelati”. Questo significa rifiutare sia l’individualismo che riduce la persona a un atomo isolato, sia il riduzionismo tecnico che riduce la persona a un insieme di funzioni ottimizzabili. Significa “coltivare invece un ‘antropocentrismo situato’, che riconosce l’essere umano come creatura inserita in una trama di relazioni con gli altri viventi e con l’intero creato” (n. 237, citando Francesco, Laudate Deum, 67). Il secondo pilastro è “investire nell’educazione” (n. 238). “Abbiamo tutti bisogno di formarci a vivere il digitale in modo umano, come parte integrante dell’educazione alla fede e alla vita buona del Vangelo”. L’educazione non è un lusso o un accessorio: è la principale forma di prevenzione contro la manipolazione, la dipendenza, l’esclusione.
Educare significa insegnare alle nuove generazioni a usare le tecnologie come strumenti di relazione responsabile, non come surrogati dell’esperienza reale; significa aiutarle a riconoscere i rischi, dalla dipendenza alla disinformazione, dal cyberbullismo all’adescamento, e a sviluppare gli strumenti critici per affrontarli; significa formare adulti capaci di accompagnare bambini e ragazzi in questo cammino, riscoprendo “la loro vocazione di artigiani dell’educare, disponibili a un lavoro quotidiano, paziente, sostenuto da alleanze educative ampie e condivise” (n. 238). Il terzo pilastro è “curare le relazioni” (n. 239). “In un’epoca che tende a velocizzare e frammentare, la carne umana continua a chiedere di essere curata e riconosciuta da mani capaci di tenerezza, da menti attente e da parole buone”. La cultura digitale moltiplica le connessioni, abbiamo centinaia di “amici” sui social network, messaggiamo con persone dall’altra parte del mondo in tempo reale, ma non sempre coltiva le relazioni. La connessione non è la stessa cosa dell’incontro. L’Enciclica invita a “custodire luoghi e tempi in cui la presenza fisica rimane decisiva: la tavola condivisa, la comunità cristiana che si raduna, la visita a chi è solo, il servizio ai poveri”.
Non si tratta di un rifiuto del digitale, ma di una gerarchia di valori: la relazione incarnata, con la sua fragilità, la sua imprevedibilità, la sua ricchezza sensoriale ed emotiva, è il modello a cui ogni tecnologia dovrebbe ispirarsi, non ciò che dovrebbe essere sostituito. Il quarto pilastro è “amare la giustizia e la pace” (n. 240). “Le stesse tecnologie che facilitano la comunicazione e l’accesso alle risorse possono sostenere modelli che sfruttano i più vulnerabili, alimentano nuove schiavitù, trasformano il conflitto in occasione di profitto. Ogni scelta tecnica o economica si trasforma in luogo di discernimento spirituale, occasione per verificare se i progressi dell’IA aprano spazi di giustizia e partecipazione oppure concentrino ricchezza e potere nelle mani di pochi”. Amare la giustizia significa non distogliere lo sguardo dalle filiere di produzione digitale, i minatori di terre rare, i data labelers sottopagati, i moderatori di contenuti esposti a trauma, e lavorare per renderle trasparenti e giuste. Amare la pace significa rifiutare la logica della deterrenza e della competizione armata, sostenere il disarmo dell’IA, promuovere la cooperazione internazionale. L’Enciclica si chiude con un’immagine potente: quella di Neemia che ricostruisce le mura di Gerusalemme “mattone dopo mattone” (n. 241). “In lui riconosco una parabola luminosa della nostra vocazione ad essere, nel tempo della trasformazione digitale, non spettatori rassegnati di fratture sociali e culturali, non semplici commentatori delle rovine, ma donne e uomini che entrano nei cantieri della storia, laboratori di ricerca, imprese tecnologiche, scuole, media, istituzioni, comunità locali, per rialzare ciò che è crollato e proteggere ciò che è esposto”.
La ricostruzione non è un’impresa individuale, né un atto eroico di pochi. È un’impresa collettiva, paziente, spesso invisibile. Richiede che ciascuno faccia la propria parte, nel proprio ambito, con i propri mezzi. Il ricercatore che progetta un sistema di IA scegliendo metriche di inclusione anziché di solo profitto. L’educatore che insegna ai ragazzi a distinguere una fonte affidabile da una manipolazione. Il genitore che limita il tempo di schermo e accompagna i figli nell’esplorazione del mondo reale. Il legislatore che promuove una regolamentazione trasparente e partecipata. Il cittadino che si informa criticamente e partecipa al dibattito pubblico. Nessuno di questi gesti, da solo, cambierà il mondo. Ma insieme, “mattone dopo mattone”, possono costruire un’alternativa alla torre di Babele. L’Enciclica richiama infine la promessa del Nuovo Testamento: la nuova Gerusalemme che discende dal cielo come un dono (Ap 21,2). Non è un invito alla passività, ad aspettare che la salvezza venga dall’alto senza muovere un dito, ma un invito alla speranza. La speranza che, nonostante le apparenze, il bene è più forte del male. La speranza che, nonostante la potenza degli algoritmi e la forza degli interessi economici, esiste sempre la possibilità di una scelta diversa. La speranza che, come ricorda il Magnificat di Maria, Dio “ha disperso i superbi nei pensieri del loro cuore, ha rovesciato i potenti dai troni e ha innalzato gli umili” (Lc 1,51-52). “Con la stessa fede di Maria, conclude Leone XIV, diventiamo tessitori di speranza nel nostro mondo, condividendo ciò che siamo e ciò che abbiamo, così che la presenza di Gesù cresca in mezzo a noi e prenda forma il suo Regno. Nella fedeltà umile di ogni giorno, anche il tempo dell’IA può diventare un passaggio in cui lo Spirito fa maturare la civiltà dell’amore nella nostra vita: il Signore continua a fare nuove tutte le cose e mantiene aperta per ogni epoca la possibilità di diventare storia di salvezza alla luce dell’Incarnazione” (n. 245).
Il futuro dell’IA non è inscritto negli algoritmi. È inscritto nelle scelte collettive che oggi decideremo di compiere. E queste scelte, lo ricorda l’Enciclica, sono tecniche, certo, ma anche etiche, politiche, e in ultima istanza spirituali, perché riguardano non solo ciò che possiamo fare, ma ciò che vogliamo diventare come individui, come società, come umanità.
