Due palmi sopra il cuore

Entriamo nel terzo capitolo di Magnifica Humanitas, intitolato “Tecnica e dominio. La grandezza della persona umana davanti alle promesse dell’IA”. Prendiamo come riferimento i paragrafi 90-130, con attenzione particolare ai nn. 92-96, dove Papa Leone XIV descrive il paradigma tecnocratico e il potere digitale; ai nn. 97-111, nei quali affronta più direttamente l’intelligenza artificiale, la responsabilità, la trasparenza, il governo dell’IA e la necessità di “disarmarla”; e ai nn. 112-130, dove viene custodito il cuore antropologico e spirituale del discorso: il limite, la relazione, la fragilità, la grazia e la vera grandezza dell’essere umano.

Dopo aver mostrato che la tecnica va giudicata a partire dalla persona, il Papa compie un passo ulteriore. Non gli basta dire che l’intelligenza artificiale è uno strumento da usare bene. Sarebbe vero, certo, e anche un po’ comodo. Troppo comodo. Perché lo strumento, quando diventa sistema, mercato, linguaggio, ambiente e potere, smette di essere soltanto qualcosa che teniamo in mano. Comincia a plasmare il modo in cui pensiamo, lavoriamo, comunichiamo, decidiamo, desideriamo.

È qui che l’enciclica diventa particolarmente lucida. Il problema non è la tecnologia in sé. Il problema è la tecnica quando diventa dominio.

Papa Leone XIV riprende il tema del paradigma tecnocratico, già denunciato da Papa Francesco nella Laudato si’. Lo descrive come la tendenza a lasciare che la logica dell’efficienza, del controllo e del profitto governi da sola le scelte personali, sociali ed economiche. Quando la tecnica si fa criterio, finisce per stabilire che cosa conta e che cosa può essere scartato, riducendo la creazione a oggetto di sfruttamento e le persone a ingranaggi di un sistema sempre più performante.

Qui sta il nodo. La tecnica nasce dall’uomo, dalla sua intelligenza, dalla sua libertà, dalla sua capacità di trasformare il mondo. Non è nemica dell’uomo. Può curare, educare, connettere, proteggere, alleggerire fatiche, aprire possibilità nuove. L’enciclica lo riconosce. Il Papa non scrive da nostalgico impaurito dal futuro, né da predicatore che vede un demone in ogni circuito. Sarebbe una caricatura facile, e le caricature sono il modo preferito dei pigri per evitare il pensiero.

Il punto è un altro: una tecnica che non riconosce più un fine più alto dell’efficienza diventa criterio assoluto. E quando l’efficienza diventa la misura di tutto, anche l’uomo viene misurato secondo la prestazione che garantisce.

Il Papa ricorda che le nuove tecnologie possono agire come acceleratore del paradigma tecnocratico e per questo hanno bisogno di un nuovo quadro spirituale, etico e politico. Più potente non significa necessariamente migliore. E qui cita Romano Guardini: «L’uomo moderno non è stato educato al retto uso della potenza». La frase è pesante, nel senso buono. Non dice che l’uomo non abbia potenza. Dice che non sa usarla rettamente. E, giudicando lo spettacolo del mondo, non pare una diagnosi campata in aria.

La questione, dunque, non è se l’uomo possa fare qualcosa. La questione è se ciò che può fare debba essere fatto, a quale fine, sotto quale responsabilità, con quale visione dell’uomo, con quali limiti, con quale tutela per i più deboli.

San Paolo VI aveva già avvertito che i progressi scientifici e tecnici, se non sono congiunti a un autentico progresso sociale e morale, finiscono per rivolgersi contro l’uomo. Leone XIV riprende questa linea e la applica alla trasformazione digitale. Il progresso tecnico, in sé prezioso, domanda un discernimento sulla visione antropologica che lo guida e sui fini che persegue. Se aumentano i mezzi senza una pari maturazione etica e sociale, si “ha di più” senza “essere di più”, e la persona rischia di essere valutata soprattutto in base alle prestazioni che garantisce.

Questo è il passaggio da tenere fermo. Non ogni aumento di potenza è crescita umana. Una società può avere strumenti più rapidi, più intelligenti, più predittivi, più integrati, e diventare meno libera, meno giusta, meno umana. Si può essere tecnologicamente avanzati e spiritualmente primitivi. Anzi, a volte il secondo fenomeno sembra accompagnare il primo con una fedeltà commovente.

L’enciclica individua poi un problema concreto: la concentrazione del potere digitale. Nel contesto attuale, il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non appartiene principalmente agli Stati, bensì a grandi attori economici e tecnologici. Essi fissano condizioni di accesso, regole della visibilità e possibilità di partecipazione. Quando un potere così grande si concentra in poche mani, tende a diventare opaco, sfugge al controllo pubblico e accresce il rischio di nuove dipendenze, esclusioni, manipolazioni e disuguaglianze.

Questa osservazione è essenziale. Oggi il potere non si manifesta soltanto con eserciti, leggi, banche, industrie. Si manifesta anche nella capacità di decidere che cosa vediamo, che cosa resta invisibile, quali parole circolano, quali contenuti vengono amplificati, quali dati vengono raccolti, quali profili vengono costruiti, quali scelte vengono orientate senza che ce ne accorgiamo. È un potere morbido, continuo, pervasivo. Non bussa alla porta. Sta già nel telefono. L’umanità lo tiene in tasca e poi si stupisce di essere influenzata. Una scena quasi tenera, se non fosse tragica.

Davanti a questa concentrazione di potere, il Papa richiama i grandi principi della Dottrina sociale: dignità della persona, bene comune, destinazione universale dei beni, sussidiarietà, solidarietà, giustizia sociale. Essi servono a verificare se il potere delle infrastrutture digitali e degli algoritmi favorisca davvero partecipazione e responsabilità, protegga i fragili, assicuri accesso equo alle opportunità e resti ordinato al bene di tutti.

L’intelligenza artificiale, dunque, non può essere lasciata al solo criterio di chi la produce, la vende o la usa per consolidare vantaggi economici e geopolitici. Deve diventare oggetto di responsabilità pubblica, discernimento morale, controllo sociale, educazione, trasparenza. Non basta dire che l’algoritmo funziona. Bisogna chiedere chi lo ha costruito, con quali dati, con quali criteri, con quali esclusioni, con quali pregiudizi nascosti, con quali effetti sulle persone reali.

Qui si comprende il tema della trasparenza. Un sistema opaco crea deresponsabilizzazione. Se nessuno sa perché una decisione è stata presa, chi ne risponde? Se un algoritmo esclude un povero da un beneficio, orienta un contenuto, penalizza un lavoratore, classifica un cittadino, condiziona un giudizio, chi porta la responsabilità morale? La macchina? Il programmatore? L’azienda? Il committente? Il funzionario che si limita a premere un tasto? È molto comodo distribuire la colpa in modo che non la trovi più nessuno. L’uomo, quando vuole lavarsi le mani, inventa sempre nuovi lavandini.

Per questo l’enciclica insiste sul governo dell’IA. Il problema non si risolve affidandosi alla spontaneità del mercato o alla buona volontà delle aziende. La tecnologia che incide sulla vita delle persone deve restare discutibile, verificabile, contestabile. Deve essere governata in modo da servire il bene comune, non lasciata crescere come un potere autonomo davanti al quale la società arriva sempre dopo, con l’aria sorpresa di chi scopre che il gigante è diventato gigante.

Qui entra la parola forte che è stata richiamata da moltissime analisi fatte sull’enciclica: disarmare.

Papa Leone XIV scrive: «Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva». È la corsa all’algoritmo più performante e alla banca dati più vasta, usata per consolidare un vantaggio geopolitico o commerciale. Disarmare significa rompere l’equivalenza tra potenza tecnica e diritto di governare. Non significa rinunciare alla tecnologia, bensì impedirle di dominare l’umano, sottrarla ai monopoli, renderla discutibile, contestabile e quindi abitabile.

Questa è una delle espressioni più incisive dell’enciclica. Disarmare l’IA non vuol dire demonizzarla. Vuol dire toglierle la pretesa di essere inevitabile, intoccabile, incontestabile per riportarla dentro lo spazio umano della responsabilità. Una tecnologia disarmata è una tecnologia che non governa da sola, non si impone come destino, non viene custodita come segreto da pochi, non diventa arma economica, cognitiva o militare. È una tecnologia che può essere discussa, giudicata, limitata, orientata, abitata.

L’enciclica aggiunge che l’IA è ormai un ambiente in cui siamo immersi e un potere con cui dobbiamo fare i conti. Per questo non basta regolarla: va disarmata e resa ospitale. Questa formula è molto forte. “Ospitale” significa che il mondo digitale deve essere abitabile dall’uomo, non l’uomo adattato a forza al mondo digitale. Significa che la tecnica deve servire relazioni umane, non sostituirle con procedure impersonali. Deve ampliare possibilità, non ridurre la vita a prestazione e controllo.

Il Papa rivolge anche un appello speciale agli sviluppatori. L’innovazione tecnologica può essere, in un certo modo, una forma umana di partecipazione all’atto divino della creazione. Per questo chi sviluppa intelligenze artificiali porta un particolare peso etico e spirituale: ogni scelta progettuale esprime una visione dell’umanità. Gli sviluppatori sono chiamati a trattare con serietà i valori che infondono nei loro progetti, con trasparenza, responsabilità verso le comunità coinvolte e attenzione a verificare che ciò che viene coltivato sia davvero un bene.

Questa affermazione merita attenzione. Il Papa non parla agli sviluppatori come a tecnici neutri che assemblano strumenti indifferenti. Li chiama a una responsabilità spirituale. Ogni codice, ogni interfaccia, ogni modello, ogni scelta di progettazione contiene una visione dell’uomo. Anche quando non viene dichiarata. Specialmente quando non viene dichiarata.

Poi l’enciclica torna alla domanda più profonda: che cosa non possiamo perdere? Il rischio non è soltanto che alcune tecnologie siano usate male. Il rischio è che il paradigma tecnocratico, potenziato dall’IA, faccia sembrare giusta e normale una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, nell’eliminare l’imprevisto, nel controllare ogni cosa. Quando l’efficienza diventa misura del valore, l’uomo è tentato di pensarsi come un progetto da ottimizzare più che come una creatura chiamata alla relazione e alla comunione.

Qui siamo al cuore spirituale del capitolo. La tecnica promette controllo. La fede ricorda la comunione. La tecnica promette ottimizzazione. La fede ricorda la vocazione. La tecnica tende a rimuovere il limite. La fede insegna ad abitarlo, senza idolatrarlo e senza negarlo. L’uomo non fiorisce perché elimina ogni fragilità. Fiorisce quando la sua fragilità diventa luogo di relazione, cura, compassione, amore, apertura a Dio.

Il Papa mette in guardia anche dall’assolutizzazione dell’intelligenza. Se una facoltà pretende di diventare misura di tutto, oscura le altre dimensioni essenziali della vita: affetto, volontà, dedizione, relazione. Il potere tecnico, se non viene bilanciato, non ci rende più capaci, ci rende più soli ed esposti a logiche di dominio e di esclusione.

È una diagnosi severa. L’intelligenza artificiale può calcolare, correlare, generare, prevedere, simulare. Può fare cose impressionanti. Eppure non ama. Non perdona. Non spera. Non soffre con l’altro. Non adora. Non conosce la responsabilità morale come atto della coscienza. Non può sostituire il cuore umano. Può aiutare l’uomo, se resta ordinata all’uomo. Diventa dominio, quando pretende di ridefinirlo.

Per questo il titolo che ho dato all’articolo è: Tecnica e dominio: quando il progresso dimentica l’uomo. Il progresso dimentica l’uomo quando confonde potenza e bene, efficienza e verità, automazione e libertà, controllo e salvezza. La Chiesa non rifiuta la tecnica. La richiama alla sua vocazione: servire la persona, custodire il bene comune, rendere più giusta e abitabile la città umana.

L’intelligenza artificiale va disarmata perché non diventi Babele digitale. Va disarmata perché non si trasformi in potere opaco. Va disarmata perché l’uomo non venga trattato come dato, funzione, profilo, bersaglio, consumatore, lavoratore sostituibile. Va disarmata perché possa diventare abitabile.

In fondo, la domanda resta semplice: chi governa chi?

L’uomo governa la tecnica orientandola alla verità, alla giustizia, alla comunione e al bene comune? Oppure la tecnica governa l’uomo, imponendogli i suoi criteri di efficienza, controllo e prestazione?

Magnifica Humanitas non ci invita a temere la macchina. Ci invita a impedire che la macchina diventi misura dell’uomo. Perché quando il progresso dimentica l’uomo, non smette di progredire. Semplicemente avanza nella direzione sbagliata. E, come spesso accade nella storia, lo fa con grande sicurezza, magari con qualche grafico colorato e un comunicato stampa pieno di parole rassicuranti.

Per seguire il percorso di lettura su Magnifica Humanitas:

LA CHIESA DISARMA L’INTELLIGENZA ARTIFICIALE PER CUSTODIRE L’UOMO. Riflessione introduttiva alla lettura dell’enciclica

MAGNIFICA HUMANITAS I – STRUTTURA DELL’ENCICLICA. Non partiamo dall’IA, partiamo dall’uomo

MAGNIFICA HUMANITAS II. Babele o Gerusalemme: quale città stiamo costruendo?

MAGNIFICA HUMANITAS III. La Dottrina sociale non rincorre il mondo: lo discerne

MAGNIFICA HUMANITAS IV. Prima della macchina, la persona