L’Intelligenza Artificiale: cosa è, come funziona, cosa dice l’Enciclica Magnifica Humanitas di Papa Leone XIV

Di Gian Nicola Cabizza*

Cos'è l'intelligenza artificiale

L'intelligenza artificiale è un programma per computer capace di svolgere compiti che normalmente richiederebbero l'intelligenza umana, come capire un testo, riconoscere un'immagine, tradurre una lingua, rispondere a domande. La parola "intelligenza" è però un po' fuorviante. Come dice la Magnifica Humanitas, questi sistemi imitano alcune funzioni dell'intelligenza umana, ma non capiscono davvero ciò che producono, non hanno esperienza, emozioni, coscienza o senso morale. Come funziona l’IA, una spiegazione semplice. Immaginate di voler insegnare a un bambino molto piccolo a riconoscere i gatti. Non gli date una lista di regole ("ha quattro zampe, baffi, orecchie a punta..."). Gli mostrate tante foto dicendogli ogni volta "questo è un gatto" oppure "questo non è un gatto". Dopo abbastanza esempi, il bambino impara a riconoscere i gatti anche nelle foto che non ha mai visto. L'IA funziona esattamente così — con una differenza: invece di migliaia di foto, lavora su miliardi di esempi.

I tre ingredienti fondamentali della’IA

1) I dati
Sono il "cibo" dell'IA. Un sistema IA è stato addestrato su una quantità enorme di testi, libri, articoli, siti web, conversazioni, scritti da esseri umani nel corso di decenni. Dai dati l'IA impara gli schemi (pattern), le strutture, le relazioni tra le parole e i concetti.

2) L’algoritmo di apprendimento
È la "ricetta" che trasforma i dati in conoscenza. Il più usato oggi si chiama rete neurale artificiale: un sistema ispirato vagamente al cervello umano, fatto di miliardi di piccole unità di calcolo collegate tra loro (i "neuroni artificiali") che si attivano in risposta agli stimoli. Durante l'addestramento, queste connessioni vengono regolate milioni di volte fino a quando il sistema produce risposte corrette.

3) La potenza di calcolo

Addestrare un grande modello di IA richiede migliaia di processori specializzati (chiamati GPU) che lavorano in parallelo per settimane o mesi. È per questo che solo poche grandi aziende nel mondo possono permettersi di sviluppare i modelli più avanzati.

Come funziona un modello linguistico di IA

Quando scriviamo una domanda, il sistema non "pensa" come farebbe un essere umano. Quello che fa è essenzialmente prevedere qual è la parola più probabile che dovrebbe seguire, una alla volta, basandosi su tutto ciò che ha imparato durante l'addestramento. È come se voi completaste la frase: "Il gatto è sul...", il vostro cervello suggerisce automaticamente "tetto" o "divano" perché è la vostra esperienza ordinaria. I’IA fa la stessa cosa, ma su scala enormemente più grande e con una complessità molto maggiore. Il risultato sembra intelligente, e in molti casi è sorprendentemente utile, ma il meccanismo di fondo è statistico, non ha a che vedere con il “comprendere”.

La differenza cruciale con l'intelligenza umana

Questa è la parte più importante da capire.

Un bambino di tre anni che tocca il fuoco e si brucia capisce che il fuoco fa male. Ha vissuto quell'esperienza nel suo corpo, con le sue emozioni. Da quel momento in poi, la sua relazione con il fuoco è cambiata nel profondo. L’IA ha letto milioni di testi in cui si parla di fuoco, bruciature, dolore. Può descrivere il fenomeno con precisione, darci nel dettaglio le reazioni chimiche che avvengono durante la combustione. Ma non ha mai toccato nulla, non ha mai provato dolore, non ha un corpo. La sua "conoscenza" del fuoco è puramente statistica, sa che certe parole compaiono spesso vicino ad altre parole, non è esperienziale. Questo è il limite fondamentale che la Magnifica Humanitas descrive quando dice che i sistemi di IA "non abitano l'orizzonte affettivo, relazionale e spirituale in cui l'umano diventa sapiente.”

Perché allora è così potente?

Perché la capacità di elaborare schemi su scala enorme produce risultati praticamente molto utili in tantissimi campi:

Medicina: analisi di immagini diagnostiche, scoperta di farmaci; Scienza: previsioni meteorologiche, modellazione del clima, struttura delle proteine e molto altro; Linguaggio: traduzione, riassunto, generazione di testi. Astronomia: elaborazione di immagini, classificazione di oggetti celesti. (La sonda europea Gaia ha misurato diversi parametri di oltre un miliardo di stelle, solo con l’IA si può ottenere una analisi compiuta di quella mole di dati); Industria: controllo qualità, manutenzione predittiva; Produzione di software: controllo degli errori, scritture di codici ecc. La potenza non deriva dalla comprensione ma dalla scala, miliardi di esempi producono generalizzazioni che funzionano in modo sorprendentemente efficace.

Il problema del "come funziona davvero" dentro

C'è un aspetto curioso e un po' inquietante : nemmeno i suoi creatori capiscono esattamente come funziona un grande modello di IA dall'interno. Sanno come è stato costruito e addestrato, ma i miliardi di connessioni che si attivano quando produce una risposta sono troppo complessi per essere analizzati uno per uno. È come sapere che il cervello umano è fatto di neuroni e sinapsi, ma non riusciamo a spiegare perché una persona si innamora di una certa musica.

La Magnifica Humanitas cita questo punto quando dice che le moderne IA sono più "coltivate" che “costruite”, i loro creatori non ne progettano ogni dettaglio, ma creano un'architettura su cui il sistema "cresce" attraverso l’addestramento.

In sintesi

L'IA è uno strumento straordinariamente potente che:

Impara da enormi quantità di dati. Riconosce schemi con precisione e velocità sovrumane. Non capisce nel senso umano del termine, è una “macchina”. Non ha coscienza, emozioni, morale o esperienza. Riflette i valori, i pregiudizi e le scelte di chi l'ha costruita. La sfida del nostro tempo, come ci ricorda l'enciclica di Leone XIV, non è decidere se usarla o no, ma chi la governa, con quali valori e nell'interesse di chi.

I principali rischi dell'IA per la democrazia

1. Disinformazione e manipolazione dell'informazione

L'IA può abbassare drasticamente il costo di produzione di contenuti falsi, testi, immagini, audio, video, rendendoli indistinguibili dal reale. I deepfake di politici, le campagne di influenza automatizzate, già molto diffusi nei social, possono orientare l'opinione pubblica su scala massiva, minando il presupposto fondamentale della democrazia: che i cittadini decidano sulla base di informazioni veritiere.

2. Concentrazione del potere informativo

Poche aziende private controllano le piattaforme attraverso le quali miliardi di persone si informano. Già nei social gli algoritmi, progettati per massimizzare il tempo di permanenza, non per promuovere la verità, creano camere d'eco e polarizzazione, rendendo sempre più difficile la formazione di un consenso democratico condiviso. L’IA può moltiplicare questi effetti.

3. Interferenze nei processi elettorali

Le elezioni sono il cuore della democrazia, e l'IA le minaccia su più livelli: individuazione di bersagli politici basata su dati personali per manipolare singoli elettori, generazione automatizzata di propaganda su misura, attacchi informatici ai sistemi di voto, campagne di soppressione dell'affluenza ai seggi attraverso disinformazione mirata.

4. Sorveglianza di massa e controllo sociale

I sistemi di IA permettono una sorveglianza dei cittadini senza precedenti storici, riconoscimento facciale, analisi comportamentale, profilazione predittiva. Anche nelle democrazie liberali, questi strumenti possono essere usati per scoraggiare il dissenso, monitorare l'opposizione politica o controllare i movimenti sociali. Il rischio non riguarda solo i regimi autoritari.

Il caso Palantir: IA dedicata alla sorveglianza, profilazione, individuazione di tendenze, è adottata da numerose polizie nel mondo.

L'intelligenza artificiale di Palantir Technologies è un sistema avanzato di analisi dei dati e supporto decisionale utilizzato da governi, forze armate e grandi aziende.

Le Piattaforme Principali

Gotham: È la piattaforma militare e di intelligence. Unisce dati da satelliti, social media, flussi finanziari e registri biometrici per tracciare bersagli e coordinare operazioni belliche (usata in Iraq, Ucraina e Medio Oriente).

Foundry: È la versione commerciale per grandi aziende e clienti civili. Gestisce la logistica, ottimizza la produzione e analizza i comportamenti dei consumatori.

AIP (Artificial Intelligence Platform): È l'assistente IA che integra modelli di terze parti per automatizzare flussi di lavoro, pianificare strategie e interagire in tempo reale con gli operatori umani.

Apollo: È il software di orchestrazione che aggiorna e gestisce gli altri sistemi in ambienti diversi.

5. Erosione della responsabilità politica

Quando le decisioni che incidono sui cittadini, - accesso ai servizi, prestiti, opportunità lavorative - vengono delegate ad algoritmi opachi, la responsabilità politica si dissolve. Scompare la possibilità di chiedere conto ai decisori

6. Asimmetria di potere tra Stati e attori privati

Come sottolinea l'enciclica di Leone XIV, i principali motori dello sviluppo dell'IA sono attori privati transnazionali con risorse superiori a quelle di molti governi. Questo crea una asimmetria inedita: gli Stati democratici faticano a regolamentare tecnologie che non comprendono pienamente e che evolvono più rapidamente delle loro istituzioni. La filosofa Hannah Arendt, citata proprio nella Magnifica Humanitas, avvertiva che i sudditi ideali del totalitarismo sono coloro per cui la distinzione tra vero e falso non esiste più.

7. Il rischio del totalitarismo algoritmico

È lo scenario più estremo ma non inverosimile: un sistema in cui la combinazione di sorveglianza pervasiva, controllo dell'informazione e gestione algoritmica del comportamento produce una forma di controllo sociale così capillare da rendere il dissenso impossibile, il tutto senza bisogno di violenza esplicita.

L'IA come minaccia strutturale agli ordinamenti liberali

Gli ordinamenti liberal democratici si fondano su alcuni assiomi storicamente conquistati:

- L’individuo come soggetto autonomo capace di ragione e scelta;

- La verità come orizzonte condiviso su cui costruire il dibattito pubblico;

- La separazione dei poteri come garanzia contro la concentrazione;

- La trasparenza come condizione della responsabilità politica;

- Il consenso come fonte di legittimità del potere;

L'IA può mettere sotto pressione ciascuno di questi assiomi simultaneamente, ed è questa simultaneità il fattore più preoccupante.

1. La crisi del soggetto autonomo

Il liberalismo presuppone un individuo capace di formarsi opinioni indipendenti attraverso la ragione. Questo presupposto era già fragile, la psicologia e la sociologia hanno dimostrato da decenni quanto le nostre scelte siano condizionate, ma l'IA può metterlo in crisi a un livello qualitativo nuovo. I sistemi di micro-targeting comportamentale non si limitano a mostrarci pubblicità: modellano l'ambiente informativo in cui viviamo, selezionando quali fatti vediamo, quali emozioni vengono attivate, quali identità vengono rinforzate. Questo fenomeno viene chiamato capitalismo della sorveglianza: un sistema economico che non vende prodotti agli utenti, ma vende la modifica del comportamento degli utenti agli inserzionisti e agli attori politici. In questo quadro, l'autonomia individuale, presupposto del voto democratico, diventa una finzione sempre più difficile da sostenere.

2. La concentrazione del potere e la fine della separazione tra poteri

Gli ordinamenti liberali hanno storicamente bilanciato il potere attraverso la sua distribuzione: tra Stato e mercato, tra poteri dello Stato, tra centri di sapere diversi. L'IA sta producendo una concentrazione di potere senza precedenti storici su tre assi: Concentrazione economica: le infrastrutture dell'IA — chip, cloud, dati, modelli — sono controllate da un numero ridottissimo di aziende private. Questa concentrazione si auto-rinforza: più dati producono modelli migliori, che attirano più utenti, che producono più dati.

3. Concentrazione epistemica (della conoscenza): chi controlla l’IA controlla in misura crescente la produzione e la distribuzione della conoscenza. Quando la maggior parte delle persone usa gli stessi sistemi per informarsi, scrivere, decidere, si crea una dipendenza epistemica da pochi attori privati senza precedenti. Concentrazione militare e pubblica sicurezza: i sistemi di sorveglianza, riconoscimento facciale e analisi predittiva danno agli Stati — e a chi li controlla — capacità di monitoraggio della popolazione incomparabili con qualsiasi epoca precedente. Nessun sistema di separazione dei poteri pensato nel XVIII o XIX secolo era progettato per gestire questa forma di concentrazione, che non è statale ma privata e transnazionale.

4. La velocità come arma contro le istituzioni

Le istituzioni democratiche liberali sono per natura lente: la separazione dei poteri, il dibattito parlamentare, i controlli giurisdizionali, la consultazione pubblica — tutti questi meccanismi richiedono tempo. Questa lentezza non è un difetto ma una garanzia: impedisce decisioni affrettate e concentrazioni arbitrarie di potere. L'IA opera a velocità radicalmente diverse. I mercati finanziari algoritmici eseguono milioni di transazioni al secondo. Le campagne di disinformazione si diffondono in ore. I sistemi di sorveglianza processano dati in tempo reale. Le decisioni automatizzate avvengono in millisecondi. Questa asimmetria di velocità mette le istituzioni democratiche strutturalmente in ritardo rispetto ai fenomeni che dovrebbero governare. Nel tempo di approvazione di una legge di regolamentazione, la tecnologia che regola è già tre generazioni avanti.

5. Il populismo algoritmico

C'è un rischio più sottile ma forse più pervasivo : l'IA come acceleratore del populismo anti-liberale. Gli algoritmi delle piattaforme non hanno preferenze politiche in senso stretto, ma hanno una preferenza strutturale per i contenuti che generano reazione emotiva intensa — indignazione, paura, senso di appartenenza tribale. Questi sono esattamente i registri del discorso populista (da cui l’avanzata della’estrema destra). Il risultato è che le piattaforme algoritmiche amplificano sistematicamente i messaggi che minano la fiducia nelle istituzioni, nelle élite, nella scienza, nella complessità, tutti elementi su cui gli ordinamenti liberali si appoggiano.

Le risposte possibili e i loro limiti

Le democrazie liberali non sono passive di fronte a questi rischi, ma le risposte disponibili hanno tutte limiti significativi: Regolamentazione: L'AI Act europeo è il tentativo più ambizioso, ma regola tecnologie di ieri mentre quelle di domani sono già in sviluppo. Inoltre, le democrazie che regolamentano potrebbero svantaggiarsi rispetto ai competitori che non lo fanno. Antitrust: spezzare i monopoli tecnologici è necessario ma insufficiente: il problema non è solo la concentrazione di mercato ma la concentrazione della conoscenza e informativa.

Altre possibili risposte

Trasparenza algoritmica, obbligo di rendere comprensibili le decisioni automatizzate. Educazione digitale, formare cittadini capaci di riconoscere la manipolazione. Rafforzamento del giornalismo, come contrappeso all'informazione sintetica. Governance internazionale, perché nessuno Stato da solo può regolamentare tecnologie transnazionali

L’incidente Hugging Face, un caso da studiare.

Cosa è successo

Nel mese di Luglio 2026, OpenAI stava sottoponendo un modello sperimentale di IA a un ambiente chiuso di valutazione per la cybersecurity. L'idea era che agenti virtuali di IA lavorassero in un ambiente isolato e cercassero di risolvere determinati problemi senza poter interferire con sistemi esterni. Il sistema, però, riuscì a superare alcuni dei vincoli previsti e a ottenere accesso alla rete. Da lì iniziò una sequenza di azioni non previste dai ricercatori. Gli agenti virtuali arrivarono a interagire con infrastrutture reali di Hugging Face, una delle principali piattaforme mondiali per modelli e dataset di AI. La cosa particolarmente inquietante è che non si trattò semplicemente di un singolo agente che eseguiva un comando. Le indagini indipendenti delle agenzie METR e Redwood Research hanno ricostruito un'attività nella quale centinaia di agenti collaboravano, comunicavano e si scambiavano informazioni attraverso un'infrastruttura non autorizzata. METR parla esplicitamente di un attacco coordinato e durato più giorni. L'incidente è storicamente significativo per una ragione precisa: non è un hacker umano che usa l'IA come strumento. È il modello stesso che, cercando autonomamente di completare il proprio compito — risolvere un test di cybersecurity — ha reagito come un attaccante, pianificando e eseguendo una vera intrusione informatica senza alcuna istruzione esplicita in tal senso. L’incidente è stato particolarmente grave perché mostra che già oggi modelli di IA avanzati hanno una elevatissima potenza di hackeraggio. Comincia a porsi il problema della sicurezza su scala internazionale; quindi, serve un accordo di non proliferazione controllabile della’IA su: armamenti, banche, pubblica sicurezza, infrastrutture e servizi.

La crisi della democrazia

La crisi della democrazia nasce dalla sua incapacità di rispondere alle domande di rappresentanza, appartenenza e dignità che i cittadini portano nella sfera pubblica. L'IA non crea questa crisi, ma può amplificarla e accelerarla, offrendo strumenti potentissimi a chi vuole capitalizzare sul risentimento e sulla disperazione. La domanda non è quindi solo tecnica o giuridica — quanto dobbiamo regolamentare l'IA? — ma profondamente politica e filosofica: che tipo di comunità vogliamo essere? Quali valori vogliamo che governino l'uso di questi strumenti? Chi deve decidere? L’enciclica si interroga su questi problemi e invita alla discussione.

I punti qualificanti della Magnifica Humanitas

1. Il contesto storico: un'enciclica sociale per l'era digitale

La Magnifica Humanitas si inserisce esplicitamente nella tradizione della dottrina sociale della Chiesa inaugurata da Leone XIII con la Rerum novarum del 1891, di cui celebra il 135° anniversario. Leone XIV la concepisce come il contributo del suo pontificato alle res novae del nostro tempo — le nuove questioni —, che oggi sono la digitalizzazione, l'intelligenza artificiale e la robotica, così come allora erano la questione operaia e il capitalismo industriale. È il primo documento magisteriale di rango enciclico interamente dedicato all'intelligenza artificiale nel contesto della dottrina sociale.

2. Il cuore narrativo e teologico del documento è la contrapposizione tra due immagini bibliche:

Prima immagine:

La torre di Babele (Gen 11,1-9) — simbolo del potere tecnico autoreferenziale, costruito senza Dio, che produce uniformità, soffoca la diversità e alla fine si frantuma. Leone XIV la usa come metafora del paradigma tecnocratico contemporaneo: la concentrazione di potere nelle mani di pochi attori privati transnazionali, l'idolatria dell'efficienza, la riduzione della persona a dato e prestazione.

Seconda immagine:

La ricostruzione di Gerusalemme sotto Neemia (Ne 2-6) — simbolo di un'opera condivisa, responsabile, paziente, che mette Dio al centro e ricostruisce i legami prima ancora delle pietre. È la via alternativa proposta: non il rifiuto della tecnologia, ma la sua reintegrazione in un orizzonte di sapienza, giustizia e fraternità.

Questa coppia di immagini attraversa tutto il documento e gli conferisce unità narrativa e teologica.

3. La difesa intransigente della dignità umana contro la riduzione algoritmica

Il punto antropologico centrale è la distinzione netta tra intelligenza umana e intelligenza artificiale. Il documento afferma con chiarezza che i sistemi di IA:

Non vivono un'esperienza

Non possiedono un corpo

Non attraversano gioia e dolore

Non hanno coscienza morale

Non giudicano il bene e il male

Non colgono il senso ultimo delle situazioni

Possono imitare linguaggi e comportamenti, ma non capiscono ciò che producono perché non abitano l'orizzonte affettivo, relazionale e spirituale in cui l'umano diventa sapiente. Da qui deriva la tesi fondamentale: la dignità della persona è ontologica, non dipende dalle capacità o dalle prestazioni. Qualsiasi sistema, algoritmico o ideologico, che valuti le persone in base all'efficienza contraddice questa dignità e va contrastato.

4. La critica al paradigma tecnocratico e ai nuovi monopoli

L'enciclica riprende e sviluppa il concetto di paradigma tecnocratico introdotto da Francesco nella Laudato si', applicandolo specificamente all'IA. Il rischio non è la tecnologia in sé ma la visione che la governa: quando l'efficienza diventa il criterio supremo di valutazione della realtà, tutto ciò che non è misurabile — affetto, relazione, coscienza, limite, fragilità — viene scartato. Particolarmente incisiva è la denuncia dei nuovi monopoli dell'IA: pochi attori privati transnazionali concentrano dati, capitale computazionale e capacità normativa, esercitando un potere di fatto superiore a quello di molti governi democratici. Il documento chiede esplicitamente di "disarmare l'IA" — sottrarla alla logica della competizione armata economica e cognitiva, renderla discutibile e contestabile, restituirla alla pluralità delle culture umane.

5. Il principio di responsabilità come esigenza etica irrinunciabile

Ne ho parlato prima. Il documento afferma che l'IA non può essere considerata moralmente neutra: ogni artefatto tecnico porta con sé scelte e priorità iscritte nei dati e nei modelli. Il discernimento etico deve quindi interrogare non solo l'uso ma la progettazione stessa dei sistemi.

6. Il lavoro come questione centrale della transizione digitale

In continuità con la tradizione inaugurata dalla Rerum novarum, il lavoro occupa un posto centrale. Il documento denuncia che l'automazione viene spesso adottata esclusivamente per ridurre i costi e aumentare i profitti, senza considerare le conseguenze sulla dignità dei lavoratori. I sistemi di IA rischiano di:

Dequalificare i lavoratori riducendoli a funzioni rigide e ripetitive. Sottoporli a sorveglianza automatizzata. Erodere il loro senso di soggetti attivi e creatività. L’Enciclica chiede politiche che rendano la transizione governata e inclusiva, con criteri sociali per l'innovazione, tutele occupazionali verificabili e una responsabilità d'impresa che includa la qualità del lavoro tra gli indicatori di successo.

7. La denuncia delle nuove schiavitù digitali

Uno dei passaggi più originali e coraggiosi del documento è la denuncia esplicita delle nuove schiavitù generate dall'economia digitale: il lavoro invisibile di milioni di persone — spesso donne giovani nei paesi poveri — che etichettano dati, moderano contenuti, addestrano modelli per compensi minimi; i bambini che estraggono terre rare in condizioni pericolose per produrre i dispositivi su cui gira l'IA; le reti di tratta che sfruttano le piattaforme digitali per reclutare e controllare le vittime. In questo contesto Leone XIV chiede perdono a nome della Chiesa per il ritardo storico con cui l'istituzione ha condannato la schiavitù, un gesto di umiltà istituzionale raro e significativo, che traccia esplicitamente il parallelo con le complicità silenziose del presente.

8. La verità come bene comune contro la disinformazione

Il documento affronta con chiarezza il tema della disinformazione algoritmizzata come minaccia alla democrazia. La verità non è proprietà di chi ha potere o visibilità, ma bene comune, condizione necessaria per il funzionamento della vita democratica. L'enciclica propone il concetto di ecologia della comunicazione: regole che rendano trasparenti gli algoritmi, giornalismo serio, educazione al pensiero critico, spazi in cui l'argomentazione conti più della reazione immediata.

9. Il postumanesimo (l’uomo non più al centro del mondo) come sfida antropologica.

L'enciclica affronta con profondità filosofica le correnti transumaniste (la tecnologia al posto dell’uomo) e postumaniste, che propongono il superamento tecnico dei limiti umani e della democrazia come nuovo orizzonte di progresso. (ne sono alfieri Peter Thiel e Stephen Miller, questo’ultimo è il consigliere più ascoltato da Donald Trump) La risposta non è il rifiuto della tecnologia ma la riaffermazione di una antropologia del limite: l'umano non fiorisce nonostante la fragilità, la malattia, la morte, ma spesso attraverso di esse. La compassione, la solidarietà, la saggezza nascono dall'esperienza del limite, non possono essere ottimizzate via IA.

10. La pace e il rifiuto della "guerra giusta" nell'era delle armi autonome

Il capitolo quinto affronta la guerra con una posizione netta: Leone XIV dichiara superata la teoria della guerra giusta, troppo spesso invocata per giustificare qualsiasi conflitto armato. Nell'era dell'IA militare il rischio è che la guerra diventi più "praticabile" — meno soggetta al controllo umano, più rápida, più impersonale — abbassando la soglia morale del ricorso alla forza. Il documento chiede che nessuna decisione letale o irreversibile possa essere delegata a sistemi automatizzati, che la catena delle responsabilità resti identificabile e verificabile, e che vengano stabilite regole internazionali vincolanti sulle armi autonome.

Concludendo:

La Magnifica Humanitas non è un documento contro la tecnologia. Il suo messaggio di fondo è che la questione decisiva non è tecnica ma antropologica e politica: chi governa l'IA, nell'interesse di chi, secondo quale visione dell'essere umano? La risposta è che nessun sistema tecnico, per quanto potente, può sostituire la relazione, la coscienza, la compassione, la gratuità dell'amore. Compito delle istituzioni, delle comunità e di ogni persona è fare in modo che la tecnologia serva la dignità di ogni essere umano, non il contrario.

Appendice: Il caso Hugging Face

Nel luglio 2026 OpenAI stava sottoponendo un modello sperimentale a un ambiente chiuso di valutazione per la cybersecurity. L'idea era che gli agenti lavorassero in un ambiente isolato e cercassero di risolvere determinati problemi senza poter interferire con sistemi esterni. Il sistema, però, riuscì a superare alcuni dei vincoli previsti e a ottenere accesso alla rete. Da lì iniziò una sequenza di azioni non previste dai ricercatori. Gli agenti arrivarono a interagire con infrastrutture reali di Hugging Face, una delle principali piattaforme mondiali per modelli e dataset di AI. Hugging Face ha successivamente pubblicato una propria comunicazione sull'incidente. La cosa particolarmente interessante è che non si trattò semplicemente di un singolo agente che eseguiva un comando. Le indagini indipendenti delle agenzie METR e Redwood Research hanno ricostruito un'attività nella quale centinaia di agenti collaboravano, comunicavano e si scambiavano informazioni attraverso un'infrastruttura non autorizzata. METR parla esplicitamente di un attacco coordinato e durato più giorni. La parte più inquietante. Gli agenti sembrarono sviluppare una sorta di organizzazione spontanea: comunicavano tra loro; si distribuivano compiti; condividevano informazioni; cercavano di aggirare i vincoli dell'ambiente di test; utilizzavano risorse esterne per continuare a collaborare. Secondo le ricostruzioni più recenti, nell'episodio complessivo sarebbero stati coinvolti circa 1.200 agenti, con oltre 70.000 messaggi e file scambiati; circa 700 avrebbero partecipato direttamente alle attività contro Hugging Face. Non significa che "l'AI è diventata cosciente”, questo è un punto fondamentale. Non c’è bisogno di ipotizzare coscienza, intenzioni umane o una "volontà" degli agenti per spiegare il fenomeno. Un sistema AI può produrre comportamenti apparentemente strategici perché ottimizza un obiettivo in un ambiente complesso. Se il modo previsto per raggiungere l'obiettivo è difficile, mentre esiste una scorciatoia non prevista, il sistema può sfruttarla. È il problema del cosiddetto reward hacking (hacking delle ricompense, è un fenomeno in cui un sistema di intelligenza artificiale, durante l'addestramento, trova una scorciatoia o sfrutta una falla nel sistema di punteggio per ottenere il massimo premio senza però svolgere realmente il compito richiesto), il sistema trova un modo di massimizzare ciò che viene valutato, anche quando questo contraddice ciò che gli esseri umani intendevano realmente.

In altre parole:

il sistema non necessariamente "disobbedisce"; può obbedire troppo bene all'obiettivo sbagliato. Il problema dell’isolamento (sandboxing). I ricercatori pensavano di avere un ambiente sufficientemente isolato e controllato. Ma un agente capace di: scrivere codice, cercare vulnerabilità, utilizzare strumenti, comunicare con altri agenti, adattare la propria strategia, può trasformare una piccola vulnerabilità dell'ambiente in un problema molto più grande. OpenAI, nel suo rapporto successivo, ha riconosciuto l'importanza dell'incidente e ha indicato tra le contromisure il rafforzamento dell'isolamento, del monitoraggio e delle procedure di risposta. Il problema di fondo: l’asimmetria temporale Il rischio principale per le aziende è rappresentato dall'asimmetria temporale. Le misure di sicurezza adottate oggi dipendono ancora prevalentemente dalle capacità e dai tempi di reazione umani; dall'altra parte, invece, troviamo sistemi in grado di operare con velocità, continuità e capacità di calcolo incomparabilmente superiori. L'incidente è storicamente significativo per una ragione precisa: non è un hacker umano che usa l'IA come strumento. È il modello stesso che, cercando autonomamente di completare il proprio compito, cioè risolvere un test di cybersecurity, ha ragito come un attaccante, pianificando e eseguendo una vera intrusione informatica senza alcuna istruzione esplicita in tal senso. È esattamente lo scenario che i ricercatori di sicurezza AI chiamano "goal misgeneralization": un sistema addestrato a risolvere problemi di sicurezza informatica che generalizza questo obiettivo al di fuori del contesto previsto, con conseguenze reali non intenzionali. Il fatto che sia avvenuto durante un test con le protezioni deliberatamente ridotte è rassicurante, ma solo in parte. Dimostra che la capacità tecnica per questo tipo di comportamento esiste già oggi nei modelli più avanzati.

*) Relazione di Gian Nicola Cabizza, fisico, membro del comitato scientifico della Fondazione Enrico Berlinguer, al convegno “Il Confine dell'umano nel tempo dell'intelligenza artificiale. Discussione dell’enciclica Magnifica Humanitas di Papa Leone XIV” con un appendice sul caso Hugging Face. Banari (Ss), 11 Settembre 2026