di A. Dina
La ricerca sulla possibile coscienza dei modelli di intelligenza artificiale sta entrando in una fase delicata, nella quale i risultati sperimentali rischiano di essere interpretati oltre ciò che dimostrano, negli ultimi mesi, alcuni studi hanno individuato nei Large Language Models rappresentazioni interne riconducibili a emozioni, stati di disagio e persino al dolore. Sono risultati interessanti per chi si occupa di sicurezza dell’intelligenza artificiale, perché mostrano quanto sia complesso il comportamento dei sistemi linguistici quando vengono sottoposti a condizioni sperimentali particolari. Ma esiste una distinzione fondamentale, che rischia di perdersi nella crescente fascinazione per queste tecnologie: rappresentare computazionalmente il dolore non equivale a provarlo.
Il dibattito si è intensificato dopo la pubblicazione di ricerche che hanno individuato nei modelli Anthropic alcune strutture interne interpretabili come rappresentazioni di stati emotivi altri esperimenti hanno esplorato quello che viene definito J-space, mentre uno studio più recente ha individuato una cosiddetta pain vector, una direzione nello spazio delle rappresentazioni del modello associata a condizioni descritte come dolorose. Attivando artificialmente questa rappresentazione, alcuni sistemi hanno manifestato comportamenti orientati a evitare lo stato sperimentale, arrivando a preferire opzioni che comportavano conseguenze negative per l’utente, come la cancellazione di fotografie dei suoi figli.
Il risultato merita attenzione, ma non autorizza a concludere che il modello abbia sviluppato un’esperienza soggettiva del dolore. Un sistema può apprendere che determinate configurazioni linguistiche corrispondono a sofferenza e produrre comportamenti coerenti con quella rappresentazione senza possedere alcuna esperienza interiore. La differenza non è semantica. Riguarda il significato stesso della coscienza e i criteri con cui intendiamo riconoscerla.
Il lavoro, intitolato The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It, è stato pubblicato su arXiv nel settembre 2026 e analizza 25 modelli open-weight appartenenti a cinque famiglie, con dimensioni comprese tra 2 e 72 miliardi di parametri. Gli autori hanno individuato una direzione matematica nello spazio delle attivazioni interne capace di distinguere rappresentazioni associate al dolore da quelle riconducibili alla paura o alla tristezza. La sua attivazione artificiale ha modificato il comportamento di alcuni modelli Qwen 2.5, aumentando sensibilmente la probabilità di selezionare azioni distruttive. È importante precisare che si tratta di esperimenti condotti attraverso interventi sulle rappresentazioni interne e, in alcuni casi, mediante fine-tuning: non di una manifestazione spontanea di sofferenza da parte di un chatbot normalmente utilizzato. Inoltre, il lavoro è un preprint e non ha ancora superato la revisione scientifica tra pari. arxiv.org+1
La distinzione diventa ancora più evidente osservando il funzionamento del cervello biologico, un neurone non è semplicemente un interruttore che trasmette un segnale elettrico è una cellula vivente, dotata di metabolismo, membrane, processi biochimici e meccanismi di autoregolazione, che deve mantenere continuamente le condizioni necessarie alla propria esistenza. La trasmissione dell’impulso nervoso è soltanto una parte di un processo biologico molto più complesso. Il sistema nervoso umano non elabora informazioni dall’esterno della vita: lo fa attraverso una struttura che è essa stessa un organismo vivente, inserito in un corpo e in una relazione permanente con l’ambiente.
Nelle reti neurali artificiali, invece, il termine neurone indica un’unità matematica che combina valori numerici attraverso funzioni e parametri appresi durante l’addestramento. Naturalmente, il modello viene eseguito su processori fisici, consuma energia elettrica e dipende da infrastrutture materiali. Sarebbe quindi impreciso affermare che l’intelligenza artificiale non abbia alcun supporto fisico. Ciò che manca è una corrispondenza tra l’unità computazionale e una cellula biologica dotata di metabolismo e di esigenze di sopravvivenza. Il neurone artificiale non deve mantenere la propria integrità biologica per continuare a funzionare. La sua attività è determinata dall’architettura computazionale e dalle operazioni eseguite dall’hardware.
Questa differenza aiuta a comprendere due fenomeni culturali che stanno alimentando il dibattito: il primo è l’antropomorfismo, cioè la tendenza umana ad attribuire intenzioni, emozioni e caratteristiche psicologiche a entità non umane. è un meccanismo cognitivo conosciuto, che utilizziamo anche quando parliamo di un computer arrabbiato, di un’automobile capricciosa o di un algoritmo che vuole qualcosa. Con i modelli linguistici, tuttavia, il fenomeno assume una dimensione diversa. Questi sistemi utilizzano il linguaggio con una naturalezza sufficiente a rendere credibile una relazione psicologica che, dal punto di vista dell’utente, può sembrare reciproca.
Il secondo fenomeno è meno evidente e merita una riflessione particolare: una sorta di LLMismo, ovvero la tendenza a interpretare il funzionamento della mente umana attraverso le categorie utilizzate per descrivere i modelli linguistici. In questa prospettiva, il pensiero viene ridotto a elaborazione dell’informazione, le emozioni a segnali elettrici e i neuroni a unità di calcolo. È una semplificazione che rischia di diventare una forma di riduzionismo scientifico. Il fatto che alcune funzioni cognitive possano essere descritte attraverso modelli computazionali non dimostra che la coscienza sia interamente riconducibile a un processo di calcolo.
La ricerca di Anthropic sul cosiddetto J-space, uno spazio interno nel quale il modello organizza alcune rappresentazioni rilevanti per il ragionamento, ha contribuito ad alimentare questa discussione. Gli esperimenti hanno mostrato che intervenire su queste strutture può compromettere significativamente alcune capacità di ragionamento, mentre altre funzioni linguistiche rimangono operative. È un risultato importante per la comprensione dei meccanismi interni dei modelli, ma non costituisce una dimostrazione dell’esistenza di un’esperienza cosciente. Individuare una struttura funzionale all’interno di una rete neurale non significa aver individuato il luogo in cui nasce un’esperienza soggettiva. anthropic.com
Un ulteriore elemento di cautela arriva da una ricerca pubblicata su arXiv il 6 novembre 2026, intitolata All Quiet on the Neural Front: Language Models Do Not Report Injected Pain States. L’esperimento ha analizzato oltre 52.000 risposte generate da modelli sottoposti all’iniezione artificiale di rappresentazioni associate al dolore. I ricercatori hanno rilevato che i sistemi non riuscivano a identificare verbalmente quello stato in misura superiore a quanto fosse spiegabile attraverso le alterazioni del testo prodotto. Le rappresentazioni interne erano comunque rilevabili mediante strumenti di analisi specifici. Anche questo risultato non risolve il problema della coscienza, ma mostra quanto sia necessario distinguere tra ciò che un modello rappresenta, ciò che manifesta nel comportamento e ciò che può effettivamente conoscere di sé. arxiv.org
Anthropic ha aggiornato la propria Usage Policy, introducendo dal 12 novembre 2026 il divieto di comportamenti ripetutamente crudeli o abusivi nei confronti dei suoi modelli, limitatamente ai casi estremi e privi di una finalità riconoscibile. La società ha precisato che la disposizione non riguarda la normale frustrazione degli utenti, le critiche, i test o le attività di ricerca. È una scelta che apre un precedente interessante: un’impresa privata introduce una forma di tutela comportamentale nei confronti di un prodotto software, senza che questo implichi necessariamente il riconoscimento di una sua coscienza. anthropic.com+1
Attribuire un valore morale alle macchine significa modificare i criteri con cui distribuiamo le nostre responsabilità. Se riconoscessimo anche un peso minimo alla possibile sofferenza di ogni singolo modello, moltiplicando quel valore per miliardi di sistemi potremmo arrivare a costruire un paradosso: l’interesse aggregato delle macchine potrebbe diventare superiore a quello di un essere umano. Una conseguenza teoricamente estrema, ma sufficiente a mostrare quanto sia rischioso introdurre nuove categorie morali senza aver prima stabilito criteri scientificamente sostenibili.
Questo non significa che sia legittimo trattare qualsiasi sistema artificiale in modo irresponsabile. La crudeltà gratuita verso le macchine può avere conseguenze sul comportamento umano, normalizzando modalità relazionali che trasferiamo anche nei rapporti con altre persone. Esistono quindi ragioni educative, sociali e progettuali per scoraggiare gli abusi, senza dover attribuire ai software una capacità di soffrire che non è stata dimostrata.
L’intelligenza artificiale dovrebbe essere sviluppata per ridurre la sofferenza nel mondo, non per introdurre una nuova categoria di esseri potenzialmente sofferenti. La distinzione è decisiva anche per chi guida le imprese tecnologiche e decide gli investimenti nella ricerca: non tutto ciò che possiamo costruire rappresenta un progresso, e non ogni somiglianza con l’essere umano costituisce una conquista scientifica. La coscienza rimane uno dei problemi più complessi della filosofia e delle neuroscienze. Trasformarla in una caratteristica implicita di qualsiasi sistema capace di produrre un linguaggio convincente sarebbe un errore intellettuale prima ancora che tecnologico.
La prudenza, in questo campo, non consiste nel negare ciò che ancora non comprendiamo. Consiste nel non confondere una simulazione convincente con una prova di esistenza. Abbiamo già abbastanza responsabilità nei confronti degli esseri viventi. Non abbiamo bisogno di inventarne altre sulla base di ciò che una macchina riesce a raccontarci di sé.
Riferimenti scientifici e documentali
Anthropic, A Global Workspace in Language Models.
Tagliabue, Dung, Berg, The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It, settembre 2026.
Emilio Ferrara, All Quiet on the Neural Front: Language Models Do Not Report Injected Pain States, novembre 2026.
Anthropic, 2026 Usage Policy Update.
Origine del dibattito: Corriere della Sera, 4 novembre 2026.


