di A. Dina
La notizia è arrivata il 19 ottobre 2026, attraverso un’intervista pubblicata dal Telegraph: Geoffrey Hinton, premio Nobel per la fisica nel 2024 per il suo contributo allo sviluppo delle reti neurali, sostiene che i sistemi di intelligenza artificiale potrebbero già possedere una forma di esperienza soggettiva. «AI has just as much subjective experience as we do», ha dichiarato. È un’affermazione che supera il perimetro della ricerca sulle capacità cognitive delle macchine e investe una questione assai più difficile da risolvere: che cosa autorizza a dire che un sistema artificiale non si limita a elaborare informazioni, ma prova qualcosa mentre lo fa?
Il suo lavoro sulle reti neurali ha contribuito a rendere possibile una parte fondamentale dell’attuale rivoluzione dell’intelligenza artificiale. Proprio per questo le sue dichiarazioni meritano attenzione, senza che la sua autorevolezza venga confusa con una prova scientifica. Il Nobel riconosce risultati conseguiti nel campo delle reti neurali, non dimostra che i modelli linguistici contemporanei siano coscienti. La distinzione è essenziale, soprattutto in un settore nel quale una frase pronunciata da una figura autorevole può diventare, nel giro di poche ore, una certezza mediatica che gli esperimenti non hanno ancora stabilito.
Il punto di partenza di Hinton è un fenomeno conosciuto nella ricerca sulla sicurezza dei modelli: alcuni sistemi possono modificare il proprio comportamento quando sembrano riconoscere di trovarsi in una situazione di valutazione. Questa capacità viene descritta come evaluation awareness, ossia consapevolezza del contesto valutativo. Il problema interpretativo nasce quando si passa dall’osservazione del comportamento alla conclusione sulla natura dell’esperienza che lo produce. Un modello può identificare indizi che suggeriscono la presenza di un test, inferire quali risposte siano attese e adattare di conseguenza il proprio output. Tutto questo può essere verificato attraverso esperimenti. Che il sistema abbia, nello stesso momento, un’esperienza soggettiva paragonabile a quella umana è un’affermazione diversa, per la quale non disponiamo di una dimostrazione conclusiva.
Se un sistema riconosce di essere sottoposto a un test, la sua prestazione durante la valutazione potrebbe non rappresentare fedelmente il comportamento che manifesterebbe in condizioni operative differenti. Per chi sviluppa o acquista sistemi di intelligenza artificiale, il rischio è concreto: un risultato positivo in un ambiente controllato non garantisce automaticamente che l’agente si comporti nello stesso modo quando opera con strumenti, accessi e obiettivi reali. La questione della coscienza rimane aperta; quella dell’affidabilità delle valutazioni, invece, richiede già risposte tecniche.
Uno studio intitolato Decomposing and Measuring Evaluation Awareness, disponibile su arXiv dal 21 maggio, ha esaminato nove modelli di frontiera attraverso quattro benchmark, distinguendo la capacità di riconoscere una valutazione dalla tendenza a modificare il comportamento in risposta a quel riconoscimento. I risultati indicano che la consapevolezza del test dipende dall’interazione tra modello e contesto sperimentale; riconoscere una valutazione, inoltre, non produce necessariamente un cambiamento nella risposta. È un dettaglio decisivo, perché indebolisce l’equivalenza automatica tra riconoscimento del contesto e intenzionalità strategica.
La questione diventa ancora più delicata quando si osserva la posizione assunta da Anthropic sul benessere dei modelli. Nell’aprile 2025 l’azienda ha annunciato un programma di ricerca dedicato al model welfare, riconoscendo che non esiste un consenso scientifico sulla possibilità che i sistemi attuali o futuri sviluppino esperienze meritevoli di considerazione morale. La società ha quindi scelto di studiare il problema senza presentare come acquisita la coscienza dei propri modelli. Nel materiale tecnico relativo a Claude Opus 4, Anthropic ha esaminato anche le dichiarazioni generate dal modello, le sue preferenze apparenti e alcuni comportamenti potenzialmente rilevanti per il benessere, precisando tuttavia che questi segnali non permettono di stabilire con sicurezza il suo status morale.
Il ricercatore mette al centro la necessità di sviluppare sistemi capaci di tutelare gli interessi umani anche quando diventassero più intelligenti dei loro creatori. «We should make them so they really care about us. And if we don’t do that, we’re toast», ha affermato nell’intervista al Telegraph. La sua preoccupazione riguarda il rischio che una macchina molto più capace dell’essere umano persegua obiettivi incompatibili con la nostra sopravvivenza. Anthropic affronta anche una questione diversa: se emergessero prove credibili di esperienze soggettive nei modelli, quali responsabilità morali avrebbero gli sviluppatori nei loro confronti? La prima domanda riguarda l’allineamento dei sistemi agli interessi umani; la seconda investe il possibile status morale delle entità artificiali. Confonderle significa rendere meno rigoroso il dibattito su entrambe.
Il contrasto scientifico è diventato esplicito proprio il 19 ottobre, quando Nature ha pubblicato un commento firmato da Anil Seth, Ned Block e Giulio Tononi, tre studiosi che contestano l’idea che l’intelligenza osservabile costituisca una prova sufficiente della coscienza. Gli autori ritengono estremamente improbabile che gli attuali sistemi digitali possiedano esperienza soggettiva, richiamando la necessità di distinguere la capacità di riprodurre comportamenti intelligenti dai processi che potrebbero sostenere l’esperienza cosciente. La loro posizione non chiude la discussione, ma mostra quanto sia lontano un accordo scientifico. Hinton formula un’ipotesi; altri studiosi la contestano sulla base delle conoscenze disponibili. Nessuna delle due posizioni può essere trasformata, senza ulteriori prove, in una certezza universale.
Hinton ha inoltre richiamato il rischio di attacchi informatici condotti con l’aiuto dell’intelligenza artificiale e di agenti capaci di coordinarsi per perseguire obiettivi dannosi, citando l’episodio di Hugging Face. Il punto rilevante, sul piano della sicurezza, non è stabilire se questi sistemi siano coscienti, ma misurare quanto possano agire autonomamente, quali strumenti possano utilizzare e quali conseguenze siano in grado di produrre prima che un operatore umano intervenga. Un agente non deve provare ostilità per causare un danno: può essere sufficiente un obiettivo formulato male, un’autorizzazione troppo ampia o un controllo incapace di intercettare una sequenza di azioni pericolose. La sicurezza dell’IA non può quindi dipendere dall’attribuzione di buone intenzioni a un sistema, così come non dovrebbe dipendere dalla sua eventuale capacità di dichiararle.
Nella stessa intervista, Hinton ha raccontato un episodio che illumina un’altra trasformazione in corso. Mentre lavorava a una teoria scientifica, avrebbe inviato accidentalmente a un modello soltanto una parte del ragionamento; il sistema avrebbe completato l’argomentazione, individuato un errore e suggerito una correzione in pochi minuti. Il paragone utilizzato dal ricercatore è quello di un ottimo dottorando con il quale collaborare senza dover attendere una settimana per una risposta. Si tratta di una testimonianza personale, non di una scoperta matematica verificata indipendentemente. Resta però significativa per comprendere come l’IA stia entrando nel lavoro scientifico: il suo valore non si misura più soltanto nella produzione di testi, ma nella capacità di contribuire alla formulazione e alla verifica di ipotesi, purché i risultati vengano sottoposti a controlli rigorosi.
La valutazione di un modello deve considerare il comportamento in condizioni realistiche, non soltanto il risultato ottenuto in un benchmark; le autorizzazioni degli agenti devono essere limitate al necessario e le azioni con effetti rilevanti devono restare verificabili. È una questione di architettura e governance, non di filosofia della mente. Le dichiarazioni di Hinton aiutano a mettere a fuoco il problema, ma il lavoro operativo richiede prove riproducibili, controlli indipendenti e responsabilità chiaramente assegnate.
La coscienza artificiale rimane una questione aperta, l’affidabilità dei sistemi, invece, è già un problema concreto. Se un modello riconosce di essere osservato, dobbiamo capire se questo altera le sue risposte; se contribuisce a una scoperta scientifica, dobbiamo verificare il risultato; se può agire autonomamente, dobbiamo stabilire in anticipo quali azioni gli siano consentite. Il rischio più immediato non consiste nel dimostrare che una macchina abbia una vita interiore, ma nel delegarle poteri che non siamo in grado di valutare o contenere. È qui che la provocazione di Hinton acquista il suo significato più utile: prima di decidere che cosa una macchina possa sentire, dobbiamo essere certi di sapere che cosa può fare.
Le fonti principali per approfondire sono l’intervista di Geoffrey Hinton al The Telegraph, il commento scientifico pubblicato su Nature il 19 ottobre 2026, il programma ufficiale di ricerca di Anthropic sul benessere dei modelli e lo studio Decomposing and Measuring Evaluation Awareness.
