Andrea Lavazza (Università Pegaso)
Il report “Verbalizable Representations Form a Global Workspace in Language Models” di Wes Gurnee, Jack Lindsey e colleghi, appena diffuso da Anthropic, va preso molto sul serio, ma anche letto con una certa prudenza metodologica. Proprio perché il risultato è molto interessante, bisogna evitare di caricarlo di più di quanto possa sostenere. Proprio le prime reazioni all’articolo mostrano quanto sia facile oscillare tra letture opposte ed estreme.
Il paper afferma che in alcuni grandi modelli linguistici, come Claude, sia possibile individuare uno spazio interno di rappresentazioni “verbalizzabili”, chiamato J-space. Attraverso una tecnica complessa di interpretabilità, la Jacobian lens, gli autori cercano di mostrare che queste rappresentazioni non sono semplicemente tracce dell’input o anticipazioni dell’output, ma contenuti disponibili al ragionamento interno, alla modulazione e all’uso flessibile in compiti diversi. Per questo propongono di leggerle come una struttura “workspace-like”, cioè simile, per alcune funzioni, allo spazio di lavoro globale discusso nelle teorie cognitive della coscienza.
La prima cautela riguarda la teoria dello spazio di lavoro globale nel suo ambito originario, cioè lo studio della coscienza umana. La Global Workspace Theory è una delle teorie più influenti per spiegare l’accesso cosciente: l’idea che alcune informazioni diventino disponibili a molti processi cognitivi, possano essere riportate verbalmente, usate nel ragionamento, tenute in mente e impiegate per guidare l’azione. In questo senso, è una teoria forte della disponibilità funzionale dell’informazione. Ma non è dimostrato che spieghi la coscienza fenomenica, cioè il fatto che un’esperienza sia vissuta in prima persona, che vi sia “qualcosa che si prova” nell’avere dolore o vedere un viso.
Questa è una distinzione cruciale. Una cosa è spiegare perché un contenuto sia accessibile, riportabile e utilizzabile dal sistema. Un’altra cosa è spiegare se e come quel contenuto sia anche accompagnato da esperienza soggettiva. La Global Workspace Theory è plausibile sul primo livello. Sul secondo, resta discussa. Esistono altre teorie influenti della coscienza, e soprattutto rimane aperto il problema se l’accesso funzionale basti davvero a spiegare la dimensione fenomenica. Per questo sarebbe già metodologicamente rischioso, nel caso umano, identificare troppo rapidamente spazio di lavoro globale e stati soggettivi.
Gli autori di Anthropic distinguono tra coscienza di accesso e coscienza fenomenica, senza prendere posizione su quest’ultima. Il loro obiettivo non è dimostrare che i modelli linguistici siano coscienti, ma che in alcuni modelli avanzati emerge un sottoinsieme privilegiato di rappresentazioni interne, rappresentazioni che possono essere verbalizzate, modulate, usate nel ragionamento interno, trasferite in modo flessibile tra compiti diversi e selezionate rispetto al resto dell’elaborazione automatica.
Gurnee e colleghi riconoscono che non si tratta della stessa architettura postulata per il cervello umano. Nei transformer non troviamo, almeno non nello stesso senso, moduli cerebrali specializzati che competono per l’accesso a uno spazio comune, né ricorrenze biologiche, né un meccanismo di “innesco” globale paragonabile a quello proposto in alcune versioni neuroscientifiche della teoria. Il J-space è piuttosto una struttura individuata attraverso una tecnica di interpretabilità, la Jacobian lens, che permette di leggere alcune rappresentazioni che il modello sembra pronto a verbalizzare. È dunque un risultato importante sul funzionamento interno di certi modelli.
Da qui nascono due rischi opposti ma collegati. Il primo rischio è usare il risultato per avvicinare troppo rapidamente gli LLM alla coscienza. Il ragionamento implicito sarebbe: la coscienza umana dipende da uno spazio di lavoro globale; alcuni LLM hanno qualcosa di simile a uno spazio di lavoro globale; dunque, gli LLM sono almeno vicini alla coscienza. Ma il paper mostra, nella migliore delle ipotesi, funzioni associate all’accesso: riferibilità, disponibilità, integrazione, uso flessibile delle informazioni. Non mostra la presenza di esperienza soggettiva. Mostra che il modello può avere contenuti interni accessibili e utilizzabili; non che quei contenuti siano “vissuti”.
Il secondo concerne l’analogia con gli LLM. Tale analogia potrebbe finire con il rafforzare retoricamente la Global Workspace Theory nell’ambito della spiegazione della coscienza umana. Si parte da una teoria già controversa della coscienza; la si applica in forma indebolita e funzionale ai modelli linguistici; si trova nei modelli qualcosa che le assomiglia; poi si torna indietro e si dice: se una struttura di questo tipo emerge anche nei sistemi artificiali, allora il global workspace deve essere una struttura fondamentale della mente e forse della coscienza. Il fatto che una certa architettura funzionale sia utile per organizzare l’informazione in un LLM non dimostra che quella stessa architettura spieghi la coscienza fenomenica negli esseri umani.
In entrambi i casi, un’analogia funzionale può diventare indebitamente una conferma teorica più forte di quanto sia per ora giustificato dai dati. “Global workspace” può voler dire almeno due cose diverse: può indicare una soluzione computazionale generale: rendere alcune informazioni disponibili a molti processi del sistema. Oppure può indicare una teoria della coscienza umana. Il paper è convincente sul primo versante. Tuttavia, diventa molto più problematico se viene letto nel secondo.
Il commento al paper fatto da Stanislas Dehaene e Lionel Naccache, padri della teoria in oggetto, arricchisce il dibattito. Da un lato, essi leggono il risultato in modo molto favorevole alla teoria dello spazio di lavoro globale: il J-space sarebbe un analogo artificiale del Global Neuronal Workspace e mostrerebbe che, quando un sistema deve pianificare, ragionare, riutilizzare risultati intermedi e riferire i propri contenuti, può emergere spontaneamente una struttura di accesso globale. In questo senso, il paper può essere visto come un risultato importante per una concezione funzionalista della coscienza, o almeno dell’accesso cosciente.
Dall’altro lato, però, proprio Dehaene e Naccache riconoscono differenze non marginali tra il J-space e lo spazio di lavoro neuronale umano. Nel modello artificiale non è ancora dimostrato in modo pieno l’“innesco” non lineare che, nella loro teoria, caratterizza l’accesso cosciente nel cervello. Il J-space non corrisponde a una popolazione di neuroni dedicata con una specifica anatomia, ma a un insieme di direzioni distribuite nello spazio delle attivazioni. Inoltre, i transformer non hanno la stessa ricorrenza autonoma del cervello, non possiedono un corpo, non ricevono segnali corporei di piacere o dolore, non dispongono di una memoria episodica durevole e non sembrano godere di una continuità del sé paragonabile a quella umana.
C’è infatti un punto che riguarda l’individuazione stessa del sistema di cui stiamo parlando. Quando studiamo la coscienza in un essere umano, l’oggetto di indagine è un organismo relativamente identificabile: un corpo, un cervello, una storia percettiva e motoria, una memoria autobiografica, una continuità temporale. Nel caso di un modello come Claude, invece, non è ovvio quale sia esattamente l’“entità” a cui attribuiamo un eventuale stato di accesso cosciente. Claude è un modello addestrato? È una specifica istanza di inferenza? È la singola conversazione in corso? È il sistema distribuito che gira su infrastrutture computazionali diverse? La domanda è anche filosofica: prima ancora di chiederci se Claude abbia qualcosa di simile alla coscienza, dobbiamo chiarire che cosa intendiamo per “Claude” come possibile portatore di stati cognitivi.
Ciò detto, è utile notare che la lettura di Dehaene e Naccache dipende da una definizione molto precisa e funzionalista della coscienza. Per loro, una macchina potrebbe essere detta cosciente se possedesse almeno due proprietà: la disponibilità globale dell’informazione, cioè la possibilità di selezionare un contenuto e usarlo in modo flessibile, e una forma di automonitoraggio, cioè la capacità di raccogliere informazioni su se stessa e includerle nel proprio ragionamento. Il J-space sembra avvicinarsi soprattutto alla prima proprietà, mentre la seconda resta attualmente più incerta. Questo chiarisce perché il paper appaia molto significativo dentro quella cornice teorica, ma non obblighi chi non condivide quella cornice ad accettare conclusioni forti sulla coscienza artificiale.
C’è poi un’ulteriore distinzione. Anche concedendo che il paper individui rappresentazioni privilegiate, non è ancora del tutto chiaro se queste rappresentazioni formino davvero un flusso unitario e integrato, e ancor meno se diano vita a uno spazio di lavoro globale nel senso pieno della teoria. Una cosa è dire che alcuni contenuti interni sono accessibili, verbalizzabili e influenti sul comportamento del modello. Un’altra è dire che esista una struttura coerente che seleziona, integra e trasmette quei contenuti come farebbe un vero workspace. Alcuni LLM sembrano possedere una organizzazione simile a uno spazio di lavoro, ma non è ancora chiaro se abbiano uno spazio di lavoro globale in senso pieno.
Il report di Anthropic è dunque rilevante perché mostra che i modelli linguistici avanzati non sono semplici macchine input-output prive di struttura interna interpretabile. Sembrano avere livelli diversi di elaborazione: molta attività automatica non verbalizzabile e un insieme più ristretto di rappresentazioni disponibili all’output e al ragionamento. Questo appare come un risultato importante, fatte salve ulteriori conferme sperimentali. Ma non basta oggi né per dire che gli LLM siano coscienti, né per dire che la Global Workspace Theory sia confermata come teoria della coscienza umana.
Il valore del contributo sta anche nel fatto che rende le ipotesi più testabili. Non obbliga a concludere che vi sia coscienza artificiale, ma permette di chiedere in modo più preciso se nei modelli esistano fenomeni analoghi all’innesco, al collo di bottiglia attentivo, al controllo volontario di risposte automatiche e all’automonitoraggio. Si tratta senza dubbio di un progresso importante, che andrà ulteriormente corroborato e interpretato.
(ChatGPT Plus è stato utilizzato come supporto a una prima bozza di questo articolo)
