Riccardo Manzotti
Gli LLM sono coscienti? O lo potranno diventare? Un recentissimo articolo dei ricercatori di Anthropic, gli autori di Claude, ha rilanciato la domanda, che era già stata affrontata in modo piuttosto aperto dal CEO della stessa compagnia, Dario Amodei, a febbraio in una intervista nel the New York Times Interesting Times podcast. La novità è che in questo articolo si propongono delle somiglianze tra i meccanismi cognitivi umani e il modo in cui Claude elabora concetti e sviluppa, in autonomia, strutture rappresentazionali che richiamano il modello della mente umana e della coscienza noto come Global Workspace.. Il cortocircuito che il lettore è tentato di fare è semplice: se il Global Workspace è la struttura che rende l’informazione coscientemente accessibile negli esseri umani, una struttura funzionalmente analoga potrebbe essere interpretata come un primo passo verso qualcosa di simile anche in un LLM come Claude.
Il Global Workspace è la tesi secondo cui la coscienza emergerebbe dai processi cognitivi. In particolare, esisterebbe uno spazio cognitivo di lavoro in cui l’informazione diventa cosciente (“The theory’s core claim is that a mental state is conscious when its representation has been broadcast to a shared workspace”). A ben pensarci, viene da chiedersi in che cosa, a parte un po’ di terminologia moderna, questo modello sarebbe diverso dal teatro cartesiano. Ma soprassiedo.
Attraverso due strumenti di analisi, la Jacobian Lens e i J-Space, lo studio evidenzia come, nei modelli complessi come Claude, il sistema crei uno spazio comune che viene reso disponibile per sviluppare un comportamento simile alla coscienza di accesso. È come se ci fosse uno spazio mentale che contiene solo un sottoinsieme dei concetti rilevanti e che svolge il ruolo di fornire un’autonomia centralizzata al sistema.
Finché si parla di strutture cognitive, è tutto molto interessante e anche utile sia per comprendere il funzionamento di un LLM, sia per fornire un modello funzionante di tante caratteristiche della nostra mente. Il problema è quando si passa dalla cognizione alla coscienza.
Prima di tutto, nonostante il Global Workspace sia in circolazione da quasi quarant’anni — fu proposto nel 1988 dallo psicologo Bernard Baars — e sia stato recentemente messo alla prova nel paradigma della ricerca avversariale, non esiste alcuna ipotesi concreta circa il motivo per cui l’informazione dovrebbe diventare esperienza fenomenica solo perché si trova a giocare un ruolo cognitivo importante.
Il secondo problema è l’epifenomenicità del concetto di coscienza. L’articolo mostra, in modo interessante, che certe rappresentazioni disponibili nel J-space hanno un ruolo funzionale nel ragionamento del modello. Ma proprio questo è il punto: ciò che fa lavoro esplicativo è la disponibilità funzionale dell’informazione, non il fatto di chiamarla cosciente. Supponiamo che un concetto sia in un modulo periferico e poi venga reso disponibile a molti processi a valle. E quindi? Per svolgere quel ruolo non ha bisogno di diventare cosciente; basta che sia accessibile, modulabile e utilizzabile.
Il terzo problema è legato alla nozione di coscienza di accesso che, avanzata da Ned Block parecchi anni fa, ha forti analogie con quella del Workspace. La coscienza di accesso sarebbe una versione metafisicamente neutra della coscienza. Lasciato da parte l’aspetto fenomenico, ci si concentrerebbe sulla disponibilità di certe informazioni a essere facilmente accessibili. Il problema qui non è l’accesso, ma la coscienza. Infatti, non c’è alcun bisogno di chiamarla coscienza: potremmo chiamarla memoria o spazio di lavoro d’accesso.
Il quarto problema è che, al di là degli stili cognitivi e delle strutture mentali, rimane totalmente misterioso il rapporto tra i concetti e l’esperienza cosciente. Per dirla brutalmente, non si procede dalle parole alla coscienza, ma dalla coscienza alle parole. Voi potete parlare fino allo sfinimento di colori a un cieco congenito, senza che questo si traduca mai nel fatto, irriducibile, che lui veda un colore.
L’ultimo problema è legato a un diffuso errore concettuale nell’uso di termini e metafore. Il Global Workspace è uno “spazio”, gli strumenti matematici dell’articolo usano gli “spazi” jacobiani. È vero che, soprattutto nel caso di questi ultimi, gli autori sanno benissimo che la parola spazio qui ha solo un valore metaforico: sono combinazioni sparse e non negative di vettori J-lens. Tuttavia, quando le persone leggono spazio, l’immaginazione va all’interiorità, all’idea che, come nel film Inside Out della Disney, ci sia uno spazio mentale, da qualche parte, dentro cui la coscienza si accenda. Questo modo di pensare è una forma peggiore di dualismo cartesiano, perché almeno il filosofo francese era pronto a pagare il prezzo metafisico, mentre i ricercatori contemporanei spesso usano le parole senza valutarne il peso ontologico.
In sintesi, Jacobia-Lens e J-Space sono strumenti validi per comprendere meglio l’emergere di strutture cognitive negli LLM, ed è affascinante vedere come, al crescere della loro complessità, la somiglianza nella gestione di concetti e informazioni aumenti progressivamente. Dopodiché, non vedo alcun motivo per ritenere che la comparsa di stili cognitivi simili a quelli dell’essere umano, di coscienza di accesso o di spazio di lavoro, sia la via che porterà un LLM a essere cosciente. Anthropic mostra un’analogia funzionale con la coscienza di accesso, non una prova di coscienza fenomenica. La coscienza non è cognizione, anche se quest’ultima permette a chi è cosciente di articolare e moltiplicare la propria esperienza.
