Francesco D’Isa
Quanto è probabile che un’intelligenza artificiale sia cosciente? C’è chi sostiene che un modello linguistico sia poco più di un pappagallo stocastico e chi è altrettanto sicuro che là dentro ci sia già qualcosa – ma come spesso accade con problemi così ampi, per provare a rispondere bisogna prima capire che cosa intendiamo con la domanda. Cos’è la coscienza? A cosa è legata? Come si misura, se è possibile farlo?
Un lungo paper uscito alla fine di settembre, «From cacophony to hierarchy: a principled framework for assessing AI consciousness», prova a mettere un po’ d’ordine: non offre una soluzione, ma analizza il dissenso che la domanda si porta dietro. Lo firmano quattordici autori, per lo più di Google DeepMind (fra cui Murray Shanahan e Shane Legg), insieme ad Anil Seth e ad altri, e il suo scopo è localizzare il disaccordo, così che due persone che litigano sul tema sappiano almeno su che cosa stanno litigando.
Si parte da una vecchia idea di David Marr: lo stesso sistema si può descrivere a grane diverse, da ciò che fa a come lo fa fino alla materia che fisicamente lo realizza. Gli autori riprendono da Searle un esempio celebre e gliene affiancano un altro: un uragano simulato non bagnerà mai nessuno, perché ciò che fa di un uragano un uragano sono l’acqua, la massa e l’energia cinetica, mentre una calcolatrice simulata calcola davvero, dato che le operazioni matematiche possono essere istanziate in più supporti fisici. Una mente simulata è dunque una mente? Dipende da quale dei due somigli di più alla coscienza – da dove questa «abiti», insomma, fra le possibili descrizioni di un sistema. Ed è proprio qui, secondo il paper, che le teorie della coscienza si dividono.
Ne vengono fuori cinque livelli, a seconda di dove ciascuna teoria pensa che vada cercata la coscienza. Al più superficiale, quello comportamentale, conta solo ciò che il sistema fa: se si comporta da essere cosciente, lo si tratta come tale. Un gradino più giù conta l’algoritmo, cioè il procedimento con cui il sistema arriva a quel comportamento: è il livello computazionale della Global Workspace Theory e delle teorie Higher-Order. Scendendo ancora si arriva alla struttura causale fisica (il modo in cui i componenti si vincolano a vicenda nell’hardware), il terreno della Integrated Information Theory. Il livello organismico, secondo la linea che Seth difende da anni, chiede ancora di più: il sistema deve mantenersi in vita, regolare i propri equilibri interni, avere qualcosa da perdere o da guadagnare. L’ultimo, detto 4E (dalle iniziali di embodied, embedded, enactive ed extended: incarnata, immersa nell’ambiente, enattiva, estesa), non cerca la coscienza dentro il sistema ma nel suo rapporto con il mondo: nel modo in cui percezione e movimento si regolano a vicenda e nella storia attraverso cui un corpo è cresciuto e ha imparato a stare nel suo ambiente. I livelli stanno l’uno dentro l’altro come gli anelli di un tronco, e ognuno contiene il precedente aggiungendo una condizione: l’algoritmo è ciò che produce il comportamento, i circuiti sono ciò che esegue l’algoritmo, l’organismo è ciò che tiene in vita i circuiti, e il mondo è ciò dentro cui l’organismo vive e si è formato.
Per ogni livello il paper elenca alcuni indicatori, trentasette in tutto: segni osservabili come la capacità di monitorare i propri processi o la regolazione omeostatica, che dal punto di vista di un certo livello rendono la coscienza più o meno plausibile. Nessuno da solo è sufficiente. Funzionano piuttosto come indizi, ognuno col suo peso, e un modello bayesiano li mette insieme, alzando o abbassando la probabilità man mano che se ne aggiungono. Questa architettura ha una conseguenza interessante: dato che i livelli sono annidati, ciò che si sa della grana fine risale verso la superficie più facilmente di quanto ciò che si vede in superficie scenda in profondità (molti sistemi sanno imitare un comportamento umano, molti meno possiedono l’organizzazione che di solito lo produce). L’esempio migliore del paper è una mosca, che non supererebbe nessun test di Turing e tuttavia regola il proprio ambiente interno, percepisce le proprie riserve di energia, si avvicina a ciò che le giova e si allontana da ciò che le nuoce, vive in continuo scambio sensomotorio con l’ambiente; e il modello, a pesi uguali per tutti i livelli, le assegna una probabilità di circa il 91 per cento (con valori degli indicatori fissati dagli autori a scopo illustrativo, come in tutti gli esempi del paper). «La profondità delle prove», scrivono gli autori, «può contare più della loro ampiezza.»
Il risultato finale è una media dei cinque livelli, in cui ciascuno pesa in base a quanto si è disposti a scommettere che sia quello decisivo. Un informatico darà forse più peso al livello computazionale, un seguace di Seth lo sposterà su quello organismico e così via. È nei pesi che la teoria entra nel calcolo, e ci entra allo scoperto.
Poi arrivano i modelli linguistici, per i quali il calcolo dà una probabilità alta ai livelli superficiali e quasi nulla a quelli profondi: un transformer che gira su normali processori non ha una vera integrazione causale fisica, non ha nulla in gioco nella propria continuità e non ha un corpo con cui stare nel mondo. Gli autori notano che la lettura generosa di un LLM è «per certi versi un’immagine speculare della mosca»: entrambi hanno grosse lacune, solo che stanno ai due capi opposti della gerarchia. Con pesi uguali, la lettura ottimista dei dati dà circa il 40 per cento e quella scettica lo 0,5. Basta poi girare la manopola. Prendiamo la sola lettura ottimista, sugli stessi identici dati: se si mette l’80 per cento del peso su comportamento e computazione, il suo 40 per cento sale a circa il 79; se lo si sposta su organismo e ambiente, crolla intorno al 10.
Sono numeri da maneggiare con cura, come avverte anche il paper. Le due letture sono costruite a tavolino: nessuno ha misurato niente, sono stati gli autori a stabilire quali dei trentasette indicatori un ottimista e uno scettico darebbero per soddisfatti guardando gli stessi dati pubblici, dalle conversazioni di tipo Turing ai recenti studi di interpretabilità su ciò che accade dentro queste reti. L’ottimista concede quasi tutto il livello comportamentale e buona parte di quello computazionale, lo scettico concede soltanto quei test conversazionali e li attribuisce per giunta a una pura abilità imitativa. Le cifre, insomma, misurano un’altra cosa: quanto si sposta la risposta se si cambia lettura degli indizi (quasi due ordini di grandezza) o teoria preferita (quasi un altro). Se un modello linguistico sia davvero cosciente resta aperto né più né meno di prima.
Cosa farcene dunque di questa analisi? A me ha ricordato che ogni criterio per stabilire che cosa sia cosciente nasce davanti a uno specchio: si isolano alcuni nostri tratti, come la metacognizione o un corpo con desideri e paure, e li si promuove a metro di giudizio. Non ci vedo niente di scandaloso. Cartesio aveva ragione almeno su questo: l’unica coscienza di cui sono certo è la mia. Alla persona che prende il caffè davanti a me o che legge questo testo ne attribuisco una per somiglianza, a un cane per una somiglianza più lasca, a un polpo per una ancora più lasca, a un’ape per una quasi invisibile, tanto che a volte gliela nego. Visto così, ogni indicatore misura per lo più una distanza da noi stessi.
Il paper stesso ne offre un esempio. Prima di passare alle macchine, gli autori verificano che lo strumento funzioni su due casi in cui la risposta non è messa in discussione: un essere umano adulto e sano, con tutti e trentasette gli indicatori attivi, che ottiene 1,000, e un termostato a cui ne vengono generosamente concessi due e che ottiene comunque 0,000. Il modello, scrivono, supera così la prova di validità a entrambi gli estremi. E come potrebbe andare altrimenti? Uno strumento che ci trovasse privi di coscienza verrebbe scartato, giustamente. Questo significa però che l’essere umano è l’unità di misura e che lo strumento risulta affidabile solo finché ci dà ragione su noi stessi.
Gli autori ammettono il rischio: «Siamo il caso paradigmatico di esseri coscienti», scrivono, «e siamo anche molto intelligenti»; gli indicatori derivano dallo studio della cognizione umana e dei mammiferi, e se esistessero forme di consapevolezza che non richiedono né un modello di sé né la metacognizione, «i nostri indicatori non riuscirebbero sistematicamente a rilevarle». Sollevano questo problema per uno scopo circoscritto: spiegare perché coscienza e intelligenza potrebbero andare a braccetto solo in apparenza. Su questo sono d’accordo: una calcolatrice fa i conti meglio di me, eppure a nessuno viene in mente che provi qualcosa. Sospetto però che il problema arrivi più a fondo, fino alla domanda stessa: l’idea di «coscienza» l’hanno elaborata esseri coscienti che si guardavano allo specchio, e ne hanno concluso che per possederla bisognava somigliare a loro. Un’inferenza fondata su un campione esiguo: una specie sola e, per ciascuno di noi, un solo caso certo.
C’è un dialogo celebre nello Zhuangzi, su un ponte sopra il fiume Hao. Zhuangzi guarda i pesciolini che guizzano là sotto e dice che sono felici; l’amico Huizi obietta: tu non sei un pesce, come fai a sapere che i pesci sono felici? Tu non sei me, replica Zhuangzi, come fai a sapere che io non lo so? Huizi insiste: io non sono te, quindi non so che cosa sai tu; ma tu non sei un pesce, quindi nemmeno tu sai se i pesci sono felici. La prima domanda di Huizi, in cinese, può voler dire sia «come fai a saperlo?» sia «da dove lo sai?», e Zhuangzi per rispondere la prende nel secondo senso: mi hai chiesto da dove lo sapevo, dunque davi per scontato che lo sapessi – e io lo so da qui, da sopra lo Hao. Non so se Zhuangzi avesse ragione sui pesci, ma di sicuro ha capito che non possiamo che osservare dal ponte. Se il dubbio di Huizi fosse coerente, gli impedirebbe di sapere qualcosa anche della mente dell’amico, eppure gli parla come si parla a qualcuno che pensa.
