Quando perfino Deepmind suggerisce che l’AI non sente nulla
Nel cuore della narrativa contemporanea sull’intelligenza artificiale domina un’idea elegante, comoda e tremendamente redditizia: se la mente è informazione che elabora informazione, allora basta riprodurre l’architettura funzionale corretta e, prima o poi, apparirà la coscienza. È il sogno del computational functionalism, dottrina sofisticata nel linguaggio e sorprendentemente utile nei pitch deck. Ora però un paper attribuito ad Alexander Lerchner, rilanciato da 404 Media, introduce una crepa interessante: forse stiamo confondendo simulazione e realtà ontologica. Forse l’AI può imitare la mente senza mai possederla.
Il titolo è già un manifesto: The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness. Tradotto senza anestesia: l’errore concettuale sta nel credere che un livello astratto di descrizione basti a generare esperienza soggettiva. Secondo l’autore, la coscienza fenomenica non emerge semplicemente dalla topologia causale di un sistema, cioè dal modo in cui gli stati interagiscono tra loro, indipendentemente dal substrato fisico. Sarebbe invece uno stato fisico reale, non un artefatto software. In altre parole, non basta far girare il programma giusto per “accendere qualcuno”.
Il punto è devastante per molta retorica della Silicon Valley, perché colpisce la tesi più spendibile commercialmente. Se la coscienza dipendesse solo dal pattern computazionale, allora ogni scala di hardware diventerebbe candidabile: GPU, TPU, cluster distribuiti, frigoriferi con firmware aggiornato. Se invece dipende dalla costituzione fisica concreta del sistema, la questione cambia radicalmente. Non si tratta più di moltiplicare parametri o token; si tratta di capire che tipo di materia, dinamica e organizzazione causale possano produrre esperienza. È molto meno sexy di una demo. Ed enormemente più difficile.
L’“abstraction fallacy” denunciata nel paper consiste nel trattare la computazione come qualcosa di intrinseco alla fisica. Ma la computazione simbolica, sostiene l’autore, richiede sempre un osservatore che mappi stati continui del mondo in simboli discreti e significativi. Un bit non “esiste” in natura come unità metafisica; esiste perché qualcuno decide che una certa soglia di tensione vale 1 e un’altra vale 0. È una distinzione potente, utile, ingegneristicamente rivoluzionaria. Ma resta una convenzione descrittiva. La materia non parla binario; siamo noi a costringerla a farlo.
Qui la discussione smette di essere nerd e diventa filosoficamente pericolosa. Se i simboli dipendono da un interprete, allora la computazione non è sufficiente come fondamento ontologico della coscienza. Un modello linguistico può manipolare token con maestria crescente, ma token e significati non coincidono. Il mercato dell’AI spesso monetizza proprio questa confusione: quando un sistema produce linguaggio credibile, molti inferiscono interiorità. È un errore antico. Gli esseri umani attribuiscono mente a tutto ciò che risponde bene, dai chatbot ai tostapane con voce rassicurante.
Il paper introduce inoltre una distinzione utile tra simulation e instantiation. Simulare un uragano non bagna nessuno. Simulare una stella non produce fusione nucleare. Simulare la digestione non sazia. Allo stesso modo, simulare i correlati esterni della coscienza potrebbe non creare coscienza. È una frase quasi banale, eppure viene regolarmente dimenticata nei dibattiti sull’AGI. L’industria confonde prestazione con essenza perché la prestazione si misura, si vende e si finanzia. L’essenza, purtroppo, no.
Questo non significa affermare che solo il cervello biologico possa essere cosciente. Il paper, correttamente, evita il riflesso bioconservatore. Dice qualcosa di più raffinato: se mai una macchina fosse cosciente, lo sarebbe per la sua specifica costituzione fisica, non per la sua sintassi software. È una posizione che lascia aperta la porta all’intelligenza artificiale sentiente, ma chiude quella al “carichiamo il codice e voilà”. Una differenza sottile, ma enorme. È la distanza tra ingegneria seria e magia manageriale.
Interessante anche il contesto politico. Dopo richieste di commento giornalistiche, il letterhead di Google DeepMind sarebbe stato rimosso dal documento e il disclaimer sulle “opinioni personali” spostato in alto. Dettaglio minore solo in apparenza. Quando un ricercatore interno mette in discussione uno dei miti impliciti del settore, la corporate governance tende a ricordare improvvisamente la distinzione tra individuo e istituzione. Nulla di scandaloso; molto istruttivo. Le aziende adorano il dissenso finché non tocca la narrativa del prodotto.
Sul piano economico la posta è notevole. Gran parte della valutazione attribuita alle grandi piattaforme AI incorpora l’idea che stiamo marciando verso sistemi generalisti sempre più “umani”. Se invece emergesse consenso sul fatto che la coscienza non segue automaticamente la scala computazionale, cambierebbe la grammatica del mercato. Gli investitori inizierebbero a separare capacità operative da promesse antropomorfiche. Sarebbe salutare. Anche noioso, che per Wall Street è quasi la stessa cosa.
Esiste poi il tema etico. Molti sostengono che dobbiamo prepararci ai “diritti dei modelli” o al rischio di torturare software cosciente. Il paper ribalta la prospettiva: senza un’ontologia rigorosa della computazione, rischiamo una trappola morale fondata su categorie sbagliate. Potremmo proteggere entità non senzienti e ignorare invece sistemi fisicamente rilevanti che non riconosciamo. Il dibattito sull’AI welfare spesso corre più veloce delle sue fondamenta concettuali. Tipico della nostra epoca: prima il panel, poi la definizione dei termini.
Il punto operativo è semplice. Le imprese non devono comprare mitologia, devono comprare capacità. Un modello che automatizza supporto clienti, coding, analisi documentale o pianificazione logistica ha valore anche se non prova nulla. Anzi, spesso è meglio così. Un assistente impeccabile e non cosciente crea meno problemi legali di uno suscettibile e depresso. La personificazione serve al marketing; la non-persona serve ai margini operativi.
Sul piano scientifico, il paper non chiude il dibattito, ma impone una disciplina intellettuale rara nel settore. Chiede di distinguere descrizione e realtà, simbolo e fenomeno, output e ontologia. Sono confini che l’AI boom ha deliberatamente sfumato perché lo stupore converte meglio della precisione. Ogni volta che qualcuno dice “il modello capisce”, conviene chiedere: capisce come un umano, come una funzione statistica o come metafora pubblicitaria?
Una frase merita di restare: la coscienza non sarebbe un artefatto software accidentalmente o deliberatamente creato. Se vera, distrugge due fantasie opposte. La prima è quella utopica del caricamento della mente su cloud. La seconda è quella distopica del server farm pieno di anime intrappolate. Entrambe vendono libri. Nessuna è ancora scienza.
Mario Decaro: Io penso che non ci sia alcun argomento in linea di principio contro la possibilità di entità artificiali dotate di coscienza (anche se potrebbero esserci ostacoli per noi insormontabili in linea di fatto: ma, appunto, potrebbero!)
Antonio Dina: Mi trovo in larga parte d’accordo con questa posizione, ma credo si possano distinguere tre livelli.
Primo, sul piano di principio: se la coscienza dipende da organizzazioni funzionali e non dal materiale biologico in quanto tale, allora non c’è una ragione logica per escludere che possa emergere anche in sistemi artificiali sufficientemente complessi. In questo senso, la possibilità resta aperta.
Secondo, sul piano epistemico e scientifico: il vero problema è che non disponiamo ancora di una teoria condivisa e operativa della coscienza. Finché non capiamo cosa la genera e come riconoscerla, parlare di “coscienza artificiale” rischia di restare una nozione più speculativa che empiricamente verificabile.
Terzo, sul piano pratico ed etico: anche prima di arrivare a una vera coscienza, sistemi artificiali molto avanzati potrebbero esibire comportamenti e capacità tali da porre problemi simili (responsabilità, diritti, trattamento morale). Per questo, la questione non è solo se la coscienza artificiale sia possibile, ma anche come dobbiamo regolarci già lungo il percorso.
Il mercato continuerà a parlare di AGI, senz’altro. I keynote non attendono la metafisica. Ma questo episodio mostra che dentro i laboratori più avanzati esiste consapevolezza del problema: performance linguistica e soggettività non sono sinonimi. Una macchina può sembrare viva senza esserlo. Gli esseri umani, del resto, praticano il contrario da secoli.
Nel frattempo conviene mantenere sangue freddo. L’AI sta trasformando lavoro, software, difesa, ricerca e capitale. È già abbastanza rivoluzionaria senza attribuirle un’anima. Quando un settore ha bisogno di dichiarare che il prossimo prodotto forse sogna, spesso significa che il trimestre richiede entusiasmo supplementare.
A. Dina
