Francesco D’Isa
Ogni volta che esce un nuovo modello di intelligenza artificiale ci promettono un salto di qualità che poi si vede di rado. Con GPT-6 Astra, l’ultimo modello di OpenAI, il salto mi sembra esserci stato. Gli ho sottoposto due libri che sto scrivendo, chiedendo una revisione accurata e un controllo delle fonti; ho ricevuto letture più puntigliose di qualunque revisione umana mi sia capitata finora. Ha individuato imprecisioni sopravvissute a parecchie riletture, comprese attribuzioni in cui una fonte sosteneva qualcosa di appena diverso da ciò che le facevo dire. È un’esperienza circoscritta, da sottoporre a verifica, e la offro per quello che vale. Ha però aumentato la mia perplessità davanti a una domanda ricorrente.
Abbiamo raggiunto la famosa AGI, l’intelligenza artificiale generale? Con il termine si intende, grosso modo, un sistema capace di affrontare una gamma di compiti paragonabile o superiore a quella umana. Appena proviamo a precisare questa formula però, cominciano le difficoltà. Quali compiti, e con quale affidabilità? A quale essere umano ci riferiamo? Una persona media e un gruppo di specialisti offrono termini di confronto molto diversi. Anche la capacità di imparare un’attività nuova potrebbe contare più del numero di attività già padroneggiate.
Scegliere una definizione significa decidere che cosa misurare e a che cosa attribuire valore. Questo accade già con la parola “intelligenza”, attraverso la quale riconosciamo certe capacità e ne trascuriamo altre; con l’AGI la selezione assume un peso ulteriore, perché vi si intrecciano la difesa del (dubbio) primato umano e gli interessi di chi produce le macchine. Le varie definizioni possono affinarsi o spostarsi quanto basta a conservare la conclusione che preferiamo.
Come sempre, il passato aiuta a indagare il futuro: guardiamo alla storia degli scacchi. Per lungo tempo furono considerati una prova esemplare dell’intelligenza; poi nel 1997 Deep Blue sconfisse il campione del mondo Garry Kasparov. Avevamo imparato che un computer può battere il miglior umano e che un’eccellente prestazione scacchistica poteva convivere con enormi limiti in altri ambiti.
Il ragionamento diventa sospetto quando ogni risultato raggiunto viene declassato per il solo fatto che una macchina lo ha raggiunto. Se “intelligenza” finisce per designare qualunque cosa ci riesca ancora meglio, la superiorità umana è – pur faticosamente – garantita dalla definizione. Resta peraltro da capire perché la nostra dignità dovrebbe dipendere dal mantenimento di un record cognitivo.
Le aziende hanno incentivi altrettanto evidenti a far coincidere il traguardo con ciò che stanno per vendere. Nel gennaio 2025 Sam Altman scriveva di essere ormai fiducioso di sapere come costruire un’AGI, nell’accezione fino ad allora adottata da OpenAI. Una simile dichiarazione va valutata anche in quanto strategia comunicativa di un’impresa che deve attrarre capitali e clienti. Persino la scelta del criterio è sospetta: la carta di OpenAI definisce l’AGI in riferimento a sistemi altamente autonomi che superino gli esseri umani nella maggior parte del lavoro dotato di valore economico. È un criterio operativo comprensibile, ma assumere il mercato come misura dell’intelligenza rimane una scelta politica e filosofica sulla cui adeguatezza possiamo discutere a lungo.
Esistono dei tentativi di rendere queste definizioni più precise. Meredith Ringel Morris e colleghi, per esempio, propongono diversi livelli, distinguendo l’ampiezza delle capacità dalla qualità delle prestazioni e considerando separatamente l’autonomia operativa. Distinzioni simili servono a confrontare i sistemi e a valutarne i rischi, ma il verdetto complessivo – e soprattutto il suo peso sociale – resta sempre arbitrario.
Conviviamo già con macchine con capacità superiori alle nostre in determinati compiti, capaci al tempo stesso di fallire in attività che troviamo relativamente semplici. Il punto era evidente con gli scacchi e oggi riguarda degli strumenti molto più versatili. Una persona capace di muoversi fra moltissime discipline e produrre codice funzionante su richiesta e con notevole velocità senza mai stancarsi ci sembrerebbe straordinariamente intelligente, anche se commettesse degli errori in altri ambiti. Una macchina viene valutata spesso con criteri diversi.
Possiamo riconoscere le capacità accertate mentre ne studiamo i limiti, senza dedurre dall’una o dall’altra prestazione un giudizio globale. O meglio: possiamo finalmente interrogarci sulla nostra dubbia necessità di esprimere graduatorie e giudizi.
La gara fra umani e macchine infatti presuppone due contendenti separabili, ciascuno dotato della propria intelligenza e individualità. Questa separazione può essere utile per delle valutazioni tecniche, ma come ontologia è debole. Le capacità che attribuiamo a un individuo si sono formate attraverso un linguaggio appreso da altri e dipendono continuamente da supporti esterni. Quando ragiono su un libro, parte del lavoro avviene nelle pagine che posso rileggere e negli appunti che ho davanti.
La tesi della mente estesa, proposta da Andy Clark e David Chalmers, invita a considerare come parti del processo cognitivo anche alcune risorse esterne, quando sono integrate stabilmente nel nostro agire. Chiriatti e colleghi hanno proposto di descrivere come “sistema 0” l’interazione con le AI alle quali deleghiamo alcuni compiti cognitivi. Possiamo discutere quanto lontano si debba spingere questa tesi, ma basta osservare come lavoriamo per accorgerci della difficoltà di isolare un’intelligenza umana indipendente dai suoi strumenti. Chiedersi se siamo più intelligenti noi o “la scrittura” suona bizzarro, proprio perché la scrittura ha contribuito a formarci come esseri capaci di pensare in certi modi. La scrittura, diremmo, è parte della nostra intelligenza – anche se non è di per sé intelligente.
Affidandole una parte della memoria abbiamo potuto costruire ragionamenti che sarebbe difficile tenere a mente, confrontando passaggi e lasciando che altri li riprendano e correggano la nostra voce. Abbiamo anche modificato le capacità che esercitiamo e quelle che possiamo permetterci di trascurare. Con le AI possiamo porci domande analoghe. Quali attività conviene delegare e quali vogliamo continuare a praticare perché il loro esercizio presenta più vantaggi che svantaggi?
Per provare le capacità del modello Astra di OpenAI ho realizzato un videogioco parodico (un picchiaduro con personaggi politici) senza possedere le competenze di programmazione necessarie a costruirlo. L’idea e le correzioni prendevano forma mentre provavo ciò che il sistema produceva. Con i testi scritti la situazione è diversa, perché possiedo competenze che mi aiutano a vagliare le sue osservazioni. Un’obiezione ben formulata può insegnarmi a comprendere un errore; affidarmi alla cieca a una riscrittura può indebolire il mio spirito critico. Ottenere un buon risultato e imparare a produrlo sono obiettivi distinti, che richiedono usi diversi dello stesso strumento e un criterio di giudizio che consideri costi e benefici di ogni delega.
L’analogia con la scrittura naturalmente ha dei limiti. Un modello ha un’agentività maggiore del linguaggio – o forse è la manifestazione dell’agentività del linguaggio – e quando lo usiamo attraverso un servizio proprietario dipendiamo dalle condizioni di chi lo gestisce. Parlare di un’intelligenza che si estende negli strumenti rende ancora più urgente chiedersi chi li controlla. Se una parte crescente del nostro lavoro passa attraverso sistemi il cui accesso può essere modificato o revocato, l’estensione delle capacità comporta anche una nuova dipendenza. La possibilità di usarli al meglio rischia di diventare un ulteriore privilegio.
Dare o negare l’arbitraria medaglia “AGI” rischia di diventare un tira e molla tra marketing e vanità ferità, un gioco classificatorio poco informativo che ricorda quei giochi infantili basati su “secondo te chi vincerebbe in uno scontro tra” e poi un elenco di combattenti, personaggi famosi, nazioni, tecnologie militari, animali e via dicendo. Una critica efficace ha bisogno invece di riconoscere la portata degli strumenti che intende governare. Sottovalutarli sistematicamente, attribuendo alle sole macchine difetti che manifestiamo anche noi (come il ricorso a sofismi o a una retorica ingannevole), può consolare il nostro amor proprio, ma ci lascia meno pronti ad affrontare il futuro. Una domanda più utile sarebbe interrogarci su quali forme di pensiero diventano possibili insieme a queste macchine, in che condizioni il prezzo valga il risultato, come contrastare le disuguaglianze legate alla loro proprietà e controllo.
