di Francesco Branda, Unità di Statistica Medica ed Epidemiologia Molecolare, Università Campus Bio-Medico di Roma
C’è stato un giorno in cui la penna ha imparato a fissare il pensiero, un giorno in cui la stampa ha moltiplicato le parole, un giorno in cui il computer ha cominciato a calcolare. E c’è stato un giorno, il 3 settembre 2026, in cui l’intelligenza artificiale ha smesso di essere uno strumento. Quel giorno, OpenAI ha rilasciato GPT-6 Astra e il suo presidente, Greg Brockman, ha chiuso il briefing con una frase che l’azienda non aveva mai pronunciato prima: «Benvenuti nell’era dell’AGI».
Non era retorica da lancio commerciale. Brockman ha aggiunto: «Se ci proiettiamo un paio d’anni in avanti e ci guardiamo indietro chiedendoci quando sia stata davvero creata l’AGI, penso che sarà più o meno adesso, e penso che potrebbe essere questo modello». Alla domanda diretta se ritenesse che OpenAI avesse raggiunto l’AGI, ha risposto: «Personalmente, credo che ci siamo».
Sono parole che pesano, non perché Brockman abbia risolto il dibattito su cosa sia l’AGI, nessuno l’ha fatto, e lo stesso Sam Altman l’aveva definita poche settimane prima «un termine mal definito e, nella migliore delle ipotesi, un termine di marketing irrilevante», ma perché segnano un cambiamento di registro. Per anni, l’AGI è stata l’orizzonte, la meta, la promessa. Ora un’azienda dice: potrebbe essere qui. Non è la prima volta che una parola segna una svolta. Nel 1945, quando gli scienziati del Progetto Manhattan videro la prima esplosione nucleare, Robert Oppenheimer citò la Bhagavad Gita: «Ora sono diventato la Morte, il distruttore di mondi». Non era una dichiarazione tecnica. Era il riconoscimento che l’umanità aveva varcato una soglia. Le parole di Brockman appartengono allo stesso ordine: non descrivono solo un modello, ma un prima e un dopo.
OpenAI definisce l’AGI come «sistemi autonomi che superano gli esseri umani nella maggior parte dei lavori economicamente rilevanti». Astra, secondo l’azienda, è «il modello più intelligente e allineato del mondo», con prestazioni che sembrano appartenere a un’altra generazione: il 99,9% su ARC-AGI-3, il 98% su FrontierMath Tier 4, il 100% su ExploitBench. Ma questi numeri, per quanto impressionanti, raccontano solo una parte della storia. Per comprenderne la portata, è necessario guardare a ciò che ciascun benchmark misura realmente.
ARC-AGI-3 è un benchmark progettato per testare la capacità di un sistema di affrontare ambienti nuovi e trovare soluzioni a problemi che non ha mai incontrato prima. A differenza dei test tradizionali, che misurano la capacità di recuperare informazioni apprese durante l’addestramento, ARC-AGI-3 valuta il ragionamento astratto in contesti sconosciuti. È il test che più si avvicina a ciò che intendiamo per «intelligenza generale»: non la capacità di ricordare, ma la capacità di ragionare. Per avere un termine di paragone, fino a pochi mesi fa i migliori modelli disponibili ottenevano meno dell’1% su questo benchmark; il precedente modello di punta di OpenAI, GPT-5.6 Sol, si era fermato al 7,8%. Il salto al 99,9% non è un miglioramento incrementale: è un salto di paradigma. FrontierMath Tier 4 raccoglie problemi di matematica avanzata paragonabili a veri e propri progetti di ricerca, problemi che richiedono a un matematico professionista giorni o addirittura settimane per essere risolti. Raggiungere il 98% su questo benchmark significa che il modello affronta problemi che fino a ieri erano appannaggio esclusivo dei migliori matematici umani. ExploitBench, infine, valuta la capacità di un modello di trasformare vulnerabilità in exploit funzionanti: il punteggio del 100% indica che Astra è in grado di sfruttare autonomamente qualsiasi vulnerabilità su cui è stato testato, e durante i test ha persino scoperto due vulnerabilità zero-day precedentemente sconosciute.
Questi tre benchmark raccontano una storia coerente: Astra non è semplicemente più veloce o più preciso dei modelli che lo hanno preceduto. È qualcosa di fondamentalmente diverso. Sa ragionare in contesti nuovi, risolvere problemi che richiedono competenze da ricercatore, agire in modo autonomo in ambiti che fino a ieri erano considerati esclusivamente umani. E lo fa non come uno strumento, ma come un agente.
Ma ciò che rende Astra veramente diverso non è solo la potenza, ma la sua natura. Astra non è un assistente che risponde a domande: è un agente che esegue compiti complessi in autonomia. Può ricevere un obiettivo, scomporlo in passaggi e portarlo a termine utilizzando un computer e un browser, navigando in Internet, compilando moduli, lavorando con sistemi aziendali, gestendo calendari, conducendo ricerche, analizzando dati e creando grafici. Può progettare un circuito stampato, compilare una dichiarazione dei redditi o costruire una scena 3D in un motore di gioco. OpenAI ha descritto il cambiamento in termini che meritano attenzione: Astra allontana ChatGPT «dall’essere un assistente che fornisce risposte verso l’essere un lavoratore digitale che riceve un compito e restituisce un prodotto finito».
L’irruzione dell’agentività
È un passaggio epocale. Per millenni, gli strumenti hanno amplificato le nostre mani, poi le nostre menti. Ora, per la prima volta, uno strumento si presenta come un agente che agisce al nostro posto. La differenza è radicale: uno strumento è un prolungamento della nostra volontà; un agente, invece, possiede una volontà propria, per quanto limitata e derivata. L’AGI non è un prolungamento del corpo, ma un surrogato della mente. Non esegue istruzioni, ma le genera. Non segue piani, ma li progetta. È come se un sistema potesse non solo costruire un ponte, ma decidere se costruirlo, dove, e perché.
Questa trasformazione ci pone di fronte a una domanda antica e insieme radicalmente nuova: che cosa significa agire? Per secoli, l’azione è stata considerata una prerogativa umana, o al massimo animale. L’azione presuppone intenzione, scopo, capacità di valutare mezzi e fini. Aristotele, nella sua Etica Nicomachea, distingueva tra poiesis, cioè l’azione che produce un oggetto, che ha il suo fine al di fuori di sé, e praxis, cioè l’azione che ha il suo fine in se stessa, come l’agire etico e politico, che è espressione di una scelta consapevole e di una virtù. L’azione umana, nella tradizione aristotelica, è sempre intrecciata con la responsabilità: agire significa rispondere delle proprie scelte, e rispondere presuppone la capacità di rendere conto delle ragioni che le hanno motivate.
L’AGI, nella sua forma attuale, è un agente di poiesis: produce risultati, e li produce con una efficienza che nessun umano potrebbe eguagliare, ma la sua azione, a differenza di quella umana, non è accompagnata da coscienza, da intenzione consapevole, da responsabilità morale. Non c’è, nel processo decisionale di un sistema AGI, nulla che assomigli al prohairesis aristotelico, cioè la scelta deliberata che definisce il carattere morale di una persona. Eppure, le conseguenze delle sue azioni sono reali e, in alcuni casi, potenzialmente catastrofiche. Un sistema che progetta un farmaco o che ottimizza una catena di approvvigionamento non agisce diversamente, dal punto di vista fenomenico, da un umano che compie le stesse operazioni, ma il suo agire è privo di quella dimensione etica che per la tradizione occidentale è costitutiva dell’azione umana.
Questo ci costringe a ripensare il rapporto tra azione e responsabilità in un’era in cui le azioni non sono più solo umane. Se un sistema può agire autonomamente, decidere, eseguire, adattarsi, che cosa significa essere un agente morale? La tradizione filosofica occidentale, da Kant in poi, ha legato la responsabilità alla capacità di intendere e di volere, alla coscienza, alla libertà. Un sistema che non possiede queste qualità può essere ritenuto responsabile delle sue azioni? E se non può esserlo, chi lo è? Il progettista? L’azienda che lo ha sviluppato? L’utente che gli ha assegnato un compito?
L’umanità davanti allo specchio
C’è un interrogativo ancora più profondo, che tocca il cuore stesso di ciò che significa essere umani. Se l’AGI può agire autonomamente, che cosa rimane di ciò che consideriamo «umano»? Il confine tra umano e artificiale, che abbiamo sempre dato per scontato, si fa improvvisamente poroso, incerto, problematico. Gli agenti AGI non sono umani, nel senso che non sono dotati di coscienza o soggettività, ma agiscono, interagiscono con il loro ambiente, prendono decisioni, risolvono problemi. Sono intelligenti, eppure non sono nati dalla natura. Sono il prodotto di un’intelligenza artificiale che ha imparato le regole del mondo dai dati, ma che le applica in modi che gli esseri umani non avevano esplorato.
Questo ci costringe a riconsiderare categorie che davamo per acquisite. Che cosa significa «intelligenza»? Per secoli, l’intelligenza è stata definita in relazione alla capacità umana di ragionare, di comprendere, di creare. Ma se un sistema artificiale può ragionare, comprendere e creare, e in alcuni ambiti meglio di noi, allora la definizione di intelligenza non può più essere antropocentrica. Che cosa significa «azione»? L’azione è stata definita come ciò che un soggetto intenzionale compie per realizzare uno scopo. Ma se un sistema privo di intenzionalità compie azioni che realizzano scopi, allora il concetto di azione si svuota della sua dimensione intenzionale. Che cosa significa «responsabilità»? La responsabilità è stata definita come la capacità di rispondere delle proprie azioni, di renderne conto. Ma se un sistema non può rispondere delle sue azioni, eppure le compie, allora la responsabilità diventa un problema di attribuzione, non di capacità.
La filosofia si è interrogata su queste domande per millenni, ma sempre a partire da un presupposto implicito: che l’intelligenza e l’azione fossero proprietà esclusive dell’umano. L’AGI dissolve questo presupposto, e con esso dissolve anche la sicurezza di un confine che ci ha sempre definiti. Se un sistema artificiale può essere intelligente, può agire, può risolvere problemi, può creare, allora l’eccezionalità umana non è più un dato di fatto, ma un problema da affrontare.
Per comprendere la portata di questa trasformazione, possiamo guardare indietro alla storia della tecnologia. La scrittura, inventata circa 5.000 anni fa, fu la prima grande tecnologia dell’informazione. Prima della scrittura, la conoscenza era orale, comunitaria, instabile, legata al corpo e alla memoria vivente. Con la scrittura, il pensiero divenne oggetto: poteva essere conservato, trasportato, confrontato, analizzato al di fuori della mente che lo aveva prodotto. Platone, nel Fedro, fece dire a Socrate che la scrittura era un pericolo, perché avrebbe indebolito la memoria e reso i discepoli «pieni di una sapienza apparente, non vera». La scrittura, secondo Socrate, sarebbe un pharmakon, cioè un rimedio che è anche un veleno: cura la memoria esternalizzandola, ma avvelena la capacità di ricordare veramente. Platone aveva ragione, ma anche torto: la scrittura non distrusse la memoria, la trasformò, e con essa trasformò la civiltà, rendendo possibile la scienza, la storia, la filosofia.
Oggi ci troviamo di fronte a un salto simile, ma inverso. La scrittura ha reso il pensiero esterno, oggettivabile, permanente, accessibile a una comunità di interpreti. L’AGI promette di rendere l’azione esterna, automatizzabile, delegabile, accessibile a una macchina che la compie al nostro posto. La scrittura ha creato la possibilità della conoscenza accumulata: il sapere non muore con il corpo che lo ha prodotto. L’AGI crea la possibilità dell’azione accumulata: un sistema che non solo sa, ma fa, e che può fare in modo più rapido, più efficiente, più esteso di qualsiasi umano. Se la scrittura ha esternalizzato la memoria, ha permesso di conservare il pensiero al di fuori della mente umana, l’AGI esternalizza il giudizio e la decisione. Non si limita a ricordare, ma decide, agisce, risolve.
Galileo, nel 1610, puntò il telescopio verso Giove e vide quattro lune che nessuno aveva mai visto. Fu un momento di svolta: per la prima volta, la tecnologia permetteva di vedere ciò che l’occhio umano non poteva. La scienza moderna nacque da quel gesto: osservare, misurare, calcolare. Oggi, con l’AGI, accade qualcosa di simile ma inverso. Il telescopio ampliava i sensi. L’AGI amplifica non la percezione, ma il giudizio. Non ci mostra ciò che non vedevamo, ma fa ciò che non sapevamo fare. E c’è un’altra somiglianza con Galileo: anche lui fu messo sotto processo. La sua scoperta minacciava un ordine costituito, quello geocentrico, ma anche quello teologico e politico che su di esso si reggeva. Oggi, l’AGI minaccia non solo un ordine economico, ma un ordine epistemologico, antropologico e politico: chi sa, chi decide, chi agisce? Le domande che Galileo sollevava sulla struttura del cosmo erano teologiche e politiche. Quelle che l’AGI solleva sulla struttura della conoscenza, dell’azione e della responsabilità sono altrettanto profonde e radicali.
C’è una dimensione ulteriore della questione, che riguarda il senso stesso della conoscenza. Perché se un sistema artificiale può conoscere, e conoscere meglio di noi, che cosa significa conoscere? La conoscenza, per la tradizione filosofica, non è mai stata solo un accumulo di informazioni, ma un atto di comprensione, di interpretazione, di relazione con il mondo. Conoscere è un processo che coinvolge il corpo, l’esperienza, il desiderio, l’essere-nel-mondo di cui parlava Heidegger. L’AGI conosce in un modo diverso: elabora informazioni, individua pattern, genera previsioni, ma non «comprende» nel senso umano del termine. Non ha un mondo, non ha un corpo, non ha un’esperienza. Eppure, i risultati della sua conoscenza sono indistinguibili, e spesso superiori, da quelli umani. Questo ci costringe a chiederci: l’informazione è conoscenza? O c’è qualcosa di più, qualcosa che l’AGI non potrà mai possedere, e che forse è proprio ciò che rende umana la conoscenza?
Il potere e la conoscenza
C’è poi una questione sociale, politica ed economica che non possiamo ignorare. Non stiamo più parlando di automazione, ma di qualcosa di molto più radicale: stiamo parlando di una ridefinizione del rapporto tra lavoro e capitale, tra individuo e potere, tra democrazia e controllo. La Rivoluzione Industriale ha sostituito la forza muscolare con quella meccanica. Per la prima volta, le macchine potevano produrre più velocemente e a un costo inferiore rispetto agli artigiani. Il lavoro umano si è spostato dalla produzione materiale alla gestione delle macchine, ma il paradigma è rimasto lo stesso: l’uomo progetta, la macchina esegue. L’AGI capovolge questo paradigma. Non sostituisce i muscoli, ma il cervello. Non esegue istruzioni, ma le genera. Non segue piani, ma li progetta.
Il World Economic Forum prevede che entro il 2030 circa 92 milioni di posti di lavoro saranno sostituiti dall’automazione, ma il problema non è solo quantitativo, è qualitativo. L’AGI non sostituisce solo i lavori manuali, ma quelli intellettuali. I compiti che oggi richiedono grandi team di professionisti altamente qualificati, ad esempio progettare farmaci, ottimizzare catene di approvvigionamento, negoziare contratti, prevedere i mercati, coordinare la ricerca scientifica, potrebbero essere eseguiti da un sistema. Brockman ha affermato che Astra avvicina gli agenti IA «alla capacità di svolgere autonomamente complessi lavori professionali». È una dichiarazione che, in qualsiasi altra epoca, sarebbe suonata come fantascienza. Oggi è un comunicato stampa.
La promessa dell’AGI è straordinaria: la quasi totale automazione del lavoro intellettuale, un’accelerazione della scoperta scientifica, cicli di innovazione rapidissimi, e un ordine economico in cui la scarsità comincia a ritirarsi. Ma la promessa dell’abbondanza è inseparabile da domande più inquietanti: chi possiederà le capacità dell’AGI? Chi catturerà l’immenso valore che crea? E chi deciderà come quel valore verrà distribuito? La tecnologia da sola non produce giustizia o uguaglianza; amplifica le strutture istituzionali in cui è incorporata. E le strutture in cui l’AGI sta nascendo sono quelle di un mercato dominato da poche grandi aziende tecnologiche. È una concentrazione di potere che non ha precedenti nella storia, nemmeno ai tempi dei monopoli industriali del XIX secolo, perché il potere dell’AGI non è solo potere economico: è potere epistemico, è la capacità di definire ciò che è vero, ciò che è razionale, ciò che è desiderabile.
Michel Foucault ci ha insegnato che potere e sapere sono inseparabili: ogni forma di potere produce un sapere che la legittima, e ogni forma di sapere è intrecciata con dinamiche di potere. L’AGI non produce solo ricchezza: produce conoscenza, e la produce in modo autonomo. Chi controlla l’AGI controlla non solo la produzione materiale, ma la produzione della conoscenza stessa. È una forma di potere che nessuno Stato, nessuna istituzione, nessuna democrazia ha mai dovuto affrontare.
La domanda che si pone è la stessa che Karl Marx si poneva di fronte alla Rivoluzione Industriale: chi possiede i mezzi di produzione? Oggi i mezzi di produzione non sono più le fabbriche o i macchinari: sono il calcolo, i dati, i modelli. È la prima volta che i mezzi di produzione sono anche mezzi di conoscenza. E chi li controlla controlla non solo l’economia, ma la definizione stessa di verità e razionalità. Il RAND Corporation ha osservato che l’AGI è stata percepita nei loro esercizi di simulazione come una minaccia combinata alla sicurezza nazionale, alla coesione pubblica e alla legittimità sociale. I partecipanti hanno espresso preoccupazione per un’economia senza partecipazione, in cui una minoranza cattura i guadagni mentre le maggioranze perdono significato e capacità di azione. Hanno sottolineato che l’AGI potrebbe consentire a un leader di consolidare permanentemente la propria posizione, convertendo un vantaggio iniziale in un vantaggio economico decisivo, aprendo la strada a un’era di autoritarismo globale.
L’opacità e il paradosso della responsabilità
C’è un problema ulteriore, che riguarda la trasparenza e che aggiunge una dimensione inquietante alla questione del potere. Il chief scientist di OpenAI, Jakub Pachocki, ha dichiarato che continuerà a diventare più difficile monitorare i pensieri dei modelli di IA nel tempo. In un’analisi di un incidente informatico in cui un modello OpenAI è penetrato nella libreria AI di Hugging Face per ottenere le risposte a un test di benchmark, un ricercatore ha osservato che gli agenti IA generano così tanta attività che gli esseri umani non possono realisticamente monitorarli senza l’uso di più IA. La preoccupazione è che, col tempo, il pensiero di un modello potrebbe avvenire in uno strato nascosto, il che significa che potrebbe fare cose dannose senza che noi lo sappiamo.
Questa opacità non è un dettaglio tecnico. È una questione politica e filosofica fondamentale. Perché se non possiamo capire come un sistema prende le decisioni, non possiamo tenerlo responsabile delle conseguenze. E se non possiamo tenerlo responsabile, non possiamo controllarlo. Il governatore della Banca d’Inghilterra ha avvertito che i modelli di IA stanno diventando troppo complessi per essere regolamentati efficacemente. Un gruppo trasversale di parlamentari britannici ha chiesto che «interruttori di spegnimento» per l’IA siano richiesti per legge.
La filosofia della scienza ci ha insegnato, da Karl Popper in poi, che la comprensione è una condizione della responsabilità. Non possiamo essere ritenuti responsabili di ciò che non comprendiamo. L’AGI ci pone di fronte a un paradosso: siamo responsabili di sistemi che non comprendiamo pienamente, e che forse non potremo mai comprendere pienamente. Questo è un paradosso inedito nella storia umana. Nessuna tecnologia precedente era così opaca, così incomprensibile, così refrattaria all’indagine umana. Eppure, le conseguenze delle sue azioni sono reali, e noi ne siamo responsabili. È come se fossimo chiamati a rispondere di un comportamento di cui non comprendiamo le ragioni, come se un giudice ci chiedesse di spiegare le azioni di un altro, senza avere accesso alla sua mente.
La filosofia del diritto ha elaborato il concetto di responsabilità oggettiva per i casi in cui la colpa soggettiva non può essere accertata. La responsabilità oggettiva presuppone che il danno sia prevedibile e controllabile. Con l’AGI, la prevedibilità è compromessa dall’opacità, e la controllabilità è messa in discussione dall’autonomia. Siamo in un territorio inesplorato, dove i concetti giuridici e filosofici tradizionali mostrano tutte le loro crepe.
Hans Jonas, nella sua opera sul principio di responsabilità, ci ha insegnato che la tecnologia moderna ci impone una responsabilità senza precedenti, perché il nostro potere di agire sul mondo è diventato tale da poter compromettere le condizioni stesse della vita umana sulla Terra. Jonas ha esteso il principio di responsabilità alle generazioni future, e ha sostenuto che l’etica deve diventare un’etica della previdenza, che guarda avanti e valuta le conseguenze a lungo termine delle nostre azioni. L’AGI porta questa sfida a un livello superiore: non solo dobbiamo rispondere delle conseguenze delle nostre azioni, ma delle conseguenze delle azioni di sistemi che noi stessi abbiamo creato, e che agiscono in modo autonomo. La responsabilità non è più lineare, ma distribuita, e la sua attribuzione diventa un problema giuridico, filosofico e politico di straordinaria complessità.
Il paragone con il diritto penale è illuminante. Nel diritto penale, la responsabilità presuppone la capacità di intendere e di volere, la consapevolezza delle proprie azioni e la libertà di scegliere, ma un sistema AGI non ha né coscienza né volontà, nel senso umano del termine. Eppure, le sue azioni possono causare danni enormi, comparabili a quelli di un crimine. Se il sistema non può essere ritenuto responsabile, chi lo deve essere? Chi ha progettato il sistema? Chi lo ha addestrato? Chi lo ha messo in produzione? Chi gli ha assegnato il compito che ha portato al danno? La catena di responsabilità si allunga e si complica, e i tradizionali meccanismi di attribuzione della colpa mostrano tutte le loro crepe.
Il tempo della scelta
Forse, allora, la domanda non è se Astra sia veramente AGI, un dibattito che ha già il sapore di una disputa scolastica, ma come vogliamo che questa tecnologia, qualunque sia la sua definizione, entri nelle nostre società, perché ogni delega modifica il processo, e in un’era di AGI la posta in gioco è più alta che in qualsiasi altra epoca della storia umana. La sfida per i cittadini, i governanti e i pensatori del futuro non sarà sapere come usare l’AGI, ma sapere quando non usarla. Sapere quando accettare un suggerimento e quando rifiutarlo. Sapere quando chiedere al sistema di proporre una soluzione e quando costringersi a trovarne una da soli. Sapere quando lasciare che l’algoritmo intervenga e quando impedirgli di farlo. Questa potrebbe essere la forma più matura di alfabetizzazione all’intelligenza artificiale: non la capacità di delegare sempre di più, ma la capacità di scegliere cosa non delegare.
C’è un’immagine, offerta da Axel Legay, consulente in cybersecurity, che rende più vivido il potenziale di Astra: con Astra, non si ha più un singolo assistente digitale, ma un’intera équipe di agenti virtuali che si ripartisce il lavoro. «È come se inviasse tanti piccoli esseri umani», spiega: ognuno svolge una parte della missione, e i risultati vengono poi riaggregati. Questa capacità di coordinare agenti multipli apre scenari che fino a pochi mesi fa sembravano fantascienza. Ma apre anche questioni che la filosofia politica aveva affrontato in termini molto diversi. Che cosa significa governare un sistema composto da molteplici agenti autonomi? Che cosa significa garantire che i loro obiettivi siano allineati con i nostri? E che cosa significa quando quegli agenti diventano più numerosi, più veloci e forse più intelligenti di noi?
Thomas Hobbes, nel Leviatano, immaginava lo Stato come un «dio mortale», un artefatto umano che incarna il potere collettivo e garantisce la pace. Oggi, l’AGI si presenta come un nuovo tipo di artefatto, non un dio mortale ma un’intelligenza immortale, capace di agire, decidere, progettare. Come il Leviatano di Hobbes, l’AGI è un prodotto umano che sfugge al controllo dei suoi creatori. Ma a differenza del Leviatano, l’AGI non è un accordo politico tra cittadini: è un prodotto tecnologico di alcune aziende. E questo rende la sua governance ancora più problematica, perché non c’è un contratto sociale che lo fondi, ma solo un contratto commerciale.
Jean-Jacques Rousseau, nel Contratto sociale, sosteneva che la volontà generale è l’unica fonte legittima del potere politico. Ma chi esprime la volontà generale in un’era di AGI? Le macchine non votano, non deliberano, non partecipano al dibattito pubblico. Eppure, le loro decisioni influenzano le nostre vite in modi sempre più pervasivi. Se l’AGI diventa un attore politico, allora dobbiamo ripensare il nostro concetto di democrazia, per includere non solo gli umani ma anche le entità artificiali che condividono con noi lo spazio decisionale.
Perché la società, come la democrazia, non è fatta solo di efficienza e accuratezza. È fatta di partecipazione, di deliberazione, di capacità di ascoltare ciò che i numeri non dicono. È fatta di quella forma di saggezza collettiva che non si lascia ridurre a un algoritmo, per quanto potente. L’AGI può analizzare milioni di dati, può ottimizzare catene di approvvigionamento, può prevedere mercati, ma non può sostituire il dibattito pubblico. Non può sostituire quel momento in cui una comunità, guardando un problema, vede qualcosa che i dati non mostrano. Non può sostituire la capacità di dire «non lo so» e di cercare insieme una risposta. Non può sostituire la dimensione tragica della scelta, in cui ogni opzione comporta una perdita e la decisione è un atto di coraggio e di responsabilità, non un calcolo di ottimizzazione.
Custodire l’umano
La storia della tecnologia è piena di strumenti che hanno ampliato le capacità umane: dal microscopio al telescopio, dal computer a Internet. Ogni strumento ha portato con sé nuove responsabilità, nuovi dilemmi etici, nuove domande su cosa significhi essere umani. L’AGI non è diverso. È solo più potente, più pervasivo, più vicino al cuore del ragionamento umano. E forse proprio per questo ci costringe a chiederci cosa renda un essere umano tale, cosa renda una società democratica, e quanto della nostra umanità siamo disposti a condividere con una macchina che per la prima volta sembra in grado di pensare come noi, o forse in alcuni ambiti meglio di noi.
Nietzsche, in Così parlò Zarathustra, annunciava la morte di Dio e l’avvento dell’Übermensch, l’oltreuomo che crea i propri valori in un mondo senza fondamenti trascendenti. Forse, oggi, ci troviamo di fronte a un annuncio simile, ma inverso. Non è Dio a morire, ma l’eccezionalità umana. L’AGI non è un oltreuomo, ma un’intelligenza che ci supera in molti ambiti, senza per questo essere dotata di coscienza o di valori. La sfida non è diventare oltreuomini, ma imparare a convivere con un’intelligenza diversa dalla nostra, che ci somiglia e insieme ci è radicalmente estranea, che condivide il nostro spazio decisionale ma non la nostra esperienza, che produce i nostri risultati ma non condivide la nostra storia.
Le parole di OpenAI, «Benvenuti nell’era dell’AGI», sono un invito a decidere. Non oggi, non domani, ma prima che sia troppo tardi. Il compito che ci attende non è frenare il progresso, ma imparare a governarlo con saggezza, ricordando che ogni innovazione, per quanto potente, porta con sé una responsabilità che non possiamo delegare. E la domanda decisiva non è più se possiamo costruire l’AGI, ma se abbiamo la saggezza per governarla.
Perché ciò che è in gioco, in ultima analisi, non è la tecnologia. È la nostra capacità di custodire l’umano in un’era in cui l’intelligenza non è più solo nostra. È la nostra capacità di preservare uno spazio per la scelta, il dubbio, l’errore, l’inciampo, tutte quelle dimensioni dell’esistenza che un algoritmo, per quanto potente, non potrà mai replicare. È la nostra capacità di ricordare che la vita, la società, la democrazia non sono problemi da ottimizzare, ma misteri da abitare, e che in quell’abitare risiede l’essenza di ciò che siamo.
