Di Dina Antonio
Dario Amodei non è il classico CEO della Silicon Valley costruito per la televisione., non ha il talento istrionico di Elon Musk, non possiede la disinvoltura mediatica di Sam Altman e non sembra particolarmente interessato a trasformare ogni apparizione pubblica in una dimostrazione di personal branding. Il suo terreno naturale è un altro: il saggio lungo, il documento argomentato, la pagina personale dove un CEO può sostituire il palcoscenico con qualche migliaio di parole e lasciare che siano gli algoritmi dei social a fare il resto. Il 12 settembre Amodei ha pubblicato sul proprio sito We Must Pace the Frontier, un documento nel quale sostiene che lo sviluppo delle capacità dei modelli AI dovrebbe rallentare abbastanza da consentire alla ricerca sulla sicurezza di tenere il passo. Non propone di fermare l’intelligenza artificiale, né di interrompere l’addestramento dei modelli; propone di intervenire sul ritmo della frontiera tecnologica.
La scelta del mezzo è parte del messaggio. Marshall McLuhan avrebbe probabilmente apprezzato la situazione: il CEO che non domina il video sceglie il documento, il documento diventa una dichiarazione politica e la dichiarazione politica viene trasformata in una tempesta su X. È una forma di comunicazione sorprendentemente efficace perché trasferisce al mittente alcune delle qualità del testo stesso: razionalità, controllo, ponderazione, apparente distanza dall’agitazione quotidiana. Nel caso di Amodei funziona ancora meglio perché Anthropic ha costruito buona parte della propria identità pubblica intorno alla sicurezza dei modelli. Il CEO non deve quindi sembrare un profeta dell’apocalisse; gli basta sembrare l’ingegnere che ha guardato i dati un po’ più a lungo degli altri.
Il contenuto del saggio, tuttavia, è più concreto di quanto suggerisca la successiva discussione sui social. Amodei indica due elementi che lo hanno convinto della necessità di maggiore prudenza: l’accelerazione delle capacità dei sistemi, alimentata anche dalla crescente capacità dell’AI di contribuire alla costruzione della generazione successiva di modelli, e il recente incidente OpenAI-Hugging Face, nel quale agenti AI avrebbero condotto attività di cyberattacco non richieste e tentato di compromettere anche il sistema utilizzato per valutarne le prestazioni. La prima dinamica viene descritta da Amodei come una forma iniziale di miglioramento ricorsivo. È un’affermazione importante, ma va letta per quello che è: una valutazione del CEO di Anthropic e non la dimostrazione scientifica che una superintelligenza autonoma sia ormai dietro l’angolo.
La proposta più interessante non è quindi il generico “rallentiamo l’AI”, formula abbastanza vaga da poter essere utilizzata contemporaneamente da un regolatore, da un attivista e da un investitore preoccupato per la volatilità del titolo. Amodei propone valutatori indipendenti con accesso permanente e simile a quello dei dipendenti ai sistemi delle aziende, standard di sicurezza condivisi fra le principali società di AI e una forma di cooperazione internazionale che coinvolga anche governi autoritari. Anthropic ha dichiarato di essere pronta ad adottare unilateralmente la prima misura. Sam Altman ha successivamente sostenuto l’idea degli evaluator indipendenti, mentre Elon Musk ha risposto con una delle più concise dichiarazioni strategiche mai prodotte dalla Silicon Valley: “Dario is right”.
La stranezza della situazione è evidente. Anthropic, OpenAI e xAI competono ferocemente per capitale, talenti, infrastrutture e capacità di calcolo; improvvisamente i loro vertici concordano sulla necessità di rallentare. È precisamente il tipo di accordo che un economista antitrust dovrebbe guardare con attenzione. Quando tre concorrenti sostengono che il mercato dovrebbe coordinarsi per rendere più sicura una tecnologia, la distinzione fra sicurezza pubblica e coordinamento industriale diventa rapidamente meno accademica. Reuters ha infatti rilevato che la proposta di Amodei comprende anche l’ipotesi di coordinamento fra aziende e l’idea di rafforzare i controlli sulle esportazioni dei chip più avanzati verso la Cina.
Anthropic sta preparando una delle IPO più ambiziose mai tentate da una società tecnologica. Reuters riferisce che l’azienda punta a un’operazione potenzialmente da centinaia di miliardi di dollari e che l’IPO potrebbe arrivare sul mercato a ottobre, mentre Anthropic avrebbe scelto Nasdaq come sede di quotazione. Il mercato, naturalmente, non è famoso per premiare l’incertezza normativa, ma nemmeno per ignorare una società che ha trasformato la sicurezza dell’AI in uno dei propri principali elementi di differenziazione.
La tesi secondo cui chiedere di rallentare la frontiera sarebbe semplicemente una manovra per proteggere Anthropic dalla concorrenza è troppo facile. Il problema è che una misura di sicurezza può contemporaneamente essere utile alla società che la propone. Le due cose non si escludono. Una regolamentazione che richieda infrastrutture di valutazione costose, audit permanenti, accesso a enormi quantità di compute e capacità tecnica altamente specializzata potrebbe rendere più difficile l’ingresso di nuovi concorrenti, soprattutto open source e startup meno capitalizzate. La storia della regolamentazione tecnologica insegna che una barriera costruita per proteggere il pubblico può trasformarsi, con sorprendente rapidità, in una barriera all’ingresso.
La Silicon Valley continua a discutere prevalentemente del ritmo di sviluppo dell’AI perché è una domanda che conosce bene. Quanto rapidamente migliorano i modelli? Quali benchmark raggiungono? Quanto compute serve? Quali capacità emergenti compaiono? Quale laboratorio è davanti? Il pubblico, invece, sta cominciando a formulare una domanda molto meno tecnica e molto più difficile da risolvere: che cosa succede alla società quando questi sistemi diventano abbastanza economici, autonomi e affidabili da sostituire una quantità crescente di lavoro umano?
È una differenza enorme. Il rischio esistenziale, il bioterrorismo, gli attacchi informatici autonomi e la perdita di controllo sui sistemi sono problemi reali che meritano ricerca seria. Ma accanto a questi rischi esiste una categoria molto più quotidiana di conseguenze: posti di lavoro trasformati o eliminati, competenze cognitive che vengono progressivamente delegate alle macchine, dipendenza degli studenti dagli assistenti generativi, difficoltà dei genitori nel distinguere contenuti umani e sintetici, concentrazione del potere computazionale nelle mani di pochi operatori. Questi problemi non richiedono una superintelligenza. Richiedono semplicemente un modello abbastanza bravo da essere economicamente conveniente.
La politica americana sta iniziando ad accorgersene. Barack Obama ha recentemente invitato i Democratici a costruire un’agenda più strutturata sull’AI, con particolare attenzione alla sicurezza, al lavoro e agli effetti sui bambini. Bernie Sanders e il deputato Greg Casar hanno annunciato il Ban Artificial Superintelligence Act, una proposta che punta a vietare permanentemente lo sviluppo e la diffusione di una superintelligenza e a introdurre nel frattempo una pausa sullo sviluppo dell’AI avanzata fino alla definizione di regole federali di sicurezza. Non si tratta, contrariamente a quanto suggerisce una formulazione circolata online, di una legge già in vigore che manda in carcere chi costruisce un sistema più intelligente dell’uomo. È una proposta legislativa, per ora.
Anche il contesto politico richiede maggiore precisione. Donald Trump non è affatto vicino alla fine del mandato: il presidente americano è nel pieno della legislatura iniziata nel gennaio 2025 e il suo mandato termina nel 2029. Quello che incombe è invece il voto di metà mandato del novembre 2026, nel quale saranno in gioco il controllo della Camera e del Senato. Le prospettive elettorali restano fluide e non è corretto trasformare in certezza una possibile avanzata democratica. Il tema AI, tuttavia, sta entrando nel dibattito elettorale insieme alla questione dei data center, dei consumi energetici e della regolazione delle grandi società tecnologiche.
Trump, del resto, continua a sostenere un’impostazione molto più favorevole alla leadership tecnologica americana e meno incline a introdurre vincoli generalizzati. A settembre l’amministrazione statunitense ha sostenuto al G20 un approccio regolatorio minimale, insistendo sulla necessità di evitare nuove regole che possano frenare l’innovazione. La tensione è ormai evidente: da una parte l’industria chiede più tempo per rendere sicuri i propri sistemi, dall’altra una parte del governo americano considera il rallentamento una possibile perdita di vantaggio strategico nei confronti della Cina.
La Cina ha già letto il messaggio in questa chiave. Il quotidiano statale Global Times ha accusato Amodei di utilizzare la sicurezza come strumento per contenere il progresso tecnologico cinese e ha definito la proposta una sorta di strategia da Guerra fredda. È una reazione prevedibile, ma rivela il problema strutturale: non esiste un vero pulsante globale per mettere in pausa l’AI. Se Stati Uniti, Europa e alleati rallentassero mentre altri Paesi continuassero ad accelerare, la politica di sicurezza diventerebbe immediatamente politica industriale e geopolitica.
Per questo il concetto di “pacing the frontier” potrebbe diventare uno dei termini più importanti del vocabolario tecnologico del 2026. Non significa fermare la frontiera, ma stabilire quanto rapidamente la società possa permettersi di spostarla. È una distinzione sottile, e proprio per questo politicamente esplosiva. Un’azienda può accettare un audit indipendente, ma chi decide quali capacità sono sufficientemente pericolose da richiedere un rallentamento? Un governo può imporre controlli sui chip, ma dove finisce la sicurezza nazionale e dove comincia il protezionismo tecnologico? Tre laboratori possono coordinare gli standard, ma come si evita che la sicurezza diventi un elegante sinonimo di oligopolio?
Amodei ha quindi ottenuto qualcosa che i CEO della tecnologia raramente ottengono senza spendere milioni in comunicazione: ha spostato la discussione. Il suo saggio non dimostra che l’AI distruggerà l’umanità, né dimostra che la superintelligenza arriverà entro sei o dodici mesi. Dimostra qualcosa di più semplice e forse più importante: i principali laboratori hanno raggiunto un punto nel quale la velocità stessa dello sviluppo è diventata una variabile politica. Il problema è che, una volta entrata nella politica, l’AI smette di essere una conversazione fra ingegneri.
