di Francesco Branda, Unità di Statistica Medica ed Epidemiologia Molecolare, Università
Campus Bio-Medico di Roma
1. Trovare non è scoprire: la conoscenza senza soggetto
Esiste una differenza sottile ma decisiva tra il trovare e lo scoprire, e questa differenza non riguarda la quantità di informazione prodotta né la velocità con cui essa emerge, ma la natura stessa dell’atto che la produce: trovare è un’operazione mediante la quale qualcosa che già era presente viene portato alla luce, mentre scoprire è un evento attraverso il quale ciò che non sapevamo nemmeno di ignorare irrompe nella nostra mappa del mondo e la costringe a ridisegnarsi. Il trovare, proprio perché è un’operazione, può essere delegato a una procedura, a un algoritmo, a una macchina; la scoperta, almeno finora, no, perché non consiste semplicemente nell’individuare una regolarità ma nel momento in cui una comunità riconosce quella regolarità come significativa, la integra nel proprio corpo di conoscenze, la contesta, la trasforma in una nuova domanda, e in questo processo si assume collettivamente la responsabilità di ciò che ha accettato come vero.
Nei giorni scorsi Anthropic ha annunciato che il suo modello Claude ha individuato un sistema enzimatico sconosciuto, potenzialmente riconducibile a un meccanismo di editing genico, e secondo la ricostruzione fornita centinaia di agenti autonomi avrebbero analizzato oltre duecentomila sequenze nell’arco di ventun ore, ristretto il campo a una ventina di candidati e proposto esperimenti di verifica, mentre le conferme di laboratorio sarebbero state ottenute da ricercatori umani. La narrazione che ne è seguita, tuttavia, è quella di una macchina che scopre, e vale la pena chiedersi che cosa sia realmente accaduto, perché a ben vedere un algoritmo ha trovato un pattern, e la scoperta, se di scoperta si tratta, è ancora in corso e si compirà o si dissolverà nelle pratiche collettive che la accoglieranno o la respingeranno. Questo scarto tra il trovare e lo scoprire non è un cavillo terminologico, ma il luogo in cui si gioca una partita insieme filosofica, etica e politica, dal momento che se la macchina trova e la comunità scopre, allora la domanda non è più se l’intelligenza artificiale possa sostituire lo scienziato, bensì chi decida che cosa meriti di essere chiamato scoperta, e quella domanda non è tecnica ma politica nel senso più radicale del termine.
La tradizione filosofica occidentale ha legato la conoscenza a un soggetto che conosce, e dal cogito cartesiano alla fenomenologia husserliana sapere ha sempre significato che qualcuno sa, cosicché l’IA generativa rompe questa grammatica producendo enunciati veri, utili, persino sorprendenti, senza che vi sia un soggetto che li pensi, li intenda, li sottoscriva. Si tratta di una conoscenza senza testimone, di un sapere che non risponde di sé, e le conseguenze di ciò non sono astratte ma concrete, perché quando una scoperta non ha autore non ha nemmeno un volto a cui chiedere conto, e allora sorge spontaneo domandarsi chi la difenderà davanti alla comunità scientifica, chi ne assumerà la paternità intellettuale, chi ne risponderà se si rivelerà un artefatto, un bias, un errore. Il modello non può essere interrogato e può solo essere riaddestrato, il fornitore non è un autore ma un produttore, il ricercatore che ha eseguito la verifica non è lo scopritore ma il validatore, e la scoperta resta così sospesa come un enunciato senza firma in attesa che qualcuno se ne assuma la responsabilità epistemica.
Qui si apre il primo nodo etico-politico, che riguarda appunto la responsabilità epistemica, giacché non basta che un’affermazione sia vera perché diventi conoscenza condivisa, ma occorre che qualcuno la sostenga, la difenda, la metta alla prova e accetti di essere smentito, dal momento che la scienza non è un archivio di verità ma una comunità di persone che si espongono. Se l’IA produce output senza che nessuno si esponga, non stiamo ampliando la conoscenza ma stiamo ampliando l’archivio, e l’archivio, per quanto vasto, non possiede la capacità di generare nuove domande perché le conserva, le ripete, le ricombina, ma non le inventa, mentre l’invenzione nasce dal disagio, dall’anomalia, dall’insofferenza per ciò che non torna, dunque da un soggetto che si sente in difetto davanti al mondo e cerca una risposta. Se quel soggetto viene rimosso dalla scena, la conoscenza non diventa più ampia ma più piatta, e la sua crescita si riduce a un’espansione orizzontale priva di profondità.
2. L’infrastruttura come potere: chi governa le condizioni della conoscenza
C’è poi un secondo livello, meno visibile ma più profondo, che riguarda il fatto che l’IA non è uno strumento neutro nelle mani di chi la usa ma un’infrastruttura che redistribuisce la capacità di conoscere, e poiché ogni infrastruttura è per definizione un dispositivo di potere, occorre chiedersi chi addestra i modelli, chi possiede i dati, chi decide quali lingue e quali corpi e quali storie siano rappresentati nei corpus e quali no, chi abbia accesso alla potenza di calcolo necessaria per fare ricerca su scala planetaria e chi possa permettersi di interrogare un sistema il cui addestramento costa milioni di dollari. Le risposte a queste domande non sono tecniche ma politiche, e configurano una geografia diseguale della conoscenza in cui pochi attori privati detengono le infrastrutture epistemiche dalle quali tutti gli altri dipendono, cosicché la scoperta di Claude non è un episodio isolato ma il sintomo di una trasformazione strutturale per cui la ricerca scientifica sta diventando dipendente da infrastrutture computazionali private, il cui funzionamento è opaco, la cui proprietà è concentrata, la cui agenda è orientata da logiche di mercato.
In uno scenario simile la domanda se l’IA sia etica rischia di essere la domanda sbagliata, perché la domanda giusta è chi governi le infrastrutture che rendono possibile la conoscenza, e la risposta non può essere lasciata al mercato dal momento che il mercato non ha né la legittimità né la vocazione per governare i beni epistemici comuni. La conoscenza, come l’acqua, come l’aria, come la salute, è un bene comune, e i beni comuni richiedono forme di governance che non siano né puramente statali né puramente private ma partecipate, trasparenti, contestabili, il che ha una conseguenza diretta sul modo in cui pensiamo la regolamentazione, perché l’AI Act europeo con la sua architettura basata sul rischio è certamente un passo importante ma rischia di trattare l’IA come un prodotto da certificare anziché come un’infrastruttura da governare, e la differenza è sostanziale. Un prodotto si valuta una volta all’immissione sul mercato mentre un’infrastruttura si governa nel tempo con meccanismi di monitoraggio, di contestazione e di revisione; un prodotto ha un fornitore mentre un’infrastruttura ha una pluralità di attori, di interessi e di responsabilità; un prodotto si compra mentre un’infrastruttura si abita, e chi abita un’infrastruttura ha il diritto di dire la sua sul modo in cui è fatta, su chi la controlla, su quali fini serve. Se la conoscenza è un bene comune, allora la sua infrastruttura non può essere governata da pochi e per pochi, ma deve essere aperta, trasparente, responsabile e, in una parola, democratica.
3. Il vuoto di responsabilità: dalla virtù individuale alla struttura istituzionale
Nella discussione pubblica sull’IA si parla spesso di responsabilità come se fosse una qualità morale individuale, il medico responsabile, il ricercatore responsabile, l’ingegnere responsabile, ma la responsabilità nelle organizzazioni complesse non è una virtù bensì una struttura, vale a dire l’insieme di ruoli, procedure, sanzioni e canali di contestazione che rendono possibile attribuire un’azione a qualcuno e chiedergli conto. Quando un sistema autonomo produce un danno, questa struttura si rivela inadeguata, e allora ci si domanda se il medico abbia seguito l’output, se il fornitore abbia documentato i limiti del sistema, se la struttura abbia formato il personale, se il produttore abbia validato il modello su popolazioni rappresentative, se l’autorità di regolamentazione abbia imposto standard verificabili, e ogni risposta apre un nuovo anello di una catena che non è mai lineare. È il fenomeno che la letteratura chiama responsibility gap, che non consiste nell’assenza di responsabilità ma nella sua dispersione, perché la responsabilità si dissolve in una nebbia di ruoli, di competenze e di obblighi parziali, e quando la responsabilità si dissolve non è solo la giustizia che ne soffre ma è la fiducia, dal momento che nessuno si fida di un sistema in cui, quando qualcosa va storto, nessuno sa chi abbia sbagliato.
La risposta non consiste nel cercare un capro espiatorio né nell’invocare una responsabilità diffusa che non è di nessuno, ma nel progettare strutture di accountability che rendano la catena tracciabile, e in questa direzione vanno tanto l’articolo 22 del GDPR quanto la categoria dei sistemi ad alto rischio introdotta dall’AI Act, benché la norma non basti perché serve una cultura istituzionale che tratti l’IA non come un prodotto da acquistare ma come un’infrastruttura da governare. Governare significa decidere chi decide, chi controlla e chi risponde, il che implica istituire figure di garanzia che non siano né tecniche né amministrative ma cliniche, etiche e politiche, formare il personale non solo all’uso degli strumenti ma alla valutazione critica dei loro output, prevedere canali attraverso cui chi subisce una decisione algoritmica possa contestarla, ottenere spiegazioni e chiedere un riesame umano, e trattare in definitiva la responsabilità non come un peso da scaricare ma come una relazione da costruire.
A questo si aggiunge una questione di giustizia epistemica che non può essere ignorata, perché occorre chiedersi chi sia rappresentato nei dati e chi ne sia escluso, quali lingue, quali corpi e quali storie siano assenti dai corpus, dal momento che un sistema addestrato su popolazioni sovrarappresentate può produrre decisioni apparentemente neutre ma profondamente inique. L’etica dell’IA non può dunque limitarsi alla trasparenza degli algoritmi ma deve interrogare le condizioni sociali e politiche che rendono quei dati possibili, e deve chiedersi non solo se un sistema sia accurato ma per chi sia accurato e a spese di chi, perché la neutralità è una finzione, ogni dataset è una scelta, ogni metrica è una gerarchia di valori, ogni modello è una visione del mondo, e se non rendiamo esplicite queste scelte non le rendiamo innocue ma le rendiamo invisibili, e l’invisibilità è la forma più efficace di potere.
4. L’atrofia del dubbio: il rischio che non si vede
Il rischio più discusso dell’IA è la sostituzione, ma il rischio più profondo è l’atrofia, che non consiste nel fatto che la macchina pensi al posto nostro ma che noi smettiamo di pensare convinti che la macchina lo faccia meglio, e non consiste nel fatto che la macchina decida al posto nostro ma che noi ci disabituiamo a decidere perché decidere è faticoso, incerto, doloroso. Questo fenomeno ha un nome nella letteratura sull’automazione, deskilling, ma nella sfera cognitiva e morale assume una forma più insidiosa, perché non è la perdita di una competenza tecnica ma l’erosione della virtù del dubbio, cioè della capacità di dire “non lo so”, di sospendere il giudizio, di cercare una seconda opinione, di chiedersi se il risultato che abbiamo davanti sia troppo bello per essere vero, e in definitiva della capacità di abitare l’incertezza senza fuggirla.
L’IA eccelle nel produrre risposte, ma la scienza, la medicina, il diritto e la politica non vivono di risposte bensì di domande ben poste, e le domande ben poste nascono dal disagio, dall’anomalia, dall’insofferenza per ciò che non torna, cosicché se deleghiamo alla macchina anche la formulazione delle domande non stiamo accelerando la conoscenza ma stiamo sterilizzando la sua sorgente, perché la sorgente della conoscenza non è la risposta ma il dubbio, e il dubbio non è un difetto da correggere ma una virtù da coltivare, ovvero la capacità di reggere l’incertezza senza cedere alla tentazione della certezza facile, della risposta pronta, dell’output che chiude la questione invece di aprirla.
Questa virtù non si insegna con un corso ma si coltiva con pratiche, con tempi, con spazi, in istituzioni che non premiano soltanto l’efficienza ma anche la riflessività, in comunità che non considerano l’errore una vergogna ma una tappa necessaria del conoscere, in persone che hanno il coraggio di dire “non lo so” davanti a un risultato che non capiscono invece di nascondersi dietro un output che non controllano. Se l’IA ci libera dal lavoro meccanico tanto meglio, perché potremo dedicare più tempo a ciò che la macchina non sa fare, ma se l’IA ci libera anche dal lavoro del giudizio, dal peso della scelta e dalla fatica del dubbio, allora non ci sta liberando ma ci sta svuotando, e uno scienziato svuotato, un medico svuotato, un giudice svuotato è un pericolo pubblico perché ha l’apparenza dell’autorità senza la sostanza della responsabilità.
5. La firma mancante: per una politica epistemica dell’IA
Torniamo dunque all’inizio, a quella macchina che ha trovato un pattern e che forse ha dato origine a una scoperta e forse no, perché qualunque cosa accadrà una cosa è certa, e cioè che nessuna macchina potrà firmare quella scoperta, nessuna macchina potrà dire “l’ho vista io”, “me ne assumo la responsabilità”, “se sbaglio, rispondo”, dal momento che la firma è ciò che trasforma un enunciato in un atto, un’informazione in una conoscenza condivisa, un risultato in un impegno. Questa firma mancante non è un difetto tecnico che l’evoluzione dei modelli potrà colmare, ma è la cifra di una differenza che non è di potenza ma di natura, perché la macchina può trovare ma non può rispondere, può produrre ma non può esporsi, può calcolare ma non può dubitare, e il dubbio, non la certezza, è il cuore della conoscenza.
Se questo è vero, allora la posta in gioco non è decidere se l’IA sia abbastanza intelligente per scoprire ma decidere se noi saremo abbastanza saggi da custodire ciò che la macchina non può darci, vale a dire la capacità di porre domande, di abitare l’incertezza e di assumerci la responsabilità delle nostre risposte, perché la macchina trova mentre l’umano scopre, ma scopre soltanto se accetta di firmare, e firmare significa accettare di poter essere smentiti, significa esporsi, significa in ultima analisi essere presenti.
Perché questo accada, però, non basta la buona volontà individuale ma servono scelte pubbliche, e tra queste vi sono registri trasparenti degli algoritmi in uso nei quali chiunque possa vedere chi usa cosa, con quali dati e per quali fini; valutazioni indipendenti e situate, condotte su dati locali con criteri pubblici da soggetti terzi che non siano né i fornitori né gli acquirenti; una formazione che non sia addestramento all’uso ma educazione al dubbio, capace di insegnare a riconoscere un output inaffidabile, a documentare il processo decisionale e a chiedere una seconda opinione umana quando necessario; audit periodici e canali di contestazione attraverso cui chi subisce una decisione algoritmica possa ottenere spiegazioni e un riesame umano; una sovranità digitale intesa non come autarchia tecnologica ma come capacità di decidere dove risiedono i dati, quali fornitori si utilizzano e quali infrastrutture si adottano; e soprattutto una giustizia epistemica che si chieda chi è rappresentato e chi è escluso, quali voci sono amplificate e quali silenziate, quali corpi sono visibili e quali invisibili.
La conoscenza è un bene comune, e i beni comuni non si custodiscono da soli ma richiedono istituzioni, regole, pratiche e responsabilità, richiedono cioè una politica epistemica che non sia né tecnocratica né mercantile ma democratica, e richiedono in una parola che qualcuno si assuma la responsabilità di firmare. La macchina può trovare, l’umano deve scoprire, e scoprire in ultima analisi significa accettare di essere l’autore di un mondo che non è ancora scritto.
