La compagnia di chi ci supera

di Francesco D’Isa

Il 7 maggio del 1913 Bertrand Russell cominciò a scrivere un libro attorno a una teoria della conoscenza che facesse da contraltare epistemologico ai Principia. Lo discusse con Ludwig Wittgenstein, allora un suo studente ventiquattrenne, e a metà giugno si fermò. Era, scrisse Wittgenstein, «paralizzato» dalle obiezioni che il ragazzo gli aveva presentato in una serie di incontri; scrivendo a Ottoline Morrell confessò la sensazione che il proprio lavoro in filosofia fosse concluso.

Il libro non uscì mai come tale, e ne ricavò soltanto sei capitoli per il Monist fra il 1914 e il 1915.E cosa fece, con quel ragazzo? Si adoperò perché il Tractatus venisse pubblicato e ne scrisse l’introduzione, che oltretutto Wittgenstein giudicò un fraintendimento e gli rimproverò. Nel 1929, quando l’allievo tornò a Cambridge, fu Russell insieme a Moore a sostenerlo per il dottorato. Molto più tardi ne avrebbe parlato con un misto di ammirazione e rancore. Ammirare chi ci supera d’altra parte non è facile.

Il primo agosto sono stati pubblicati dieci nuovi risultati in matematica e informatica teorica, ottenuti da una versione interna di un nuovo modello di OpenAI, accompagnati da un volume di duecentoquarantanove pagine e da certificati Lean, cioè da dimostrazioni che una macchina può controllare riga per riga. C’è la prima costruzione esplicita di un gruppo non sofico, questione ferma da quando Gromov introdusse la nozione nel 1999; c’è la confutazione della congettura di rigidità di Connes; ci sono tre problemi di Erdős e il primo miglioramento dal 1978 al limite generale sulla densità di impacchettamento delle sfere in alta dimensione. Il costo in token, dicono, sarebbe stato di circa duemila dollari.

Conviene restare cauti. I certificati Lean garantiscono che il termine di prova stabilisca l’enunciato formalizzato a partire dagli assiomi dichiarati; se quell’enunciato coincida davvero con il problema che i matematici credevano irrisolto resta da verificare, e per ora se ne occupa in larga parte chi ha prodotto i risultati. La prima reazione, ormai abituale sebbene sia sempre più indifendibile, consiste nel trovare qualche inevitabile difetto nel traguardo raggiunto e nel ridefinire l’intelligenza di conseguenza, come si è fatto ogni volta che una macchina ha conquistato qualcosa. Una battuta di Minsky, talvolta attribuita a John McCarthy, dice che appena una cosa funziona nessuno la chiama più intelligenza artificiale.

Le grandi abilità di calcolo furono una virtù intellettuale importante fino a quando una calcolatrice non le rese prive di interesse. L’ars memoriae era un’ossatura della cultura antica e medievale, ma oggi la deleghiamo senza rimorsi a taccuini e telefoni. Computer un tempo era un mestiere, spesso femminile, con le calcolatrici umane dell’Osservatorio di Harvard che classificarono e computavano centinaia di migliaia di dati astronomici a mano. Il mestiere è sparito nell’arco di una generazione e il nome è stato ereditato dalla macchina.

È interessante notare come la cura di queste doti sia stata abbandonata in quanto mestiere, e come nessuno oggi pianga l’aritmetica manuale come una perdita antropologica. La si insegna però in ogni scuola primaria del mondo proprio perché senza quell’impalcatura nessuno saprebbe che cosa stia facendo la calcolatrice. A sparire è stata la divisione a più cifre come prestazione professionale, mentre saper contare è rimasto dov’era: resta ciò che serve a capire e giudicare lo strumento che ci ha sostituiti. È il motivo per cui prediligo una definizione funzionale dell’intelligenza; se una sua forma non serve più a nulla, smette di essere tale in un determinato contesto, e diventa tuttalpiù una curiosità, come quella delle persone che riescono a mandare a mente lunghissimi elenchi numerici. La seconda reazione, collegata alla prima, è il timore che in un futuro ipotetico (e non così vicino come vorrebbero le aziende) dove le macchine ci superino nelle scienze, abbandoneremo questo campo.

Gli scacchi vanno contro questa ipotesi, dato che i modelli AI surclassano qualunque essere umano da decenni e il gioco non è affatto scomparso, anzi, il suo livello medio si è alzato proprio grazie all’apporto didattico di questi sistemi. A questo punto in genere arriva l’obiezione che «stavolta è diverso», eppure se si guarda la storia c’è una sola tipologia di casi in cui abbiamo davvero abbandonato qualcosa, ed è quando si è rivelata del tutto inutile. Come non usiamo più le musicassette, non impariamo quasi mai libri a memoria; a mancare a chi si dispera è sempre l’immaginazione, perché nel frattempo facciamo altro, senza per questo essere diventati più stupidi dei nostri antenati medievali. Dubito fortemente che la matematica fatta da umani diventi inutile – è persino più divertente degli scacchi – ma se davvero così fosse, pazienza: altro nascerà al suo posto. Nessuna forma culturale sfugge al mutamento.

C’è poi la paura di un mondo pieno di cose che non capiamo, che in fondo è il mondo che abitiamo da sempre. Non solo perché la pretesa di decifrare l’infinito è ingrata per un essere finito, ma anche perché non conosciamo appieno moltissime cose che usiamo. Il meccanismo dell’anestesia generale resta materia di dibattito mentre viene somministrata decine di migliaia di volte al giorno; il litio è in uso nel disturbo bipolare dal 1949 per ragioni che nessuno sa spiegare fino in fondo; e lo stesso vale per il paracetamolo. Dentro la matematica, ogni ricercatore lavora su risultati che non ha mai verificato e cita articoli che non ha letto per intero, affidandosi a una divisione del lavoro epistemico che è la condizione ordinaria di qualunque disciplina matura. L’opacità è già infrastruttura.

Si obietterà che nel caso umano almeno c’è qualcuno da qualche parte che capisce, e che dunque la conoscenza resta in linea di principio recuperabile. Ma al netto che queste persone a volte si contano sulle dita di una mano (soprattutto in matematica), non è sempre così. Nel 1976 il teorema dei quattro colori fu dimostrato ispezionando col computer quasi duemila configurazioni che nessun essere umano poteva controllare a mano. Ne nacque una discussione filosofica; Thomas Tymoczko sostenne che non fosse una dimostrazione in senso tradizionale, perché introduceva un elemento sperimentale nella matematica. Oggi è considerato pacificamente un teorema, formalizzato in Coq da Georges Gonthier nel 2005. La congettura di Keplero ha seguito la stessa parabola, dalla dimostrazione di Hales del 1998 al progetto Flyspeck concluso nel 2014. In entrambi i casi la comprensione umana è arrivata dopo, e in entrambi i casi rifiutare il risultato avrebbe significato semplicemente avere un teorema in meno.

Un problema possibile riguarda invece la quantità e lo ha esposto Terence Tao in una conferenza al Congresso internazionale dei matematici il 24 luglio scorso, una settimana prima dell’annuncio di OpenAI. Il celebre matematico analizza il processo del “dimostrare” in sei stadi: la generazione della prova, la sua verifica, l’esposizione comprensibile, la pubblicazione, l’assimilazione da parte di chi lavora nello stesso campo e infine la canonizzazione, cioè l’ingresso nei manuali e nell’insegnamento. Con le AI, gli stadi potrebbero accelerare in modo diseguale: la generazione e la verifica formale vanno più veloci, l’esposizione rallenta, l’assimilazione e la canonizzazione hanno tempi che restano lenti. La previsione è quindi il passaggio da un’epoca di scarsità di dimostrazioni a un’epoca di abbondanza, con ingorghi a ogni strozzatura. Non è uno scenario fantascientifico; su erdosproblems.com ci sono già decine di dimostrazioni generate da modelli che nessun esperto ha verificato, e in vari casi chi le ha caricate ha dichiarato di non essere in grado di farlo.

Nel caso dell’anestesia l’opacità riguarda il meccanismo, mentre l’efficacia è accertata da milioni di somministrazioni; nel caso di una dimostrazione non ancora compresa rischia di riguardare il processo stesso della dimostrazione. La differenza non sta nel grado di comprensione, che è basso in entrambi i casi, quanto nel fatto che esista o meno una comunità capace di assorbire il risultato al ritmo con cui viene prodotto.

Da qui discendono alcune buone prassi per la fase intermedia in cui ci troviamo, che è poi l’unica fase di cui possiamo davvero parlare. La prima è normalizzare la dichiarazione dell’uso di questi strumenti, perché lo scenario peggiore consiste nell’uso clandestino da parte di chi teme il giudizio dei colleghi. La seconda è spostare prestigio dalla generazione verso gli stadi finali, dando a chi espone, verifica e canonizza il riconoscimento che oggi va quasi tutto a chi arriva primo. La terza è che se gli autori non sono in grado di tenere una conferenza chiara sui propri risultati, quei risultati non andrebbero pubblicati.

Su un punto però dissento in parte. Ramanujan spedì a Hardy quaderni pieni di enunciati privi di dimostrazione che la comunità matematica ha impiegato un secolo a sfruttare e nessuno oggi direbbe che avrebbe fatto meglio a tenerseli. Comunicare ciò che non si capisce ha una lunga tradizione produttiva, dal calcolo operazionale di Heaviside alla delta di Dirac, oggetti illegittimi che hanno funzionato per decenni prima di ricevere fondamenti. L’obiezione non riguarda il principio quanto la scala, perché un flusso industriale di enunciati incompresi pesa su una comunità che non può sostenerlo. La soluzione che mi pare sensata consiste nel tenere separati due livelli, un deposito aperto ed esplicitamente “non ancora digerito”, con la verifica formale dove è possibile, e un livello canonico dove valgono le regole di cui sopra. Le paure, insomma, sono comprensibili. E diventano più fondate con qualche salto speculativo in più. Un’intelligenza davvero superiore alla nostra in ogni campo infatti, ammesso che arrivi, sarebbe per definizione oltre la nostra comprensione; potrebbe fare scoperte che ci sembrano inutili solo perché non siamo abbastanza intelligenti da vederne l’uso, e potrebbe perseguire fini che non riusciamo a ricostruire, dato che intelligenza e saggezza sono cose distinte. Sforzarsi di immaginarla è tempo perso, per la stessa ragione per cui è tempo perso immaginare un colore nuovo. L’ignoto ci terrorizza, figuriamoci un ignoto destinato a restare tale. Sebbene sia il luogo dove viviamo.

Il guaio è che queste paure ci rendono miopi rispetto a pericoli assai più prossimi. Personalmente bramo la compagnia di un’intelligenza superiore alla mia, come cerco quella delle persone che ne sanno più di me; mi spaventa piuttosto che appartenga a pochi.

Anche la scrittura nacque come tecnologia per pochi. Nella Mesopotamia antica i segni erano padroneggiati da un ceto di scribi formato in scuole chiamate edubba; la competenza passava di padre in figlio dentro famiglie di funzionari, e l’alfabetizzazione era una funzione amministrativa e templare che riguardava una frazione minima della popolazione. In Egitto il sistema geroglifico rimase appannaggio di una casta scribale per tutta la sua storia, e la difficoltà del sistema era essa stessa una forma di custodia. Fra la nascita della scrittura e l’alfabetizzazione generalizzata sono passati oltre cinquemila anni.Cinque millenni di gatekeeping riuscito non sono un argomento consolante. La rottura sostanziale arriva con la scuola dell’obbligo ottocentesca, preparata da secoli di conflitto religioso attorno alla lettura diretta delle Scritture e imposta da stati nazionali che avevano bisogno di coscritti in grado di leggere un ordine e di contribuenti in grado di compilare un modulo. L’apertura fu insomma una decisione politica che si servì di mezzi tecnici già in uso come la stampa.

Chi oggi chiede che lo strumento venga limitato, sorvegliato e stigmatizzato lavora dunque, magari senza volerlo, per l’interesse di chi lo possiede; ogni ostacolo culturale che si aggiunge alla soglia d’accesso funziona come funzionava la complicazione dei geroglifici.

Se davvero esistesse un sapere che nessuno di noi può capire, vorremmo che restasse ignoto? Io no, se può essere di qualche utilità. E soprattutto non vorrei che restasse in mano a pochi.