di A. Dina
Il conferimento del primo Premio SEPAI a Mark Coeckelbergh, professore di Filosofia dei media e della tecnologia all’Università di Vienna e membro dell’Independent International Scientific Panel on AI delle Nazioni Unite, ha offerto l’occasione per affrontare una delle questioni meno comprese nella trasformazione digitale: l’intelligenza artificiale non sta modificando soltanto il modo in cui lavoriamo, produciamo conoscenza e prendiamo decisioni. Sta intervenendo sulle condizioni che rendono possibile una società democratica.
La cerimonia, organizzata dalla Society for the Ethics and Politics of Artificial Intelligence, ha riconosciuto il contributo di uno studioso che da tempo invita a superare una lettura prevalentemente tecnica dell’AI. Nella laudatio, Benedetta Giovanola ha richiamato tre dimensioni fondamentali del suo pensiero: la tecnologia come fenomeno che incorpora valori, il rapporto tra intelligenza artificiale e potere politico, la matrice culturale e religiosa che alimenta alcune delle aspettative contemporanee sulle macchine intelligenti. Una prospettiva che sposta il dibattito dai limiti degli algoritmi alle trasformazioni che questi producono nella società.
Nel suo intervento, Coeckelbergh ha spiegato il passaggio dalla tradizionale AI Ethics alla filosofia politica dell’intelligenza artificiale: non si tratta di abbandonare i principi etici, ma di riconoscere che problemi come discriminazione, sorveglianza e manipolazione assumono una portata diversa quando vengono inseriti in sistemi capaci di influenzare milioni di persone. La questione riguarda la distribuzione del potere, chi controlla le infrastrutture tecnologiche, chi stabilisce le condizioni di accesso alla conoscenza e chi determina le regole secondo cui le informazioni vengono selezionate e presentate dispone di un’influenza che supera ampiamente quella di un normale fornitore di servizi digitali.
È in questo contesto che Coeckelbergh introduce il concetto di technofascism, utilizzato per descrivere alcune possibili convergenze tra potere tecnologico, autoritarismo politico e concentrazione economica. Il termine è volutamente provocatorio e non costituisce una classificazione storica automatica delle imprese tecnologiche contemporanee. Serve piuttosto a richiamare l’attenzione su dinamiche che meritano un esame rigoroso. Lo studioso individua analogie con alcuni elementi del fascismo storico, soprattutto nella costruzione di narrazioni ideologiche, nella collaborazione tra grandi interessi industriali e apparati statali e nell’utilizzo della tecnologia come strumento di controllo.
Il riferimento alla collaborazione tra industria tecnologica e governo statunitense è particolarmente significativo. L’immagine di un mercato digitale fondato esclusivamente sulla libera concorrenza non restituisce la complessità dei rapporti tra imprese private, commesse pubbliche e apparati militari. L’intelligenza artificiale si sviluppa anche attraverso investimenti e contratti statali, soprattutto nei settori della difesa e della sicurezza. Questa relazione non è di per sé una prova di deriva autoritaria, ma rende evidente quanto sia riduttivo considerare le grandi piattaforme come semplici operatori commerciali. La loro capacità di incidere sulle politiche pubbliche dipende anche dalla posizione strategica conquistata nelle infrastrutture nazionali.
Un altro passaggio centrale riguarda il rapporto tra AI e democrazia, Coeckelbergh distingue la democrazia intesa come procedura elettorale da una concezione più ampia, nella quale i cittadini partecipano alla formazione delle decisioni attraverso il confronto, la discussione e la possibilità di modificare le proprie convinzioni. È una distinzione che richiama il pensiero di John Dewey, Hannah Arendt e Jürgen Habermas. In questa prospettiva, una democrazia non funziona soltanto perché le persone possono votare. Ha bisogno di cittadini in grado di comprendere le questioni pubbliche, confrontarsi con opinioni differenti e riconoscere l’esistenza di una realtà condivisa.
L’intelligenza artificiale può compromettere queste condizioni attraverso meccanismi che non richiedono necessariamente la censura esplicita o la propaganda tradizionale. I modelli linguistici generativi possono produrre messaggi persuasivi su larga scala, adattando il linguaggio ai destinatari e riducendo drasticamente il costo della comunicazione politica personalizzata. I sistemi di raccomandazione possono contribuire a rafforzare ambienti informativi polarizzati, mentre la produzione automatizzata di contenuti rende più difficile distinguere informazioni attendibili da rappresentazioni artificiali. Coeckelbergh richiama in questo senso il problema delle cosiddette epistemic bubbles, ambienti nei quali gli individui incontrano prevalentemente informazioni coerenti con le proprie convinzioni.
La conseguenza più delicata riguarda l’autonomia individuale, la tradizione liberale attribuisce grande importanza alla capacità delle persone di formarsi un’opinione indipendente. Tuttavia, questa autonomia non è mai assoluta: gli esseri umani sono soggetti relazionali, influenzati dal contesto sociale e dalle informazioni disponibili. L’intelligenza artificiale introduce una nuova forma di influenza perché può intervenire direttamente nei processi attraverso cui le persone costruiscono le proprie convinzioni. La persuasione algoritmica non sostituisce necessariamente il giudizio umano, ma può condizionarne le premesse senza che l’interessato ne sia pienamente consapevole.
A questo problema si aggiunge la concentrazione economica, Coeckelbergh osserva che le asimmetrie prodotte dall’AI possono accentuare le differenze tra chi possiede capitale, infrastrutture e capacità di sviluppo tecnologico e chi ne utilizza semplicemente i servizi. La disponibilità di modelli avanzati, dati e potenza computazionale rappresenta un vantaggio competitivo, ma anche una fonte di influenza politica. Quando il controllo delle infrastrutture cognitive si concentra in un numero ristretto di organizzazioni, la capacità della società di governare democraticamente la tecnologia diventa più fragile.
Interessante è il riferimento alla cosiddetta political cybernetics. Coeckelbergh riprende la metafora platonica della nave dello Stato, nella quale il governo dovrebbe essere affidato a chi possiede le competenze necessarie per condurla. La tecnologia contemporanea rende questa metafora concreta: sistemi algoritmici possono supportare decisioni amministrative, economiche e politiche, alimentando la convinzione che la competenza tecnica sia sufficiente a legittimare il potere decisionale. È una tentazione pericolosa. Sapere come funziona un sistema non significa acquisire automaticamente il diritto di decidere per la collettività. La competenza scientifica deve contribuire alla decisione democratica, non sostituirla.
La questione diventa ancora più urgente con l’affermazione dell’intelligenza artificiale agentica, durante il confronto con il pubblico è stato sollevato un problema che merita particolare attenzione: se gli agenti artificiali iniziano a sostituire gli esseri umani in porzioni significative della cooperazione sociale, le decisioni operative possono essere progressivamente sottratte ai processi collettivi di deliberazione. Coeckelbergh ha riconosciuto la rilevanza dell’obiezione, distinguendo l’ascolto autentico dalla semplice raccolta di input. Un sistema può elaborare le opinioni dei cittadini, ma questo non equivale necessariamente alla capacità umana di interpretare le ragioni altrui, comprendere un dissenso e costruire una relazione politica.
La differenza è sostanziale per le imprese: l’automazione dei processi decisionali non dovrebbe essere valutata soltanto attraverso indicatori di produttività o riduzione dei costi. Quando un agente AI interviene nell’organizzazione del lavoro, nella selezione delle priorità o nella distribuzione delle responsabilità, modifica anche le relazioni di potere interne. Un’organizzazione che delega progressivamente il giudizio a sistemi automatizzati rischia di perdere proprio quelle competenze critiche che le consentono di controllare la tecnologia. La governance dell’intelligenza artificiale richiede quindi una chiara attribuzione delle responsabilità umane, anche quando l’esecuzione delle attività viene affidata agli agenti.
Coeckelbergh non propone tuttavia una posizione tecnofobica. Al contrario, individua possibilità concrete per utilizzare l’AI a sostegno della democrazia. La traduzione automatica può favorire la partecipazione di cittadini che non condividono la stessa lingua; strumenti intelligenti possono aiutare a comprendere documenti complessi e rendere più accessibili i processi decisionali. Lo studioso richiama anche esperimenti come la Habermas Machine, progettata per raccogliere prospettive differenti e individuare possibili punti di convergenza nelle discussioni collettive. Queste applicazioni non risolvono automaticamente i problemi della deliberazione pubblica, ma mostrano che la tecnologia può essere progettata anche per sostenere forme di partecipazione più inclusive.
Rimane indispensabile, tuttavia, intervenire sulle istituzioni, Coeckelbergh propone di rendere più stabile il collegamento tra competenza scientifica e legittimazione politica, superando la natura spesso occasionale degli organismi consultivi. Una struttura permanente, nella quale esperti scientifici e tecnologici possano confrontarsi con rappresentanti democraticamente eletti, contribuirebbe a rendere più trasparenti le decisioni sull’intelligenza artificiale. Il problema non riguarda soltanto chi possiede le conoscenze necessarie, ma anche chi ha il mandato per trasformarle in scelte collettive.
Nella parte conclusiva, il filosofo torna su un tema sviluppato nel suo libro Artificial Religion: le aspettative sull’intelligenza artificiale non nascono esclusivamente dall’evoluzione scientifica. Sono alimentate anche da immaginari culturali e religiosi, soprattutto dall’idea di una trasformazione radicale della storia attraverso l’avvento di una superintelligenza. La narrazione della singolarità tecnologica presenta sorprendenti analogie con il pensiero apocalittico e con le concezioni escatologiche, nelle quali la storia procede verso un momento finale capace di cambiare ogni cosa. Questa rappresentazione può attribuire a chi dichiara di conoscere il futuro tecnologico una particolare autorità culturale e politica. La promessa di una superintelligenza, in altre parole, non è soltanto una previsione scientifica: può diventare uno strumento attraverso cui si costruisce legittimazione.
Il conferimento del Premio SEPAI a Coeckelbergh assume così un significato che supera il riconoscimento accademico. Il suo lavoro ricorda che l’intelligenza artificiale non è un fenomeno esterno alla società, regolato da leggi tecniche indipendenti dalla volontà umana. È una tecnologia costruita dentro rapporti economici e politici precisi, destinata a influenzare il modo in cui esercitiamo la libertà e condividiamo le responsabilità. Per l’Europa, che ambisce a costruire un modello di sviluppo tecnologico fondato sui diritti e sulla legittimazione democratica, questa riflessione rappresenta un passaggio essenziale. Regolare i sistemi AI è necessario, ma non basta. Occorre anche impedire che la competenza tecnica diventi una nuova forma di autorità incontestabile e che la delega algoritmica finisca per svuotare la partecipazione umana. Una società democratica non si misura dalla quantità di decisioni che riesce ad automatizzare, ma dalla capacità dei suoi cittadini di continuare a comprenderle, discuterle e governarle.


