di A. Dina
Inner Speech for Ethics by Design: From Moral Judgment to Artificial Wisdom
Arianna Pipitone and Mario De Caro and Antonio Chella
Negli ultimi dieci anni il dibattito sull’intelligenza artificiale si è concentrato prevalentemente su due direttrici. La prima riguarda l’aumento delle capacità computazionali, ottenuto attraverso modelli sempre più grandi, dataset sempre più vasti e infrastrutture hardware sempre più costose. La seconda riguarda la sicurezza, interpretata soprattutto come controllo del comportamento dei modelli attraverso guardrail, reinforcement learning, filtri e sistemi di supervisione. Il lavoro “Inner Speech for Ethics by Design: From Moral Judgment to Artificial Wisdom”, firmato da Arianna Pipitone, Mario De Caro e Antonio Chella, propone invece un cambio di paradigma molto più radicale. La domanda non è più come impedire che una macchina compia un’azione indesiderata, ma come progettare un agente artificiale capace di deliberare moralmente in contesti complessi, mantenendo trasparenza, adattabilità e responsabilità.
L’elemento innovativo del lavoro consiste nell’integrazione tra due filoni di ricerca tradizionalmente separati. Da una parte il modello filosofico Aretai, che interpreta la phronesis aristotelica come una competenza pratica composta da percezione morale, deliberazione, regolazione emotiva e motivazione morale. Dall’altra l’architettura cognitiva dell’inner speech, sviluppata negli anni dal gruppo di Palermo, che introduce nei sistemi artificiali una forma di dialogo interno capace di sostenere riflessione, autocontrollo e spiegabilità delle decisioni. L’idea centrale è che la moralità non emerga dall’applicazione meccanica di regole, ma da un processo riflessivo continuo nel quale il sistema interpreta il contesto, valuta alternative e giustifica la propria scelta.
Questa impostazione rappresenta una critica implicita ai due grandi modelli oggi dominanti nell’AI. Il primo è l’approccio top-down, nel quale un insieme di regole viene codificato esplicitamente all’interno del sistema. Il secondo è quello bottom-up, nel quale il comportamento etico dovrebbe emergere statisticamente dall’addestramento su grandi quantità di dati. Entrambi mostrano limiti evidenti quando il sistema deve operare in ambienti reali, caratterizzati da norme implicite, differenze culturali, valori concorrenti e situazioni che non possono essere previste durante la progettazione. Gli autori sostengono che nessuna base di regole può anticipare tutta la complessità del mondo e che nessun modello statistico può garantire, da solo, decisioni moralmente giustificate.
Dal punto di vista dell’ingegneria dell’intelligenza artificiale, il contributo più interessante è probabilmente l’introduzione di una vera architettura cognitiva stratificata. Il sistema integra conoscenza del dominio, norme etiche, convenzioni culturali, memoria autobiografica e percezione dell’ambiente in un unico processo deliberativo. L’inner speech funge da workspace cognitivo nel quale tutte queste informazioni vengono trasformate in valutazioni esplicite. Il risultato è un agente che non produce semplicemente una risposta, ma costruisce una sequenza argomentativa che rende osservabile il processo decisionale. Questo rappresenta un’evoluzione significativa rispetto agli attuali modelli linguistici, che generano spiegazioni solo dopo aver preso una decisione e non necessariamente utilizzano tali spiegazioni durante il processo di scelta.
Dal punto di vista tecnico emerge un altro elemento di grande interesse. Gli autori non cercano di massimizzare una funzione di utilità, come avviene nella maggior parte degli algoritmi di ottimizzazione. Propongono invece una funzione che misura il conflitto etico generato da ciascuna possibile azione. L’obiettivo diventa minimizzare le tensioni tra valori concorrenti, assegnando pesi dinamici che dipendono dal contesto, dalla cultura e dall’esperienza accumulata dall’agente. È una differenza concettuale importante. L’intelligenza artificiale smette di inseguire una soluzione ottimale in senso matematico e cerca invece un equilibrio pratico tra interessi legittimi ma incompatibili.
Le implicazioni per la robotica sono ancora più profonde. Un robot assistenziale, un sistema sanitario autonomo o un veicolo senza conducente operano continuamente in situazioni nelle quali non esiste una risposta universalmente corretta. La gestione della privacy, della sicurezza, dell’autonomia personale o delle differenze culturali richiede valutazioni contestuali che cambiano continuamente. Il caso del robot che deve decidere se rispettare la richiesta di riservatezza di un paziente o avvisare il caregiver dimostra come il problema non sia trovare la risposta giusta, ma costruire un processo deliberativo comprensibile e verificabile. In questo senso il valore dell’inner speech non consiste tanto nel migliorare la qualità della decisione, quanto nel renderla ispezionabile sia dagli esseri umani sia dagli organismi di controllo.
Questa caratteristica apre scenari particolarmente interessanti anche per la Explainable AI. Oggi gran parte dei sistemi spiegabili produce spiegazioni ex post, spesso costruite per soddisfare requisiti normativi o rassicurare gli utenti. Nel modello proposto, invece, la spiegazione coincide con il processo cognitivo stesso. Non viene generata successivamente, ma accompagna ogni fase della deliberazione. Questo potrebbe rappresentare un cambio di paradigma per tutti i settori regolati, dalla medicina alla finanza, fino alla difesa, nei quali la tracciabilità delle decisioni è tanto importante quanto la decisione stessa.
Le conseguenze per la governance dell’intelligenza artificiale sono probabilmente le più rilevanti. L’AI Act europeo, così come numerose iniziative regolatorie internazionali, insiste sulla trasparenza, sulla supervisione umana e sulla gestione del rischio. Tuttavia, nessuna normativa descrive realmente come un sistema dovrebbe costruire il proprio ragionamento etico. Questo lavoro suggerisce una possibile architettura di riferimento nella quale audit, accountability e spiegabilità non vengono aggiunti successivamente come livelli di controllo, ma diventano proprietà intrinseche del processo cognitivo. In prospettiva, un regolatore potrebbe non limitarsi a verificare l’output finale di un algoritmo, ma ispezionare l’intero percorso deliberativo che ha portato a quella decisione.
Naturalmente il modello presenta anche alcune criticità. La prima riguarda la scalabilità. Integrare un dialogo interno continuo in sistemi che devono operare in tempo reale comporta costi computazionali significativi. La seconda riguarda l’integrazione con i grandi modelli linguistici contemporanei, la cui architettura probabilistica non è stata progettata per mantenere una memoria autobiografica strutturata o una deliberazione normativa persistente. La terza riguarda la validazione empirica. Dimostrare che un sistema possiede una forma di saggezza pratica è molto più complesso che misurarne accuratezza, velocità o precisione. Gli stessi autori riconoscono questa difficoltà proponendo un protocollo sperimentale che valuta non soltanto il comportamento finale, ma l’intero processo riflessivo dell’agente.
Il contributo scientifico del paper va quindi oltre la robotica sociale dalla quale prende origine. Introduce un possibile ponte tra filosofia morale, scienze cognitive, architetture simboliche e sistemi neurali, suggerendo che la prossima evoluzione dell’intelligenza artificiale potrebbe non dipendere esclusivamente da modelli più grandi o da GPU più potenti. La vera innovazione potrebbe consistere nella capacità delle macchine di costruire una rappresentazione esplicita del proprio ragionamento, trasformando il processo decisionale in un oggetto osservabile, verificabile e criticabile.
Se questa direzione di ricerca dovesse trovare conferma sperimentale, il dibattito sull’AI potrebbe spostarsi definitivamente dalla tradizionale machine ethics verso una forma di artificial wisdom. Sarebbe un cambiamento profondo, perché il problema non sarebbe più insegnare alle macchine a rispettare regole, ma progettare sistemi capaci di comprendere perché una determinata decisione sia preferibile in uno specifico contesto. È una distinzione apparentemente sottile, ma rappresenta probabilmente la differenza tra un algoritmo sofisticato e un agente artificiale realmente capace di operare in una società umana.
