Rosa Fioravante
I sistemi di AI, per quanto sofisticati, non possono mai essere ritenuti moralmente responsabili: per questo, la “Responsible AI” (RAI) può essere garantita solo da organizzazioni responsabili. È questo l’assunto fondamentale dal quale muove il nostro libro Responsible Organizations and Humanism in Artificial Intelligence (edito da Palgrave McMillan), il quale si interroga su cosa significhi essere un’organizzazione responsabile di fronte alle sfide etiche dell’AI e su come i manager possano compiere scelte etiche di fronte a scenari sempre più complessi. Il libro vuole infatti offrire una disamina di ampio respiro di quali siano i doveri morali, gli obiettivi sociali e gli interessi economici in gioco nelle scelte aziendali volte ad assicurare uno sviluppo tecnologico etico.
Per affrontare queste domande, il libro si inserisce nel patrimonio scientifico teorico del campo di “business ethics” (BE). Quest’ultimo, più ampio rispetto a quello che in Italia si definisce tipicamente etica aziendale, è infatti impegnato fin dalla sua origine nella comprensione di come le aziende possano tradurre principi e valori all’interno di scelte operative e commerciali quotidiane e di come le teorie etiche possano avere un ruolo nell’analizzare e determinare le scelte manageriali (Crane et al. 2019; Freeman 2000).
- l’etica dell’AI ha bisogno di una prospettiva business ethics
Il libro muove dalla definizione di Responsible AI fornita da Virginia Dignum (2019): “Responsible AI is thus about being responsible for the power that AI brings”. L’adozione dell’AI amplifica il potere organizzativo — inteso come capacità di produrre effetti su singole persone ed entità collettive, dentro e fuori l’organizzazione stessa — e tale potere richiede che le organizzazioni siano chiamate a rendere conto di come questo viene esercitato. Questa argomentazione si inserisce in un filone più ampio di contributi che individuano nel patrimonio teorico di BE alcuni strumenti imprescindibili per affrontare le sfide etiche delle nuove tecnologie (Flyverbom et al. 2019; Johnson 2015; Lankoski and Smith 2025).
Tra gli altri, vogliamo qui ricordarne tre. Per quanto concerne la responsabilità aziendale dell’AI design, Häußermann e Lütge, tra gli altri, identificano cinque limiti dell’approccio dominante all’AI ethics, superabili utilizzando un approccio di BE: trattare i sistemi di AI come artefatti tecnici isolati; concentrarsi su proprietà tecniche come fairness o transparency senza affrontare i conflitti valoriali sottostanti; sottovalutare il contesto aziendale in cui l’AI viene effettivamente progettata e implementata; ignorare il ruolo delle imprese come attori morali; assumere implicitamente che l’AI ethics si risolva con una migliore ingegnerizzazione (Häußermann and Lütge 2022). Per quanto concerne lo stadio dell’implementazione AI, Schultz e Seele discutono di come alcune teorie di BE possono aiutare a comprendere e contrastare fenomeni di machinewashing (Schultz and Seele 2023). A valle, sul versante dell’AI auditing, Schöppl, Taddeo e Floridi osservano come la lunga tradizione del corporate ethics auditing — sviluppata in decenni per valutare la condotta delle imprese rispetto a standard etici, sociali e ambientali — offra oggi un repertorio metodologico maturo per valutare l’eticità dell’AI (Schöppl et al. 2022).
Il libro si concentra quindi sulla disamina della responsabilità organizzativa calata in tre contesti classici della teorizzazione BE, aggiornati alle sfide etiche poste dall’AI:
- Grey areas, contesti di scelte aziendali nei quali la legge è poco chiara o ancora in evoluzione e i confini tra comportamento legale e illegale risultano sfumati (Bruhn 2009). L’AI moltiplica le grey areas perché l’innovazione precede la legislazione di anni, talvolta decenni. Si pensi, ad esempio, ai casi di training degli algoritmi condotti tramite estrazione di miliardi di immagini disponibili online e su note piattaforme social, senza il consenso degli utenti — un caso da manuale in cui la grey area ha favorito comportamenti che, dapprima solo discutibili eticamente, sono diventati oggetto di indagine in quanto potenzialmente illegali, innescando indagini per violazione GDPR. Ancora, si pensi alle numerose cause tra aziende leader nello sviluppo di AI general purpose e aziende editoriali e culturali, oggi parte integrante di una significativa revisione del corpus giuridico che disciplina il copyright.
- Ethical dilemmas, contesti di scelte aziendali nei quali è necessario scegliere tra due “right” o due “wrong” — dove nessuna opzione è inequivocabilmente buona e ogni strada comporta un costo morale. Come è stato notato, i casi che mettono a dura prova la morale manageriale spesso non sono questioni di “right versus wrong”, ma “conflicts of right versus right” (Badaracco Jr. 2016). Il libro discute alcuni dilemmi ricorrenti nell’utilizzo di sistemi AI: transparency versus non-disclosure, dove l’esigenza di rendere trasparenti i processi decisionali algoritmici può confliggere con segreti industriali, negoziazioni sensibili, obblighi di riservatezza; algorithmic fairness versus accuracy, dove la mitigazione dei bias richiede di intervenire sui dataset e sugli algoritmi con potenziale perdita di accuratezza, e molti altri.
- Ethical risks, contesti di scelte aziendali definiti da Hazgui e Brivot come “the possibility of violating an ethical standard of practice” — rischi che possono essere evitati con misure preventive o consapevolmente assunti per evitare rischi di altra natura. Il libro si concentra in particolare sulla dimensione del “contenuto etico” (Blackmann 2023) dei programmi di “ethical risk management”, sostenendo che le organizzazioni necessitano non solo di una struttura efficacie nel prevenire i rischi etici ma anche di rigorose definizioni di quali siano questi rischi.
- Lo Humanistic Management può fondare una teleologia organizzativa per l’AI
Quali sono, dunque, gli approcci etici più adatti ad informare le scelte aziendali nei contesti sopracitati? Il libro si rifà alla tradizione, ormai venticinquennale, dello humanistic management, approccio agli studi organizzativi usato sia per ricerca normativa che empirica, centrato sulla non negoziabilità della dignità umana e sul supporto dello sviluppo umano integrale come fini ultimi dell’agire aziendale (Fioravante and Vaccaro 2025; Pirson and Lawrence 2010). La definizione condivisa di humanistic management, dovuta a Domènec Melé, è “a management that emphasises the human condition and is oriented to the development of human virtue, in all its forms, to its fullest extent”(Melé 2016).
Lo humanistic management integra Personalismo, Dottrina Sociale della Chiesa e il pensiero di autori quali Amartya Sen, Martha Nussbaum e Theodor Adorno, connettendo queste tradizioni etiche al filone “human-centered” dell’organizational theory che attraversa Barnard, Maslow, McGregor, Mayo e Drucker (Fioravante and Vaccaro 2024; Melé 2009, 2022; Reeves and Sinnicks 2023; Sferrazzo and Ruffini 2021). Ciò che hanno in comune queste prospettive è un superamento dello homo oeconomicus — attore unidimensionale guidato dalla massimizzazione dell’utilità in mercati intesi come spazi neutri — in virtù di analisi che intercettino la relazionalità, la spiritualità, i valori e il pluralismo culturale alla base delle scelte manageriali ed economiche (Fontrodona and Sison 2006).
Vale la pena notare come, pur essendosi sviluppato in un orizzonte globale, la teorizzazione dello humanistic management condivida molto con almeno due tradizioni italiane. L’Economia Civile, la cui articolazione moderna risale alle settecentesche Lezioni di economia civile di Antonio Genovesi, concepisce i mercati come arene intrinsecamente morali in cui reciprocità, beni relazionali e virtù civiche sono costitutivi della vita economica, non esternalità (Bruni 2008; Fioravante 2023). L’Economia Aziendale, fondata da Gino Zappa nel primo Novecento, definisce l’azienda come “istituto economico destinato a perdurare che, per il soddisfacimento dei bisogni umani, ordina e svolge in continua coordinazione la produzione, il procacciamento o il consumo della ricchezza”. In entrambe le tradizioni, il profitto è un mezzo verso un fine umanistico e l’impresa è un’istituzione sociale inserita in una comunità più ampia (Costa and Ramus 2012; Signori and Rusconi 2009).
Questa tradizione è cruciale per affrontare le sfide etiche dell’AI nelle organizzazioni, perché offre una comprensione people-centered di quali fini umani e beni sociali debbano essere protetti nelle transizioni tecnologiche. Il libro teorizza infatti ciò che chiamiamo “organizational teleology”: un framework decisionale che consente alle organizzazioni di valutare e deliberare su come i mezzi di AI — in contesti dati — debbano servire fini ultimi (teloi) radicati in beni etici non negoziabili (Haarjärvi and Laari-Salmela 2024). Ad esempio, l’utilizzo di sistemi automatizzati di valutazione della performance, unicamente legati a metriche quantitative, può impattare negativamente sui processi di auto miglioramento del personale.
- Stakeholder fragili e vulnerabili devono essere il benchmark dell’etica AI
Dopo aver discusso di come le organizzazioni abbiano il compito di proteggere e supportare le dimensioni fondamentali dello sviluppo umano, il libro si concentra su alcuni esempi di come l’AI possa impattare su stakeholder fragili e vulnerabili, o crearne di nuovi.
Nel libro distinguiamo tra fragility — una condizione dovuta a una caratteristica intrinseca della persona, ad esempio essere anziani — e vulnerability, condizione che emerge come conseguenza di esposizione a variabili esogene (Chiffi and Curci 2024). Esempi di stakeholder resi vulnerabili dall’avvento dell’IA (D’Cruz et al. 2022) sono: gli unaware stakeholders, esemplificati dai consumatori esposti a sistemi di dynamic pricing alimentati da AI, esposti a tariffe individualizzate determinate da algoritmi che incrociano pattern comportamentali e metadati, costoro rappresentano un caso di vulnerabilità situazionale radicata nell’asimmetria informativa. Gli uneven stakeholders emergono, ad esempio, nelle piattaforme di supplier scouting basate su AI, o nei sistemi di AI negotiation, che possono favorire fornitori “digitalmente visibili”, penalizzando i fornitori privi di mezzi tecnologici comparabili. Casi di invisible stakeholders possono emergere nell’utilizzo di sistemi di algorithmic management che ignorino i desideri e le aspettative del personale nella determinazione delle modalità di esecuzione dei task. Accanto a questi, esemplifichiamo la discussione sui rischi etici connessi all’IA su stakeholder fragili, tramite tre categorie esemplificative: i minori, esposti a una vasta varietà di rischi spesso presenti anche nel design di tecnologie child-friendly più rigoroso; gli anziani, esposti a (almeno) tre forme di ageismo: data and design ageism (bias algoritmici), malicious ageism (cybercrime mirato) e dependance ageism (sovraffidamento nell’utilizzo di AI in sostituzione dell’interazione umana); le persone con bisogni speciali, in un panorama ambivalente in cui le AI assistive technologies comportano rischi e opportunità spesso speculari, aprendo a contesti paradossali di potenziale supporto all’autonomia della persona e alla sua sorveglianza.
Tramite la discussione di alcuni casi reali connessi a questi target, il libro si conclude con una raccomandazione strategica: un’AI che rispetti i requisiti di eticità verso gli stakeholder fragili e vulnerabili, comporta tout court l’osservanza di un benchmark rigoroso di responsabilità anche verso tutti gli altri stakeholder.
L’adozione di humanistic management risulta quindi doppiamente vantaggioso: un’azienda che sviluppa la capacità di innovare in modo responsabile può adottare l’AI senza mai perdere la rotta, massimizzando sia i propri obiettivi di performance che il proprio posizionamento etico.
Questa è la pagina del libro :
https://link.springer.com/book/9783032171207
Bibliografia:
Badaracco Jr., J. L. (2016). Defining moments: When managers must choose between right and right. . Harvard Business Review Press.
Blackmann, R. (2023). Ethical Machines Your Concise Guide to Totally Unbiased, Transparent, and Respectful AI. Harvard Business Review Press.
Bruhn, J. G. (2009). The Functionality of Gray Area Ethics in Organizations. Journal of Business Ethics, 89(2), 205–214. https://doi.org/10.1007/s10551-008-9994-7
Bruni, L. (2008). Civil Economy. Efficiency, Equity, Public Happiness. Society and Business Review, 3(3), 258–259. https://doi.org/10.1108/17465680810907323
Chiffi, D., & Curci, F. (2024). Disentangling antifragility from resilience. In Fragility and Antifragility in Cities and Regions (pp. 6–24). Edward Elgar Publishing. https://doi.org/10.4337/9781035312559.00008
Costa, E., & Ramus, T. (2012). The Italian Economia Aziendale and catholic social teaching: How to apply the common good principle at the managerial level. Journal of Business Ethics, 106(1), 103–116. https://doi.org/10.1007/s10551-011-1056-x
Crane, A., Matten, D., Glozer, S., & Spence, L. J. (2019). Business ethics: Managing corporate citizenship and sustainability in the age of globalization. Oxford University Press, USA.ity in t. https://books.google.com/books/about/Business_Ethics.html?hl=it&id=fcSbDwAAQBAJ. Accessed 18 January 2024
D’Cruz, P., Du, S., Noronha, E., Parboteeah, K. P., Trittin-Ulbrich, H., & Whelan, G. (2022). Technology, Megatrends and Work: Thoughts on the Future of Business Ethics. Journal of Business Ethics, 180(3), 879–902. https://doi.org/10.1007/S10551-022-05240-9/FIGURES/1
Fioravante, R., & Vaccaro, A. (2025). Humanism and Artificial Intelligence. (Rosa Fioravante & A. Vaccaro, Eds.). Cham: Springer Nature Switzerland. https://doi.org/10.1007/978-3-031-85478-1
Fioravante, Rosa. (2023). Civil Economy. In Encyclopedia of Sustainable Management (pp. 551–556). Cham: Springer International Publishing. https://doi.org/10.1007/978-3-031-25984-5_1116
Fioravante, Rosa, & Vaccaro, A. (2024). Personalism in Generative AI Deployment: Deciding Ethically When Human Creative Expression is at Stake. Humanistic Management Journal. https://doi.org/10.1007/s41463-024-00193-9
Flyverbom, M., Deibert, R., & Matten, D. (2019). The governance of digital technology, big data, and the internet: New roles and responsibilities for business. Business & Society, 58(1), 3–19. https://doi.org/10.1177/0007650317727540
Fontrodona, J., & Sison, A. J. G. (2006). The nature of the firm, agency theory and shareholder theory: A critique from philosophical anthropology. Journal of Business Ethics, 66(1), 33–42. https://doi.org/10.1007/s10551-006-9052-2
Freeman, R. E. (2000). Business Ethics at the Millennium. Business Ethics Quarterly, 10(1), 169–180. https://doi.org/10.2307/3857703
Haarjärvi, T., & Laari-Salmela, S. (2024). Site-seeing Humanness in Organizations. Business Ethics Quarterly, 34(1), 60–96. https://doi.org/10.1017/beq.2022.12
Häußermann, J. J., & Lütge, C. (2022). Community-in-the-loop: towards pluralistic value creation in AI, or—why AI needs business ethics. AI and Ethics, 2(2), 341–362. https://doi.org/10.1007/s43681-021-00047-2
Johnson, D. G. (2015). Technology with No Human Responsibility? Journal of Business Ethics, 127(4), 707–715. https://doi.org/10.1007/s10551-014-2180-1
Lankoski, L., & Smith, N. C. (2025). Corporate Responsibility Meets the Digital Economy. California Management Review, 67(4), 21–47. https://doi.org/10.1177/00081256251343234
Melé, Domènec. (2009). Integrating Personalism into Virtue-Based Business Ethics: The Personalist and the Common Good Principles. Journal of Business Ethics, 88(1), 227–244. https://doi.org/10.1007/s10551-009-0108-y
Melé, Domenec. (2016). Understanding Humanistic Management. Humanistic Management Journal, 1(1), 33–55. https://doi.org/10.1007/S41463-016-0011-5/METRICS
Melé, Domènec. (2022). Catholic Social Teaching as a Foundation for Business Ethics. In Philosophy and Business Ethics (pp. 169–196). Cham: Springer International Publishing. https://doi.org/10.1007/978-3-030-97106-9_7
Pirson, M. A., & Lawrence, P. R. (2010). Humanism in business – towards a paradigm shift? Journal of Business Ethics, 93(4), 553–565. https://doi.org/10.1007/s10551-009-0239-1
Reeves, C., & Sinnicks, M. (2023). Totally Administered Heteronomy: Adorno on Work, Leisure, and Politics in the Age of Digital Capitalism. Journal of Business Ethics. https://doi.org/10.1007/s10551-023-05570-2
Schöppl, N., Taddeo, M., & Floridi, L. (2022). Ethics Auditing: Lessons from Business Ethics for Ethics Auditing of AI (pp. 209–227). https://doi.org/10.1007/978-3-031-09846-8_13
Schultz, M. D., & Seele, P. (2023). Towards AI ethics’ institutionalization: knowledge bridges from business ethics to advance organizational AI ethics. AI and Ethics, 3(1), 99–111. https://doi.org/10.1007/s43681-022-00150-y
Sferrazzo, R., & Ruffini, R. (2021). Are Liberated Companies a Concrete Application of Sen’s Capability Approach? Journal of Business Ethics, 170(2), 329–342. https://doi.org/10.1007/s10551-019-04324-3
Signori, S., & Rusconi, G. (2009). Ethical Thinking in Traditional Italian Economia Aziendale and the Stakeholder Management Theory: The Search for Possible Interactions. Journal of Business Ethics, 89(S3), 303–318. https://doi.org/10.1007/s10551-010-0391-7
