Governare l'algoritmo: antropocentrismo, algoretica e le nuove frontiere dell'Intelligenza Artificiale

di Andrea Menegotto

Revisione e aggiornamento: 14 ottobre 2026

L’accelerazione dello sviluppo e della diffusione dei sistemi di Intelligenza Artificiale (IA) rappresenta una delle transizioni socio-tecniche più radicali e pervasive nella storia dell'umanità. Non ci troviamo di fronte a una semplice innovazione tecnico-scientifica circoscritta, bensì a una trasformazione sistemica che riorganizza le strutture primarie del vivere associato, la produzione della conoscenza, il lavoro e le forme del potere politico ed economico, mettendo in discussione le teorie antropocentriche. Infrangendo il secolare monopolio umano sulla cognizione e sull'elaborazione decisionale, l'avvento dell'IA produce un reale decentramento epistemologico del soggetto. Tradizionalmente, la filosofia occidentale — dall'Umanesimo all'Illuminismo — ha elevato l'essere umano a misura e centro dell'universo in virtù della sua esclusiva capacità di ragionamento, creatività e intenzionalità. L'irruzione di agenti software capaci di apprendere, generare linguaggio e guidare processi complessi, con livelli di efficienza, velocità e capacità di elaborazione che in determinati compiti possono superare quelli umani, incrina questa presunta centralità, costringendoci a riconsiderare i confini tra agire umano e agire da parte del computer. Non si tratta soltanto di una sfida prestazionale o tecnologica, ma di una crisi dell'autoconcezione dell'uomo: di fronte a macchine che elaborano significati e prendono decisioni autonome, il paradigma antropocentrico viene ridiscusso alla radice, imponendo di rifondare l'identità e la specificità dell'umano non più sul terreno del puro calcolo o della capacità cognitiva, bensì su quello della responsabilità etica, della vulnerabilità, della coscienza morale e della cura relazionale.

Come ho cercato di approfondire nel mio contributo su Il ruolo dell'Intelligenza Artificiale nelle dinamiche comunicative, l'IA agisce infatti come un vero e proprio "ambiente" relazionale e percettivo più che come un mero "dispositivo" tecnico. La tecnica cessa di essere neutro veicolo d'azione e diventa una matrice che plasma e struttura l'esperienza quotidiana. Essa si rivela capace di ridefinire il concetto stesso di agency umana, la nostra comprensione della realtà e le forme del contatto e comunicazione fra persone.

Di fronte all'incalzare di algoritmi predittivi, modelli linguistici di grandi dimensioni (Large Language Models - LLM) e sistemi decisionali automatizzati (Automated Decision-making Systems), la risposta sociale non può da un lato cedere a un'esaltazione acritica dell'efficienza né, tanto meno, arrendersi a una resa distopica e ingiusta. Risulta impellente l'elaborazione di un'etica applicata e di un'analisi sociologica capace di governare la tecnica, restituendola alla sua funzione ancillare: il servizio all'uomo, alla giustizia sociale e al bene comune.

1. Il panorama delle sfide etiche e sociologiche dell'IA

L'analisi sociologica del fenomeno algoritmico rivela una serie di criticità strutturali che investono direttamente l'equità sociale e i diritti fondamentali della persona.

• Trasparenza, opacità e la "black box" decisionale - I sistemi avanzati di apprendimento automatico (deep learning) operano attraverso architetture epistemologicamente opache. La cosiddetta "scatola nera" (black box) rende arduo ripercorrere la traiettoria logica e computazionale che conduce a un determinato output. Dal punto di vista sociologico, l'opacità mina il principio di accountability (ovvero la responsabilità): se un giudizio clinico, una decisione giudiziaria o l'accesso al credito vengono delegati a un algoritmo di fatto incomprensibile, si depaupera la possibilità di esercitare il diritto di contestazione e di rendicontazione democratica.

• Bias cognitivi e discriminazione algoritmica - Gli algoritmi vengono addestrati su corpus di dati storici ed esistenti. Se i dati di partenza rispecchiano pregiudizi o disuguaglianze strutturali, il sistema algoritmico cristallizza e amplifica tali distorsioni. Si parla in questo senso di algorithmic bias: le categorie marginalizzate rischiano di subire forme invisibili di discriminazione automatizzata nell'ambito della selezione del personale, della profilazione criminale o della valutazione finanziaria.

• Privacy, "capitalismo di sorveglianza" e autonomia umana - L'economia digitale contemporanea ha reso possibile l'estrazione e l'elaborazione su larga scala di dati personali relativi ai comportamenti degli utenti, alimentando forme di profilazione e previsione che Shoshana Zuboff ha interpretato attraverso il concetto di "capitalismo di sorveglianza" (cfr. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, PublicAffairs, New York [USA] 2019; tr.it.: Il capitale di sorveglianza. Il futuro dell'umanità all'era del nuovo potere, LUISS University Press, Roma 2019). La dinamica individuata dalla sociologa ed economista statunitense, nonché docente emerita presso la Harvard Business School, segna un mutamento strutturale della logica economica: se il capitalismo industriale classico trasformava le risorse naturali e il lavoro in beni fisici, il "capitalismo di sorveglianza" (o "capitalismo della sorveglianza") trasforma l'esperienza umana quotidiana in una "materia prima" gratuita da estrarre, analizzare e monetizzare. Il vero bene scambiato non è la piattaforma o il servizio digitale che usiamo talora anche gratuitamente, ma la capacità di prevedere e indirizzare i nostri comportamenti futuri. Il processo si articola in tre passaggi chiave:

1. l'estrazione capillare dei dati, infatti ogni nostra azione nel mondo digitale — un clic, una ricerca sul web, la posizione GPS, una pausa di lettura sullo schermo, un "mi piace" o l'interazione con sistemi di videosorveglianza urbana — lascia un'impronta tracciabile;

2. la generazione del "surplus comportamentale", per cui l'Intelligenza Artificiale elabora questa mole imponente di tracce per costruire profili dettagliati, individuando le nostre routine, le vulnerabilità emotive e le inclinazioni ideologiche;

3. infine, i mercati dei comportamenti futuri fondati sulle predizioni che vengono vendute all'asta a soggetti terzi (aziende commerciali, inserzionisti o attori politici) per mostrare in maniera psicologicamente accattivante il messaggio giusto al momento giusto tramite tecniche di micro-targeting.

L'aspetto critico più profondo non risiede dunque soltanto nella perdita della privacy, ma nella minaccia diretta all'autonomia individuale. Notifiche, algoritmi e contenuti personalizzati non si limitano a osservare passivamente le abitudini, ma manipolano sottilmente le decisioni quotidiane dell'utente — o comunque possono contribuire a orientare le decisioni quotidiane — spingendolo ad acquistare un determinato prodotto o a orientare le proprie scelte di vita, rischiando che non vi sia piena consapevolezza e così potenzialmente erodendo lo spazio dell'individualità decisionale. Infatti, in alcuni casi, sono di fatto messe in atto tecniche di personalizzazione e persuasione capaci di ridurre la consapevolezza dell'influenza esercitata.

• L'impatto sul lavoro e la trasformazione identitaria - L'automazione progressiva di mansioni cognitive e creative ristruttura il mercato del lavoro, sollevando questioni cruciali. Oltre alla dimensione economico-occupazionale, si assiste a una crisi identitaria: la perdita del lavoro o la sua subordinazione a ritmi e direttive dettati da algoritmi di gestione o algorithmic management, ovvero la "gestione algoritmica", consistente nella delegazione o automazione delle funzioni manageriali a sistemi software basati su logiche a regole fisse, rischiano di alienare l'individuo dalla sua primaria fonte di realizzazione sociale. Più avanti, al successivo capitolo 3, noteremo come la normativa consideri con particolare attenzione tali criticità.

2. L'orientamento della ricerca: i pilastri etici della tecnologia

Negli ultimi anni, i principali centri di ricerca e le comunità accademiche internazionali hanno lavorato per definire alcuni criteri in grado di guidare lo sviluppo dell'Intelligenza Artificiale, riadattando i capisaldi della bioetica classica alle complessità del contesto digitale. Questo percorso teorico ha delineato un quadro integrato in cui l'intento primario di promuovere il bene comune e il benessere del pianeta si coniuga con il dovere imperativo di non arrecare danno, prevenendo violazioni della riservatezza e discriminazioni sociali.

In tale prospettiva, la tecnologia deve sempre tutelare la libertà dell'essere umano, affiancandolo senza mai privarlo della propria autonomia decisionale e della responsabilità finale. Questa architettura si completa con il valore della giustizia, intesa come un'equa e democratica distribuzione dei benefici del progresso per evitare nuove disuguaglianze, e con il requisito fondamentale dell'esplicabilità, che impone di rendere le logiche degli algoritmi trasparenti, valutabili e pienamente intelligibili in linguaggio umano.

A tali principi si collega la riflessione sulla riconfigurazione dell'infosfera e dell'ontologia digitale teorizzata dal filosofo della tecnologia ed eticista dell'informazione Luciano Floridi, docente presso le università di Yale e Bologna (cfr. The 4th Revolution: How the Infosphere is Reshaping Human Reality, Oxford University Press, Oxford [UK] 2014; tr.it.: La quarta rivoluzione. Come l'infosfera sta trasformando la realtà umana, Raffaello Cortina Editore, Milano 2017). Parallelamente, il concetto di value alignment (allineamento dei valori) è stato esplorato dal filosofo e saggista svedese Nick Bostrom, tra i maggiori esperti internazionali di rischio esistenziale legato alle tecnologie emergenti (cfr. Superintelligence: Paths, Dangers, Strategies, Oxford University Press, Oxford [GB] 2014; tr.it.: Superintelligenza. Tendenze, pericoli, strategie, Bollati Boringhieri, Torino 2018). Dal suo lavoro emerge come la vera sfida sia volta a garantire che i sistemi autonomi operino in rigida conformità con le norme morali umane. 

A questo scenario si affianca l'obiettivo fondamentale della XAI (Explainable Artificial Intelligence o Intelligenza Artificiale Spiegabile), su cui un contributo collettaneo decisamente interessante, è quello a cura della ricercatrice italiana, storica e filosofa della scienza, responsabile dell'Unità di Ricerca "Etica e Intelligenza Artificiale" presso il Centro Interdipartimentale per l'Etica e l'Integrità della Ricerca (CID Ethics) del Consiglio Nazionale delle Ricerche (CNR), Ludovica Marinucci, Spiegabilità e intelligenza artificiale. Prospettive tecnologiche, etiche e normative, CNR Edizioni, Roma 2025 (disponibile integralmente on-line). Oggi  i modelli più avanzati di apprendimento automatico — le cosiddette "reti neurali profonde" (Deep Neural Networks, DNN) — funzionano come una vera e propria "scatola nera" (la già citata "black box"), cioè riescono a elaborare moli gigantesche di dati con straordinaria precisione, ma attraverso passaggi matematici talmente complessi da risultare incomprensibili persino agli stessi programmatori che li hanno creati. La ricerca sulla XAI nasce proprio per superare questo limite etico e conoscitivo. Il suo obiettivo è trasformare gli algoritmi da sistemi "muti e opachi" a sistemi "trasparenti e parlanti", cioè strumenti capaci non solo di restituire un risultato (come rifiutare un mutuo, valutare un curriculum o suggerire una diagnosi medica), ma anche di spiegare in linguaggio umano semplice e comprensibile le ragioni e i criteri chiave che li hanno condotti a quella specifica scelta. In questo modo, si restituisce all'utente la possibilità di comprendere la decisione, verificarne la correttezza ed esercitare il proprio diritto di contestazione.

3. Il quadro regolatorio europeo e nazionale

Per comprendere come le istituzioni intendano arginare i rischi dell'automazione e tutelare i diritti dei cittadini, occorre almeno accennare alle principali fonti regolatorie europee e nazionali sull'Intelligenza Artificiale. 

• Nell’ambito dell'ordinamento europeo, con il Regolamento UE 2024/1689 - EU AI Act (Unione Europea, Regolamento UE 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 che stabilisce regole armonizzate sull'Intelligenza Artificiale, Gazzetta Ufficiale dell'Unione Europea, Bruxelles [BE] 2024), la disciplina cardine si basa su un approccio orientato alla gestione del rischio (risk-based approach). In primo luogo, la normativa in questione sancisce l'illegittimità e il divieto assoluto delle pratiche classificate a rischio inaccettabile. Tra queste si colloca in posizione primaria il social scoring (o "punteggio sociale"), inteso come la valutazione e classificazione automatizzata della credibilità o affidabilità degli individui basata sul tracciamento sistematico dei loro comportamenti quotidiani, delle abitudini di consumo, delle relazioni digitali o dello status socio-economico, finalizzata ad attribuire vantaggi discrezionali oppure penali e limitazioni ingiustificate nell'accesso ai servizi pubblici e privati. A tale proibizione si affiancano i divieti dedicati all'identificazione biometrica remota in tempo reale negli spazi pubblici e alle tecniche di manipolazione psicologica e subliminale. In secondo luogo, la normativa prescrive un quadro di requisiti stringenti per i sistemi di Intelligenza Artificiale classificati ad alto rischio, ossia inseriti in settori critici — quali la selezione del personale, la valutazione del credito, l'accesso alle prestazioni sanitarie e assistenziali, la gestione della giustizia o dell'ordine pubblico — in cui l'algoritmo incide direttamente sui percorsi esistenziali e socio-economici delle persone. In tali ambiti, l'EU AI Act impone specifici requisiti di trasparenza, tracciabilità e supervisione umana: una persona adeguatamente formata deve poter comprendere e monitorare il funzionamento e i risultati del sistema e, quando necessario, contestarli, correggerli o interromperne il funzionamento. Questa medesima cornice di tutela si applica con pari rigore alla produzione e circolazione dei contenuti sintetici e delle interfacce automatizzate, con specifico riferimento a chatbot, definiti quali agenti software conversazionali fondati su modelli linguistici di grandi dimensioni capaci di simulare l'interazione intersoggettiva e la comunicazione umana, e ai deepfake, descritti invece come manufatti multimediali (audio, video o fotografici) generati tramite reti neurali e architetture di apprendimento profondo (deep learning) capaci di riprodurre con verosimiglianza iperrealistica sembianze, vocalità o azioni di persone reali. Per queste categorie, la legislazione europea impone un vincolo di disclosure (trasparenza) e di etichettatura chiara ed esplicita circa l'origine sintetica del contenuto o dell'interazione (watermark o filigrana digitale), prevenendo il rischio di inganno, disinformazione e profilazione occulta, e riaffermando la centralità della responsabilizzazione umana.

• Sempre a livello europeo, a questo testo si affianca la disciplina generale sul trattamento dei dati già sancita dal Regolamento UE 2016/679 - GDPR (Unione Europea, Regolamento UE 2016/679 relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, Gazzetta Ufficiale dell'Unione Europea, Bruxelles [BE] 2016), il cui articolo 22 disciplina il diritto dell'interessato a non essere sottoposto, salvo le specifiche eccezioni previste dalla normativa, a una decisione basata unicamente su un trattamento automatizzato, compresa la profilazione, che produca effetti giuridici o incida in modo analogamente significativo sulla persona.

• Sul piano nazionale, l'Italia ha ha calato l'ampia normativa europea nel tessuto del Bel Paese adottando la Legge n. 132/2025 - Disposizioni e deleghe al Governo in materia di intelligenza artificiale (Gazzetta Ufficiale della Repubblica Italiana, Serie Generale n. 233 del 25 settembre 2025), in stretta sinergia con gli indirizzi della Strategia Nazionale per l'Intelligenza Artificiale 2024-2026. Questo impianto poggia su una governance bilanciata tra due autorità chiave: all'AgID (Agenzia per l'Italia Digitale) spetta la supervisione sulla trasparenza, l'usabilità e la sperimentazione guidata dei sistemi algoritmici, mentre l'ACN (Agenzia per la Cybersicurezza Nazionale) si occupa della salvaguardia della resilienza cibernetica e delle infrastrutture strategiche del Paese. A questo assetto si affianca la costante supervisione del Garante per la protezione dei dati personali, chiamato a vigilare sulla piena conformità dei trattamenti algoritmici rispetto la disciplina sulla riservatezza e sulla tutela dei diritti fondamentali degli interessati (privacy). Nel merito delle tutele individuali, il quadro normativo interviene con decisione sul Codice Penale per contrastare gli abusi più insidiosi, introducendo sanzioni severe e specifiche aggravanti contro la diffusione illecita di deepfake e contenuti manipolati, laddove siano idonei a trarre in inganno la collettività o ad arrecare un danno ingiusto all'immagine, alla reputazione e alla riservatezza dei cittadini. Parallelamente, sul versante della proprietà intellettuale, il legislatore riafferma che un'opera merita la tutela giurisdizionale solo in quanto frutto primario del contributo creativo umano, introducendo specifici obblighi di marcatura tecnica (watermarking), rilevabilità e trasparenza per determinati contenuti generati o manipolati artificialmente, nonché obblighi di disclosure per alcune categorie di deepfake e contenuti sintetici, nonché garantendo il rispetto del diritto d'autore con un equo compenso durante l'attività di addestramento dei modelli sui dataset. A questa impostazione si affianca la salvaguardia perentoria della centralità umana nei momenti più delicati della vita sociale. In settori critici quali i processi giudiziari, la diagnosi medica e la gestione dei lavoratori, la legge vieta di delegare la decisione finale ai sistemi automatizzati: l'algoritmo può operare esclusivamente come supporto conoscitivo, ma la responsabilità e l'ultima parola devono rimanere saldo appannaggio del professionista in carne ed ossa. Infine, per evitare che l'Italia resti una semplice consumatrice di tecnologie altrui, il provvedimento autorizza investimenti fino a un miliardo di euro, in forma di equity e quasi-equity mediante un fondo strategico da un miliardo di euro gestito da CDP Venture Capital, a sostegno di imprese innovative operanti nei settori dell'Intelligenza Artificiale, della cybersicurezza e delle tecnologie correlate, quali startup, PMI e centri di ricerca d'eccellenza a sostegno della competitività e della sovranità tecnologica nazionale.

• La Legge n. 132/2025 costituiva tuttavia una legge delega, ovvero un impianto di indirizzo che, pur avendo prefigurato la ripartizione di principio tra AgID e ACN e sancito i primi divieti settoriali, demandava al Governo il compito di emanare uno o più decreti legislativi per disciplinare nel concreto i poteri di vigilanza, le procedure ispettive, il quadro sanzionatorio e il coordinamento con il Regolamento europeo. Questo passaggio fondamentale di attuazione si è perfezionato con la pubblicazione in Gazzetta Ufficiale della Repubblica Italiana, Serie Generale n. 234 dell'8 ottobre 2026, del Decreto Legislativo 7 ottobre 2026, n. 179 - Adeguamento della normativa nazionale alle disposizioni del regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull'intelligenza artificiale, in materia di poteri delle Autorità nazionali e di utilizzo dell'intelligenza artificiale nella formazione. Tale decreto legislativo, composto da 54 articoli, con la sua entrata in vigore il 23 ottobre 2026, costituisce il vero e proprio braccio esecutivo e regolatorio dell'ordinamento italiano in materia di IA. Il provvedimento traduce i principi programmatici della Legge 132/2025 in precetti vincolanti, conferendo ad AgID e ACN non solo ruoli di indirizzo, ma poteri effettivi di vigilanza sul mercato, notifica, ispezione documentale, accesso ai codici sorgente e ingiunzione nei confronti di fornitori e soggetti utilizzatori (deployer), preservando al contempo le competenze esclusive del Garante per la protezione dei dati personali per qualsiasi trattamento riguardante la riservatezza dei dati connessi alla privacy dell'individuo. Il cuore del decreto incide profondamente sul mondo produttivo, professionale e dell'organizzazione del lavoro. Di particolare rilievo l'art. 41, dedicato alla disciplina dell'IA nei processi aziendali. L'algoritmo può svolgere un ruolo di supporto analitico, ma la valutazione della persona, la direzione organizzativa e la responsabilizzazione etica spettano in via esclusiva al giudizio umano. La disposizione sancisce, infatti, che l'adozione di algoritmi nella gestione del personale, nell'assegnazione delle mansioni, nella valutazione delle carriere o nella riorganizzazione dei processi non può mai tradursi in una delega automatizzata esecutiva o priva di trasparenza. Il potere decisionale e la responsabilità finale, quindi, devono restare saldamente ancorati alla supervisione umana. Tale garanzia si salda con il perentorio recepimento dell'art. 5 dell'EU AI Act, che proibisce tassativamente l'impiego nei luoghi di lavoro e nelle istituzioni scolastiche di sistemi di IA finalizzati a monitorare le emozioni dei lavoratori e degli studenti, escludendo qualsiasi interpretazione estensiva che tenti di giustificare forme invasive di profilazione psicologica sotto il pretesto della produttività aziendale. All'art. 42 del D.lgs. 179/2026, questa tutela si coordina in maniera organica con la disciplina sulla salute e sicurezza sul lavoro, segnando un'intersezione con il Decreto Legislativo 9 aprile 2008, n. 81 e s.m.i. - Testo Unico Salute e Sicurezza sui Luoghi di Lavoro (TUSL). L'introduzione di sistemi intelligenti nei reparti produttivi o negli uffici non costituisce un evento neutro, ma incide direttamente sull'obbligo datoriale di valutare tutti i rischi (artt. 28 e 29 del D.lgs. 81/2008). Il D.lgs. 179/2026, letto congiuntamente al TUSL, impone a Datori di Lavoro, Responsabili del Servizio Prevenzione e Protezione ed esperti della prevenzione una rigorosa disamina dell'impatto tecnologico: dai rischi fisici derivanti dall'interazione tra lavoratori e macchine autonome o cobot (robot collaborativi), alla fallibilità predittiva degli algoritmi nei sistemi di allarme o manutenzione, fino ai rischi psicosociali legati all'intensificazione dei ritmi lavorativi, al tecnostress e all'alienazione da algorithmic management. L'automazione non trasferisce né attenua in alcun modo le responsabilità datoriali: qualora l'impiego dell'algoritmo muti le condizioni operative o introduca nuovi fattori di pericolo, scatta l'obbligo inderogabile di aggiornare il Documento di Valutazione dei Rischi (DVR) e di rimodulare le misure di prevenzione e protezione. Si rivela pure importante il raccordo con la tutela della libertà e dignità del lavoratore contro forme di sorveglianza occulta. L'impiego dell'IA nei contesti lavorativi non può mai sfociare in un controllo a distanza sproporzionato — riaffermando la piena validità delle tutele dell'art. 4 della Legge 20 maggio 1970, n. 300 - Norme sulla tutela della libertà e dignità dei lavoratori, della libertà sindacale e dell'attività sindacale nei luoghi di lavoro e norme sul collocamento (Statuto dei Lavoratori, in Gazzetta Ufficiale della Repubblica Italiana, Serie Generale n. 131 del 27 maggio 1970), nonché del GDPR (in particolare, l'art. 22) — né in forme di sorveglianza emozionale o nella biometria invasiva. Dunque, gli strumenti di IA impiegati per finalità di sicurezza o monitoraggio ambientale non possono mai essere convertiti in canali di controllo a distanza indiscriminato delle prestazioni dei dipendenti. Pertanto, il loro utilizzo non può basarsi su accordi sindacali preventivi o autorizzazioni generali da parte dell'Ispettorato del Lavoro, ma richiede una costante verifica di proporzionalità e necessità del trattamento dei dati biometrici e comportamentali. Inoltre, il decreto legislativo in questione recepisce l'art. 4 dell'EU AI Act, trasformando la formazione all'alfabetizzazione sull'IA (AI literacy) in un dovere giuridico per datori di lavoro e soggetti utilizzatori. La formazione non può ridursi a un mero addestramento informatico, ma deve permettere a lavoratori, dirigenti e rappresentanti della sicurezza di comprendere le logiche probabilistiche, i limiti di calcolo, i fattori di errore e le distorsioni cognitive (bias) dei modelli generativi e predittivi, fornendo le competenze necessarie per esercitare una reale facoltà di controllo, contestazione o arresto del sistema. A chiudere una complessa struttura normativa concorre poi un severo apparato sanzionatorio. Il decreto armonizza le violazioni con i massimali previsti dall'art. 99 dell'EU AI Act — che possono raggiungere i 35 milioni di euro o fino al 7% del fatturato mondiale annuo dell'impresa per l'impiego di pratiche vietate o l'inadempienza sui sistemi ad alto rischio — e sollecita il necessario adeguamento dei Modelli di Organizzazione e Gestione (MOG) ai sensi del Decreto Legislativo 8 giugno 2001, n. 231 - Disciplina della responsabilità amministrativa delle persone giuridiche, delle società e delle associazioni anche prive di personalità giuridica, a norma dell'articolo 11 della legge 29 settembre 2000, n. 300 (in Gazzetta Ufficiale della Repubblica Italiana, Serie Generale n. 140 del 19 giugno 2001). Le imprese sono quindi chiamate a mappare i rischi algoritmici nei propri flussi procedurali per scongiurare profili di colpa organizzativa e responsabilità dell'ente. Nel contempo, il calendario applicativo nazionale recepisce le scadenze europee scaglionate, estendendo la conformità obbligatoria per i sistemi ad alto rischio tra il 2 dicembre 2027 relativamente ai sistemi a tutela dei diritti fondamentali e della gestione del lavoro (di cui all'Allegato III dell'AI Act) e il 2 agosto 2028 per i sistemi integrati come componenti di sicurezza nei macchinari e nei prodotti industriali disciplinati dalla legislazione europea di armonizzazione (di cui all'Allegato I dell'AI Act).

Per quanto questo complesso, necessario e articolato impianto normativo offra una solida base di garanzie, la sola legge umana rischia tuttavia di rivelarsi insufficiente di fronte a una metamorfosi antropologica di tale portata. Emerge così l'urgenza di un orizzonte valoriale più profondo, un "magistero etico" capace di attribuire un'anima alla norma e di ancorare lo sviluppo tecnologico al senso autentico dell'esistenza.

4. Il Magistero cattolico, l'algoretica e l'enciclica Magnifica Humanitas

In questo dibattito e in tale contesto, il contributo della Chiesa cattolica offre un'articolata bussola etica ancorata alla difesa della dignità intrinseca della persona.

La "Rome Call" e l'algoretica di padre Paolo Benanti

Promossa dalla Pontificia Accademia per la Vita nel febbraio 2020, la Rome Call for AI Ethics ha riunito istituzioni vaticane, colossi tech (Microsoft, IBM) e la FAO attorno a sei principi: trasparenza, inclusione, responsabilizzazione (accountability), imparzialità, affidabilità e sicurezza. Si tratta di un manifesto etico che ha saputo superare i confini del mondo cattolico, registrando la successiva adesione di altre importanti confessioni religiose, unite dalla comune volontà di arginare le potenziali e pericolose derive della tecnica. Infatti, negli anni successivi, questa alleanza si è espansa fino a diventare una vera e propria piattaforma di dialogo globale. Nel 2023 la firma si è estesa alle altre grandi fedi abramitiche, con l'adesione dei leader dell'ebraismo e dell'islam. Un traguardo ulteriore è stato raggiunto nel luglio 2024 quando, nella simbolica e profetica cornice di Hiroshima (Giappone), la Rome Call è stata sottoscritta anche dai rappresentanti di buddhismo, induismo, zoroastrismo e Fede Bahá'í. Un'adesione corale che ha trasformato l'iniziativa in un importante di incontro interreligioso finalizzato alla tutela dell'intera umanità.

In questo orizzonte trova spazio il concetto di algoretica, ovvero la riflessione etica applicata all'architettura e al funzionamento degli algoritmi. Piuttosto che limitarsi a una valutazione a posteriori dell'impatto tecnologico, l'algoretica promuove l'integrazione dei principi di dignità umana, equità e giustizia sociale direttamente nella fase di codifica del software (ethics by design). Questo approccio mira a "umanizzare il codice", assicurando che l'automazione matematica non sostituisca mai il discernimento morale, ma rimanga uno strumento costantemente orientato al bene comune e alla tutela della persona.

In tale solco si colloca l'imprescindibile lavoro teorico di padre Paolo Benanti (cfr. Oracoli. Tra algoretica e algocrazia, Luca Sossella Editore, Roma 2020; Human In the Loop. Decisioni umane e intelligenze artificiali, Mondadori, Milano 2023), presbitero, teologo e filosofo morale francescano del Terzo Ordine Regolare, docente di etica delle tecnologie, bioetica e algoretica presso la Pontificia Università Gregoriana, nonché consigliere scientifico ed esperto nominato presso commissioni governative e internazionali sull'IA. Lo studioso ha contribuito in modo decisivo a elaborare e diffondere l'algoretica non come una semplice trasposizione della bioetica nell'ambiente digitale, ma come una disciplina autonoma e urgente, capace di rispondere a una sfida del tutto inedita: l'avvento di sistemi in grado di surrogare e orientare le stesse scelte umane. L'algoretica non si limita infatti alle tradizionali tutele e prescrizioni, ma affronta la complessità dell'intero ciclo di vita dell'IA, interrogandosi su come incorporare criteri etici fin dai primissimi stadi della progettazione, per poi proseguire nell'addestramento dei modelli, nel loro concreto impiego e nella successiva governance.

Questo cambio di paradigma diventa vitale per disinnescare rischi ad alto impatto sociale e individuale, che vanno ben oltre la mera sicurezza tecnica. L’approccio algoretico si misura infatti quotidianamente con la minaccia di una perdita progressiva dell'autonomia e della dignità della persona, con l'opacità dei processi che porta alla delega indiscriminata di decisioni cruciali, nonché con il pericolo di amplificare e automatizzare stereotipi e pregiudizi storici attraverso dataset di addestramento non controllati. Altrettanto centrali sono la salvaguardia della privacy — intesa non solo come difesa dei dati, ma come tutela della libertà profonda dell'individuo — e il contrasto alla manipolazione dell'informazione, che rischia di alterare la percezione democratica della realtà. Strutturando il rapporto tra la persona e l'algoritmo secondo il principio di responsabilità (accountability) e vigilando affinché il controllo finale resti saldamente "nel loop" umano (letteralmente, con "l’essere umano nel ciclo", ovvero nel circuito decisionale), l'algoretica si configura come il solo argine possibile per impedire che l'efficienza di calcolo diventi una forma invisibile e incontrollabile di potere, restituendo alla tecnica il suo originario ruolo di ausilio e mai di arbitro dell'esistenza umana.

Il magistero di Papa Francesco

Papa Francesco (Jorge Mario Bergoglio, 1936-2025; pontificato dal 13 marzo 2013 al 21 aprile 2025), nel suo Messaggio per la LVII Giornata Mondiale della Pace (1° gennaio 2024), Intelligenza artificiale e pace, ha ammonito sui rischi di una tecnocrazia priva di limiti. Successivamente, nel suo intervento al summit del G7 in Puglia (cfr. Discorso del Santo Padre alla Sessione del G7 sull'Intelligenza Artificiale, Borgo Egnazia, 14 giugno 2024), Francesco ha ribadito il principio inalienabile secondo cui «nessuna macchina dovrebbe mai scegliere se togliere la vita a un essere umano», sollecitando la messa al bando delle armi autonome.

Papa Leone XIV e la lettera enciclica Magnifica Humanitas

Il 15 maggio 2026, Papa Leone XIV (Robert Francis Prevost,  pontificato dall'8 maggio 2025), ha firmato la sua prima lettera enciclica, Magnifica Humanitas. Lettera enciclica sulla custodia della persona umana nel tempo dell'Intelligenza Artificiale. Promulgata nel 135° anniversario della Rerum novarum, l'enciclica sulla condizione degli operai, di Papa Leone XIII (Vincenzo Gioacchino Pecci, 1810-1903; pontificato dal 20 febbraio 1878 al 20 luglio 1903), essa si pone come il documento sociale di riferimento per la "rivoluzione algoritmica". Il pontefice chiarisce infatti dall'incipit del documento la portata della scelta odierna: «La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l'umanità abitano insieme» (n. 1). Di fatto, Papa Leone XIV traccia una pietra miliare nella dottrina sociale della Chiesa, affrontando frontalmente la metamorfosi antropologica ed etica impressa dalla rivoluzione digitale e dall'Intelligenza Artificiale. Il testo si pone in continuità ideale sia con la visione di Leone XIII — che nella Rerum Novarum rispondeva ai drammi della prima rivoluzione industriale — sia con l'eredità di Papa Francesco, estendendo la sollecitudine pastorale verso i nuovi confini del mondo algoritmico.

Il nucleo teorico del documento riafferma la centralità inviolabile della dignità umana di fronte alla tentazione del riduzionismo tecnologico e delle derive transumaniste e postumaniste: «Il transumanesimo e il postumanesimo comprendono al loro interno una pluralità di correnti e sensibilità, ed è difficile poterne dare una descrizione univoca. Possono essere paragonati a un arcipelago di isole concettuali differenti, collegate però dal medesimo mare di presupposti: la centralità della tecnica e il sogno di oltrepassare i limiti della condizione umana» (n. 116). L'enciclica mette perciò in guardia dal rischio di sottomettere la persona a un paradigma tecnocratico che trasforma la vita relazionale, affettiva e spirituale in una mera sequenza di dati da estrarre, analizzare e monetizzare. Per il Pontefice, nessuna architettura computazionale, per quanto complessa, può surrogare la coscienza morale, il discernimento interiore e la capacità di empatia che costituiscono l'essenza dell'esperienza umana. Questa riaffermazione del primato della responsabilità trova un'applicazione particolarmente drammatica nel richiamo al divieto assoluto delle armi autonome letali (LAWS, Lethal Autonomous Weapons Systems), in quanto delegare a un algoritmo il potere decisionale sulla vita o sulla morte di un individuo significa privare l'atto bellico di qualsiasi barriera etica, riducendo l'esistenza a una tragica operazione contabile. Il Papa richiama quindi la responsabilità di scienziati, programmatori e decisori politici affinché la progettazione dei sistemi algoritmici sia improntata by design ai valori di giustizia, trasparenza e bene comune. L'automazione e i modelli generativi non devono isolare l'individuo né erodere il valore del lavoro umano, ma essere indirizzati verso il riscatto delle fragilità sociali, la riduzione dei divari economici e la salvaguardia della casa comune.

A conferma della concretezza di questa prospettiva, l'enciclica dedica uno snodo centrale e sistematico al tema della "Responsabilità, trasparenza e governo dell'IA” (nn. 102-130). In questo passaggio, il Pontefice affronta direttamente i rischi operativi della transizione algoritmica: dalla delega acritica delle decisioni alla riproduzione degli stereotipi, dalla manipolazione dell'informazione alle minacce per la privacy, fino all'erosione dell'autonomia e della dignità individuale. Il rapporto tra persona e algoritmo cessa così di essere una questione puramente computazionale e diventa il banco di prova su cui misurare il governo della tecnologia, saldando la riflessione etica della Chiesa con le istanze di regolamentazione espresse dal quadro normativo europeo e internazionale.

L'enciclica culmina quindi, di fatto, con l'appello accorato alla costruzione di un nuovo umanesimo integrale: «Sono le persone concrete che contano, ciascuna di loro e le loro famiglie. I movimenti sociali, le grandi proclamazioni politiche a favore del popolo e le ideologie comunitarie non servono a nulla se non finiscono per orientarsi alla promozione delle persone – uomini e donne – con i loro diritti inalienabili. Allo stesso modo, non basta esaltare la libertà individuale o l’iniziativa privata, se poi si accetta che una moltitudine di persone continui a vivere senza un lavoro dignitoso, senza tutele, senza accesso ai beni fondamentali» (n. 58). Il Pontefice sottolinea poi, in particolare: «[...] il progresso tecnico, in sé prezioso, chiede un discernimento sulla visione antropologica che lo guida e sui fini che persegue. Se lo sviluppo tecnologico procede senza un’adeguata maturazione etica e sociale, può accadere che aumentino i mezzi senza che cresca in pari misura l’umanità: si “ha di più” ma non si “è di più”, e la persona rischia di essere valutata soprattutto in base alle prestazioni che garantisce» (n. 94). Papa Leone XIV sollecita così la comunità internazionale, le istituzioni politiche e la società civile a non subire la rivoluzione tecnologica come un destino ineluttabile, bensì a governarla con coraggio e lungimiranza. Il progresso scientifico viene in tal modo riconosciuto come autentico segno di civilizzazione soltanto se e quando rimane al servizio saldo dell'individuo, tutelandone la sovranità decisionale e promuovendo una fraternità reale, diffusa e non semplicemente simulata dagli algoritmi.