Riprendiamo l'articolo di Lucio Romano - Centro Inter-universitario di Ricerca Bioetica e già Senatore della Repubblica - pubblicato su Huffington Post il 9 giugno 2025.
---
In questa era digitale un fenomeno inquietante è in grado di plasmare la politica. Un nuovo decisore. Un novello Leviatano. È il populismo algoritmico, evoluzione tecnologica del populismo analogico. Non si tratta solo di un nuovo modo di fare politica, ma di una trasformazione profonda e radicale in cui gli algoritmi ridisegnano il rapporto tra governanti e governati. Premessa la storica pluralità di significati e forme, questa nuova declinazione è riconducibile alle rapidissime innovazioni dei sistemi di Intelligenza Artificiale (IA) e al loro utilizzo. Vere e proprie infrastrutture globali che, con innumerevoli applicazioni nei più svariati ambiti, aprono scenari di straordinaria potenzialità. A cui corrispondono anche cruciali interrogativi sulla trasparenza, sulla responsabilità e sulla tenuta dei processi democratici.
Inedite forme di potere, con “un uso strategico degli algoritmi per identificare, mobilitare e amplificare specifici segmenti di opinione pubblica”. Un sistema in cui le decisioni non vengono più giustificate dalla partecipazione e dal consenso democratico. Si configura un contesto sociale che, per dirlo con Hegel, è “la notte in cui tutte le vacche sono nere”. Quando conoscenza e verità svaniscono.
Un interrogativo di fondo. Come garantire che la potenza dell’IA non induca una deresponsabilizzazione collettiva? Il rischio è che la delega di funzioni cognitive e decisionali all’IA possa generare una “eteronomia algoritmica”, in cui la capacità critica e la partecipazione attiva dei cittadini si atrofizzano a favore della dipendenza da sistemi automatizzati. La questione non è solo tecnica, ma profondamente politica.
Per comprendere questo fenomeno, bisogna innanzitutto distinguere tra tecnocrazia e populismo algoritmico. La tecnocrazia si basa sull’idea che i problemi complessi debbano essere risolti da esperti. Il populismo algoritmico, invece, nasce quando le élite tecnoscientifiche si appropriano del linguaggio del “bene comune” per manipolare e legittimare scelte celate dietro la presunta neutralità dell’IA. Così, decisioni con ricadute decisamente politiche si rappresentano come dati oggettivi e inconfutabili, sottraendoli al dibattito pubblico, in cui gli algoritmi rappresentano una nuova forma di normatività. Al populismo algoritmico corrisponde un’ampia e acritica delega tecnologica.
Proprio sulla delega tecnologica è opportuno fare una differenza tra la delega per le attività routinarie rispetto a quella per le funzioni. Con una premessa necessaria. Definire che cosa si intende per IA debole o ristretta, IA generale e IA sovrumana. Con l’IA debole o ristretta (Artificial Narrow Intelligence - ANI) deleghiamo alle macchine attività che, per quanto complesse, non presentano margini significativi di imprevedibilità nell’esecuzione. Con l’IA generale (Artificial General Intelligence - AGI) deleghiamo funzioni che richiedono, invece, capacità cognitive e predittive in contesti di incertezza attraverso una lettura autonoma dei dati di contesto. Per giungere, poi, ad una forma ipotetica di IA che supererebbe l’intelligenza umana in ogni aspetto cognitivo, tra cui creatività, risoluzione dei problemi e conoscenza generale. Sarebbe quest’ultima l’Intelligenza Artificiale sovrumana (Artificial Super Intelligence - ASI).
Ebbene, con la sempre più pervasiva delega tecnologica di funzioni cognitive e predittive, algoritmi opachi e non regolamentati possono amplificare disuguaglianze, consolidare pregiudizi e minare la coesione sociale. Traducendosi concretamente in una perdita di controllo, sia del singolo che della collettività, dell’autonomia e delle libertà decisionali. Con misinformazioni e disinformazioni. Le prime con la diffusione di informazioni fuorvianti, imprecise o completamente false; diffuse senza l'esplicita intenzione di ingannare. Tuttavia, destinate ad essere percepite dai destinatari come informazioni serie e concrete. Le seconde, poi, che rappresentano informazione false e diffuse con l'intenzione di ingannare le persone, suscitando allarmismi e paure.
Sono queste prospettive che vanno sempre più coniugando nella quotidianità la solitudine digitale dei singoli con l’erosione dell’autonomia. Una sorta di vera e propria dipendenza individuale e collettiva che si rileva chiaramente nella formazione della c.d. comunità digitale. In cui ci si uniforma impoverendo, tra l’altro, le relazioni umane. E non solo. Incapacità di interpretare le complessità ricorrendo a semplificazioni etero-dirette, inadeguatezza al discernimento nonché dipendenza emotiva. In sintesi, una comprensione falsificata del reale.
La manipolazione si realizza attraverso una logica di conferma che rafforza convinzioni, emozioni e desideri dell’utente incentivando forme di narcisismo relazionale. Il reale non si distingue più dal digitale. Anzi, il digitale è reale.
Con questo sfondo, il populismo algoritmico si sviluppa e si auto-sostiene. “Nelle società complesse ad alto livello tecnologico è ancora possibile la democrazia come espressione della volontà popolare? Stante l’alto livello di specializzazione raggiunto, chi fa da interprete fra il sistema delle competenze tecniche che condizionano la politica e il vasto pubblico?” Sono interrogativi ineludibili, sostanziali che emergono come fiume carsico sempre più frequentemente in questo nostro tempo. Che ci dovrebbero impegnare ancor più nella conoscenza e nella competenza.
“Nelle società complesse ad alto livello tecnologico è ancora probabilmente possibile la democrazia ma solo in presenza di un’opinione pubblica competente, e quindi in grado di giudicare le decisioni che la politica assume su indicazione tecnica.” Altrimenti “il successo del populismo che semplifica le questioni incomprensibili al grande pubblico. Il processo di formazione della volontà democratica si risolve nell’acclamazione di élites che restano sì legittimate dal voto popolare, senza però che la volontà popolare possa prendere posizione sulle decisioni politiche, perché queste, nello scenario predisposto dalla tecnica, restano per principio sottratte alla discussione pubblica.”
A fronte del rarefarsi di una consapevole responsabilità personale e collettiva, c’è l’urgenza di una nuova cultura che potremmo definire della responsabilità nel digitale. La coniugazione tra “human in the loop” e “community responsibility in the loop”. La dipendenza dall’IA rappresenta sì una delle sfide centrali per la cultura politica ed etica del nostro tempo. Ma non si tratta di demonizzare i sistemi di IA ma di riconoscere che la libertà, la responsabilità e la giustizia sono poste oggi di fronte a nuove prove. Occorre sviluppare una cultura capace di coniugare innovazione e controllo democratico, autonomia individuale e responsabilità comune. Solo una governance inclusiva, trasparente e responsabile potrà garantire che l’uso dei sistemi di IA sia davvero al servizio della comunità, prevenendo le derive della dipendenza che compromettono la dignità e la partecipazione di ognuno e di tutti.
Proprio la consapevolezza è il primo step per evitare il populismo algoritmico. È necessario sviluppare una alfabetizzazione algoritmica diffusa, che consenta ai cittadini di essere informati sul funzionamento dei modelli predittivi, quali dati utilizzano, chi li addestra e quali valori sono di riferimento nelle strutture decisionali. Perché la democrazia non può sopravvivere se la legittimità delle decisioni viene delegata a entità opache. Ogni sistema di IA che impatta la vita umana deve essere spiegabile, confutabile e controllabile. Ciò implica che gli algoritmi utilizzati potrebbero essere sottoposti a revisione da Comitati Etici indipendenti, composti da tecnici, giuristi, filosofi, eticisti, cittadini. Che non significa un impedimento piuttosto una verifica etica come avviene in vari campi della ricerca.
L’aspetto cruciale è la pluralità epistemica. L’IA tende a consolidare visioni del mondo basate sulla correlazione e sulla previsione statistica. Ma la realtà sociale è complessa, irriducibile a modelli computazionali. L’affidamento eccessivo alla logica algoritmica rischia di marginalizzare forme alternative di sapere: il giudizio umano, l’esperienza, la narrazione. È necessario mantenere spazi di deliberazione umana autentica, dove l’algoritmo sia uno strumento, non un oracolo. Altrimenti si prospetterebbe, per un futuro prossimo, la possibilità perfino di associare ai cittadini una sorta di “punteggio sociale”. Criterio di inclusione o esclusione.
È questa la prospettiva della mutazione neoliberista della politica in psico-politica che caratterizza in larga parte l’agire politico della contemporaneità. “Se il potere orwelliano si basava sulla repressione e la manipolazione diretta dell’informazione, il potere digitale opera attraverso la saturazione e la banalizzazione della verità. La psicopolitica digitale, attraverso sistemi di profilazione e algoritmi predittivi, minaccia la libertà di pensiero e di azione dell’individuo che, ridotto a un insieme di dati e prevedibile nelle sue scelte, rischia di perdere la capacità di pensiero critico e di opposizione. Modellando la realtà percepita dagli individui a vantaggio di un sistema precostituito di potere e a svantaggio della trasparenza e dell’oggettività.”
Il ricorso ai sistemi di IA, pertanto, non ci esenta da una responsabilità comunitaria. Anzi, ci impone di ridefinirla alla luce delle rapidissime innovazioni del digitale. Evitare il rischio del populismo algoritmico non significa rifiutare l’innovazione. Non significa certo neo-luddismo. Cosa per il vero irrealistica. Piuttosto significa abitare nella conoscenza e realizzare una governance capace di integrare l’IA nella prospettiva concreta di uno sviluppo umano-centrico e democratico.
(pubblicato su "Huffington Post" il 06/06/2025)
-
Foto di rawpixel.com