Algocrazia: quando decidono gli algoritmi

Viviamo in un’epoca in cui gli algoritmi sono parte integrante della nostra esistenza quotidiana. La loro presenza pervasiva apre nuove opportunità ma solleva anche interrogativi fondamentali: chi detiene realmente il potere decisionale? È in questo contesto che si afferma il concetto di algocrazia, una nuova forma di governance in cui le decisioni non vengono prese da esseri umani, ma da sistemi automatizzati alimentati dai nostri stessi dati.

Algocrazia: significato, definizione e origini

Per comprendere cos’è l’algocrazia, partiamo dalla sua definizione. L’algocrazia è un sistema in cui il potere decisionale è delegato agli algoritmi, che guidano, controllano e organizzano le azioni e i comportamenti umani attraverso la regola dell’algoritmo. Non si tratta di un singolo tipo di algoritmo, bensì di un’intera struttura di governance digitale basata su processi programmabili con schema input-output.

Il concetto di algocrazia è stato sviluppato a partire da due percorsi: la teoria e l’osservazione sul campo. Già nel 1998, una riflessione teorica su una presunta “iperburocrazia” si è poi evoluta, grazie a un’esperienza diretta in India nel 1999, nell’identificazione di una nuova logica organizzativa. Qui, osservando il lavoro distribuito tra programmatori in diverse parti del mondo, emerse una verità inattesa: era il codice stesso a svolgere il ruolo del middle manager, rendendo superflua la figura umana nella gestione.

La governance era incorporata direttamente nella piattaforma software. Questo ha portato alla coniazione del termine algocrazia: un sistema dove l’autorità si trasferisce nella tecnologia. Un’evoluzione radicale rispetto alla burocrazia, dove le regole devono essere interiorizzate, o al mercato, regolato dal prezzo, o ancora ai sistemi panottici, basati sulla sorveglianza.

Come gli algoritmi influenzano le decisioni quotidiane

L’algocrazia si manifesta oggi in moltissimi aspetti della vita quotidiana. Gli algoritmi influenzano le nostre decisioni senza che ce ne accorgiamo: determinano cosa vediamo sui social media, ci suggeriscono prodotti da acquistare, decidono il percorso da seguire sulla mappa, selezionano la prossima canzone da ascoltare o persino il nostro potenziale partner tramite le app di dating.

Questa invasività è legata a due tendenze delle società contemporanee:

1. Liquefazione: la trasformazione della realtà materiale in dati digitali, come accaduto con l’arrivo di software come Microsoft Office o con la digitalizzazione del lavoro durante la pandemia.
2. Significato algoritmico: l’incapacità dell’essere umano di interpretare da solo l’enorme quantità di dati generati, delegando agli algoritmi il compito di dare senso e ordine a questa mole informativa.

I vantaggi dell’algocrazia

Il potere algoritmico porta con sé diversi vantaggi:

• Efficienza: automatizzare i processi riduce tempi e costi.
• Velocità: le decisioni sono prese in tempo reale.
• Personalizzazione: servizi sempre più su misura per l’utente.

Gli algoritmi di machine learning, per esempio, stanno già rivoluzionando settori come la diagnosi precoce del cancro, l’astronomia, l’agricoltura, la logistica, la robotica, l’energia e la gestione climatica.

I rischi di un potere algoritmico

Ma i rischi dell’algocrazia sono altrettanto rilevanti:

• Bias e discriminazioni: gli algoritmi possono perpetuare pregiudizi presenti nei dati. Il caso di Goldman Sachs nel 2019, in cui una donna ricevette una linea di credito inferiore al marito nonostante una situazione finanziaria simile, è emblematico.
• Incomprensibilità: i sistemi di deep learning costruiscono logiche che gli esseri umani non riescono a decifrare.
• Privacy: la raccolta massiva di dati personali pone gravi minacce alla riservatezza individuale.

Le leggi, come il GDPR, hanno cercato di porre dei limiti, ma non sono ancora sufficienti. Serve identificare:

1. Il potere arbitrario dei sistemi (sorveglianza).
2. La discriminazione nascosta nei dati.
3. Le identità di sistema, cioè profili digitali costruiti a nostra insaputa.

Inoltre, servono strumenti legislativi simili alle leggi antitrust per impedire a grandi aziende di acquisire altre società solo per accrescere il loro potere informativo.

Algocrazia e libero arbitrio

Uno dei temi più delicati è quello del libero arbitrio. Nell’algocrazia, molti aspetti della vita vengono programmati a monte. Le decisioni non sono più pienamente negoziabili: un pericolo per la democrazia, che si fonda sulla partecipazione e sulla deliberazione informata dei cittadini.

Il problema non è solo la sorveglianza, ma la creazione di nuove identità (finanziarie, sanitarie, criminali, di consumo) da parte degli algoritmi, spesso senza il nostro consenso.

Come l’industria delle pubbliche relazioni ha distorto l’informazione per influenzare le masse, così il potere informativo delle big tech può compromettere la negoziabilità sociale. Il monopolio dell’informazione, a differenza di quello del petrolio, è immateriale e difficilmente contenibile.

Ecco perché l’algocrazia deve essere regolata per proteggere le basi della democrazia. Senza trasparenza, controllo e responsabilità, il rischio è che il potere sfugga di mano, anche ai suoi stessi creatori.

Nonostante ciò, esistono motivi per essere ottimisti: la società civile può e deve giocare un ruolo attivo. Le lotte per la neutralità della rete e l’uso del GDPR da parte di attivisti della privacy dimostrano che il cambiamento è possibile. Le organizzazioni sociali possono orientare, almeno in parte, la direzione dell’evoluzione algocratica.

​Articolo pubblicato su Changes Magazine – Intelligent Economy​

*Articolo pubblicato ad Aprile 2019 e sottoposto a successive revisioni