Un’analisi critica e controcorrente sul rapporto tra esseri umani e intelligenza artificiale: tra rigetto degli estremi, dubbi sull’automatizzazione totale e difesa della centralità dell’umano come condizione del vero progresso sociale.
Ci viene costantemente ripetuto, e con la convinzione con cui si comunica l’ineluttabile, che il nostro futuro sarà con l’intelligenza artificiale o non sarà. Io la penso diversamente. Da laico della materia, interessato alle analisi basate sui dati di fatto piuttosto che alle sempre mirabolanti promesse dei comunicati stampa aziendali, credo che l’AI debba guadagnarsi sul campo il suo posto nella nostra società.
AI fra utopia e distopia: cosa sappiamo davvero?
È una posizione semplice, razionale e ragionevole, che tuttavia comporta una serie di conseguenze non banali. Prima di tutto, implica il rigetto degli estremi: l’apocalisse a mezzo AI (distopia) così come l’irruzione nella storia umana di una paradisiaca abbondanza automatizzata (utopia). Semplicemente, non ci sono prove a supporto né dell’una né dell’altra narrazione (difficile chiamarle “ipotesi”, in assenza di alcun rigore scientifico).
In secondo luogo, ed è un’implicazione più sottile, insidiosa e perfino, direi, eretica, il mio realismo comporta anche il rigetto della versione standard del nostro rapporto ideale con l’AI: l’idea cioè che, in ogni campo dell’attività umana, la sinergia di uomo e macchina sia migliore dei soli sforzi umani. Può darsi sia vero in alcuni campi – la medicina e l’agricoltura, per esempio – ma non per questo è vero in tutti i campi. Nella politica e nell’informazione, tra forme di manipolazione istantanea e credibile a costo zero e promesse di innovazione tradottesi in licenziamenti di massa (si veda il recente caso del Washington Post, distrutto da uno dei principali innovatori al mondo, Jeff Bezos), l’AI ha infatti finora causato quasi solo danni.
Nell’istruzione ha rotto, senza curarsene, il rapporto di fiducia primitivo, elementare, tra docenti e studenti. A livello sociale siamo letteralmente invasi da accuse alle chatbot “intelligenti” di avere spinto giovani al suicidio, avere operato lavaggi del cervello complottisti o criminali che portano a “psicosi” e a veri e propri atti di violenza. Per non parlare della democratizzazione della pornografia non consensuale, a danno di donne e minori.
La società si adatterà a tutto?
Siamo proprio sicuri che tutto questo si risolverà una volta che la società si sarà “adattata” all’AI? Che bastino codici etici, o “marchi” alle aziende virtuose che certifichino il rispetto di alcuni basilari principi di condotta, per evitare le conseguenze più insidiose dell’automatizzazione di quasi tutto? O ancora, che una volta ben “regolata”, tramite norme che in qualche modo dovrebbero avere le stesse capacità previsionali di algoritmi di machine learning, ogni problema sarà risolto, e la nostra vita con gli assistenti intelligenti sarà sempre e solo più comoda ed efficiente?
Di nuovo, io non lo credo. Delegare responsabilità umana a macchine che faticano, “pensano”, “ragionano” al posto nostro ha un costo in termini di sviluppo delle capacità critiche e cognitive, ci sta dicendo la scienza, sempre più convintamente. Abituare i nostri figli ad aprirsi e parlare dei propri problemi più profondi a macchine prive di empatia, cercando letteralmente comprensione in tecnologie incapaci di comprensione, non fa altro che spingerli ancora più a fondo nella solitudine da cui cercano di fuggire. E che ce ne facciamo della classe intellettuale e creativa, che non potrà mai competere con la rapidità e la presunta onniscienza dell’AI?
Spazio alla critica tecnologica
Sono domande che chiedono risposte fattuali, ma anche un ragionamento molto più ampio e radicale, che coinvolge la necessità di una critica tecnologica molto più severa e ideologica di quella attuale. Non per “luddismo” — che peraltro non è una parolaccia, ma un promemoria di come si difendono i diritti fondamentali quando la tecnologia li minaccia — ma, al contrario, per amore del progresso.
Il vero progresso: cioè il progredire della società verso uguaglianza, benessere e democrazia. Il progresso sociale. Ovvero, quello a cui il progresso tecnologico dovrebbe sottostare. Un’altra eresia, ma indispensabile, se abbiamo davvero a cuore la “centralità dell’umano”.
