Con Magnifica Humanitas, Papa Leone XIV porta la Chiesa dentro il dibattito sulla quarta rivoluzione industriale: dall’intelligenza artificiale alle guerre ibride, fino al rischio che tecnologia e algoritmi finiscano nelle mani di pochi. Changes ne ha parlato con Alessandro Aresu.
Non parla di paradiso o peccato. La prima enciclica di Papa Leone XIV parla di algoritmi, cyberwarfare, intelligenza artificiale e concentrazione del potere tecnologico. Con Magnifica Humanitas, la Chiesa entra nel cuore di uno dei grandi dibattiti del nostro tempo: chi controllerà la tecnologia che sta ridisegnando il mondo? Dalle guerre ibride alla competizione tra Stati Uniti e Cina, fino al ruolo delle Big Tech e al rischio di delegare sempre più decisioni alle macchine, il documento affronta i temi della quarta rivoluzione industriale con un linguaggio che guarda al presente più che alla teologia. Ne abbiamo parlato con Alessandro Aresu, analista geopolitico e saggista, tra i maggiori esperti italiani di tecnologia e potere.
Per decenni le encicliche sociali hanno parlato soprattutto di lavoro e diritti. Oggi, invece, Papa Leone XIV mette al centro algoritmi, intelligenza artificiale e guerre ibride. Che cosa ci dice questa scelta sul mondo in cui viviamo?
Ci dice che il potere tecnologico è diventato anche una grande questione politico-sociale della nostra epoca. E ci dice anche che la Chiesa, ben più di altre istituzioni, si interessa a questi temi da molto tempo e con serietà. Esiste quindi un bagaglio di conoscenza e di cultura che distingue il ruolo e la voce della Chiesa.
Nell’enciclica si legge che la tecnologia non è neutrale. È un concetto che oggi sembra centrale anche nella competizione geopolitica globale. Quanto il potere passa ormai dal controllo della tecnologia?
Il controllo della tecnologia è diventato una forma di sovranità e di influenza in modo sempre più evidente, soprattutto per via della competizione tra Stati Uniti e Cina sulle filiere tecnologiche, come ho scritto nei miei libri dedicati al capitalismo politico. Sicuramente il potere continuerà a essere legato alla tecnologia anche nel prossimo futuro, in modo pervasivo.
Oggi la sfida tra Stati Uniti e Cina si gioca anche su chip, AI, dati e infrastrutture digitali. L’intelligenza artificiale è diventata la nuova corsa agli armamenti del XXI secolo?
Lo è come parte di una competizione sulla tecnologia che passa per le filiere industriali: a partire dall’industria dei semiconduttori, senza cui l’intelligenza artificiale non esiste, ma anche dall’approvvigionamento energetico, dai materiali e da competenze di nicchia come l’ottica. In questo campo, come ho spiegato nel mio libro Geopolitica dell’intelligenza artificiale, non bisogna mai parlare semplicemente di algoritmi. Bisogna parlare della filiera industriale che alimenta l’attuale ciclo dei data center. Altrimenti non si capisce pienamente la fase che stiamo vivendo.
Papa Leone XIV mette in guardia dalla concentrazione di conoscenze e tecnologie nelle mani di pochi. Il rischio è che l’AI allarghi ulteriormente le disuguaglianze economiche e sociali?
Certamente, anche per la scala con cui funziona la tecnologia. In alcuni casi, come negli Stati Uniti, questo rischio dipende anche dal sistema di regole, per esempio dal fatto che i privati possono finanziare la politica in modo sostanzialmente illimitato. Per essere precisi, però, oltre al tema della concentrazione nelle mani di grandi aziende, che è comunque già molto dibattuto, va ricordato che l’intelligenza artificiale è anche un insieme di realtà che realizzano materiali, test, sistemi di raffreddamento e molto altro. Queste aziende non sono poche: sono decine di migliaia e vincono perché hanno specifiche competenze, non perché sono Mark Zuckerberg o Jeff Bezos.
L’enciclica parla apertamente di “disarmare l’AI”. A che punto siamo nello sviluppo di armi autonome e sistemi militari guidati dall’intelligenza artificiale?
Siamo in una fase in cui sistemi con vari gradi di autonomia vengono impiegati con maggiore intensità. In questo contesto, “disarmare l’AI” è un obiettivo che presuppone una volontà politica convergente che oggi non esiste e non credo possa esistere solo per via dello sviluppo dell’intelligenza artificiale. Dovrebbe passare da un sistema multilaterale in grado di funzionare meglio. Però possono esserci, e ci saranno, dialoghi più intensi su questo tema, sia tra Stati Uniti e Cina, sia tra istituzioni e aziende, come mostra anche la presenza di un co-fondatore di Anthropic alla presentazione dell’enciclica.
Oggi le guerre non si combattono soltanto sul campo. Cyber attacchi, propaganda, disinformazione e attacchi finanziari fanno ormai parte dei conflitti contemporanei. Le guerre ibride sono già la nuova normalità?
Si tratta di un tema non nuovo, che precede la discussione più recente sull’intelligenza artificiale ed era già molto presente nel dibattito dieci o quindici anni fa. Nelle guerre attuali, se pensiamo per esempio alle minacce iraniane ai data center del Golfo, vediamo in modo accelerato un intreccio di vari temi: sistemi d’arma utilizzati per colpire le infrastrutture dell’intelligenza artificiale, reti strategiche, energia. Credo poi che in futuro crescerà ulteriormente il tema degli attacchi alle reti elettriche e idriche.
Quanto conta oggi il controllo delle piattaforme digitali nel determinare gli equilibri di potere tra Stati, aziende e cittadini?
Dipende naturalmente dallo Stato di cui parliamo. L’equilibrio è diverso tra Stati che dispongono di imprese tecnologiche e Stati che non le hanno. Questi ultimi sono semplici clienti e mercati, sia per l’hardware sia per il software. C’è anche una differenza tra i vari sistemi politici, ma la tendenza che io chiamo capitalismo politico mostra comunque, anche in sistemi politici diversi, un crescente intreccio tra aziende tecnologiche e Stati, con varie relazioni di influenza e subordinazione.
Nel documento il Papa sostiene che l’intelligenza artificiale può imitare l’essere umano, ma non possiede coscienza morale, empatia o capacità di discernimento. Qual è il rischio di delegare sempre più decisioni alle macchine?
Il rischio immediato è che le macchine forniscano una copertura tecnica per decisioni che gli esseri umani preferiscono non assumersi. Ci saranno poi altri rischi e altre incognite, sulla formazione e su altri campi, oltre naturalmente alle opportunità.
Negli ultimi anni la tecnologia è stata spesso raccontata come inevitabile, quasi fuori dal controllo della politica. Esiste ancora la possibilità di governare davvero l’innovazione?
Dipende da ciò che si intende con questo governo. Se si tratta di un governo multilaterale, e se non esiste un multilateralismo funzionante, non è possibile. Se invece si parla di forme nazionali di governo della tecnologia, queste sono basate sulla competenza degli attori istituzionali, che devono conoscere ciò di cui si tratta in modo granulare e non parlarne alla cieca, oppure su poteri di sicurezza nazionale.
L’Europa sembra spesso in ritardo nella corsa globale all’AI rispetto a Stati Uniti e Cina. Rischia di diventare marginale nella nuova geografia del potere tecnologico?
La marginalizzazione è già avvenuta in questo XXI secolo. Sono temi che ho descritto ampiamente già nel mio libro Le potenze del capitalismo politico, del 2020. La tendenza europea è sempre stata quella che avevo indicato sei anni fa, senza nessun cambiamento sostanziale ma con la pubblicazione di infiniti documenti e report. Siccome la tecnologia si basa sulla capacità di formare e attrarre capitale umano, sulla presenza di imprese impegnate nelle varie filiere e sui capitali, il miglioramento della posizione europea dipenderà da questi tre fattori.
Nell’enciclica c’è anche una critica alla “cultura della potenza” che sta tornando nel mondo. La tecnologia sta cambiando anche il modo in cui percepiamo la guerra e la sicurezza?
La tecnologia ha fatto emergere, in particolare negli Stati Uniti, quello che possiamo chiamare il nuovo complesso militare-tecnologico: la tesi di aziende come Palantir e Anduril, secondo cui lo sviluppo tecnologico deve essere al servizio della deterrenza e della sicurezza nazionale, e quindi bisogna costantemente prepararsi alla guerra. L’enciclica rifiuta questa logica, ma lo fa dentro una battaglia sulla percezione e sulla narrazione della guerra e della sicurezza che è destinata a continuare.
Secondo lei questa enciclica è soltanto un documento spirituale o anche un messaggio politico rivolto alle grandi potenze tecnologiche globali?
È un messaggio potente, rivolto all’opinione pubblica globale, alle aziende, agli Stati. La Chiesa è una delle pochissime realtà del mondo che ha l’autorevolezza e la cultura per dare un messaggio di questo tipo.
Quanto il controllo dell’intelligenza artificiale influenzerà economia, lavoro e democrazia nei prossimi dieci anni?
A mio avviso, chi dice di sapere come sarà il mondo tra dieci anni, per esempio in termini di riorganizzazione del lavoro o addirittura indicando le percentuali dei lavori che spariranno, non è molto credibile. Proviamo a parlare del 2030. Nel 2030 l’industria dei semiconduttori di sicuro esisterà ancora e sarà ancora al centro della competizione tra Stati Uniti e Cina. Inoltre, è possibile che l’attuale ciclo dei data center abbia avuto un rallentamento, o un plateau, ma in termini diversi dalla “bolla” spesso invocata fin dal 2023. Sarà poi importante verificare quanto, nel 2030, le promesse dell’intelligenza artificiale sulla robotica e sulla farmaceutica saranno diventate realtà, e fino a che punto. Dall’applicazione a questi campi passeranno molte delle implicazioni più profonde.
C’è un passaggio di Magnifica Humanitas che l’ha colpita particolarmente perché racconta bene il tempo storico che stiamo vivendo?
Direi il concetto di “cantiere” come parola chiave dell’enciclica. Un cantiere è un processo che coinvolge persone e macchine insieme, e che avviene in luoghi precisi. Quindi non ha nulla di immateriale o di disincarnato. La stessa intelligenza artificiale è un cantiere, visto che è un insieme di data center, a loro volta possibili sulla base di altri cantieri industriali.
Alla fine il tema sembra essere questo: chi guiderà il futuro, gli algoritmi o le persone?
I cantieri.
