La PA è uno dei settori strategici dell’AI Continent dell’UE. Ma qual è la strada per un’AI sicura e di successo? Con noi l’esperto di digitalizzazione Stefano Quintarelli, padre dello SPID.
Ci sono i chatbot che rispondono alle domande dei cittadini, gli algoritmi che leggono e classificano i documenti e poi i software previsionali, che aiutano a gestire il traffico, ad architettare la viabilità, oppure a prevedere la domanda sanitaria e a valutare gli scenari delle decisioni. Sono questi alcuni usi concreti che già le amministrazioni pubbliche stanno facendo dell’intelligenza artificiale. I casi di successo sono numerosi e non è un caso che nel piano europeo dell’AI Continent, la pubblica amministrazione non è vista come mero fruitore di AI, ma come vero e proprio strumento strategico, soprattutto per l’impatto diretto che ha sulla vita dei cittadini.
Proprio per quest’ultimo aspetto, tuttavia, il settore pubblico non può rapportarsi all’intelligenza artificiale alla stregua del mondo delle imprese private. A sottolinearlo a Changes è Stefano Quintarelli, già membro del gruppo di esperti di alto livello sull’AI della Commissione UE, General partner del fondo di Venture Capital Rialto, considerato il “padre” dello Spid, oltre che uno dei massimi esperti in tema di digitalizzazione della pubblica amministrazione. «Già da diversi anni il settore pubblico utilizza l’intelligenza artificiale con successo», osserva a Changes. Tuttavia, per quel che riguarda l’AI Generativa, il discorso è più complesso: «È chiaro che le imprese private possono sperimentare e applicare i modelli con più libertà. Il settore pubblico non deve sbagliare. La PA opera per atti formali e deve stare molto attenta alla correttezza delle informazioni». Un esempio di questo carico di responsabilità che grava sulle spalle delle PA è arrivato negli ultimi anni dalla Spagna dove, come racconta Quintarelli, «per fronteggiare l’emergenza economica del Covid, il governo distribuì dei sovvenzionamenti alle famiglie più bisognose. Per farlo si affidò all’AI, che però tagliò fuori diversi legittimi beneficiari. Le associazioni dei consumatori chiesero gli accessi agli atti e l’amministrazione dovette trincerarsi dietro al segreto di Stato per non rivelare l’errore».
Come dire, con la vita dei cittadini non si scherza ed errori, bias e output fallaci non possono essere tollerati. I settori della pubblica amministrazione in cui l’AI ha trovato maggiore applicazione sono infatti tra i più sensibili: sanità, giustizia, servizi pubblici, istruzione e formazione. Campi in cui la politica pubblica può avvalersi con successo dei modelli di intelligenza artificiale, non senza però esporsi a rischi che potrebbero minare la stessa autonomia delle istituzioni.
I principali modelli di AI generativa, per esempio, sono quelli delle major del settore come Open AI (che produce ChatGPT), Anthropic (che produce Claude), Xai (che produce Grok). Le pubbliche amministrazioni non possono rischiare di diventare colonie di queste grandi piattaforme, soprattutto per la sensibilità dei dati che manipolano. Inoltre, sempre secondo Stefano Quintarelli, «l’utilizzo di questi modelli espone al rischio di illecito, in quanto nelle condizioni d’uso sovente è stabilito il diritto di queste piattaforme a trattenere copia di tutto ciò che gli utenti inviano. Si tratta di una violazione delle regole della privacy e dello stesso GDPR, in contrasto con il principio di minimizzazione dei dati trattati».
I benefici dell’utilizzo dell’intelligenza in campo pubblico rischiano, insomma, di esporre le amministrazioni a grandi rischi di indipendenza, autonomia e tutela dei dati sensibili. Una strada per evitare queste minacce sarebbe quella di produrre modelli di AI propri. Una strada sfidante e impegnativa che, come sottolinea Stefano Quintarelli, richiede la discesa in campo dell’Europa, chiamata a «sviluppare propri foundation models open weights (i modelli alla base dell’AI generativa, liberamente utilizzabili da chiunque, come il software Open Source NdR). Il rischio è quello di continuare a dipendere dai modelli cinesi e americani». La questione è perciò anche geopolitica, oltre che economica e tecnologica. «Questi foundation models open weights devono essere creati sulla base dei valori europei e sulle sue norme. L’obiettivo è non inseguire limiti e bias che arrivano dagli altri modelli, spesso in conflitto con i nostri valori e regole».
L’inserimento della pubblica amministrazione nei settori ritenuti strategici per l’applicazione e lo sviluppo dell’AI da parte dell’Unione Europea è sicuramente una buona notizia. Tuttavia, lungo la strada dello sviluppo e dell’adozione di un modello europeo dell’intelligenza artificiale si frappone un ostacolo: la scarsa cultura e formazione digitale di chi nelle pubbliche amministrazioni opera e lavora. «Questo non è solo un problema italiano, dove la questione è comunque molto presente”, dice Quintarelli. “La differenza di competenze con il settore privato rappresenta un limite grande per la capacità di innovazione del settore pubblico».
Un digital divide non più tollerabile, proprio per le dimensioni delle sfide che la digitalizzazione e lo sviluppo dell’AI portano con sé. Implicazioni economiche, geopolitiche, sociali, tecnologiche ma anche personali e attinenti allo sviluppo individuale. Stefano Quintarelli, infatti, parla di sovranità della mente, come quella capacità dell’individuo di tutelare la propria autonomia e indipendenza di pensiero. «Questo perché – ragiona Quintarelli – sempre più studi evidenziano le capacità manipolatorie dei chatbot che sono, a tutti gli effetti, delle poderose macchine di persuasione che agiscono a livello precognitivo. Sappiamo che i social media interferiscono con la vita democratica, con i chatbot ciò avviene all’ennesima potenza. La possibilità per una organizzazione (o per chi la controlla) di manipolare e orientare chirurgicamente ed impercettibilmente il pensiero di miliardi di individui è una questione fondamentale di tenuta dei sistemi democratici. Rendere disponibili modelli riutilizzabili ancorati ai diritti e valori europei, indipendenti da quelli cinesi e americani, significa tutelare gli utenti e il loro diritto di informarsi in maniera libera e genuina. Si parla tanto di sovranità: la prima sovranità da tutelare è quella della mente».
