L’etica della guida autonoma

Come funziona l’interruttore che installato sulle auto robot consente al conducente di scegliere tra tre opzioni: egoista, altruista, o imparziale. Un’idea tutta made in Italy.

Un treno in corsa e due binari di fronte a sé. Sul primo, quello sulla direzione di marcia, cinque persone legate alle rotaie. Sul secondo, un solo individuo nelle medesime condizioni di costrizione. Al di qua della linea gialla, in sicurezza, qualcuno in grado di deviare il treno in corsa con una leva. Impossibile frenarne l’andatura, ma solo indirizzarne il senso di marcia in una direzione o nell’altra. Tirando la leva del cambio sacrificherebbe una sola vita, salvandone cinque. Non assumendosi la responsabilità del cambio di marcia, invece, lascerebbe morire cinque persone. È il dilemma del carrello ferroviario, un esperimento di filosofia etica formulato nel 1967 dalla filosofa inglese Philippa Ruth Foot. Un enigma ancora d’attualità 50 anni dopo, legato indissolubilmente allo sviluppo dell’intelligenza artificiale che condurrà le auto a guida autonoma.

Come dovrà comportarsi l’algoritmo incaricato di assumersi la responsabilità della guida, in sostituzione del guidatore in carne ed ossa? Di fronte ad un bivio logico come quello del dilemma del carrello, dovrà salvare un bambino, o sacrificare la vita di un anziano? Deciderà di schiantarsi contro una parete rocciosa, per salvare la vita di una o più persone, oppure dovrà puntare a salvaguardare la sicurezza dei passeggeri, sacrificando i pedoni? Finirà fuori strada mettendo a repentaglio la vita di tre adulti a bordo, o inchioderà finendo in ogni caso per colpire i due adolescenti che attraversano la strada, nonostante il semaforo rosso? E in ultima analisi come saranno ripartite le responsabilità civili e penali di un eventuale incidente mortale?

La manopola etica

Sulla scia del dilemma del carrello, i ricercatori dell’European University Institute di Firenze Giuseppe Contissa e Francesca Lagioia assieme a Giovanni Sartor, docente all’Università di Bologna, hanno proposto l’adozione di una manopola etica. Un interruttore installato sulle auto a guida autonoma, che in procinto di un incidente consenta al conducente di scegliere tra tre opzioni: egoista, altruista, o imparziale. Pur preservando la facoltà dell’algoritmo di assumere decisioni, gli esseri umani dovrebbero prendersi la responsabilità di influenzare la strategia decisionale. In buona sostanza se l’ordinamento optasse per l’adozione dell’interruttore, potrebbe fissare a monte i limiti entro cui sarebbe lecito privilegiare l’incolumità dei passeggeri della vettura o dei pedoni, legandoli ad esempio al rispetto dei limiti di velocità in occasione di un episodio critico.

«Non sorprende nessuno che le macchine superino gli uomini nella velocità di calcolo, ma alcuni restano sorpresi che siano più intelligenti nei giochi che richiedono competenze logiche, quali ad esempio la risoluzione del cubo di Rubik o il gioco degli scacchi. Per questa ragione resteremmo stupefatti se le macchine dovessero rimpiazzarci alla guida dei veicoli, sopratutto per le implicazioni sulla conseguente responsabilità penale e civile», spiega a Changes Marco Gori, già presidente dell’Associazione Italiana Intelligenza Artificiale (AI*IA). Il dibattito verte naturalmente sul ruolo che sarà assegnato ai sistemi di guida autonoma dagli operatori che li svilupperanno. Anche gli algoritmi risentiranno dei bias cognitivi dell’uomo, ricalcando pregiudizi e distorsioni che caratterizzano gli uomini in carne ed ossa? E in che proporzione le decisioni critiche potranno essere affidate unicamente alle macchine?

Del resto l’intelligenza artificiale combinata allo sviluppo delle capacità di apprendimento degli algoritmi, sta trasformando sostanzialmente il ruolo del guidatore in una figura ancillare e superflua. Con la guida autonoma il cervellone dell’auto studia l’ambiente circostante, apprendendo le consuetudini dei guidatori, per riprodurre su strada l’itinerario che oggi richiede l’intervento dell’uomo. È questione di qualche anno e il guidatore diventerà il quarto passeggero di una vettura omologata per quattro. «Con le attuali tecnologie per la guida autonoma, si è verosimilmente già imboccata una via di non ritorno», conferma Marco Gori, professore ordinario all’Università di Siena, dove dirige il laboratorio di intelligenza artificiale. «Il problema delle responsabilità connesse alla guida è sicuramente molto serio e appare verosimile la riduzione del rischio di incidenti in uno scenario ideale di sola guida autonoma».

L’algoritmo ridurrà le morti 

Gran parte degli analisti concorda: con la guida autonoma dovrebbe ridursi al lumicino il numero degli incidenti stradali mortali, di cui il fattore umano resta la causa prevalente. Ma la responsabilità di un incidente resterebbe in capo al guidatore, all’algoritmo o agli sviluppatori dello stesso? «Si trascura che le migliori prestazioni emergeranno verosimilmente anche dalle possibilità di veloci scambi di comunicazione tra veicoli e infrastruttura in situazioni di pericolo. Molti dubbi appaiono realmente infondati, soprattutto considerando le infrazioni che, consapevolmente e inconsapevolmente, compiono gli uomini. La guida autonoma rappresenta verosimilmente uno dei tanti compiti in cui le macchine possono decisamente superare gli umani, soprattutto considerando l’inerente rispetto delle regole», ragiona Marco Gori.

Del resto, se ogni anno circa 1,2 milioni di persone perdono la vita sulle strade di tutto il mondo – 70 persone al giorno solo sulle strade europee – si stima invece che dal 2035 al 2045 oltre 585 mila vite umane possano essere salvate grazie ai veicoli che guideranno da soli. E come noto, la consuetudine di assumere alcolici o stupefacenti prima di mettersi alla guida, non appartiene propriamente agli algoritmi basati sull’intelligenza artificiale.