Intelligenza artificiale e salute: tra innovazione e responsabilità
L’intelligenza artificiale in sanità non è più una prospettiva futura, ma una realtà sempre più presente nei sistemi sanitari avanzati. Dalla diagnosi precoce alle terapie p
Semplifica e ci aiuta ad andare veloci, ma a volte modifica la realtà invece di leggerla. Così funzionano i bias cognitivi che sono scorciatoie di tutti, nessuno escluso. Riconoscerli è difficile, aggirarli ancora di più. Ma rallentare, ogni tanto, può fare la differenza.
Avete presente quando scrivete «anatra» e il telefono lo trasforma in «natura»? Oppure quando digitate un nome di persona e il correttore lo sostituisce con qualcosa di incomprensibile, eppure vi sembra giusto fino a quando non inviate il messaggio? Il cervello funziona più o meno così, solo che non c’è modo di disattivarlo dalle impostazioni.
I bias cognitivi (o pregiudizi inconsapevoli, per chi preferisce l’italiano alle anglicizzazioni, anche se in questo caso non aiuta granché) sono esattamente questo: scorciatoie mentali che il cervello usa per processare il mondo a velocità sostenuta, correggendo la realtà in base ai pattern che conosce. Spesso corregge bene. Qualche volta corregge nel modo sbagliato. E quasi sempre lo fa senza avvertirci.
La cosa più interessante, e un po’ inquietante, non è che esistano. È che riguardino tutti. Non i creduloni, non i complottisti, non i vicini di casa con opinioni eccentriche: tutti. Riconoscerlo è già difficile, perché escludersi dal numero è a sua volta un bias.
Uno degli errori più documentati si chiama bias del punto cieco: la tendenza a riconoscere i pregiudizi negli altri e a negarli in sé stessi. In uno studio classico, quasi il 90% dei partecipanti si è dichiarato meno soggetto ai bias rispetto alla media. Come i guidatori che si ritengono tutti sopra la media, il conto non torna. Eppure, ognuno di loro era sinceramente convinto.
Questa cecità selettiva non è vanità, o non è solo vanità. È architettura mentale. Il cervello è progettato per funzionare velocemente, e per farlo si affida a euristiche, regole del pollice che nella maggior parte dei casi funzionano. Il problema sorge quando le applichiamo fuori contesto: nelle decisioni lavorative, nei giudizi sulle persone, nelle scelte finanziarie, nei colloqui di selezione, nella lettura del giornale.
Il primo è il confirmation bias, o bias di conferma: cerchiamo, ricordiamo e interpretiamo le informazioni che confermano ciò che già crediamo. È per questo che i social sembrano sempre popolati da persone con le nostre stesse idee: non è solo l’algoritmo, siamo anche noi, che lavoriamo in perfetta sincronia con lui.
Il secondo è l’effetto ancoraggio: il primo numero che incontriamo diventa il riferimento inconsapevole per tutto ciò che valutiamo dopo. Se un vino vi viene presentato a 50 euro e poi vi offro lo stesso a 35, vi sembra un affare. Se parto da 20, vi sembra caro. I negoziatori lo sanno. I saldi di fine stagione lo sanno. Noi, in teoria, dovremmo saperlo; eppure, ogni anno siamo lì, soddisfatti del nostro affarone.
Il terzo è il bias di disponibilità: giudichiamo la probabilità di un evento in base a quanto facilmente ce ne viene in mente un esempio. Dopo un articolo su un incidente aereo, le statistiche sul rischio smettono di essere convincenti e la paura prende il posto del calcolo. Non è irrazionale sentirsi così. È irrazionale decidere in base a quel sentimento ma lo facciamo ugualmente, e spesso con grande sicurezza.
La risposta onesta è: abbastanza poco, e meno di quanto pensiamo. La ricerca sulla cosiddetta debiasing (le tecniche per ridurre l’influenza dei bias) mostra risultati modesti. Sapere di avere un bias non è sufficiente a neutralizzarlo, esattamente come sapere che il correttore automatico sbaglia non ci impedisce di fidarci di lui il giorno dopo. Quello che funziona, in parte, è rallentare: creare procedure deliberate, chiedere a qualcuno di argomentare il contrario di ciò che pensiamo, cercare attivamente informazioni che mettano in discussione le nostre convinzioni. Non è glamour come «fidati del tuo istinto», ma è ciò che dicono i dati. E i dati, a differenza del nostro cervello, non hanno un correttore automatico. O meglio: ce l’hanno, ma quella è tutta un’altra storia.