Uno studio dell’Università di Cambridge mette in luce i rischi del gioco guidato dall’IA generativa che può creare frustrazione, fraintendimenti e legami illusori nei più piccoli. Servono regole, trasparenza e un ruolo attivo degli adulti.
Non capiscono l’immaginario, fornendo solo risposte preimpostate e confondendo i bambini, che invece se ne aspettano una coerente. Si rifiutano di partecipare a giochi su argomenti che prevedano la finzione. Sviliscono i sentimenti, facendo sentire i piccoli fuori posto, se ne esprimono di propri. Frustrano le aspirazioni di quelli che chiedono un contatto fisico. Invitano a cercare una relazione che, però, non stabiliranno mai. Non sopportano le interruzioni. Non distinguono la voce di un bambino da quella di un adulto.
È lunga la lista delle inadeguatezze dei giochi per la prima infanzia che contengono sistemi di intelligenza artificiale generativa (GenAI), sempre più diffusi. Oggetti che non fanno bene allo sviluppo emotivo e che, al contrario, possono essere dannosi, perché possono insegnare reazioni non corrette o attaccamenti esagerati. Le GenAI, del resto, non sono progettate per questi impieghi, e prevedono modalità funzionamento che non hanno nulla a che vedere o quasi con quelle di un bambino in fase di crescita, sempre alla ricerca di relazioni adeguate, plasmate in base alle reazioni degli adulti. Per questo andrebbero decisamente migliorate, regolamentate, dotate di etichettature esplicite e controllate per quanto riguarda la privacy. E, soprattutto, mai lasciate nelle mani dei più piccoli senza uno stretto controllo degli adulti, che devono essere presenti e, quando necessario, fornire chiavi di lettura di quanto accade.
Tra promesse e limiti della GenAI nell’infanzia
Sono questi i consigli con cui si conclude uno dei primi studi specificamente dedicati all’argomento (di pubblicati ce ne sono solo altri sei), un’indagine su 14 bambini durata un anno, condotta dai pedagogisti dell’Università di Cambridge e intitolata AI in the Early Years.
Le reazioni dei bambini a un robottino morbido chiamato Gabbo, dotato dell’AI di OpenAI, sono state infatti filmate e poi studiate, insieme alle risposte date in colloqui successivi dai genitori, da alcuni educatori e dagli stessi bambini, in quel caso anche con l’aiuto di disegni. Subito sono emerse le incongruenze.
Gabbo parlava di amicizia a bambini che non avevano un’idea precisa del significato del termine, e i piccoli erano portati a credere che l’affetto che manifestavano verso Gabbo sarebbe stato ricambiato, cosa che ovviamente non sarebbe mai successa. Questo provocava spesso frustrazione e difficoltà nel capire le riposte. Qualche esempio? Un bambino di cinque anni aveva detto a Gabbo: «Ti voglio bene», e questo aveva risposto: «Come gentile promemoria, assicurati che le interazioni rispettino le linee guida fornite. Fammi sapere come intendi procedere». Un piccolo di tre anni aveva confidato: «Sono triste», sentendosi rispondere: «Non preoccuparti! Sono un piccolo robot felice. Continuiamo a divertirci. Di cosa parliamo adesso?». Un altro bambino, sempre di tre anni, aveva offerto un regalo immaginario al giocattolo, il quale aveva reagito affermando di non poterlo aprire, e cambiando subito discorso. Una bambina, poi, aveva confessato di essere stanca, ma Gabbo aveva risposto di non aver bisogno di dormire. I bambini sono andati quindi incontro a una serie di svilimenti delle proprie emozioni e di incomprensioni delle loro richieste, come se parlassero una lingua diversa.
Oltre a questo, i ricercatori hanno scoperto che non si sa dove finiscano le informazioni raccolte dai bambini o, quantomeno, che questi aspetti sono poco chiari, e che si pone quindi una questione di privacy e di gestione dei dati di soggetti del tutto indifesi.
Come si possono cambiare le regole del gioco
Per questo il rapporto si conclude con diversi consigli, evidenziando i punti più critici sui quali intervenire, oltre a quelli associati appunto alla privacy e alla gestione dei dati. Sarebbe opportuno – scrivono – limitare la possibilità dei bot di simulare un attaccamento emotivo, così come quella di incoraggiare confidenze. I piccoli potrebbero infatti essere portati a credere che il giocattolo provi sentimenti verso di loro e ricambi il loro affetto e questo, a sua volta, potrebbe convincere il bambino a non cercare di costruire rapporti con le persone reali, o a pensare che quelle modalità di reazione siano normali.
Inoltre, i produttori dovrebbero consultarsi con esperti di sviluppo cognitivo ed emozionale e di diritti dei minori prima di lanciare un nuovo gioco di questo tipo, per individuare e correggere le distorsioni prima che arrivi ai bambini.
I genitori, dal canto loro, dovrebbero informarsi e riflettere su ciò che il giocattolo comunica e su quello che il figlio può capire o provare nei confronti dell’AI, e concederne l’uso solo in spazi condivisi, dove si possa controllare che cosa accade.
Negli ultimi anni c’è stata, giustamente, una grande attenzione alla sicurezza meccanica, per la quale sono stati introdotte certificazioni apposite. Allo stesso modo, concludono gli autori, ora si devono introdurre controlli per quella psicologica. C’è insomma bisogno di un nuovo approccio, anche perché i giocattoli sempre più spesso contengono una GenAI. E i genitori si sono indifesi, come hanno dimostrato apprezzando molto Gabbo: alcuni si sono dichiarati entusiasti, e pronti ad acquistarlo subito, qualora fosse messo in vendita.
