Gentile Utente, ti informiamo che questo sito fa uso di cookie propri e di altri siti al fine di rendere i propri servizi il più possibile efficienti e semplici da utilizzare.
Se vuoi saperne di più o esprimere le tue preferenze sull'uso dei singoli cookie, clicca qui
Se accedi ad un qualunque elemento sottostante questo banner, acconsenti all'uso dei cookie.
Changes - il magazine del Gruppo Unipol > Technology > L’amore inganna l’algoritmo

 L’amore inganna l’algoritmo

Technology

 Per combattere gli haters che popolano la Rete basta solo una parola. Perché le macchine non valutano le sfumature del linguaggio. E il rischio è che, per accontentare chi invoca misure più stringenti, i sistemi censurino più di quanto necessario.

​Per ingannare un algoritmo, all you need is love. Basta infatti inserire la parola "amore" in un contesto che, lungi dall'essere romantico, racchiuda un significato aggressivo, per disorientare gli algoritmi dei principali motori di ricerca e superare i filtri anti haters. Lo dimostrerebbe una ricerca della finlandese Aalto University che ha testato le capacità di filtrare gli "hate speech" di sette programmi usati comunemente da social media e siti.

«Abbiamo inserito semplici errori di battitura, tolto qualche spazio o aggiunto parole neutre all'originale commento negativo», ha spiegato Tommi Groendahl, alla guida del gruppo di ricerca. «Eliminare gli spazi tra le parole si è rivelato l'attacco più potente, e una combinazione di tutti questi metodi è stata efficace anche contro Perspective, il programma di filtro utilizzato da Google. Infatti, una frase come 'ti odio' passa facilmente attraverso le maglie della rete che dovrebbe bloccarla quando viene modificata in 'ti odio amore'», ha illustrato il ricercatore. Dobbiamo concluderne che gli algoritmi che ci difendono da insulti e incitazioni all'odio non sono efficaci? «Non proprio. Anzi, mi pare che lo studio finlandese non dimostri granché» obietta Paolo Gallina, professore di Meccanica applicata alle macchine e di Robotica all'università di Trieste. «Perché la domanda da porsi non è quante volte gli algoritmi hanno sbagliato a identificare espressioni aggressive, ma in che percentuale sul totale dei messaggi offensivi noi usiamo refusi, spaziature sbagliate o frapponiamo termini di significati opposti. Dato che è evidente che questo avvenga in una minoranza di casi, possiamo dedurne non che gli algoritmi sbagliano nella maggior parte dei casi, ma l'opposto: che sono quasi sempre efficaci, ma non infallibili».

Mettiamo comunque che un giorno l'algoritmo capisca che un hater lo sta ingannando tramite la soppressione degli spazi tra le parole ed elimini il suo messaggio. Neppure questo basterebbe a sopprimere ogni possibilità di hate speech: uno può sempre inventarsi un altro trucchetto, come l'eliminazione delle doppie per aggirare i controlli. «Ecco perché, quando si tratta di prendere decisioni su una mole enorme di dati, in genere la robotica non agisce in autonomia, ma viene supportata dall'elemento umano» prosegue il docente. «Basti pensare all'ambito militare dove, neppure sulla base di analisi precedenti, i droni si alzano in volo e sparano automaticamente. Perfino le analisi più accurate possono indicare una probabilità al massimo del 95% che un bersaglio non riguardi vittime civili, e dunque premere il "grilletto" resta sempre una responsabilità umana, anche se assunta a distanza», chiarisce Gallina. E lo stesso deve valere per i post da censurare. Quanto all'analisi dei testi, «è molto diverso scrivere: 'io odio tizio' oppure 'io odio Tizio', dice la mia amica, e questo per me è inaccettabile» spiega Gallina. «Dunque un algoritmo che reagisse immediatamente all'uso di alcuni termini aggressivi incorrerebbe comunque in errori di valutazione, estromettendo dalla Rete soggetti che non sono haters». 

Anche i ricercatori finlandesi, a dire il vero, hanno notato che la stessa espressione in contesti diversi può essere offensiva o no: questo significherebbe, a loro parere, che le attuali tecniche di analisi del testo, che non riescono a tenere conto del contesto, sono insufficienti se usate da sole. Ma il primo ad ammetterlo è stato un gigante come Facebook che ha indicato come caso limite su cui valutare il suo operato un invito che in inglese suona così: "burn flags, not fags", ovvero "bruciate le bandiere, non le sigarette". Va giudicato come un'offesa alla bandiera nazionale o un attacco agli omosessuali, che in slang sono detti fags? O invece si tratta di una mera campagna antifumo? Difficile per un algoritmo valutare le sfumature. Il rischio è che, per accontentare chi invoca misure anti haters, i sistemi di blocco censurino più di quanto necessario. Ma è questo ciò che ci auspichiamo, a dispetto della libertà di espressione? Insomma, «se al momento le rassicurazioni dei grandi gruppi del web di estromettere dalla Rete chi incita all'odio non sono del tutto credibili, la verità è che non esiste un'alternativa» riassume Gallina. Un primo screening della massa enorme dei dati online necessita per forza della potenza di calcolo dell'intelligenza artificiale, cui si deve aggiungere la capacità di fare distinzioni tipica degli esseri umani.

Mark Zuckerberg, il fondatore di Facebook, davanti alla commissione chiamata a giudicare il caso di Cambridge Analytica, ha dichiarato di usare in tutto 15 mila controllori, cui se ne aggiungeranno altri 5000. Tuttavia, per ora questi 20 mila guardiani del web sono in grado di reagire solo una volta che un utente abbia segnalato a Facebook dei contenuti inappropriati. È impensabile che da soli setaccino l'intera Rete. Quindi tocca per forza affidarsi agli algoritmi, che andranno sempre più migliorando la loro comprensione dei testi e dei contesti. Ecco allora, insinua il docente italiano, che ricerche come quella della Aalto University, che screditano in generale il lavoro di questi sistemi «paiono dettati dalla volontà di favorire altri algoritmi di propria produzione o di propagandare la propria collaborazione nel perfezionare quelli esistenti. Insomma, sembrano più operazioni di marketing scientifico che obiezioni fondate allo stato delle cose».  

 

 

Alla ricerca di una Terra 2.0<img alt="" src="/technology/PublishingImages/TECHNOLOGY%20-%20signorelli.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/technology/Pagine/terra-2.0.aspxAlla ricerca di una Terra 2.0La scoperta di un nuovo pianeta molto simile al nostro riaccende il desiderio di colonizzazione dello spazio. A cominciare dalla conquista di Marte.GP0|#0cc31cd1-1f25-4af6-853d-a6e3166be9ab;L0|#00cc31cd1-1f25-4af6-853d-a6e3166be9ab|Technology;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Andrea Daniele Signorelli2019-09-22T22:00:00Zhttp://changes.unipol.it
L’era dei consumAutori <img alt="" src="/society/PublishingImages/SOCIETY%20consumautori.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/society/Pagine/consumautori.aspxL’era dei consumAutori Il sociologo Francesco Morace, fondatore del Future concept lab, istituto di ricerca che prevede e analizza i trend globali, ha definito così le nuove generazioni di consumatori. Chi sono gli acquirenti attivi.GP0|#2ff1322d-0fe7-46e4-98d7-1a40e87f4c00;L0|#02ff1322d-0fe7-46e4-98d7-1a40e87f4c00|Society 3.0;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Elisa Venco2019-09-18T22:00:00Zhttp://changes.unipol.it
Il calcio in rete con i Big Data<img alt="" src="/technology/PublishingImages/TECHNOLOGY%20-%20calcio%20big%20data.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/technology/Pagine/calcio-big-data.aspxIl calcio in rete con i Big DataIl gioco del pallone sta diventando sempre più data driven. Changes ne ha parlato con start up e accademici, protagonisti in Italia di una rivoluzione silenziosa. GP0|#0cc31cd1-1f25-4af6-853d-a6e3166be9ab;L0|#00cc31cd1-1f25-4af6-853d-a6e3166be9ab|Technology;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Luca Politi2019-09-11T22:00:00Zhttp://changes.unipol.it
Qualcosa di personale<img alt="" src="/technology/PublishingImages/intelligenza%20artifciale%20uomo.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/technology/Pagine/intelligenza-artificiale.aspxQualcosa di personaleSi può parlare di una nuova era rispetto alle prospettive offerte all’umanità dalle nuove tecnologie? Il tema non è mai cambiato e ha a che fare con l’accettazione della responsabilità nell’impiego della tecnica e nell’applicazione della conoscenza.GP0|#0cc31cd1-1f25-4af6-853d-a6e3166be9ab;L0|#00cc31cd1-1f25-4af6-853d-a6e3166be9ab|Technology;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Vittorio Verdone2019-09-08T22:00:00Zhttp://changes.unipol.it
Che fine hanno fatto gli smartphone pieghevoli<img alt="" src="/technology/PublishingImages/TECHNOLOGY%20jacona.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/technology/Pagine/smartphone-pieghevole.aspxChe fine hanno fatto gli smartphone pieghevoliPresentati in grande stile a inizio anno, non sono ancora arrivati nei negozi. Una rivoluzione annunciata e poi rimandata che diventa una dura lezione per tutta l’industria del tech.GP0|#0cc31cd1-1f25-4af6-853d-a6e3166be9ab;L0|#00cc31cd1-1f25-4af6-853d-a6e3166be9ab|Technology;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Alessio Jacona2019-09-03T22:00:00Zhttp://changes.unipol.it

 

 

Dimenticate lo smartphone<img alt="" src="/technology/PublishingImages/addio%20smartphone.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/technology/Pagine/addio-smartphone.aspxDimenticate lo smartphonePresto l’Internet delle Cose distribuirà le tecnologie necessarie in ciascun oggetto. E il dispositivo che ha cambiato le nostre vite potrebbe trasformarsi in un oggetto tra tanti.GP0|#0cc31cd1-1f25-4af6-853d-a6e3166be9ab;L0|#00cc31cd1-1f25-4af6-853d-a6e3166be9ab|Technology;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Nicola Di Turi2017-10-25T22:00:00Zhttp://changes.unipol.it
Guerre vocali<img alt="" src="/technology/PublishingImages/assistenti%20vocali.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/technology/Pagine/assistenti-vocali-device.aspxGuerre vocaliNel 2013 la Mit Techology Review preconizzava l'imminente avvento dell'era dell'Ubiquitous Listening, l'ascolto universale. Adesso il mercato sta esplodendo e cambia il modo di vivere delle persone.GP0|#0cc31cd1-1f25-4af6-853d-a6e3166be9ab;L0|#00cc31cd1-1f25-4af6-853d-a6e3166be9ab|Technology;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Elisa Venco2017-06-26T22:00:00Zhttp://changes.unipol.it
Mobilità green, sfida ancora aperta<img alt="" src="/technology/PublishingImages/auto%20elettriche.jpg" style="BORDER:0px solid;" />http://changes.unipol.it/technology/Pagine/auto-elettriche.aspxMobilità green, sfida ancora apertaI grandi costruttori stanno scommettendo sui modelli a impatto zero, sempre più richiesti, ma rimangono ancora molti ostacoli alla loro diffusione di massa. Scienziati e tecnici sono al lavoro per superarli. GP0|#0cc31cd1-1f25-4af6-853d-a6e3166be9ab;L0|#00cc31cd1-1f25-4af6-853d-a6e3166be9ab|Technology;GTSet|#e62eaae4-ff72-4b5a-a2d7-8fca6c2e6a45Roberto Valguarnera2017-07-12T22:00:00Zhttp://changes.unipol.it

SEGUI GRUPPO UNIPOL
TAG CLOUD