La sorella di Google combatte i troll con l'intelligenza artificiale
I Big Data contro l'incitamento all'odio e le offese online: giovedì Jigsaw, società affiliata a Google, ha lanciato il servizio Perspective, che consente di identificare più facilmente in rete i commenti percepiti come odiosi, scortesi, maligni, meschini o offensivi.
Nell'ambito della Digital News Initiative (DNI), Jigsaw fornirà un'interfaccia (API) con cui gli editori potranno utilizzare gratuitamente Perspective. Il servizio è stato sperimentato in precedenza in progetti con la Wikimedia Foundation e il New York Times per rilevare automaticamente i messaggi di odio e il trolling. Tra l'altro, è stato analizzato un insieme di dati per un totale di oltre 115.000 messaggi provenienti dalle pagine di discussione di Wikipedia. Il servizio è inizialmente disponibile solo per i forum di discussione in lingua inglese. Tuttavia, il progetto potrebbe essere esteso ad altre lingue, come il tedesco, nell'ambito del DNI.
Protezione dagli attacchi DoS
Jigsaw, un'azienda di proprietà di Alphabet, società madre di Google, si è posta l'obiettivo di "rendere il mondo più sicuro con la tecnologia". Nell'ambito del DNI, il Project Shield di Jigsaw offre agli editori uno scudo protettivo gratuito contro i cosiddetti attacchi denial-of-service, in cui criminali dai colletti bianchi o hacker controllati dallo Stato tentano di paralizzare i siti web degli editori con giganteschi pacchetti di dati provenienti da milioni di computer dirottati da una botnet.
Jared Cohen, top manager di Jigsaw, ha dichiarato che l'approccio di Perspective va ben oltre il confronto con un elenco di parole chiave sospette. L'intelligenza artificiale riconosce se un post è ritenuto inappropriato da un utente umano e lo induce ad abbandonare la conversazione. Uno studio ha dimostrato che il 72% di tutti gli americani ha già subito molestie su Internet e quasi la metà di tutti gli utenti le ha subite personalmente. Quasi un terzo degli intervistati si autocensura nei commenti online perché teme ritorsioni.
"Scala di "tossicità
Il sistema Jigsaw determina il grado di "tossicità" di un commento su una scala compresa tra 0 e 100. La gestione dei commenti spetta agli editori. Il sistema può essere utilizzato per segnalare ai moderatori degli editori i commenti sospetti, che possono così intervenire nella conversazione.
Tuttavia, agli utenti potrebbe anche essere mostrato quanto il testo sia considerato "tossico" al momento della scrittura del commento, in modo da contribuire a migliorare il tono. I lettori potrebbero anche ordinare i commenti in modo da nascondere i post particolarmente odiosi.
