La sœur de Google combat les trolls avec l'intelligence artificielle
Le Big Data contre les discours de haine et les propos injurieux en ligne : Jigsaw, filiale de Google, a lancé jeudi le service « Perspective », qui permet d’identifier plus facilement sur Internet les commentaires jugés haineux, désagréables, malveillants, méchants ou blessants.
Dans le cadre de la Digital News Initative (DNI), Jigsaw mettra à disposition une interface (API) permettant aux éditeurs d'utiliser Perspective gratuitement. Le service a été testé auparavant dans le cadre de projets avec la fondation Wikimedia et le New York Times, afin de pouvoir reconnaître automatiquement les publications haineuses et les trolls. Un ensemble de données composé de plus de 115 000 messages provenant de pages de discussion Wikipedia a notamment été évalué. Le service n'est pour l'instant disponible que pour les forums de discussion anglophones. Dans le cadre de la DNI, le projet pourrait toutefois être étendu à d'autres langues comme l'allemand.
Protection contre les attaques DoS
Jigsaw, une entreprise d'Alphabet, la société mère de Google, s'est fixé pour objectif de "rendre le monde plus sûr grâce à la technologie". Dans le cadre de la DNI, Jigsaw propose entre autres aux éditeurs, dans le cadre du Project Shield, un bouclier de protection gratuit contre les attaques dites de déni de service, dans lesquelles des criminels économiques ou des pirates informatiques dirigés par l'État veulent paralyser les sites web des éditeurs avec des paquets de données gigantesques provenant de millions d'ordinateurs détournés d'un réseau de bots.
L'approche de Perspective va bien au-delà de la comparaison avec une liste de termes clés suspects, a déclaré le top manager de Jigsaw, Jared Cohen. L'intelligence artificielle détecte si une contribution est jugée inappropriée par un utilisateur humain et l'incite à quitter la conversation, a-t-il ajouté. Une étude a montré que 72 pour cent de tous les Américains ont déjà perçu du harcèlement sur Internet, et que près de la moitié de tous les utilisateurs en ont également fait l'expérience personnellement. Près d'un tiers des personnes interrogées s'autocensurent désormais dans leurs commentaires en ligne par crainte de représailles.
"Échelle de "toxicité
Le système de Jigsaw détermine sur une échelle de 0 à 100 à quel point un commentaire est "toxique" (toxic). Ce qui se passe ensuite avec les commentaires est entre les mains des éditeurs. Le système permet ainsi d'attirer l'attention des modérateurs des éditeurs sur les commentaires suspects, qui peuvent alors intervenir dans la conversation.
Il est également possible d'indiquer aux utilisateurs, dès la rédaction du commentaire, le degré de "toxicité" du texte, afin de contribuer à un meilleur ton. En outre, les lecteurs pourraient faire classer les commentaires de manière à ce que les contributions particulièrement haineuses soient masquées.
