1. Accueil
  2. Tech à suivre
  3. IA et chatbot
  4. Seriously : l’arme anti-troll que devraient avoir tous les CM

Seriously : l’arme anti-troll que devraient avoir tous les CM

troll hunter
Introduction
Seriously est une plate-forme qui vise à éteindre l’étincelle de la haine avant que le web ne s’embrase.

Comment répondre aux discours haineux sans envenimer la situation ? C’est à ce problème d’actualité qu’a décidé de répondre le think tank Renaissance Numérique. Cette organisation, qui œuvre pour le développement d’un numérique citoyen en France, vient de mettre en place Seriously. Cette plate-forme vise à donner des conseils pour répondre de manière constructive à un discours haineux. Arguments, chiffres, rappels de la loi… Tout est mis à disposition pour que le débat s’élève et que vous ayez une chance de remettre le troll ou l’excité du bulbe à sa place.

Extrait du Petit journal

Opposer à la haine des arguments sourcés

Sur le site, Seriously vous propose de copier/coller le commentaire incriminé. Prenons, pour l’exemple, l’assertion de cette dame pour qui l’homosexualité serait « contre-naturannnn ». Si le journaliste avait eu à sa disposition un outil comme Seriously, il aurait alors pu lui rétorquer cette réplique de Laurent Ruquier : « On ne doit pas oublier que, jusqu’à présent, c’est quand même des couples hétéros qui ont fait des enfants homo… ! »

Seriously

Mais la plate-forme ne se contente pas de vous donner les arguments des autres. Toujours sur le thème de l’homophobie, le site rappelle quelques fondamentaux, comme l’article 1 de la Déclaration universelle des droits de l’homme : « Tous les êtres humains naissent libres et égaux en dignité et en droit ». Si vous souhaitez aller plus loin, le site vous donne également quelques chiffres-clés. En 2013, par exemple, 200 000 personnes se déclaraient en couple avec une personne de même sexe. Et en profite pour lutter contre quelques clichés tenaces : « 89 % des gens ne pensent pas avoir plus de risques d’attraper le VIH en ayant une relation sexuelle avec un / une bi(e). »

Le projet, qui a été lancé au lendemain des attentats de Charlie Hebdo, a nécessité deux ans de travail. « On s’est dit : nous qui sommes des acteurs du numérique, que peut-on faire pour que de tels événements ne se reproduisent pas ? », confie Henri Isaac, président de Renaissance Numérique. L’équipe travaille alors avec « des associations de défense des droits et des universitaires qui réfléchissent à ces problématiques de haine, de fake news, de complotisme », explique Henri Isaac.

Quelques limites

Si le service peut s’avérer une arme utile pour les community manager, particulièrement exposés aux messages de haine, il souffre encore de quelques limites. Ainsi, si l’on tape le commentaire fictif suivant : « les femmes devraient travailler à la maison », on obtient des informations qui ont peu de rapport avec notre requête initiale (beaucoup de données sur les violences sexuelles, notamment).

« On est très conscient que la plateforme est en mode bêta, concède le président de Renaissance Numérique. On a encore du travail à faire sur le contenu. » Pour améliorer sa plate-forme, l’équipe commence à travailler avec l’intelligence artificielle. Le but ? Détecter plus facilement les discours haineux et leur apporter une réponse plus adéquate.

A terme, Renaissance Numérique aimerait faire de son produit un outil pédagogique, à destination, pourquoi pas, des collégiens et des lycéens. Lors de notre appel, Henri Isaac venait justement de sortir d’une réunion de deux heures avec le ministère de l’Education nationale. Conclusion ? « Disons qu’ils ont leur façon de raisonner et que nous avons la nôtre. » Comprendre : l’outil, qui n’a pas été pensé pour un usage à destination des plus petits, a encore quelques progrès à faire avant de s’immiscer dans les classes.

Ajouter votre commentaire