Microsoft se lance dans la traque aux pédophiles

La multinationale américaine a créé un système automatisé pour détecter en ligne les pédophiles prédateurs. 

Cet article a été modifié le 21 janvier 2020 à 10h. 

Répondant au doux nom d'Artémis, le programme est conçu pour repérer lors d'un dialogue en ligne l'utilisation de mots et schémas de langage spécifiques. Sur cette base, il attribue un score (sous la forme d'une note sur dix) à l'un des participants afin d'évaluer sa propension à amadouer ( « groom » ) l'autre, c'est-à-dire à construire une relation de confiance afin d'inciter à l'échange de contenu à caractère sexuel ou à une rencontre. 

Un risque de faux positif 

Par le biais de l'association Thorn, fondée par Ashton Kutcher et Demi Moore, Microsoft entend mettre à disposition gratuitement son outil à toutes les plateformes de chat en ligne. Pour cela, ces dernières n'auront qu'à définir un score (7 sur 10 ? 8 sur 10 ? ) qui une fois dépassé impliquera automatiquement la vérification des conversations jugées suspectes par un modérateur humain. À lui de décider si le contenu intercepté doit être ou non rapporté à la police. Les détails sur le fonctionnement d'Artémis n'ont volontairement pas été divulgués afin d'empêcher les prédateurs d'ajuster leurs méthodes d'approche pour contourner l'outil, déployé depuis plusieurs années sur les produits Microsoft Skype et la plateforme Xbox. 

Premier bémol : les faux positifs qui ne manqueront pas de pleuvoir. En effet, les algorithmes ont toujours du mal à saisir la subtilité des mots et les nuances du contexte. Second bémol : ce dispositif présuppose que les personnes ayant ce type de conversations consentent à leur analyse. Or, à l'heure du RGPD et en ces temps de défiance généralisée envers les GAFAM, ça n'a rien de gagné.

Les chevaliers du net 

La mise en place de l'outil s'inscrit dans la volonté grandissante de l'industrie tech de prendre une part plus active dans la lutte contre les crimes pédophiles. Selon le New York Times, plus de 45 millions de photos et vidéos en ligne auraient été signalées en 2018. Triste record. On se souvient de la scène d'ouverture de Mr. Robot, où un Elliot Alderson pâle et nerveux coinçait un trafiquant de vidéos pédophiles au détour d'un coffee shop.

Les justiciers ont le vent en poupe, et ce n'est pas le succès de la série Watchmen, sortie fin 2019 sur OCS, qui affirmera le contraire. Sortie à la même époque sur Netflix, la mini série « Don't f**k with cats » retrace le parcours d'une poignée de cyber-détectives pugnaces et débrouillards lancés des années durant sur les traces du tueur en série Luka Rocco Magnotta. Le documentaire évoque aussi  « Rescue Ink », un groupe hétéroclite composé de motards tatoués, ex body-builders, anciens militaires, détectives et avocats, s'est fixé comme mission le sauvetage d'animaux malmenés par de violents propriétaires... 

En France, en Suisse et en Belgique, la « Team Moore », du nom de son fondateur Steven Moore, se compose d'un groupe d'activistes qui repèrent, piègent et dénoncent les pédophiles sur les réseaux sociaux en créant de faux profils d'enfants et adolescents... Né en 2019, le groupe s'inspire des chasseurs de pédophiles (Dark Justice, Stinson Hunter...) qui collaborent étroitement avec la police et fleurissent depuis dix ans en terre anglo-saxonne. Au risque de basculer (complètement) dans l'auto-justice ?