Détecter, catégoriser, prévenir... Un arsenal d'outils est disponible pour tenter de supprimer les images pédocriminelles dont les signalements explosent ces dernières années.
Cet article a été initialement publié dans le numéro 33 de la revue L'ADN, Enfants à vendre, Enquête : qu'a fait Internet de nos enfants ?, paru le 19 juin 2023 et en vente ici.
Le hachage
On marque un contenu identifié comme illicite d’une signature numérique, pour pouvoir le reconnaître lorsqu’il sera partagé à nouveau. C’est l’une des toutes premières technologies mises en place pour lutter contre les contenus pédocriminels, via la base de données PhotoDNA, propriété de Microsoft.
Hachage de nudes
Le hachage peut aussi être utilisé pour marquer d’une signature ses propres nudes, afin de pouvoir facilement les repérer puis les supprimer si ceux-ci sont partagés sans son consentement. Un réseau social pourrait par exemple interdire à un utilisateur de publier un contenu déjà haché par un autre internaute. Pour le moment, ce n’est pas le cas, mais Point de Contact porte ce projet au sein du Laboratoire pour la protection de l’enfance en ligne, lancé par Emmanuel Macron en novembre 2022.
Pré-analyse d’une image par une IA
Pour déterminer si un contenu présente un risque élevé d’être de nature pédocriminelle, l'association Point de Contact, qui catégorise les contenus signalés par les internautes, demande à un système d’intelligence artificielle développé par Google (Content Safety API) de lui attribuer une note de 1 à 5 (5 étant le risque le plus élevé) avant qu’il soit vu par un analyste. Une manière de faire un premier tri et de préserver ceux qui vont devoir analyser le contenu.
Un moteur de recherche sur le Dark Web
Aleph Search Dark est une sorte de Google branché sur les tréfonds du Dark Web. Il est utilisé par les forces de l’ordre pour rechercher des traces et des données illicites, mais également pour cartographier les différents sites afin de mieux comprendre les écosystèmes cybercriminels.
Un détecteur de « groomer »
Percipion, de la société française Aeteos, utilise l’informatique cognitive pour comprendre le contexte d’un texte et repérer les phrases typiques écrites par les « pédopiégeurs » lors de conversation avec des mineurs.
Vérifier l’âge d’un internaute en scannant son visage
Sur Yubo et Instagram (normalement interdits aux moins de 13 ans), les nouveaux inscrits doivent scanner leur visage via le système Yoti. Sa technologie d’intelligence artificielle reconnaît les signes de vieillissement sur les visages, sans collecter de données biométriques, assure-t-elle.
Analyse des bandes audio
#IWAS coordonne un projet d'IA d’analyse des pistes audio des CSAM (Child sexual abuse material). Les bruits de fond, les éléments sonores (respirations, cris), les phrases prononcées, l'âge et le sexe des personnes en présence peuvent être expliqués à l'IA. Ce logiciel pourra ensuite reconnaître ces sons et ces phrases typiques des agressions sexuelles d'enfants dans d’autres vidéos, pour les identifier plus rapidement et éviter de longues heures d'analyse aux modérateurs de plateforme et aux policiers.
Cet article a été initialement publié dans le numéro 33 de la revue L'ADN, Enfants à vendre, Enquête : qu'a fait Internet de nos enfants ?, paru le 19 juin 2023 et en vente ici.
Participer à la conversation