Une enquête du Wall Street Journal a dévoilé comment l’algorithme d’Instagram recommande des vidéos très suggestives mettant en scène des enfants ou de jeunes adolescentes, entrecoupées de publicités.
Une vidéo de twerking en petite tenue, un homme qui se frotte sur une sexdoll réaliste, une jeune fille qui soulève son tee-shirt pour montrer son nombril ou un homme couché dans un lit avec son bras autour d’une fillette de 10 ans. Pour visionner cette succession de contenus sexualisés et orientés vers la pédophilie, entrecoupés de publicités pour Pizza Hut ou Bumble (une application de rencontre), ce n’est pas la peine d’aller sur un recoin sombre du web. Les journalistes du Wall Street Journal ainsi que le Centre canadien de la protection de l’enfance l’ont expérimenté en scrollant sur les Reels Instagram.
C’est la faute de l’algo
Pour arriver à ce résultat, Jeff Horwitz et Katherine Blunt ont créé un compte spécifique suivant d’autres comptes montrant des jeunes gymnastes et pom-pom girls ou du contenu spécialisé sur le sexe. En partant de ces centres d’intérêt, l’algorithme a tout naturellement donné à voir des vidéos pouvant plaire aux amateurs de ces « thématiques ». Ce problème est pourtant connu de longue date par les employés actuels ou passés de Meta. Ces derniers ont souligné qu’Instagram classe les utilisateurs selon leurs sujets d’intérêt et tend à lui recommander du contenu connexe. Bien que très subjectives, ces vidéos sont généralement suffisamment « dans les clous » des règles de la plateforme pour ne pas être censurés par la modération. En juillet dernier, les mêmes journalistes avaient montré que des utilisateurs utilisaient Instagram pour faire la promotion de contenus pédocriminels en vente sur le Darkweb. Pour cela, ils partageaient des photos d’enfants habillés mais étant déjà apparus dans des images ou des vidéos à caractère pédophile.
Des publicités interdites
Les marques qui ont découvert que leur spot publicitaire passait juste à côté d’enfants en maillots de bain se filmant devant le miroir ont bien évidemment réagi. Bumble a retiré ses publicités, Disney a indiqué faire pression au « plus haut niveau de Meta » pour résoudre la situation. Déjà au courant de ce problème en octobre, Match, la boîte derrière Tinder, a elle aussi retiré ses publicités de la plateforme. Plus ennuyeux, certaines publicités sont clairement orientées vers le marché de la rencontre et surtout du sexe. The Wall Street Journal rapporte être tombé sur des promotions pour des salons de massage proposant des « happy endings », des applications de rencontre du type « coup d’un soir » et des chabots spécialisés sur le cybersexe. Les règles de Meta sont pourtant censées bannir ce type de publicités...
Participer à la conversation