Autrefois réservé à quelques personnes motivées ayant des connaissances techniques, le deepfake pornographique est aujourd’hui à la portée de n’importe qui.
« TikTok a des problèmes de contenu généré par l'IA et ça va empirer ». Dans un tweet datant du 25 septembre, Matt Navarra, consultant spécialisé sur les médias sociaux, a pointé du doigt un nouveau type de contenu qui a inondé la plateforme. Il s’agit de vidéos générées par intelligence artificielle et diffusées de manière massive par une centaine de comptes automatiques. Sur ces vidéos, on y voit un avatar virtuel promouvoir un service de deepfake pornographique. « Salut, avez-vous des photos de votre crush ? J’ai découvert cette incroyable intelligence artificielle que vous allez trouver intéressante au point qu’aucune fille ne voudrait qu’elle existe (sic). Vous pouvez retirer les vêtements présents sur n’importe quelle photo. »
La vidéo se termine par la mise en avant de l’URL qui mène vers un site au design minimaliste avec un espace pour uploader une photo. En dessous, on peut lire la phrase suivante : « Veuillez noter que notre site Web n'assume aucune responsabilité quant à la manière dont les utilisateurs choisissent d'utiliser son contenu ou ses fonctionnalités. » Lorsqu'on télécharge une image, le site renvoie vers des pages de concours et des publicités qui ont l’air totalement véreuses.
La multiplication des applications
À première vue, TikTok diffuse massivement une arnaque qui se cache sous un service de deepfake, lui-même amoral et illégal. Mais si l’on dézoome un peu des problèmes constants de modération de la plateforme, c’est le Web dans son ensemble qui semble avoir un problème avec les images de pornographie générées par IA. Le 20 septembre dernier, une autre affaire encore plus grave défrayait la chronique. Des préadolescentes âgées de 11 ans résidant dans le village espagnol d’Almendralejo on reçut des photos d’elles nues sur leur téléphone portable. Ces créations très réalistes semblent avoir été réalisées par des camarades de classe avec une autre application intitulée ClothOFF. Cette dernière propose la modification de 25 images contre la somme de 10 euros. Là encore, cette application a été massivement promue sur TikTok. Et c'est loin d'être la seule sur le marché. Erase it!, Unress.vip, Outfit AI..., il existe à présent une pléthore d'outils plus ou moins disponibles facilement.
L’industrialisation d’une sale habitude
Le problème des photos dénudées ou porno réalisées en deepfake n’est clairement pas nouveau sur le Web. La technologie qui a permis pour la première fois de remplacer automatiquement le visage d’une actrice par une autre remonte à 2016 et fut mise sous la forme d’une application, FakeApp, en 2018. Mais cette dernière demandait à ses utilisateurs d’insérer plusieurs photos du sujet que l’on voulait intégrer, afin d’aider l’intelligence artificielle à réaliser le collage. Avec les nouveaux outils de génération d’images par IA, plus la peine d’alimenter une base de données compliquée, le deepfake est à la portée de n’importe quel adolescent un peu idiot ou adulte mal intentionné.
Participer à la conversation