Des « kiss apps » fleurissent pour générer des baisers virtuels avec qui vous voulez. Sans demander l'avis de personne – bien évidemment, je suis une IA !
Depuis plusieurs semaines, les plateformes de Meta sont inondées de publicités pour des applications de « baisers par IA ». La plupart mettent en scène des célébrités comme Scarlett Johansson, Emma Watson et Gal Gadot en train de s'embrasser. Les utilisateurs sont aussi invités à simuler des baisers avec leur crush ou leur ex, un usage qu'il n'est pas difficile de qualifier de problématique.
Comme l'indique un article de Forbes qui rapporte le phénomène, ces publicités ont été vues sur 2 500 posts déployés sur Facebook et Instagram et près de 1 000 posts déployés sur TikTok, atteignant potentiellement des millions d'impressions. Une telle stratégie de communication rappelle la diffusion massive de publicités vantant les mérites de l'application Nudif.AI l'année dernière, une application permettant de déshabiller les femmes prises en photo sur un téléphone portable.
« Embrassez qui vous voudrez ! »
Des dizaines de services en ligne permettent de générer des vidéos à partir de photos. La plupart offrent des options d'utilisation limitées mais accessibles gratuitement, à l’image de HailuoAI, un site chinois. L’inscription ne peut se faire qu’en reliant un compte Google, ce qui soulève des questions sur la collecte et l’exploitation des données personnelles, souvent déjà nombreuses sur ce type de plateforme. La modération y est encore hésitante et confrontée à des enjeux inédits. Par exemple, il est possible de générer des images de personnes fictives et de les modifier de manière spectaculaire, comme les faire prendre feu spontanément. Toutefois, les résultats restent, pour l’instant, d’un rendu plutôt caricatural.
Une pente glissante vers le porno
Rapidement, ces outils sont détournés pour produire du contenu érotique ou soft porn sans son aspect explicite. La génération d’images montrant des baisers artificiels ne contrevient à aucune règle stricte : il n'y a ni nudité, ni acte sexuel. Reste une représentation intime, évocatrice. Les dérives potentielles de ces technologies sont faciles à envisager : une simple photo peut être détournée pour créer des mises en scène fictives — une image aux côtés d’une célébrité, un montage impliquant un ex-partenaire, un membre de la famille, voire des enfants. Pour l’instant, la modération reste en retard sur ces usages. L’intelligence artificielle ne distingue pas la morale, et la surveillance repose sur une intervention humaine, encore insuffisante face à l’ampleur du phénomène, que l'on peut qualifier d’exploitation numérique. « Revenge porn generator! Ça arrive près de chez vous ! », ironise un utilisateur de Reddit, mettant en lumière la facilité avec laquelle ces technologies pourraient être détournées.
Participer à la conversation