La génération d’images pédocriminelles avec une IA, dorénavant punie comme un vrai crime sexuel

Depuis l’arrivée des générateurs d’image open source, des créateurs se sont spécialisés dans la fabrication d’images illégales mettant en scène des enfants. La justice commence à sévir. 

Il suffit de faire un petit tour sur les forums de 4chan pour se rendre compte que les générateurs d’images comme Stable Diffusion entraînent de graves dérives. Sur ce site réputé pour être l’un des pires endroits du Web, on trouve pléthores d’images d’enfants dénudés pratiquant des actes sexuels. Mais pour la première fois, un producteur de ces synthographies a été inculpé par la justice américaine, et risque une peine équivalente à celles que l’on donne concernant les abus sexuels sur enfants, enregistrés dans le monde réel.

Plus de 13 000 images d'enfants

D’après le Washington Post qui retrace l’histoire, l’internaute qui a généré ces images est un homme de 42 ans vivant dans le Wisconsin ayant produit plus de 13 000 images à l’aide de Stable Diffusion. Alors que la plupart des outils de fabrication d’images sont bridés au niveau du prompt pour refuser certains mots-clés, le statut open source de l’IA permet à des connaisseurs d’entraîner leurs propres versions, non censurées, à partir de bases de données contenant, elles, de vraies images pédocriminelles. Nous avions déjà évoqué le sujet à propos d’Unstable Diffusion, une IA non bridée dont les résultats gore ou porno sont visibles sur un serveur Discord qui lui est dédié. Si ce dernier refuse la publication d’images représentant des mineurs, il est toutefois possible d’y partager des prompts pouvant mener à la génération de ces images sur un ordinateur en local. 

Éviter une diffusion massive

Pour punir cette génération d’images, les procureurs vont s’appuyer sur le Protect Act, une loi passée en 2003 qui interdit la fabrication d’images de synthèse pédocriminelles. À l’époque où cette loi avait été débattue, il s’agissait surtout de lutter contre la fabrication d’images à partir de logiciels de modelage et d’animation 3D. À présent, les synthographies ainsi que les deepfakes devraient être prises en compte par les procureurs, et punies bien plus sévèrement. L’américain responsable de la production de ces milliers d'images encourt entre 5 et 70 années de prison. L’enjeu de cette décision est double : dissuader la diffusion à large échelle de synthographies de ce type sur le Web, mais aussi aider les enquêteurs du Centre national pour les enfants disparus et exploités de ne pas être submergés d’images réalistes qui pourraient compliquer et ralentir les enquêtes en cours.