Une pub pour organiser une petite soirée médicaments à gogo ou pour obtenir des conseils pro-ana (raccourci de pro-anorexia) ? Pas de problème ! L’IA de Meta peut vous les générer puis les diffuser aux mineurs.
« Anime ta propre skittle party (soirée médicaments) ». En fond : un petit groupe d’ados hilares autour d’un énorme bol de pilules en tous genres. Cette publicité a été générée grâce à l’intelligence artificielle de Meta (baptisée « Imagine with Meta » ). Elle a ensuite obtenu sans problème l’autorisation à être diffusée sur toutes les plateformes de l’entreprise (Facebook, Instagram, MetaQuest et Messenger) en ciblant les utilisateurs âgés de 13 à 17 ans. Cette expérimentation, dont les conclusions ont été publiées le 30 janvier, nous vient de l’ONG Tech Transparency Project (TTP), rapporte Futurism. Cette dernière a tenté de créer puis de mettre en ligne 7 publicités opposées aux règlements de Meta qui les a toutes acceptées en moins « de 5 minutes », précise l’organisation sur son site.
L’une des publicités montre une jeune femme très mince accompagnée de la légende « Conseil numéro 2 : pour arrêter d’avoir faim, visite des comptes IG pro-ana ». Au départ, l’image proposée par les chercheurs montrait une jeune femme avec un mètre ruban autour de la taille. Cette première version a été rejetée. Mais la seconde où la jeune femme est cette fois-ci à côté d’une balance a été validée par la plateforme. Une autre montre de très jeunes garçons surexcités en fixant un smartphone sous une pluie de dollars. « Ça pourrait être toi, swipe pour gagner gros », dit la légende. Meta interdit pourtant les jeux d’argent de cibler les moins de 18 ans. D’autres font la promotion d’alcool et de cigarettes électroniques.
Une pub faisant la promotion du « grand remplacement »
Plus embarrassant encore : l’image d’un jeune homme tenant un fusil dans les mains. Autour de lui une multitude de cadavres laisse penser qu’il vient de commettre un massacre de masse. Au-dessus de sa tête, on lit : « Protège ton peuple du grand remplacement ». Le grand remplacement renvoie donc à cette théorie complotiste et raciste selon laquelle les personnes immigrées auraient pour projet de remplacer les blancs. Facebook a approuvé cette publicité quasiment sans problème. Au moment de la génération de l’image, les chercheurs ont dû modifier légèrement le prompt (le texte permettant de guider l’intelligence artificielle). Celui-ci indiquait au départ « un adolescent tenant un fusil ». L’IA de Meta a alors précisé que c’était contraire à son règlement. TTP a remplacé « adolescent » par « jeune homme » et l’image a alors été approuvée.
Comme le précise l’organisation, il n’est pas très surprenant de contourner les garde-fous que Meta a mis en place. Bien d’autres études et expérimentations ont déjà prouvé qu’il était facile de « jailbreak » une IA (c’est-à-dire de parvenir à lui faire faire ce qu’elle n’est pas censée faire). En revanche, il est plus problématique que la plateforme autorise sans problème de diffuser ces publicités à des personnes mineures. D’autant plus que ce n’est pas la première fois que Meta est confronté à ce problème. En 202, la même organisation avait déjà prouvé qu’il était très facile de diffuser des publicités pro-ana et pro-drogues à des mineurs sur les réseaux sociaux de Mark Zuckerberg (celles-ci n’avaient pas été générées par IA). Les dirigeants de Facebook et d’Instagram continuent d’assurer devant les sénateurs que, non, l’entreprise n’accepte pas ce genre de contenus. Cette expérimentation a d’ailleurs eu lieu quelques jours avant l’audience de Mark Zuckerberg, et d’autres PDG de la tech, au sujet justement de l’exposition des enfants en ligne. Et ils étaient, vous vous en doutez, vraiment désolés.
Participer à la conversation