Des petits malins ont trouvé le moyen de générer de l’engagement et de la croissance d’audience en spammant des images absurdes.
Les temps sont difficiles pour les créateurs de contenu clickbaits (pièges à clics) qui profitent de Facebook depuis une dizaine d’années. Avant, il suffisait de générer des mèmes pleins de bons sentiments et des vidéos de recettes dégueulasses pour plaire à l’algorithme et faire le plein de vues. À présent, même les fermes de contenus viraux sont dépassées par une nouvelle engeance qui a pris le contrôle des fils d’actualité : il s’agit des spammeurs d’images générées par IA.
Jésus superstar !
La semaine dernière, Facebook est revenu sur le devant de la scène de la culture web en propulsant une drôle de série d’images. Une photo générée par IA d’un Jésus constitué de crevettes a fait le tour de l’Internet. Cette image faisait partie d’une série de Jésus générés par IA. On a eu le droit à un Jésus sculpté dans le sable, un Jésus sortant d’un jet privé avec deux top models, un Jésus avec deux hôtesses de l’air ou un autre fait à partir de déchets plastiques. Le tout accompagné d’une phrase du genre « personne n’aime mes œuvres d’art ».
Ces publications peuvent faire jusqu’à 500K vues et génèrent énormément d’engagements. Les commentaires, très premier degré, sont remplis de « amen » et d’émojis cœur et mains qui prient. La plupart de ces utilisateurs ne pensent d’ailleurs pas qu’il s’agit d’œuvres générées par intelligence artificielle et ne comprennent pas exactement ce qu’ils voient, ni pourquoi ils donnent leur engagement. C’est du moins la conclusion de cette étude, encore non relue par des pairs, publiée sur l’Internet Observatory de l’université de Standford qui a analysé près de 120 pages de spammeurs IA qui reçoivent des centaines de millions d’engagements. L’une de ces images était même l’un des 20 contenus les plus consultés sur Facebook au troisième trimestre 2023 avec 40 millions de vues cumulées.
It’s spamming baby !
On pourrait trouver cette passion pour les images de Jésus artificiels amusantes si ces dernières n’étaient pas une porte d’entrée vers des usages et du contenu beaucoup plus problématiques. Tout d’abord, ces images ne sont aucunement étiquetées comme étant générées par IA – ni par leur créateur, ni par la plateforme. Or c’est bien Facebook, par le truchement de ses algorithmes sensibles à la quantité de contenu généré, qui rend particulièrement visible ces posts de mauvaise qualité. Meta avait d’ailleurs indiqué en février dernier qu’elle mettait en place un système de balise permettant justement cette action d’identification. De plus, certaines pages sont tenues par des internautes malveillants qui tentent d’attirer un public peu averti, vers des sites extérieurs proposant de faux médias bourrés de publicité AdSense, mais aussi des sites de vente en dropshipping ou des pièges pour voler des données. Beaucoup de ces spammeurs sont originaires de pays comme l’Arménie, le Vietnam, le Pakistan, la Turquie, la Géorgie et la Macédoine.
L’avènement du « web de merde »
En novembre 2022, le célèbre journaliste Cory Doctorow avait théorisé le concept de l’enshitification du web ou emmerdification en bon français. Derrière ce terme accrocheur, notre spécialiste évoquait le déclin systémique que connaissaient toutes les grandes plateformes web en tentant d’abuser de leurs utilisateurs puis de leurs clients professionnels (c’est-à-dire les publicitaires) avant de mourir. Parmi les critères d’emmerdification, on retient notamment le fait que la plateforme se substitue aux besoins de ses utilisateurs et lui recommande des choses qu’elle n’a pas demandées et dont elle n’a pas besoin. Cette tendance à voir apparaître du contenu de mauvaise qualité généré par des spammeurs utilisant de l’IA était déjà le premier signe d’emmerdification de TikTok avec son SludgeContent. C’est à présent Facebook et son algorithme – qui ne permet plus vraiment d’être mis en contact avec du contenu correct – qui en fait les frais.
Quel rapport avec les boomers ?