En générant des contenus pseudo-spirituels, complotistes ou mystiques, l’IA devient un levier d’embrigadement et de manipulation sur les réseaux sociaux.
Sur TikTok ou Instagram, les prophéties de fin du monde écrites par ChatGPT, les visuels mystiques pour un soin céleste ou les vidéos complotistes illustrées par Midjourney prolifére. Bienvenue dans l’ère des dérives sectaires boostées à l’IA. Une explosion qui s’explique par la viralité des posts et le sentiment d’appartenance que favorisent les réseaux sociaux, et qui participe à l’émergence d’un nouveau terrain d'embrigadement.
Un nouvel outil de mise en scène ?
De plus en plus d’influenceurs s’emparent de l’IA pour illustrer, voire crédibiliser, des récits pseudo-scientifiques, ésotériques ou conspirationnistes. Le 15 mars dernier, l’influenceur Josiristv, aux 552 000 followers, publiait une vidéo TikTok relayant les propos d’une influenceuse américaine, Tiffsghosttalk.
Dans son post, le créateur relate l’histoire invraisemblable d’un ancien détenu devenu pêcheur pour le gouvernement américain, qui aurait été convié à un repas où le plat principal était une sirène. Pour mettre en scène cette histoire, il utilise des images générées par IA, représentant des convives cagoulés ou une table dressée autour d’une queue de sirène. En plus d’alimenter un discours assez confus sur la réalité de ses illustrations, il affirme que de véritables photos ou vidéos circuleraient sur le Darknet.
D’autres créateurs comme Tafeurs vont plus loin encore, en interrogeant des IA présentées « sans filtres ». Il utilise notamment DarkGPT, une version « non censurée » de ChatGPT qui serait accessible sur le DarkWeb (il s’agit en réalité sans doute d’un ChatGPT équipé d’un prompt Jailbreak, et dont l’accès via WhatsApp et Telegram est vendu par abonnement). Avec cet outil mis en scène comme une fenêtre ouverte vers des secrets, Tafeurs pose des questions du genre : « Y a-t-il des preuves que nous vivons dans une matrice créée de toutes pièces ? », « Comment l’univers a-t-il été façonné et par qui ? » ou encore « Pourquoi l’IA a-t-elle été créée et dans quel but ? ». Il y a un an, le youtubeur Qin Hui expliquait avoir téléchargé cette même IA, afin de lui poser des questions sur la zone 51, l'existence d'extraterrestres ou encore obtenir le contact de MrBeast, qui s’est avéré être un numéro surtaxé.
Omniprésence du numérique dans les phénomènes d’emprise
Selon le dernier rapport de la Mission interministérielle de vigilance et de lutte contre les dérives sectaires (Miviludes), l’IA générative « démultiplie les possibilités d’emprise », surtout si cette dernière est alliée à l’efficacité algorithmique d’un TikTok. Ces technologies transforment les réseaux sociaux en véritables outils de prosélytisme, capables de diffuser des contenus séduisants, personnalisés et idéologiquement orientés, jusqu’à créer une relation de dépendance avec l’utilisateur. Elles participent également à la diffusion de contenus complotistes ou mystiques, générés de manière automatique, qui nourrissent une pensée collective irrationnelle. Ce phénomène, qui mêle manipulation psychique et ingénierie algorithmique, marque une rupture : il offre aux nouveaux gourous un moyen plus rapide, plus discret, mais tout aussi puissant pour renforcer leur emprise.
Le mec avec les sirènes, c'est Serge le mytho, en vrai. On ne peut que saluer son talent.