La vidéo la plus terrifiante du moment montre un streameur perdu dans « l’Internet zombie »

Le streameur Destiny est persuadé qu'il a interagi avec « des gens qui n’existent pas ». La réalité est encore plus folle que ça.

« J’ai passé plusieurs heures à regarder ces comptes la nuit dernière, je n’ai aucune idée s'ils sont réels ou pas. » Plongé en pleine crise de paranoïa, Steven Kenneth, plus connu sous son pseudo Destiny, ne sait plus s’il doit rire ou pleurer. Dans son live, diffusé au milieu du mois de juillet 2024, ce streameur et commentateur politique, qui se situe plutôt à gauche, passe en revue des comptes pro-Trump qui le harcèlent régulièrement sur X. Beaucoup de comptes de trolls affichent des photos générées par IA, postent des séries d'images identiques et se parlent entre eux avec des phrases qui ont l’air de sortir de ChatGPT. Pour Destiny, il n’y a qu’une seule solution possible : il est ciblé par un réseau de bots alimenté par intelligence artificielle.

Descente aux enfers des bots

Condensée dans une vidéo d’une douzaine de minutes intitulée Destiny’s Schizo Arc, cette crise plutôt amusante prend une tournure encore plus inquiétante dans sa deuxième partie. Alors qu’il était hors live mais en conversation avec sa communauté sur ce même sujet, une personne de son chat lui envoie un lien vers une vidéo bizarre. Il s’agit d’une conférence donnée face caméra par le Docteur Egon Cholakian, un homme qui se présente comme un spécialiste des renseignements et des relations internationales, travaillant comme « intelligence educator » (un formateur en espionnage). Le phrasé de ce spécialiste, qui a publié plusieurs vidéos d’alerte sur le climat, sa manière de lire un prompteur de manière étrangement fixe, ainsi que certains bugs audio donnant l’impression que la voix est générée par IA, replonge Destiny dans la paranoïa.

En fouillant un peu plus, il tombe sur plusieurs photos de ce chercheur qui semblent contenir des traces de modifications. Sur l'une d'elles, on peut voir une bibliothèque en arrière-plan contenant des photos et des livres qui semblent distordus. Cet effet, sans doute causé par la résolution plutôt basse de l’image, donne l'impression d'observer des hallucinations visuelles semblables à celles que nous avons l'habitude de voir sur des scintigraphies, ces images générées par IA. Sur une autre image, il s’aperçoit que le visage d'une femme avec qui il pose arbore exactement la même expression et inclinaison que sur une autre photo, signe d'un possible photomontage. La vidéo de Steven se termine sur un avertissement : « Juste au cas où il m'arriverait un truc ce soir, sachez que je n'ai aucune idée suicidaire. »

Le territoire de l'Internet zombie

Jugée par certains internautes comme l'une des vidéos les plus terrifiantes du moment, Destiny’s Schizo Arc pose bien plus de questions qu'elle n'y répond vraiment. Il faut avant tout noter que la vidéo bénéficie d'un vrai travail de montage, d’étalonnage et d'accompagnement musical pour rendre le sujet aussi angoissant que possible. Quand on regarde la version longue de ce live, sans tous ces éléments, on se retrouve davantage dans une enquête OSINT menée en direct que dans une descente aux enfers de la paranoïa. Mais si la vidéo de 12 minutes est aussi efficace, c'est parce qu'elle vient toucher une angoisse nouvelle liée à une théorie en vogue : celle du Dead Internet ou Internet Zombie.

Cette thèse, que l'on pourrait qualifier de complotiste et qui est apparue dans les années 2010 sur les forums de 4chan, stipule que la plupart du contenu et des interactions que l'on peut lire en ligne serait en fait produit par un réseau de bots dirigé par un algorithme. Ce dernier aurait pour objectif de manipuler intentionnellement la population et de minimiser l'activité humaine organique. Si la plupart des spécialistes s'accordent à dire que la Dead Internet Theory est un fantasme paranoïaque, plusieurs éléments récents lui ont donné un semblant de crédibilité. Durant l'année 2024, les utilisateurs de Facebook ont notamment constaté une invasion d'images générées par IA montrant des « Jésus crevettes ». Ces images sont ensuite passées sur d'autres tendances comme des enfants africains montrant des sculptures en sable, ou bien des vieillards mourants. Attirant des millions de likes et de commentaires, ces images ont intrigué les médias, et rapidement, la rumeur selon laquelle ces images étaient entièrement générées par des comptes gérés par des bots et likées aussi par des bots s’est répandue. Le 6 août dernier, le site 404Media publiait une enquête levant le voile sur cette campagne de spam. La plupart des images ont été générées par des « influpreneurs » (des entrepreneurs du web qui produisent aussi du contenu) habitant en Inde et ayant compris comment manipuler les émotions des utilisateurs indiens de Facebook pour monétiser leur attention. Si la pratique n'est pas vraiment honnête, on est loin d'un système de réseaux de bots fonctionnant en toute autonomie.

Pour ce qui est des bots présents sur X, les choses sont plus complexes. On sait depuis les élections européennes et législatives françaises que le réseau social d'Elon Musk est un repaire de comptes automatiques dont l'objectif est d'influencer l'opinion publique au profit du Kremlin. La plupart se contentent de retweeter en masse des personnalités politiques d'extrême droite. Mais certains peuvent aussi être alimentés par du ChatGPT, comme c'est le cas du réseau qui a été démantelé en juillet dernier par le Département de la Justice américain. Un mois auparavant, les internautes qui étaient tombés sur ce genre de bots parlant avaient trouvé une sorte de « test de Voight-Kampff », du nom de la méthode permettant de détecter les réplicants dans Blade Runner, applicable sur X. Il suffisait alors de demander à un compte suspect d'arrêter sa tâche principale et de donner la recette de la tarte à la fraise, une sorte de hacking par le prompt qui semblait fonctionner. Mais rapidement, cette technique est devenue une sorte de blague et de réponse au trolling, et tout le monde s'est mis à l'utiliser. Il est alors devenu difficile de savoir si le compte qui décidait de répondre positivement à cette demande était effectivement un bot mal programmé ou bien un troll humain qui s'amusait à ajouter encore plus de confusion. Que ce soit l'un ou l'autre, le résultat est finalement identique. Dans la plus grande tradition de la propagande russe, qui sait parfaitement jouer avec les frontières de la réalité, les internautes occidentaux nagent en pleine paranoïa et ne savent plus qui est qui sur Internet. Les trolls désignés par Destiny comme étant des bots se sont d'ailleurs bien moqués de lui à ce sujet et ont organisé un Space sur X pour prouver qu'ils étaient bien réels.

L'étrange cas du docteur Cholakian

On pourrait arrêter là cette analyse, mais il reste un élément encore troublant dans la vidéo de Destiny : le cas du docteur Egon Cholakian. Si ce dernier a effectivement l'air d'être un véritable humain, son cursus et le contenu de ses vidéos ont de quoi interroger. Ce personnage est apparu sur les réseaux en 2023 avec le lancement de sa chaîne YouTube Earth Save Science Collaborative. Il y a publié plusieurs vidéos dans lesquelles il prévient d'un danger imminent concernant notre noyau terrestre, sur lequel on aurait détecté des anomalies. Dans une autre, il parle de la Russie, qui aurait perdu sur le champ de bataille du matériel top secret censé modifier le climat. Le point commun de ses longs monologues est toujours le même : la civilisation va disparaître dans quelques années et les dirigeants de la Terre doivent s'unir, malgré leurs désaccords. À ce charabia étrange s'ajoute un autre élément troublant. Cet homme présente un parcours universitaire très hétéroclite. Il affirme être diplômé de Harvard en droit, avoir travaillé comme analyste et comme formateur en espionnage pour le gouvernement américain, et s'être intéressé à la physique en collaborant avec Harvard et le MIT. Il aurait également travaillé sur des projets prestigieux comme le Future Circular Collider du CERN et le satellite NISAR de la NASA, bien que ces informations soient difficilement vérifiables. Dans un article fouillé du média ukrainien Babel, on comprend que Cholakian est associé à la « Creative Society » , qui fait activement la promotion de ses vidéos et de ses discours. Ce mouvement, lié à la secte AllatRa, a des racines en Europe de l'Est et des affinités avec des thèses pro-russes. AllatRa a souvent été accusée de soutenir indirectement la propagande russe, et certaines figures de l'organisation ont même soutenu l'idée d'une alliance des peuples slaves sous la direction de la Russie.

Sur Reddit, les membres de la communauté de Destiny ont aussi mené l'enquête. Ils ont découvert que Cholakian est mentionné dans une affaire de la SEC (l'organisme fédéral américain de réglementation et de contrôle des marchés financiers) remontant à 1981-1982, au sein de laquelle il est accusé d’avoir falsifié des informations concernant ses antécédents éducatifs et professionnels. Ses travaux académiques sont aussi très difficilement trouvables et sont souvent basés sur ceux d'un homonyme, un certain Arpineh Cholakian, travaillant en ingénierie informatique en Iran, dont il usurperait le travail. Pour les internautes, l'homme serait un imposteur qui se fait passer pour un scientifique en infiltrant des conférences et ateliers académiques sans apporter de contributions scientifiques réelles. Plus qu'un simple bot, le streameur Destiny semble donc avoir découvert un agent de désinformation qui effectue de véritables opérations psychologiques allant dans le sens du Kremlin. De quoi être un tout petit peu parano, effectivement.