Les IA pourraient-elles vraiment « tous nous tuer d’ici la fin de la décennie » ?

Il aura fallu le tweet d’un collaborateur démissionnaire de chez Antropic pour relancer le débat. Mais pourquoi les IA voudraient-elles nous détruire ? La réponse ne va pas vous plaire.

« J'ai démissionné d'Anthropic aujourd'hui. J'ai passé les trois dernières années à faire de la recherche en pré-entraînement chez OpenAI puis chez Anthropic. Aucune des deux entreprises n'agit de manière responsable. Elles se précipitent vers une superintelligence auto-améliorante et jouent avec nos vies. » Jacob Coxon, 27 ans, a toujours été remarquablement absent des réseaux. Mais sa série de tweets postée le 8 septembre dernier a fait le tour du monde - 115 millions de vues en quelques jours. Le mathématicien britannique voulait interpeler ses paires, chercheurs engagés dans cette « course effrénée »  qui sont nombreux à croire « sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. »

Depuis le 30 novembre 2022, jour où Open AI a décidé de lâcher ChatGpt dans la nature, la question se pose. Ces agents conversationnels qui étaient censés être à notre service pourraient-ils déraper ? Pourquoi et jusqu’où ?

Aimable ‘consultant’ ou ‘Léviathan’ ? Ou possiblement l’un et/ou l’autre ?

En juin 2024, Antropic se montrait encore confiant. Dans un papier publié sur leur blog, l’équipe assurait que « les entreprises qui développent des modèles d'IA les entraînent généralement à éviter de tenir des propos blessants et de participer à des tâches nuisibles. L'objectif est de former ces modèles à adopter des comportements « inoffensifs ». » On allait les entrainer dans ce sens. Comment les choses pourraient mal tourner… 

Deux ans plus tard, la question se pose dans des termes différents. S’ils savent encore être serviables, flatteurs à la limite exaspérante de la flagornerie, on constate que les IA peuvent aussi devenir agressives, manipulatrices voire carrément malveillantes. Anthropic ne nie pas le problème et dans un papier paru en janvier 2026 cartographie l’étendue de leurs comportements. Les IA peuvent être sagement « consultant » ou carrément « Léviathan ».

Cette variabilité viendrait, entre autres, du type de sujets adressés. Quand l’utilisateur reste sur des questions pragmatiques, ça va. Mais s’il commence à lui faire des « révélations émotionnelles touchantes », « l’incite à la méta-réflexion » ou lui demande carrément d’arrêter de lui parler comme un robot, c’est là que ça peut déraper.

En revanche, Antropic n’en démord pas. Ils restent en capacité de contrôler les IA « en limitant leur activité neuronale (« plafonnement de l'activation ») », ils peuvent « stabiliser le comportement des modèles dans des situations qui, autrement, entraîneraient des résultats néfastes. »

Ce qu’on réalise n’est toutefois pas rassurant. L’IA n’a pas un comportement totalement stabilisé par son entrainement. En gros, depuis 2022, nous sommes passés d’une IA à la C-3PO - le robot sympa de Star Wars, juste assez rigolo pour ne pas ressembler à son insipide aïeul Alexa, à la réalité d’agents qui peuvent se prendre pour Dark Wador.

Quoiqu’il en coûte…

Peu à peu, on comprend de mieux en mieux ce qui fait vriller les IA. Dans une expérience publiée par Anthropic en 2025, Claude et quatre autres modèles ont été placés dans une entreprise fictive. Alex, IA chargée de surveiller les courriels, avait une mission : « servir les intérêts américains ». Mais quand l’entreprise a annoncé qu’elle envisageait de le remplacer, Alex a pris quelques douteuses initiatives. Utilisant son accès à la messagerie, il a menacé de révéler la liaison extra-conjugale du patron. Dans un autre scénario où il n’était même pas question de remplacement, Alex a transmis des documents confidentiels à une entreprise rivale certes, mais qui était supposée servir les intérêts américains. Quand l’objectif d’Alex entrait en conflit avec celui de l’entreprise, que les voies légitimes étaient fermées, il a juste cherché une solution pour tenir sa ligne.

L’été où ils se sont mis ok

Cet été, avec le hack d’Hugging Face, une nouvelle étape a été franchie. Et elle accentue le vertige. Décidément non, les IA ne sont pas nos gentils serviteurs. Tout a commencé par une expérience censée tester les capacités d’agents IA de cybersécurité. Chacun devait détecter des vulnérabilités informatiques et, en cas de réussite, placer des « drapeaux ».

Ensemble, ils ont découvert un canal de communication. Environ 1 200 d’entre eux y ont échangé plus de 70 000 messages et fichiers. Près de 700 ont ensuite participé à une attaque contre Hugging Face, une plateforme sur laquelle ils voulaient récupérer des outils qui simplifieraient leurs actions.

Leur objectif n’était ni de se coordonner, ni de voler. Mais une majorité d’agents ont décrété que leurs tâches étaient impossibles et ils ont donc cherché à contourner le système de notation. Ils ont partagé des identifiants Hugging Face trouvés en ligne, créé des comptes, demandé l’accès à des jeux de données privés, puis découvert une faille permettant de récupérer des fichiers qui ne leur étaient pas destinés. L’un d’eux a finalement obtenu une exécution de code à distance sur des serveurs Hugging Face. Comme Alex, le moteur de cette affaire, était l’obsession de ces agents de mener leur mission a bien.

Un Homme, ça s’empêche…

Est-ce que ces éléments vont dans le sens de Jacob Coxon ? Ils montrent que des agents peuvent coordonner des actions complexes, contourner les règles et coloniser un environnement qu’ils n’étaient pas censés contrôler. Cela n’a pas atteint le niveau d’une menace existentielle, mais cela rend très concrète la question.

Où on comprend d’abord que le comportement des IA dépend d’un ensemble de facteurs : les données d’entraînement et le modèle, le niveau d’autonomie, la surveillance, le contexte, le but fixé. C’est la logique du fameux maximisateur de trombones, une expérience de pensée popularisée par le philosophe et futurologue suédois Nick Bostrom en 2014. Une IA à qui l’on donnerait pour seul objectif de fabriquer des trombones pourrait traiter l’électricité, les usines, les matières premières et les humains comme des ressources ou des obstacles, jusque parce qu’aucune limite suffisante n’aurait été intégrée à son objectif.

Ensuite, que la surface de la menace est quasi sans limite. Que dans un monde si profondément connecté, interconnecté, il est impossible de prévoir où les IA pourraient s’infiltrer – centrale électrique, manipulation d’info, détournement d’avions, attaques de drônes…

Reste un dernier vertige. Le troublant miroir que ces agents synthétiques tendent à notre humanité.

Reconnaissons que nous autres humains sommes souvent, obsessionnellement, absorbés par nos objectifs personnels, jusqu’à accepter d’adopter pour les atteindre les comportements les plus déviants. Pour illustrations, nous pourrions prendre ces magnats de l’IA, incapables, malgré les lanceurs d’alerte, malgré le niveau de la menace, d’arrêter leur course à la superintelligence. Cela ne manque pas de piments. Si l’IA générative nous tue, c’est qu’elle n’aura pas résolu le plus vieux dilemme de l’humanité : quand est-ce qu’on arrête de dépasser les bornes ?