En quelques heures, une intelligence artificielle est parvenue à créer 40 000 armes chimiques

La guerre en Ukraine fait planer l’inquiétude d’une guerre chimique. Cette étude ne va pas calmer nos angoisses. Elle souligne la facilité avec laquelle il est possible de concevoir des formules mortelles via l’intelligence artificielle. 

Il n’aura fallu que six heures à un algorithme pour créer la formule de plus de 40 000 molécules potentiellement létales. Les chercheurs ayant fait cette découverte ont publié leur étude dans la revue scientifique Nature Machine Intelligence début mars. 

Potentiellement plus létales que la plus mortelle des armes chimiques

Beaucoup de ces molécules s’apparentent au gaz VX, l’une des armes biochimiques les plus mortelles au monde. Il s’agit d’un agent neurotoxique qui agit sur la manière dont les muscles répondent aux ordres du cerveau et qui provoque une asphyxie. Il suffit d’une infime quantité de VX pour causer la mort. Certaines molécules trouvées par l’intelligence artificielle du chercheur Fabio Urbina et son équipe existent déjà, mais d’autres sont nouvelles et seraient plus toxiques encore que le VX. 

Mais pourquoi avoir mis au point un tel algorithme ? 

Pourquoi mettre au point un algorithme qui crée des armes biologiques ? Les chercheurs à l’origine de cette étude mettent normalement leur savoir à contribution pour justement éviter la toxicité des nouvelles molécules pharmaceutiques mises sur le marché. Leur modèle d’apprentissage automatique est donc capable de prédire la toxicité d’une molécule. Le but est habituellement d’exclure celles qui se révèlent potentiellement dangereuses pour l’organisme. Ici, ils ont inversé le processus et ont utilisé un algorithme capable de générer des molécules les plus toxiques possible.  

Ce travail, effectué en prévision d’une conférence, vise à montrer la facilité avec laquelle il est possible de formuler des armes chimiques grâce aux outils informatiques. Fabio Urbina, l’un des auteurs de l’étude interrogé par The Verge, avance qu’il est assez aisé pour des personnes qui maîtrisent la chimie de reproduire ce travail en s’appuyant sur des bases de données et logiciels open source. 

Il ne suffit pas de cliquer sur un bouton

Toutefois, l’IA ne fait que trouver des formulations, dont certaines sont certainement de « faux positifs ». Les synthétiser « pour de vrai » demande de franchir d’autres étapes complexes.  « Je ne suggère pas qu’il suffise que quelqu'un clique sur un bouton pour que des agents chimiques apparaissent dans sa main. »

Cette étude sous forme de « signal d’alarme » tente aussi de trouver des solutions. Les chercheurs citent différentes mesures limitant le risque de développement d’armes chimiques grâce à l’IA : contrôler l'accès aux algorithmes qui pourraient être utilisés à mauvais escient, créer une hotline pour signaler les abus potentiels aux autorités, former des étudiants en sciences et en informatique pour les sensibiliser aux dangers d'une mauvaise utilisation de l'IA, mettre en place « un code de conduite » pour l'industrie.

À quel point faut-il s’inquiéter des armes biologiques et chimiques ? 

La guerre en Ukraine a ravivé la crainte des armes chimiques, déjà utilisées lors de précédents conflits, notamment en Syrie. Certains observateurs estiment que cette perspective est possible. « Vladimir Poutine n’est pas entré dans cette guerre pour la perdre. En cas d’enlisement ou d’humiliation, l’emploi d’armes sales ou d’armes nucléaires tactiques fait partie des possibilités », a notamment confié à l’AFP un haut gradé français, sous couvert d’anonymat. 

Récemment, le Kremlin a accusé l’Ukraine et les États-Unis de gérer des laboratoires de conception d’armes biologiques et chimiques. Rien ne prouve ces déclarations (et les Occidentaux les ont démenties), mais elles pourraient tout de même servir de prétexte à la Russie pour elle-même se servir de ce type d’armes selon certains analystes. 

Toutefois, comme le rappelle La Croix, la Russie est signataire de la Convention sur l’interdiction des armes chimiques, entrée en vigueur en 1997, et a officiellement achevé la destruction de 100 % de ses 40 000 tonnes d’armes chimiques en 2017.