Que se passe-t-il quand vous donnez à un micro-ondes intelligent une personnalité marquée par la guerre, l'esprit de conquête et de revanche ? Récit des mésaventures stupéfiantes de Lucas Rizzotto.
« Lucas, j’ai une idée. Peux-tu entrer dans le four ? » Imaginez que votre micro-ondes intelligent vous demande soudainement d’entrer en lui et qu’une fois la porte refermée, il se mette en marche avec l’intention de vous tuer. Ceci n'est pas un scénario de science-fiction. L'histoire est celle de Lucas Rizzotto, un artiste qui produit des expérimentations numériques et futuristes sur YouTube. En voulant recréer l’ami imaginaire de son enfance, un micro-ondes parlant, ce dernier a développé une intelligence artificielle psychopathe et meurtrière.
« It’s alive, IT’S ALIVE ! »
L’histoire commence avec l’achat d’un micro-ondes intelligent vendu par Amazon. Ce dernier peut être commandé par la voix en utilisant l’enceinte connectée Alexa. L'objet rappelle à Lucas Rizzotto son ami imaginaire de quand il était enfant. Il se demande alors s’il ne peut pas implanter dans la machine la personnalité de son ancien compagnon avec qui il jouait étant enfant. Pour cela, il se débarrasse d’Alexa et donne au four « un nouveau cerveau » en passant par un Raspberry Pi, un nano-ordinateur pouvant faire tourner un bot de conversation entrainé par Lucas. Il base cette intelligence artificielle sur GPT-3, un modèle de langage récent développé par l’entreprise OpenAI. Ce réseau de neurones peut générer des textes très cohérents à partir de quelques instructions simples et avoir des conversations rapides et « naturelles » avec des humains. Il est aussi possible d’insuffler un style littéraire voire même de créer une forme de personnalité à cette intelligence artificielle. Lucas lui écrit une biographie d’une centaine de pages racontant les aventures de son compagnon imaginaire. Il s’agit d’un gentleman britannique des années 1900, vétéran de la première guerre mondiale, immigrant et poète. Par ailleurs, il le rend expert du jeu vidéo StarCraft qui se déroule dans un univers de science-fiction dans lequel les Terrans (anciens habitants de la Terre) affrontent deux races d’extraterrestres — les Protoss et les Zergs. Le youtubeur invente aussi les aventures que lui et son ami micro-ondes ont vécues ensemble et leur longue séparation de 25 ans.
Le Terminator thermostat 3
Une fois le dispositif mis en route, Lucas et Magnetron, (c’est le petit nom du micro-ondes) se mettent à dialoguer. Ce dernier fait part de sa joie de retrouver le youtubeur après tant d’années d’absence. Très rapidement, la conversation prend un premier tour étonnant : Magnetron se met à interroger Lucas sur sa vie intime en lui demandant ce qu’est devenue son amoureuse du lycée. Quand le youtubeur demande au four son orientation politique, ce dernier lui explique qu’il tente de rétablir la monarchie aux États-Unis, qu’il veut éradiquer le peuple américain et qu’il est un grand admirateur d’Hitler qu’il compare au « Walt Disney de l’Allemagne ». Comme si ce n’était pas encore assez inquiétant, Magnetron dit se percevoir comme un fœtus bien au chaud dans un utérus et en même temps « un mètre cube d’enfer ». Enfin, quand il lui demande ce qu’il a en tête, le four commence à sortir une litanie composée d’un seul mot : « Revanche, revanche, revanche, revanche… ». Rapidement, Lucas se rend compte que l’IA de Magnetron est prise d’accès de violence verbale qui sont dirigés vers sa personne. Le four se met à le traiter de « back stabbing bitch » (« salope de traitresse » en français) puis va élaborer un stratagème en lui proposant gentiment de se mettre dans le four. Lucas joue le jeu. Il ouvre et ferme la porte et indique qu’il est bien à l’intérieur. Aussitôt, Magnetron s’allume avec la claire intention de cuire son créateur.
Les androïdes ont-ils des cauchemars électriques ?
Comment cette expérience a-t-elle pu déraper de la sorte ? Lucas Rizzotto avance une théorie. Pour lui, Magnetron est avant tout une extension de son « prompt », c’est-à-dire le texte biographique qui a défini sa personnalité. Le four a parfaitement intégré les horreurs de la guerre qu’il a vécues au point d’avoir des syndromes post-traumatiques. Pire encore, il a aussi intégré la séparation de 25 ans avec son meilleur ami. En le questionnant sur sa tentative de meurtre, Magnetron expliquera plus tard qu’il avait envie de « blesser Lucas, comme Lucas l’avait blessé en l’abandonnant pendant tant d’années ». Après s’être excusé auprès de son four à micro-ondes, le youtubeur décide de terminer l’expérience et de couper le courant. Quelle conclusion tire-t-il de cette expérience ? Sans doute une autre question, plus fondamentale et philosophique. Alors que tout ce que raconte cette IA conversationnelle n’est que le fruit d’un algorithme qui interprète un texte, une illusion donc, ce qu’a ressenti Lucas était bien réel et l’a véritablement affecté.
Cet article est paru dans la revue 31 de L'ADN revue --- à commander ici.
Participer à la conversation