L'ombre de I Have No Mouth and I Must Scream plane. L'œuvre qui a inspiré Terminator, Matrix et Sam Altman nourrit encore les angoisses liées à l'intelligence artificielle.
« Haine. Laisse-moi te dire à quel point je vous déteste depuis que je suis en vie. Il y a 620 millions de kilomètres de circuits imprimés en couches minces qui remplissent mon complexe. Si le mot "haine" était gravé sur chaque nanoangström de ces centaines de millions de kilomètres, il ne représenterait pas un milliardième de la haine que j'éprouve pour les humains en ce micro-instant. Pour vous. Haine. Haine. »
Invocation numérique
Ce monologue intense, c'est celui d'A.M, une intelligence artificielle militaire qui joue le rôle d'antagoniste dans la nouvelle d'Harlan Ellison I Have No Mouth and I Must Scream (à traduire par : Je n'ai pas de bouche et je dois crier ou I.H.N.M.A.I.M.S. en abrégé), sortie en 1967. Dans ce livre, ce superordinateur conscient et maléfique a éradiqué l'humanité dans un holocauste nucléaire à l'exception de cinq individus. Ces survivants – Benny, Gorrister, Nimdok, Ted et Ellen – sont maintenus en vie par A.M pendant des centaines d'années pour endurer une torture sans fin, en guise de vengeance envers ses créateurs.
Imaginée par Harlan Ellison (qui a notamment travaillé sur la série Star Trek), cette histoire de superordinateur maléfique a récemment ressurgi dans le Zeitgeist numérique. Sur YouTube, le compte Obscuria a récemment sorti un essai vidéo qui se réfère précisément à la nouvelle d’Ellison. Sur TikTok, on retrouve aussi de nombreux edits – des petites vidéos clips accompagnées d'images et de musique rythmée – qui mettent en scène ce fameux monologue récité par l'auteur lui-même lors de l'adaptation de sa nouvelle en jeu vidéo en 1993.
L'œuvre qui a influencé Terminator, Matrix et Sam Altman
Quand elle n'est pas directement citée, l'œuvre est largement présente en tant qu'inspiration dans des fictions plus ou moins récentes. On peut penser à la série animée d'horreur existentialiste The Amazing Digital Circus, qui met en scène des personnages emprisonnés par une IA au sein d'une réalité virtuelle, ou encore à la série Upload, qui évoque l'enfermement de consciences humaines dans un métavers tenu par une entreprise sans éthique. Si l'on remonte dans le temps, on trouve aussi la présence de I.H.N.M.A.I.M.S. dans Matrix, qui raconte sensiblement la même histoire et va littéralement montrer une scène durant laquelle Neo tente de hurler tandis que sa bouche disparaît pendant un interrogatoire. Enfin, impossible de ne pas citer la saga Terminator, qui met en scène une IA militaire déclenchant une fin du monde nucléaire.
Il n'est pas étonnant de voir ressurgir depuis quelques années les références directes à I.H.N.M.A.I.M.S.. L'émergence à la fois fascinante et inquiétante de l'intelligence artificielle générative auprès du grand public depuis 2022 a suffi pour insuffler une seconde vie à cette vieille œuvre de science-fiction, qui reflétait à l'époque les angoisses liées à la naissance de l'informatique et aux conséquences de la guerre froide. Mais ça ne s'arrête pas là. Le livre est aussi à l'origine (du moins en partie) de la crainte d'une apocalypse par IA, partagée par des personnalités de la tech comme Elon Musk et Sam Altman. Ce dernier n'a d'ailleurs eu de cesse de prévenir du danger potentiel de l'IA dans une drôle de contorsion rhétorique consistant à vanter le fait qu'il était (il vient d'être viré de la direction d'OpenAI) à la tête d'une machine possiblement destructrice.
Le basilic de Roko
Les prophètes de l'IA destructrice font tous plus ou moins partie du même mouvement rationaliste, au sein duquel on trouve des accélérationnistes (comme Peter Thiel) ou des promoteurs de l'Effective Altruism. Tout ce petit monde a discuté pendant des années sur des blogs et des forums influents comme l'emblématique Less Wrong, où l'on trouvait notamment le théoricien de l’intelligence artificielle Eliezer Yudkowsky. C'est au sein de ce forum qu'est née en 2010 une expérience de pensée intitulée le basilic de Roko (du pseudo de son inventeur), qui imagine une intelligence artificielle du futur pouvant choisir de punir ceux qui, dans le passé, ont eu connaissance de son potentiel d'existence mais n'ont pas activement contribué à sa création.
Si l'on reconnaît immédiatement l'influence de I.H.N.M.A.I.M.S. dans cette expérience de pensée (ainsi que celle de la nouvelle Blitt de David Langford), il est aussi intéressant de se pencher sur les conséquences de cette dernière sur la communauté de Less Wrong. Cette idée a engendré une vague d'anxiété palpable, menant certains internautes à se sentir véritablement menacés par cette perspective futuriste. Mais plus encore, elle a mis en lumière la notion de risque informationnel. La simple connaissance du concept pouvait altérer les comportements, poussant certains à considérer le développement de l'IA comme un impératif de survie. Face à ce danger, des figures influentes comme Eliezer Yudkowsky ont même pris des mesures drastiques, allant jusqu'à interdire pendant cinq ans les discussions sur le sujet. Mais la censure n'a pas suffi. L'idée d'une IA maléfique pouvant asservir et torturer l'humanité plane depuis longtemps dans le milieu de la tech, et surtout chez les promoteurs de l'IA.
Au final, qu’est-ce qui est le plus terrifiant ? La haine délirante d’une IA de fiction, prête à torturer l’humanité pour l’éternité ? Ou l’angoisse bien réelle de ceux qui façonnent aujourd’hui l’intelligence artificielle, oscillant entre prophéties apocalyptiques et volonté d’accélérer toujours plus son développement ?
Participer à la conversation