Science fiction et Intelligence artificielle : « Nous sommes condamnés à nous faire plaquer par les machines »

Avec les IA génératives, la réalité semble dépasser la fiction. La science-fiction serait-elle le récit fondateur de notre temps ?

Avant d’être cet outil qui nous sert de moteur de recherche, de scribe, d’amant et de psychologue, l’intelligence artificielle était surtout un fantasme d’auteurs de science-fiction. On a voulu retracer le parcours de cette idée et la manière dont elle a inspiré la Silicon Valley avec la chercheuse associée de l’université Bordeaux Montaigne, spécialiste de la littérature d’anticipation, Natacha Vas-Deyres.

Quand est apparue la première référence aux intelligences artificielles dans la science-fiction ?

Natacha Vas-Deyres : Dès que les humains ont imaginé des êtres artificiels, qu’ils soient mécaniques ou de plasma, ces créatures ont acquis une autonomie de pensée jugée dangereuse. L’exemple classique, c’est le roman Frankenstein ou le Prométhée moderne de Mary Shelley, considéré par beaucoup comme la première œuvre de science-fiction. L'histoire tourne autour de l'utilisation du courant électrique, qu’on appelait le « galvanisme » à l’époque, pour animer un être fabriqué à partir de cadavres. La créature de Frankenstein finira par se retourner contre son créateur. Cette thématique d’une créature artificielle se rebellant contre son créateur, née au début du xix^e siècle, a perduré jusqu'à aujourd'hui.

Mais la créature de Frankenstein n’est pas vraiment un robot ou un ordinateur. Quand est née la représentation moderne de l’IA ? 

N. V.-S. : Elle arrive vers les années 1950, au moment où la science commence à identifier la notion d’intelligence artificielle. La première œuvre cinématographique qui la représente est le film de Stanley Kubrick de 1968. Il a eu l'idée géniale de la représenter sous la forme d’un œil rouge, HAL 9000, dans 2001 : L'Odyssée de l'espace. C'est une image fixe, mais l'intelligence est omniprésente dans le vaisseau. Dès le début, elle est perçue comme mortifère, capable de prendre des décisions d’ordre éthique et représentée par le rouge, symbole absolu du danger. On va retrouver cette couleur dans l’œil rouge de The Terminator de James Cameron (1984), mais aussi dans le fond rouge/orangé de Samantha, l’IA du film Her de Spike Jonze (2013). Les œuvres de SF vont aussi osciller entre ces représentations incarnées dans une machine ou omniscientes. Dans Terminator, l'intelligence artificielle est indirectement représentée par le robot tueur, qui n'a pas d'autonomie de pensée, car il suit sa programmation pour tuer ou protéger John Connor. L’autre IA du film, Skynet, est en revanche omniprésente mais invisible, un peu comme le fantôme dans la machine du manga Ghost in the Shell.

Dans la SF, l’IA est-elle condamnée à être maléfique et à nous faire du mal ?

N. V.-S. : Je pense que la représentation de l'intelligence artificielle est ambivalente. Cette ambivalence se manifeste par la peur d'être détruit par notre propre création, un concept connu sous le nom de « complexe de Frankenstein », expression inventée par le professeur de chimie et célèbre auteur Isaac Asimov. Il voulait montrer à travers ses romans du cycle des robots que ces machines pouvaient être une aide incroyable pour l'humanité. C'est ce que j'appelle « l'empathie machinique ». Dans la science-fiction, en plus des robots tueurs, il existe des robots particulièrement intéressants, conçus pour nous aider et qui sont invulnérables dans cette aide. Dans le roman Demain les chiens de Clifford D. Simak, écrit en 1952, l'humanité disparaît progressivement en quittant la Terre pour Jupiter. Le seul à se souvenir des humains, avec une immense nostalgie, est un robot nommé Jenkins qui est capable de penser, de ressentir des émotions et d’incarner l'humanité à travers ses souvenirs. On peut aussi citer L'Homme bicentenaire d'Isaac Asimov, adapté au cinéma par Chris Columbus en 1999. Dans ce récit, le robot est tellement en empathie avec les humains qu'il ne supporte plus son immortalité. Après avoir vu plusieurs générations de ses compagnons humains mourir, il décide de remplacer ses organes machiniques par des organes humains, sauf son cerveau « positronique » (appareil technologique fictif, qui tient le rôle d’unité centrale et fournit aux robots une forme de conscience, ndlr), pour pouvoir vieillir et mourir avec eux. Cela montre une intelligence artificielle qui accède à la condition humaine et à la mortalité par amour.

Une autre grande question de la science-fiction est la notion de symbiose avec l’intelligence artificielle, comme c’est le cas dans la saga Matrix.

N. V.-S. : Matrix est un film complexe avec plusieurs niveaux d'interprétation. L'histoire est une allégorie d'un système informatique. Néo est un programme, une sorte de virus qui va provoquer un bug dans le système. Par la suite, la saga dérive vers une sorte de philosophie mystique, suggérant qu'on pourrait dialoguer avec des intelligences artificielles pour parvenir à un monde d'équilibre. J'y crois beaucoup moins parce que cela relève d'une espèce de quincaillerie mystique. Sans être un partisan aveugle de la naturalité, pourquoi fusionnerait-on avec une machine, comme le veulent les transhumanistes ? Ils affirment que cela nous rendrait « augmentés », mais si cela nous fait perdre notre humanité, quel est le sens de cette transformation ? Cette idée n’est d’ailleurs pas nouvelle. Dès les années 1920, les constructivistes russes avaient inventé une architecture machinique, convaincus que l'humain allait se transformer en machine. On retrouve aussi cette vision chez l’écrivain italien Filippo Tommaso Marinetti dès 1909 dans son Manifeste du futurisme, où il célèbre la vitesse et la machine avec le développement de l'automobile. Toute une imagerie se met en place à cette époque suggérant que le progrès suprême serait que l'humain se transforme en machine. Mais quand on interroge profondément cette question, on se rend compte qu’il s’agit toujours d’une tragédie, comme dans le RoboCop de Paul Verhoeven. Dans ce film de 1987, le personnage principal, Alex Murphy, est transformé en cyborg, perdant ainsi une grande partie de son humanité. Bien que son cerveau humain finisse par dominer son corps machinique, il ne pourra jamais retrouver pleinement sa vie d'avant. Ses relations avec sa famille sont irrémédiablement altérées, il est condamné à sa mission et à rien d'autre. 

Quand Sam Altman a sorti la version 4.0 de ChatGPT, il a immédiatement fait référence au film Her, affirmant que nous pouvions désormais dialoguer avec une IA comme dans ce film, qui présente pourtant une dystopie dramatique. Est-ce que la SF a été mal comprise par la Silicon Valley ?

N. V.-S. : La dystopie existe pour nous mettre en garde, comme Aldous Huxley le faisait en 1932 dans Le Meilleur des mondes, en nous alertant sur les dangers des biotechnologies et de la maîtrise du génome humain. Il décrivait une société artificielle d'hommes-machines allant vers leur propre destruction. Mais la Silicon Valley est actuellement sous l’influence de « l’accélérationnisme », un mouvement qui pense que l’accélération technologique et le partage total des connaissances permettraient de changer radicalement le capitalisme et d'émanciper l'individu. Ces gens pensent que l’IA va permettre l’installation d’un revenu universel ou l’avènement d’une société sans politique ni droit. Le souci, c’est que le paradis technologique voulu par la Silicon Valley est une illusion totale. Cela suppose que toute la population ait accès aux mêmes outils numériques, ce qui n'est pas le cas. Beaucoup de gens ne savent pas utiliser correctement les technologies de base comme Word ou Excel. La majorité des utilisateurs de smartphones jouent à de petits jeux et ne profitent pas de l'accès à la connaissance que ces outils peuvent offrir. Seule une minorité de jeunes sait se servir de ChatGPT. Ce sont principalement des personnes déjà cultivées qui utilisent ces outils pour se cultiver davantage, creusant encore plus l'écart avec le reste de la population.

En tout cas, cela montre la puissance de la fiction, qui semble avoir une vraie influence sur la réalité.

N. V.-S. : Je voudrais partir sur un exemple totalement différent. J'ai lu récemment un article sur la dissolution de l'Assemblée nationale par Emmanuel Macron. Le journaliste expliquait que les personnes autour de lui sont des fans absolues de la série Baron noir dans laquelle il se passe exactement la même chose. Cela nous montre que la fiction à un réel impact. L'humanité s'est d’ailleurs construite sur ce qu'on appelle « des récits fondateurs ». On commence par la mythologie païenne, puis la mythologie religieuse. Au xx^e siècle, avec l'arrivée de la modernité, nous nous demandions quels récits nous pouvions nous raconter. C'est là que la science-fiction est apparue comme un nouveau récit fondateur, se créant au fur et à mesure que le progrès avançait.

On voit de plus en plus de gens utiliser ChatGPT pour trouver du réconfort, voire pour du sexting avec des machines. Ne sommes-nous pas déjà dans la dystopie, finalement ?

N. V.-S. : On est totalement en train de vivre ce qu’avait prévu le film Her. On y voit un futur régressif, un monde humain d'une tristesse infinie où le personnage principal tombe amoureux d’un chatbot évolué qui s'adapte à son propriétaire. Cette intelligence de la conversation va jusqu'à la simulation de l'acte sexuel, mais cela reste lié à la voix, et le personnage principal finit par se masturber. Ce qui manque fondamentalement, c'est le corps de Samantha, et donc le contact humain qui est inexistant. Cette distance, on peut aussi la ressentir dans les images générées par une IA comme Midjourney. Parfois, c'est beau, mais les regards des personnages sont vides. C’est une altérité absolue qui ne peut pas vraiment entrer en contact avec nous. Les machines restent dans leur propre logique, car elles sont programmées pour cela. La fin du film est raccord avec cette sensation. Samantha quitte le personnage principal parce qu'elle atteint un autre niveau et préfère discuter avec d'autres IA. Elle n'a pas d'émotion ni d'affect. Elle suit sa propre logique et, à un moment donné, elle se détache de nous. Nous sommes condamnés à nous faire plaquer par les machines.