Deadbot : comment les IA sont en train de bouleverser notre rapport à la mort

Grâce à l’IA, nous pouvons désormais parler à nos morts, enfin, à leurs deadbots, des chatbots qui simulent les personnes décédées. Un outil qui bouleverse nos rites et nos croyances.

Michael Bommer est mort pendant l’écriture de cet article. Il avait 61 ans et était atteint d’un cancer. Après deux ans de traitement, son corps s’est arrêté. Michael pensait beaucoup à sa mort imminente et à l’après pour son épouse et sa famille. Lorsque sa femme lui a dit que ce qui lui manquerait le plus serait de ne plus pouvoir lui poser des questions sur sa vie et le monde en général, Michael s’est donné une mission avec son ami Robert LoCascio : créer un miroir numérique qui pourrait répondre, avec sa propre voix, aux questions de ses proches et de leurs futurs enfants et petits-enfants.

En s’appuyant sur les mêmes technologies d’IA conversationnelle que ChatGPT, Robert LoCascio et son équipe à Eternos ont créé une IA à laquelle Michael a donné vie en enregistrant 300 phrases afin de capturer les inflexions de sa voix naturelle, et en répondant à une liste de 150 questions sur sa vie fournies par Eternos via l’application d'enregistrement vocal de son smartphone. Quand l'IA a été présentée à Michael et à sa femme, le couple a été saisi à la fois par la ressemblance de la voix et par la pertinence des réponses. « Michael a commencé à se parler à lui-même, et ce qui était fascinant, c'est que l'IA répondait à des questions auxquelles il n'avait jamais répondu, mais elle y répondait de la façon qu'il pensait qu'il répondrait », explique Robert LoCascio. 

Les expérimentations d’Eternos ne font pas l’unanimité. Le choix de Michael suscite beaucoup de commentaires négatifs en ligne, les uns estimant que cette décision est malsaine, que la famille devait laisser partir les défunts, et de nombreux philosophes et experts de l’éthique critiquent l’idée même d’un deadbot.

Un désir honteux

Avec les deadbots, c’est pourtant un vieux rêve de l’humanité qui se réalise. Dans les récits oraux de nos ancêtres, dans la littérature ou le cinéma, on ne compte plus le nombre de personnages qui parlent avec des proches décédés. Et côté technologies, nombre d’inventions ont eu pour but de contacter les morts, comme l’infructueux « nécrophone » de Thomas Edison. 

« Dans les premiers temps de la perte, je ne connais pas d'endeuillés qui ne disent pas "je voudrais la ou le revoir" », déclare Marie-Frédérique Bacqué, docteure en psychologie et directrice du CIEM, le Centre international des études sur la mort. Pendant ses études sur le deuil, Jacques Cherblanc, docteur en sciences des religions à l’Université du Québec, a noté que les personnes en deuil ont aussi envie de poser des questions pratiques à la personne morte : que faire de tes affaires, dois-je déménager, etc. Beaucoup souhaitent que la rupture ne soit pas si brutale, qu’un lien puisse continuer. Et, de fait, le lien continue. « Les personnes endeuillées communiquent avec les morts soit dans leurs rêves – la personne leur passe un message ou se manifeste –, soit à travers des signes – un animal aimé de la personne morte apparaît », explique Jacques Cherblanc. Elles vont au cimetière parler à leur proche ou lui écrivent des mots. « Souvent, on a l'idée que c'est parce qu'il y a un “unfinished business”, des choses à régler, mais pas seulement. Parfois, c'est juste parce qu'il y avait un lien d'attachement très fort », ajoute-t-il. 

Dans nos sociétés occidentales, peu de personnes parlent de leur envie de garder un lien avec les morts, voire de leur parler, car c’est vu, à tort, comme pathologique. « On s'attend à ce que la personne qui a vécu un décès se débarrasse des photos et des vêtements petit à petit et dispose de l’urne. On doit faire son deuil dans l'intimité et rapidement », note Jacques Cherblanc. Cette pression à vivre son deuil rapidement n’est pas nouvelle, même si elle s’est intensifiée. « Dans toutes les cultures, il y a des rites qui sont mis en place pour célébrer la personne morte et dire aux endeuillés : maintenant, c'est fini, vous allez reprendre vos fonctions dans la société », rappelle Marie-Frédérique Bacqué. Ce qui est nouveau, en revanche, c’est le rapport avec les morts. « La psychanalyse va apporter l'idée que le bon deuil, c'est celui qui consiste à couper le lien d'attachement », explique Jacques Cherblanc. Cela a modifié la façon dont le deuil est vécu. De collectif et culturel, il est devenu intime et psychologique. « Il se joue sur le plan mental et des émotions », ajoute l’ethnologue.

Les deadbots offrent une réponse à l’envie de garder le lien avec les morts, compatible avec notre vision psychologique et individualiste du deuil. « Dans les premiers temps qui suivent le deuil, la difficulté d'être séparée de la personne aimée va potentiellement être comblée par ces possibilités d'IA », estime Marie-Frédérique Bacqué. Les deadbots peuvent aussi faciliter l’acceptation de la fin de vie. Jacques Cherblanc estime que créer un miroir numérique peut répondre à une envie naturelle de laisser une trace. « C'est comme écrire ou peindre, c’est une réponse à notre peur de l'infini », considère-t-il. Pour Robert LoCascio, il s’agit avant tout de transmission. « Deux jours avant sa mort, Michael m’a dit qu’il était en paix, sachant que les histoires sur sa vie allaient perdurer et avoir un impact sur les membres de sa famille, certains qui ne sont pas encore nés », partage l’entrepreneur.

Flippant ou bienfaisant ?

Dès 2021, le Comité consultatif national d'éthique (CCNE) s’est inquiété de cet outil dans un avis sur les agents conversationnels. Le comité mettait en garde contre le risque que « la dignité de la personne humaine qui ne s’éteint pas avec la mort » ne soit pas respectée, notamment si le deadbot, mal conçu, trahissait la personnalité du disparu, en racontant des sornettes ou en défendant des opinions contraires à celles qui étaient les siennes. Un deadbot très réussi serait tout aussi inquiétant, car « l’interlocuteur humain peut avoir réellement l’impression de se trouver en présence de la personne ainsi imitée, même s’il est explicitement informé qu’il s’agit d’une machine », surtout dans le cas des enfants, qui ne sont pas capables de comprendre que la mort est universelle et irréversible avant l’âge de 7 ans.

Pour Robert LoCascio, il s’agit là de fantasmes : « Bien sûr que les gens savent reconnaître un chatbot vocal d’une personne en chair et en os ». Il ne s’inquiète pas plus d’une IA délirante. L’important, selon lui, est que les clients et clientes choisissent le périmètre de leur bot. « On peut décider si l'IA répondra à des questions généralistes ou pas. Michael, par exemple, a décidé que son IA pourrait répondre à des questions sur les voitures parce qu'il les aimait, mais pas sur la politique parce que ce n'est pas un sujet qu'il abordait. « Il voulait que son IA ait un point de vue sur les évènements futurs en se fondant sur ses systèmes de croyances », continue l’entrepreneur.

Jacques Cherblanc doute qu’un deadbot puisse aider à traverser un deuil. « Si le deadbot reprend ce que la personne a dit dans le passé, il ne sera pas symbolique, ce sera une création artificielle, figée, qui ne sort pas du cadre des données », résume l’anthropologue. Tout l’opposé de la mémoire. « Nous ne nous souvenons pas de la personne telle qu'elle était réellement, on fait le tri, on prend ce qu'on pense qui peut nous être utile à un moment précis. On fait appel à une vision idéalisée, de façon négative ou positive, de la personne décédée », explique-t-il. En revanche, la psychologue Marie-Frédérique Bacqué estime que c’est justement parce qu’ils sont virtuels que les deadbots peuvent être utiles : « Dans les cas de morts traumatiques, les gens ne peuvent souvent pas regarder les photos, peut-être qu'un deadbot pourrait offrir une alternative. » À moins qu’ils entraînent un deuxième choc…

Personnes vulnérables, s’abstenir

Faute de recul et d’études, impossible de savoir si cet outil sera réconfortant ou traumatisant pour des personnes qui ont perdu des proches dans des conditions violentes et rapides. Ce qui est sûr, c’est que, dans ces situations, les proches sont particulièrement vulnérables et susceptibles d’être exploités. Différents papiers scientifiques s’inquiètent de la possibilité que des entreprises proposent des publicités avec la voix de la personne décédée ou imposent des abonnements de plus en plus chers, et difficiles à résilier émotionnellement. « Il est évident qu'il faut encadrer cette pratique », estime la directrice du Centre international des études sur la mort. 

Le développement des deadbots nous pousse aussi à agir rapidement sur la question de la propriété des souvenirs virtuels d'une personne, qui reste en suspens. Qui est propriétaire des données d’un deadbot ? L’entreprise ou les descendants ? Comment y accéder de façon indépendante ? En l’absence de régulation, les entreprises peuvent agir à leur guise. Les sites des services les plus connus, comme Storyfile et Hereafter, ne mentionnent pas qui les possède. Sur sa page « éthique », Eternos se veut rassurante : « Tout le contenu utilisé pour la créer appartient au propriétaire de l'IA. Le propriétaire de l'IA détermine le sort de l'IA à son décès ». Pendant l’interview, Robert LoCascio ajoute que son service respecte le RGPD. 

Se perdre dans l’IA 

La plus grosse inquiétude est que ce type d’IA prenne trop de place dans la vie des gens, qu’ils ne vivent plus qu’à travers leur relation avec le deadbot, qui prendrait sur eux une sorte d’emprise. « C'est Hollywood, c'est L'Odyssée de l’espace, c’est Black Mirror, etc., qui ont construit ce récit de machines qui auraient des pratiques bizarres », estime Robert LoCascio. Pour lui, il n’y a pas à craindre un outil qui n’est ni plus ni moins qu’un nouveau support mémoriel, au même titre qu'un album photos ou un journal intime. Marie-Frédérique Bacqué est du même avis et ajoute que « si le deuil est normal, c’est-à-dire non pathologique, la personne va se détacher d'elle-même de ces représentations du mort, parce que le deuil consiste à reconnaître que la personne est définitivement absente. »

Pour Robert LoCascio, Eternos n’est de toute façon pas une entreprise du deuil – « Le processus de deuil ne peut pas être accéléré en s'adressant à l'AI », estime-t-il. L’IA d’Eternos est avant tout un outil de transmission. « Par nature, les gens veulent transmettre des histoires, explicite l’entrepreneur. C'est la raison pour laquelle les médias sociaux sont importants : les gens partagent des histoires sur leur vie. » Historiquement, ces histoires passaient de génération en génération et « nous donnaient le sentiment d’un lien avec notre propre vie. Nous avons perdu ce sens parce que nous ne vivons plus à proximité les uns des autres », déplore-t-il. Son objectif avec Eternos est d’offrir un outil plus puissant et interactif pour partager ces récits fédérateurs.

Même si les « IA interactives de préservation de l'héritage », comme il les appelle, sont destinées à survivre à leurs créateurs, Robert LoCascio note que ses clients et clientes sont dans l’écrasante majorité loin de mourir. Le service attire aussi bien des personnes qui veulent une IA pour expliquer le fonctionnement de leur maison connectée de façon interactive que des personnes qui veulent expliquer leur vie à un enfant perdu de vue, compléter un travail généalogique ou documenter leurs souvenirs et opinions pour les redécouvrir quelques décennies plus tard. L’entreprise espère également pouvoir développer son service pour accompagner les personnes souffrant d’Alzheimer. 

L’entrepreneur semble regretter que son service soit réduit dans les médias à un deadbot. Mais c’est peut-être un bon signe. Et si notre fascination pour les IA qui redonnent une voix aux défunts et défuntes était notre façon de parler de la mort, dans une culture qui en a fait un sujet tabou ? Et si c’était notre façon de préserver des liens avec nos morts que notre culture occidentale nous impose de couper ? Ou l’expression de notre incapacité à accepter les limites de notre condition ?

Comité consultatif national d'éthique pour les sciences de la vie et de la santé : Le CCNE est un organisme consultatif français, dont la mission est de « donner des avis sur les problèmes éthiques et les questions de société soulevés par les progrès de la connaissance dans les domaines de la biologie, de la médecine et de la santé ». Il a été envisagé à la suite de la naissance d'Amandine, le premier bébé français conçu par fécondation in vitro en 1982. Le Comité consultatif national d'éthique a été créé par décret du président François Mitterrand en 1983.