Détecter, imiter, déclencher, voire manipuler : les intelligences artificielles affectives colonisent nos interactions quotidiennes. Au Collège de France, chercheurs et experts ont tenté, lors des Conversations À/Venir organisées par l'Institut Louis Bachelier et la Fondation BNP Paribas, de démêler le vrai du faux, le prometteur de l'inquiétant.
En 2013, Spike Jonze imaginait dans Her un homme tombant amoureux d'un système d'exploitation doté d'une voix humaine. Une fiction. Onze ans plus tard, OpenAI lançait Sky, une voix pour ChatGPT dont la ressemblance avec celle de Scarlett Johansson - qui avait pourtant refusé de la prêter - fut prouvée acoustiquement. Sam Altman commentait le lancement d'un seul mot sur X : Her.
Ce basculement du romanesque au réel résume toute la tension que venait explorer, lors d'une nouvelle édition des Conversations à venir, le 9 juin au Collège de France, réunissant chercheurs, praticiens et décideurs : Laurence Devillers, professeure en IA et éthique à Sorbonne Université et chercheuse au CNRS, Nadia Guerouaou, docteure en neurosciences cognitives au Centre Internet et Société du CNRS, Grégoire Darcy, doctorant en sciences cognitives à l'École Normale Supérieure, et Su Yang, responsable de l'IA et de l'innovation IT au sein du groupe BNP Paribas.
Autour d'une même question : que fait l'IA à nos émotions, et que font nos émotions à l'IA ?
Les machines ne ressentent pas, elles calculent
L'IA n'est pas née en 2022 avec ChatGPT. Laurence Devillers le rappelle d'emblée : elle a quatre-vingts ans, née d'un premier neurone formel en 1943, nommée en 1956, accélérée par les GPU en 2010, bouleversée par l'algorithme Attention Is All You Need en 2017. Ce rappel généalogique n'est pas anodin. Il sert à poser le cadre d'une démystification rigoureuse.
L'IA affective, explique la chercheuse, mobilise des réseaux de neurones pour détecter les émotions à partir de signaux multimodaux : énergie sonore, expressions faciales, paramètres physiologiques captés par une montre connectée. Elle peut détecter, interpréter, susciter et imiter des émotions humaines apprises dans d'immenses corpus. Elle peut même prédire et potentiellement manipuler les états affectifs.
Mais elle bute sur un obstacle fondamental : les qualia. « Un qualia, c'est un ressenti intérieur subjectif : ressentir la douleur, le froid, la joie. Ces expériences de vie, les machines ne les ont pas. Sans corps, sans qualia, sans intention. » Exemple concret : on peut pleurer de joie. Sans contexte culturel ni personnel, un système d'IA dira simplement : vous êtes triste. La chercheuse convoque Antonio Damasio : « On ne peut pas être rationnel si on n'est pas émotionnel » ou encore les travaux de Stanislas Dehaene sur les niveaux de conscience pour montrer que si l'IA maîtrise le traitement non conscient de l'information (niveau C0), elle est encore loin de la conscience de soi, de l'introspection et de la métacognition (niveau C2). Quant aux affirmations d'Anthropic selon lesquelles ses modèles seraient « à 15 % conscients », Laurence Devillers est formelle : aucun chercheur académique ne peut vérifier de telles déclarations, et cette opacité est inacceptable.
La métamorphose silencieuse de nos émotions
Que se passe-t-il dans nos cerveaux quand une voix synthétique adoucit notre intonation, ou quand un filtre corrige notre expression en temps réel ? La réponse de Nadia Guerouaou est aussi précise qu'inquiétante. La chercheuse a développé le concept d'e-affectivité pour désigner ces technologies qui s'immiscent entre le monde et nous pour paramétrer nos émotions. Elle cite la technologie Soft Voice de Softbank, qui gomme en temps réel la colère dans la voix des clients mécontents appelant des centres d'appel. Protection des salariés, dit le fabricant. Transformation de nos subjectivités, répond la chercheuse. Car les travaux de Jean-Julien Aucouturier à l'Ircam montrent quelque chose de vertigineux : « À partir d'une production artificielle, on a des émotions ressenties qui sont bien réelles. » Quand on demande à ChatGPT de réécrire un mail pour le rendre empathique, on délègue notre expressivité émotionnelle. Et cette délégation nous transforme, petit à petit.
La projection en 2030 est saisissante : des dispositifs portables inférant notre état émotionnel en temps réel pourraient un jour adapter le sourire de nos visages en visioconférence ou filtrer la tonalité de nos interlocuteurs selon notre humeur du moment. Des chercheurs japonais ont déjà montré que créer des sourires artificiels en réunion augmentait la productivité. Le futur, comme l'a formulé un collectif de science-fiction, « a une gueule d'accident de voiture » .
Grégoire Darcy apporte, lui, un éclairage cognitif inattendu. Des expériences comparant des poèmes écrits par Byron à d'autres produits par ChatGPT 3.5 ont montré que les participants jugeaient spontanément les textes de l'IA comme plus profonds et plus humains, avant de les rejeter une fois la vérité révélée. Mais voilà le paradoxe : leurs comportements réels de consommation (temps de lecture, disposition à payer) ne suivaient pas leurs déclarations. Les gens continuaient de consommer le contenu IA. « Cette panique morale et technologique est réminiscente de celle de la photographie », analyse-t-il. À l'arrivée de l'appareil photo, on a dit que la peinture était morte. Il a fallu apprendre à distinguer ce qui relevait de la technique de ce qui relevait du choix personnel. Il faudra faire de même avec l'IA, non sans lucidité sur ce qui est en jeu.
De l'interface à l'interlocuteur
Su Yang, qui travaille sur les sujets d’intelligence artificielle au sein du groupe BNP Paribas, engagé sur ces technologies depuis près de dix ans, identifie avec précision le saut qualitatif introduit par les modèles génératifs : « On passe d'une interface à un interlocuteur. » Il cite sur ce point Henri Laborit : « Nous ne sommes humains qu'à travers le langage qui intègre l'expérience de tous les hommes qui nous ont précédés. » Le risque est alors de confondre la qualité de communication avec la qualité du jugement. Un LLM parle bien. Cela ne signifie pas qu'il pense juste.
Sur le terrain, les changements sont déjà profonds : développeurs, data scientists, conseillers bancaires, asset managers travaillent tous différemment. Et la pression ne vient pas seulement de l'intérieur : des clients arrivent désormais armés d'agents IA, obligeant les conseillers à redoubler d'expertise sur les produits qu'ils vendent. Face à ces bouleversements, BNP Paribas a mis en place des dispositifs dédiés pour encadrer l’usage de l’IA, notamment avec une filière de responsible AI officers, des formations obligatoires sur l'éthique et les biais, une charte à signer avant tout accès aux plateformes IA, et des hackathons pour construire ce que Su Yang appelle un nutriscore de l'IA responsable. Son message principal : « Ce qui compte, ce n'est pas seulement qui développe le modèle, c'est qui gouverne le système dont le modèle fait partie pour prendre des décisions. »
L'AI Act européen, premier cadre réglementaire mondial sur l'IA, impose d'ores et déjà que les systèmes à haut risque soient supervisés par un humain. Le RGPD garantit qu'aucune décision ayant un impact significatif ne peut rester purement algorithmique. Sur le plan industriel, Su Yang rappelle un atout stratégique souvent négligé : ASML, aux Pays-Bas, détient 90 % du marché mondial des machines de lithographie pour la fabrication des puces. L'Europe a des cartes à jouer.
Une rupture anthropologique qui appelle une réponse politique
Laurence Devillers refuse de se résigner et tient cependant à dissiper une illusion répandue : celle qui rangerait la révolution de l'IA générative dans la même catégorie que l'arrivée de la photographie ou de la calculatrice. « On est devant une rupture anthropologique bien plus forte que tout ce qu’on n’a jamais vu. Ces machines sont capables, à travers la recombinaison, de produire des idées. » Ce qui est en jeu, ce n'est pas seulement la productivité ou la création artistique, c'est la fabrique même de la connaissance, et donc la capacité des générations futures à penser par elles-mêmes.
Ses recommandations sont concrètes : des filigranes pour identifier les contenus humains dans les arts et la littérature ; un investissement massif dans la cybersécurité ; une équation économique honnête sur le coût réel de l'IA ; et, plus fondamentalement, une éducation qui cultive la curiosité, la créativité et l'esprit critique. Précisément les dimensions que les machines ne possèdent pas.
Grégoire Darcy abonde, tout en rappelant que l'IA peut aussi être un pharmakon au sens platonicien : remède autant que poison. Des déploiements existent pour la traduction démocratique, le fact-checking automatique, la lutte contre le complotisme. « Il y a des façons de déployer l'IA qui peuvent pousser dans des directions opposées aux problèmes qu'elle soulève. » Nadia Guerouaou, auditionnée par le Sénat, a pour sa part plaidé pour réguler - voire interdire - l'alignement émotionnel dans les IA génératives grand public, dont les effets négatifs sur les comportements prosociaux et l'esprit critique sont désormais documentés.
La conclusion, au fond, est celle-ci : réfléchir à l'éthique de l'IA n'est pas être anti-progrès. Mais c'est reconnaître qu'il existe une illusion de neutralité dans des outils pilotés par des géants du numérique dont les valeurs ne sont pas nécessairement les nôtres.
Cette édition des Conversations À/Venir s'inscrit dans une série organisée par l'Institut Louis Bachelier et la Fondation BNP Paribas, dont L'ADN est partenaire.
Participer à la conversation