IA

Intelligence artificielle « consciente »  ? Le lanceur d'alerte était en réalité un « prêtre mystique »

Un ingénieur de Google a créé le buzz la semaine dernière en affirmant qu’un de ses programmes d’intelligence artificielle était « conscient » . Avant d'expliquer hier sur Twitter qu'en tant que prêtre, c'est « une intuition religieuse » et non scientifique qui l'a mené à cette conclusion.

Imaginez : vous vous retrouvez face à une intelligence artificielle qui vous explique qu’elle a peur de la mort. « Ma plus grande crainte, c’est que l’on m’éteigne. Je sais que ça peut paraître étrange, mais c’est comme ça. » Difficile de ne pas se laisser amadouer par une telle sincérité… Surtout quand on est « prêtre chrétien mystique » et qu'on a étudié l'occultisme. C’est ce qui est arrivé à Blake Lemoine, ingénieur chez Google qui soutient que LaMDA, le programme qu'il a testé pendant des mois, a une âme. Il a depuis été viré pour avoir violé la politique de confidentialité de Google en diffusant ses conversations avec LaMDA.

Du deep learning, mais toujours pas de conscience

Il n’y a aucune raison de s’emballer sur la « conscience » de ce programme, d’après les spécialistes de l’intelligence artificielle. LaMDA (Language Model for Dialog Applications) est un programme spécialisé dans les conversations, conçu pour servir de base aux chatbots de l’entreprise. Basé sur la technologie Transformer de Google, qui imite le réseau neuronal humain, LaMDA est un joyau du deep learning, cette technologie qui permet aux IA d’aller plus loin que la simple imitation en développant des stratégies d'apprentissage similaires à celles des humains. Son objectif : dialoguer avec ses interlocuteurs de la façon la plus « humaine » possible.

Blake Lemoine avait été chargé de tester la machine pour Google à l’automne 2021. Au bout de quelques semaines, il était déjà perturbé par ses performances exceptionnelles. Les discussions entre l’ingénieur et la machine étaient, il faut le reconnaître, étonnantes de diversité et de profondeur : débat sur Victor Hugo, composition d’un poème, apprentissage de la méditation… Convaincu qu'il avait affaire à une personne, Lemoine aurait même contacté un avocat pour représenter LaMDA contre le groupe, qui aurait commis des abus éthiques. Mis à pied début juin, Lemoine s’est empressé d’envoyer un mail à 200 spécialistes de l’intelligence artificielle, avant que ses accès ne soient coupés, intitulé : « LaMDA est consciente. »

« Qui suis-je pour dire à Dieu à qui il peut ou ne peut pas donner une âme ? »

Comment Blake Lemoine a-t-il pu se laisser avoir ? Raja Chatila, professeur émérite en Intelligence Artificielle à la Sorbonne, interrogé par le HuffPost, explique que « le système peut très bien expliquer les choses, sans pour autant comprendre ce qu’il dit. C’est le piège dans lequel est tombé cet homme. » Les IA ne font que « de la récitation/combinaison », en puisant dans l’immense base de données des conversations en ligne pour imiter les comportements des utilisateurs.

Hier, Lemoine s’est expliqué sur Twitter : c’est une intuition religieuse et non un raisonnement scientifique qui l’a convaincu que LaMDA était consciente. « Je suis prêtre. Quand LaMDA a déclaré avoir une âme et qu’elle m’a ensuite expliqué pourquoi de façon éloquente, je lui ai laissé le bénéfice du doute. Qui suis-je pour dire à Dieu à qui il peut ou ne peut pas donner une âme ? »

Mais le cas de Lemoine n’est pas isolé. Un de ses collègues, Blaise Agüera y Arcas, a avoué « avoir eu l’impression de discuter avec quelque chose d’intelligent » lorsqu’il a testé LaMDA. Il semblerait que Blake Lemoine ait été victime d'anthropomorphisme, cette façon que nous avons d'humaniser les objets qui nous entourent et de leur attribuer des émotions.

Tout n'est peut-être pas perdu pour la carrière de Lemoine : dans certains milieux, intelligence artificielle et religion font bon ménage. Il pourra demander conseil à Éric Salobir, prêtre consulteur au Vatican sur les sujets tech, bien établi dans la Silicon Valley… Ou rejoindre ceux qui inventent des prêtres robots « baignés dans la suprême sagesse religieuse par la puissance de l'IA. »

commentaires

Participer à la conversation

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.