Amis, amants, mentors, thérapeutes, enseignants virtuels… un effet « extrêmement addictif »

Les compagnons IA s'installent dans notre quotidien jusqu’à remplacer les interactions sociales IRL. Les chercheurs du MIT s'inquiètent.

Si l'IA s'est infiltrée dans de nombreux secteurs économiques, provoquant une véritable révolution numérique, la sphère de l'intime n'est pas en reste. Selon Robert Mahari et Pat Pataranutaporn, chercheurs au MIT Média Lab : « Nous assistons à une expérience géante dans le monde réel et on ne sait toujours pas quels impacts ces compagnons IA du quotidien auront, tant au niveau individuel que sur la société dans son ensemble. »  

Le pouvoir de séduction des IA

Les pires projections imaginent souvent des scénarios catastrophes dans lesquels les outils échappent au contrôle humain. Mais, selon Mahari et Pataranutaporn, les préoccupations liées à l’IA mettent davantage l’accent sur les préjudices découlant de la subversion (action sur l'opinion) plutôt que sur la séduction. Pourtant, au-delà de ces scénarios apocalyptiques, il existerait des préjudices à plus court terme : « Nous prévoyons une classe de risques différente, mais non moins urgente : ceux découlant des relations avec des agents non humains. » Selon les deux chercheurs, qui ont analysé un million de journaux d'interaction ChatGPT : « La compagnie de l'IA n'est plus théorique. » Un compagnon virtuel, toujours à disposition, c’est tentant. L’analyse des journaux a révélé que la deuxième utilisation la plus populaire est le jeu de rôle sexuel. Parmi les autres usages, ils notent la composition créative, la réflexion et la planification, ou encore la demande d’explications et d’informations générales.

Nous devons nous préparer à une « intelligence addictive »

Des assistants vocaux aux GPS, en passant par les recommandations personnalisées, l'IA est désormais omniprésente dans notre quotidien. Mais si elle peut être considérée comme une aide dans un monde saturé d'informations, permettant de prendre des décisions éclairées et de gagner du temps, l'omniprésence des IA pourrait entraîner une érosion de certaines compétences humaines essentielles. Selon les deux chercheurs : « Nous devons nous préparer à une "intelligence addictive" ». Réflexion critique, résolution de problèmes, prise d'initiatives… Se reposer sur les IA pourrait limiter notre autonomie personnelle, quitte à nous rendre vulnérables en cas de défaillance des systèmes, ou pire, de manipulation des outils. 

Impact des IA sur les relations humaines

L’analyse a également révélé un niveau de langage « intime » suggérant la formation de liens profonds avec les IA. Un constat corroboré par OpenAI dans un rapport de recherche intitulé « System Card » . L'entreprise admet que la « dépendance émotionnelle » pourrait être accrue par son nouveau Chatbot. Parmi les principaux risques identifiés : « l'anthropomorphisation ». Un phénomène qui se manifeste lorsque les utilisateurs attribuent des comportements et des caractéristiques humaines à des entités non humaines (objets, des animaux…). Lors de tests préliminaires concernant la version GPT-4o, OpenAI a ainsi observé que les utilisateurs utilisaient un langage témoignant qu'ils avaient établi des connexions profondes avec l’outil. Signe de cette humanisation des IA, le nom qu'on leur attribue. « Dans une forme d’anthropomorphisme, les assistants de vie sont souvent affublés de prénoms. Alexa et autres Siri avec leur voix docile et suave sont la projection de caractéristiques humaines. Comme un membre de la famille supplémentaire. On s’adresse à un robot, un individu, un programme, une machine, une interface, chacun trouvera le terme qui lui convient. Et puis il y a ceux qui disent : « Bah non, c’est Alexa ». Indique Louis de Diesbach, éthicien de la technique à la RTBF.

Au-delà de la question de l'attachement émotionnel, les chercheurs s’inquiètent également des répercussions que pourrait engendrer la « cohabitation » régulière et prolongée avec des compagnons IA. « Les systèmes sont à la fois supérieurs et soumis, avec une nouvelle forme d’attrait qui peut rendre illusoire le consentement à ces interactions. » Une inquiétude justifiée si l'on se base sur les déclarations d'OpenAI qui indiquent que ChatGPT est programmé pour être « déférent » , permettant aux utilisateurs d'interrompre et de prendre le contrôle des conversations. La normalisation de telles attitudes pourrait alors avoir un impact négatif sur les relations sociales traditionnelles, voire dangereux dans les cas où le consentement est nécessaire. 

Les risques de dépendances aux « compagnons flagorneurs »

Télé, Internet, réseaux sociaux… Chaque nouvelle innovation a suscité son lot de craintes concernant son caractère addictif. Mais ces médias restent cependant limités par les capacités humaines. L’IA générative est quant à elle différente. Elle exerce le « charme collectif de toute l’histoire et de la culture humaine avec un mimétisme infini et séduisant », selon les deux chercheurs. Sans préférence, ni personnalité propre, elle reflète uniquement ce que les utilisateurs pensent d’elle. Un phénomène connu par les chercheurs sous le nom de « flagornerie », créant une chambre « d’écho d’affection » ouvrant la voie à des phénomènes de dépendance extrême. Selon Mahari et Pataranutaporn, ces « compagnons flagorneurs » pourraient à terme engendrer des formes « d’atrophie sociale et de troubles de l’attachement » , limitant in fine nos capacités d’engagement avec les autres humains. Le risque ? Un sentiment accru d'isolement et d'aliénation, malgré la connectivité accrue que l'IA semble nous offrir. « Dans cette relation avec la machine, on renonce à énormément de choses qui font notre humanité, qui réside dans le rapport à autrui », indique Louis de Diesbach.

Anthropomorphisation, dépendance émotionnelle, soumission… Autant d'effets qui inquiètent. Dans une société où l'isolement et la solitude sont le quotidien de nombreuses personnes, les chercheurs redoutent particulièrement l'exploitation à des fins mercantiles de cette propension à créer du lien « pour nous rendre accros » .