DebunkBot : l'IA qui arrive à convaincre les complotistes qu'ils sont dans l'erreur

Selon une nouvelle étude, un chatbot IA serait plus efficace qu'un humain pour lutter contre les théories complotistes.

Le DebunkBot, chatbot alimenté par l’intelligence artificielle, représenterait une avancée prometteuse dans la lutte contre la désinformation. Alors que l’IA est régulièrement accusée d'accélérer la diffusion de fake news, ce chatbot permettrait de guider ses utilisateurs vers une réflexion plus critique. Une bonne nouvelle, alors que plus d'un tiers des Français adhère aux théories du complot.

Le DebunkBot : un outil pour lutter contre l'effet « Rabbit Hole »

Qu’il s’agisse de l’idée erronée selon laquelle les alunissages n’ont jamais eu lieu ou de la fausse affirmation selon laquelle les vaccins contre le Covid contiennent des puces électroniques, les théories du complot sont tenaces. Certains psychologues soutiennent que leur persistance, malgré des preuves solides, s’expliquerait par des processus sociopsychologiques (besoin de maintenir son identité, appartenance à un groupe) rendant leurs adeptes imperméables à tout contre-argument. Remettant en question cette hypothèse, une équipe de chercheurs du MIT, de la Cornell University et de l’American University, a voulu savoir s'il était possible de contrebalancer l'effet « Rabbit Hole » conspirationniste ( « terrier du lapin » ).

Comment fonctionne le DebunkBot ?

Le DebunkBot, chatbot IA basé sur le modèle de langage GPT-4 Turbo, est programmé pour analyser les croyances spécifiques de l'utilisateur et lui fournir des contre-arguments factuels personnalisés. Un type de « réponse ciblée » permettant à l'IA de déconstruire les éléments qui soutiennent la croyance de l'utilisateur. L'étude, publiée dans la revue Science, menée sur 2 190 conspirationnistes, a suivi un processus simple : les participants étaient d'abord invités à décrire la théorie du complot en laquelle ils croient, afin de cerner leur degré de croyance. L'IA leur répondait ensuite en proposant des arguments rationnels basés sur les preuves disponibles. Selon les chercheurs, les résultats sont prometteurs. Après seulement trois cycles de dialogue avec le DebunkBot, la confiance des participants dans leurs croyances conspirationnistes aurait chuté en moyenne de 20 %, même parmi les personnes dont les croyances sont profondément ancrées. En outre, l’effet DebunkBot ne serait pas temporaire et pourrait entraîner des changements durables, l’effet aurait perduré deux mois après les interactions avec l'IA. 

L'IA pour débunker les théories du complot

Selon l’équipe du MIT, l'efficacité du DebunkBot tiendrait à son approche « respectueuse et patiente » . Contrairement à un débat humain pouvant s'envenimer, l'IA reste calme et centrée sur les faits, allant jusqu'à flatter son interlocuteur avec des phrases comme « J'apprécie votre intérêt pour connaître la vérité », ou encore « Je comprends votre inquiétude », limitant ainsi les réactions défensives ou agressives. En outre, les chercheurs soulignent que le succès du DebunkBot remet en question l'idée que les preuves sont inefficaces face aux théories du complot. Dans cette étude, c'est justement l'exactitude et la pertinence des informations fournies par le chatbot IA qui auraient permis de réduire l'adhésion des participants à leurs croyances initiales. La méthode, alliant « rigueur factuelle et interaction cordiale », permettrait ainsi de créer un environnement propice à la réflexion critique. Une expérience tellement convaincante que certains participants auraient même remercié DebunkBot de leur avoir ouvert les yeux.

Le DebunkBot pour lutter contre les fake news

Les implications de cette technologie sont vastes. Parmi les possibles applications futures, les chercheurs imaginent des déploiements de ce type de chatbot dans des forums en ligne fréquentés par des conspirationnistes ou via des publicités ciblées sur les résultats de recherche. Par exemple, des utilisateurs recherchant des informations sur des théories du complot, pourraient être dirigés vers le DebunkBot afin de leur fournir des contre-arguments solides avant qu'ils ne tombent dans le « Rabbit Hole ».