Impact AI, l'outil qui veut « façonner la réalité » pour le bien de l’humanité

Une intelligence artificielle qui permet d’industrialiser l’astroturfing pour contrer la désinformation sur X… Qu’est-ce qui pourrait mal tourner ?

Imaginez un outil qui permet de coordonner des centaines, voire des milliers d’internautes en leur fournissant des éléments de langage générés par intelligence artificielle. En fonction de leur profil, les utilisateurs auraient accès à des messages écrits et orientés de manière personnalisée qu’ils pourraient immédiatement poster sur les réseaux comme X pour participer à une polémique et donner des arguments capables de convaincre les autres lecteurs. Cet outil, qui permet de « façonner la réalité » comme il se vante, existe déjà et s’appelle Impact AI. Mais rassurez-vous, il est censé permettre de lutter contre la désinformation.

L'astroturfing, qu'est-ce que c'est ?

Si cette stratégie de communication vous dit quelque chose, c’est normal, elle possède un nom bien à elle : l’astroturfing. Particulièrement présente sur Twitter/X depuis que la plateforme est devenue influente auprès des journalistes et des personnalités politiques, cette méthode, plutôt malhonnête, permet de donner l’impression qu’une masse d’internautes représentant « la majorité silencieuse » se mobilise pour ou contre une cause ou une opinion. Les militants d’extrême droite, ou les activistes liés à l’agro-industrie, en sont particulièrement friands et l’utilisent pour rebondir sur des faits divers ou des polémiques tournant autour des pesticides et des herbicides. Il suffit généralement de coordonner un groupe d’activistes sur des canaux privés comme WhatsApp ou Telegram afin de les faire réagir au même moment. La plupart de ces cybermilitants possèdent plusieurs comptes, voire une armée de bots qu’ils peuvent activer simultanément afin de donner cette fameuse illusion de réaction en masse.

L’idée derrière Impact AI serait donc d’utiliser cette même méthode de manipulation pour lutter contre la désinformation en ligne. Dans un article de 404 Media consacré à ce projet, les fondateurs Dmitry Shapiro et Sean Thielen expliquent que ce prototype existe parce qu’il serait « inévitable ». « Les réseaux sociaux ne deviennent pas plus propres, plus agréables et plus représentatifs de la réalité, ils ne font qu'empirer », indique Thielen. Quelqu'un va devoir créer une sorte d'outil qui élève la voix des gens ordinaires et leur permet de s'engager collectivement en temps réel pour pouvoir provoquer un quelconque changement ici. »

Lutter contre la désinformation ou dénigrer les décisions de justice ?

Si la bonne volonté du duo d’informaticiens fleure bon l’accélérationnisme (une idéologie qui consiste à disrupter au maximum la société avec la technologie), elle sent aussi l’improvisation ainsi qu’un considérable manque de garde-fous. Dans les documents internes visionnés par le journaliste Emmanuel Maiberg, Impact AI met en scène un exemple de cas pratique censé prouver que leur outil peut lutter contre l’antisémitisme. Sean Thielen montre une campagne censée répondre à un tweet factuel sur une décision de la Cour internationale de justice (CIJ) concernant l'illégalité de la présence d'Israël dans les territoires palestiniens occupés. Un groupe de supporters virtuels inonde ces tweets générés par IA critiquant la CIJ et soutenant Israël. Les réponses incluent des points de discussion comme « La CIJ a une histoire connue d'antisémitisme » et « Où est la décision de la CIJ sur le Hamas ? ». Le tout donne l’illusion d’une discussion organique et variée.

Interrogé sur le choix de cet exemple précis, qui prouve justement que son outil peut servir à semer le doute sur une décision venant de l’une des plus hautes instances judiciaires au monde, Thielen raconte qu’il n'a pas beaucoup réfléchi aux détails de la démonstration et qu’il a « simplement tapé "Israël" dans la recherche Twitter et cliqué sur le premier élément sans le regarder ». Dans l’article de 404 Media, on tente de rassurer les lecteurs en indiquant que l’outil n'est encore qu’au stade de prototype et qu’aucune initiative ne l'utilise actuellement. Ça ne durera sans doute pas.