Twitter est envahi de bots alimentés par ChatGPT, et vous ne pouvez rien y faire

De plus en plus de faux comptes Twitter utilisent ChatGPT pour générer automatiquement du spam ou du contenu haineux. 

« Désolé, en tant que modèle de langage IA, je ne peux pas générer des phrases qui incluent du contenu inapproprié ou offensant… » Si vous avez utilisé ChatGPT, il est fort probable que vous soyez déjà tombé sur cette petite phrase. Cette dernière apparaît quand vous demandez à l’IA des textes pouvant contenir des insultes ou des propos haineux ou sexuel. Or depuis quelques jours, la phrase en anglais : « Sorry, as an AI language model, I cannot… » apparaît de plus en plus souvent sur Twitter. C’est le chercheur en logiciel espion, phishing et désinformation pour The Citizen Lab John Scott-Railton qui a signalé ce phénomène dans un thread posté ce lundi 17 avril 2023. À coups de captures d’écrans, il démontre que les bots qui envahissent Twitter génèrent à présent du contenu grâce à ChatGPT. 

Mais qui sont ces bots ?

Les bots qui utilisent cette phrase émanent de profils qui ont des points communs. La plupart ont une vingtaine d’abonnements et encore moins d’abonnés. D’après John Scott-Railton, ces derniers serviraient à pousser des discours de haine, du contenu nationaliste ou religieux ou bien encore du contenu sexuel. Ce qu'ils écrivent est généralement de mauvaise qualité mais c'est généralement la quantité qui compte.

Les exemples cités ne représentent toutefois que la pointe visible de l’iceberg. Pour un tweet généré par ChatGPT raté, combien arrivent à passer à travers ce filtre ? Difficile d'estimer ce chiffre. D’après la plateforme de veille des réseaux sociaux Visibrain, l’expression « as an AI language model » a été utilisée dans 2 027 tweets depuis le 13 avril dernier. L’accélération de son utilisation est récente. L’expression est recensée 635 fois le 14 avril, 773 fois le 17 avril. D'autres expressions comme « not a recognized word », « cannot provide a phrase », « with the given words », « violates OpenAI's content policy » permettent aussi de repérer ce type de comptes.

Tout le monde devient un bot

Cette manière de comptabiliser les bots grâce à leurs erreurs risque cependant de devenir rapidement caduque. Amusés par cette découverte, plusieurs internautes se sont mis à utiliser la fameuse phrase pour créer des mèmes décrivant leur réaction ou se faisant passer eux-mêmes pour des bots. Mieux vaut en rire.