habillage
premium1
premium1
Une femme fait le signe stop de la main à Shanghai
© MarsYu via GettyImages

Chine : un ex-modérateur de ByteDance explique les pressions du gouvernement sur les réseaux sociaux

Le 22 févr. 2021

Un ancien salarié de ByteDance raconte au média Protocol comment les algorithmes de modération de Douyin (l’équivalent de TikTok en Chine) servent à la censure et l’effacement de certains événements de la mémoire collective.

Li An (il s’agit d’un pseudonyme) travaillait chez ByteDance, l’entreprise qui détient le réseau social TikTok et sa version originale chinoise Douyin. Pour le média américain Protocol, il décrit comment il a contribué à développer les algorithmes permettant de censurer la parole des utilisateurs chinois.

Cet ancien salarié officiait au sein d’une équipe de 150 ingénieurs et 50 responsables produits, épaulée par une horde de 20 000 modérateurs. Le rôle de Li An était de faire en sorte que les algorithmes facilitent au maximum le travail des modérateurs, qui doivent supprimer les vidéos et comptes problématiques. Les outils créés par son ancienne équipe permettent de retranscrire en direct toutes les vidéos postées. Des algorithmes comparent ensuite le texte à une liste de mots sensibles, de dates et de noms. Et les utilisateurs qui parlent dans un dialecte issu d’une minorité ethnique (dont les Ouïghours) sont automatiquement identifiés, puis une notification les invite à passer au mandarin. S’ils ne s’exécutent pas, leur contenu est supprimé. Les influenceurs bénéficient d’un traitement spécifique : ils ont chacun leur modérateur attitré. Les plus populaires sont exemptés de tout mécanisme de censure.

Des centaines de directives par jour 

Li An explique que les Chinois étant tellement habitués à s’auto-censurer, peu de vidéos politiques sont finalement supprimées par les équipes de ByteDance. Mais des consignes très précises, parfois plus de 100 par jour, leur sont directement données par l'Administration chinoise du cyberespace. Pour les entreprises de la tech, respecter les consignes du gouvernement est une « question de vie ou de mort », juge-t-il.

L’ex-salarié explique se sentir coupable du travail qu’il effectuait. En février 2020, « de nombreuses entreprises tech chinoises supprimaient activement des messages, des vidéos (...) qui ne faisaient pas partie de la "mémoire collective officielle" validée par le gouvernement au sujet du Covid-19, écrit-il. Imaginez : si un réseau social avait rejeté les directives du gouvernement et conservé les avertissements des lanceurs d'alerte, peut-être que des millions de vies auraient été sauvées. »

Marine Protais - Le 22 févr. 2021
À lire aussi
premium2
premium2

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.