Plongée dans l'enfer psychologique des modérateurs Facebook

À Phoenix, une boîte emploie des modérateurs pour éliminer les contenus qui ne correspondent pas aux standards de la communauté Facebook. Et ce job n'est pas sans conséquences pour ceux qui le pratiquent. 

Vous adorez mater des vidéos sur le Net ? Il existe une boîte qui vous paiera pour ça ! Direction Phoenix en Arizona où se situe l'entreprise Cognizant. Votre travail ? Effectivement regarder des vidéos ou images... mais pas n'importe lesquelles. Uniquement celles qui impliquent des suicides ou des meurtres. Le but étant d'épargner l'utilisateur lambda de Facebook et de répondre aux « standards de la communauté ». Pour cela, il vous faudra éradiquer de la plateforme les « contenus montrant la nudité ou à connotation sexuelle », les déclarations haineuses, menaces crédibles ou attaques directes envers un individu ou un groupe, les contenus présentant une automutilation ou une violence excessive. Le tout pour 28 000$ par an, soit un peu plus de 24 600€. 

Bref, vous l'aurez compris, le job de modérateur consiste à se taper le sale boulot pour que tous les autres puissent surfer à peu près tranquilles. La mission ne vous a pas refroidi ? Lisez l'enquête du magazine en ligne The Verge qui raconte le quotidien de ces petites mains du Web. Les employés de l'entreprise américaine pètent les plombs, ou deviennent conspirationnistes quand ils ne font pas l'amour dans la salle d'allaitement pour tenir le coup. Ambiance.

Le bon filon de la modération

Le problème des modérateurs de contenus n'est pas nouveau. De nombreux médias se sont intéressés au sujet et ont publié des enquêtes à ce propos. En août 2018, Slate faisait paraître le témoignage de Nicola, originaire d'Amérique du Sud et vivant à Berlin. Le jeune homme travaille pour Arvato, une filiale du groupe Bertelsmann (géant des médias, société mère de RTL group) où on lui a promis un « easy work » pour de l' « argent facile ». En guise d'entretien d'embauche, on lui demandera s'il « aime les réseaux sociaux » . Réponse : « oui ». Embauché !  

Dans un documentaire pour la chaîne de télévision britannique Channel 4, des journalistes se sont infiltrés dans le même genre de centre, au Royaume-Uni cette fois. Même galère. Business Insider s'est intéressé en mars 2018 au témoignage de Sarah Katz. La jeune femme de 27 ans passait en revue jusqu'à 8 000 posts par jour pour le compte de Vertisystem, un sous-traitant de Facebook. La jeune femme affirmait être « désensibilisée à ce type d'image parce qu'(elle) en voyait trop».

Blague raciste, meurtre et violence

Retour aux États-Unis, au 2512 West Dunlap Avenue, où les 300 employés de Cognizant modèrent jour et nuit. Le journaliste Casey Newton, qui a signé l'enquête, a interviewé une douzaine de personnes qui travaillent ou ont travaillé dans l'entreprise. La plupart, embauchées sous close de confidentialité, ont préféré emprunter des pseudonymes. Toute la journée, ces invisibles nettoient les publication des fils Instagram et Facebook des utilisateurs pour respecter les règles des réseaux : « Voilà une blague raciste, décrit l'un d'eux. Voici un homme en train d'avoir une relation sexuelle avec un animal de ferme. Là c'est une vidéo d'un meurtre enregistrée par un cartel de la drogue. »  Et contrairement à Sarah Katz, beaucoup ne gèrent pas aussi bien l'exposition aux images violentes. Pire, beaucoup d'entre eux se considèrent « fucked », comprenez détruits. Et face à eux, aucune réaction de la part des supérieurs, qui se contentent d'être « passifs ».

« Les autistes devraient être stérilisés »

Mais les règles sont vagues, au point que le tri peut être tout bonnement hallucinant. Par exemple, l'un des employés a laissé passer « les personnes autistes devraient être stérilisées ». Facebook ne considère pas que l'autisme soit une « caractéristique protégée » comme la couleur de peau ou le genre. En revanche, s'il avait été écrit « les hommes devraient être stérilisés », le contenu aurait été banni. 

Face à ce flou, on demande pourtant aux employés une marge de manoeuvre minime, sous peine d'être virés. Selon l'article, certains collaborateurs virés deviendraient violents. Au point que l'un d'entre eux a décidé de venir travailler avec une arme pour se protéger, malgré l'interdiction de la boîte.

Stress post-traumatique et cours de yoga

Casey Newton décrit une ambiance surréaliste. Tandis que beaucoup déclarent souffrir de stress post-traumatique, la direction leur met à disposition une salle de yoga, un psy à mi-temps, et « Les gestes de la semaine de la gentillesse » sont affichés au mur. 

Tout le monde n'est pas malheureux chez Cognizant. Certains disent se sentir en sécurité et protégés par leur direction. « La plupart des choses que nous voyons est bénigne, vraiment bénigne. Ce sont des gens qui s'emportent. Ou d'autres qui signalent des photos ou des vidéos simplement parce qu'il ne veulent pas les voir - et non pas parce qu'il y a un problème avec le contenu. »  

En attendant, Cognizant emploie 3 000 personnes en Arizona et une succursale a récemment ouvert à Mesa pour 500 postes de plus. Une chose est sûre, la modération de contenu ne connaîtra pas la crise. Ceux qui la font, par contre, sont en plein dedans.

POUR ALLER PLUS LOIN :

Pourquoi les entreprises trouvent toujours des excuses à leurs (mauvaises) actions

Bon anniversaire Facebook ! L'enfant terrible de Mark Zuckerberg fête ses 15 ans

Hypersexualisation, violence, cyberharcèlement... Laisse pas swiper ton fils

Pour Facebook, votre vie privée vaut 17,50 euros