Cyberharcèlement, partage de nudes : pourquoi la modération de Discord laisse à désirer ?

Malgré son système de modération qui responsabilise ses utilisateurs, la plateforme est régulièrement pointée du doigt pour son inaction face aux problèmes de harcèlement sexuel et de grooming.

Moins connu que Snapchat ou TikTok, Discord est pourtant un élément central de la culture numérique des internautes les plus jeunes. Si l’utilisation de la plateforme pouvait être considérée comme marginale avant le confinement, cette dernière a véritablement explosé depuis. Discord est passée de 56 millions d’utilisateurs actifs mensuels en 2019, à presque 165 millions en 2022. Très liés au milieu du gaming et du streaming, les serveurs sont aussi des lieux de rencontre et de discussions pour les collégiens et les lycéens. 

Cette croissance explosive n’est pas sans conséquences négatives. Comme nous l’avions révélé dans cet article sur le serveur L’internat, certains forums très populaires servent de points de rassemblement à des prédateurs sexuels. Ces derniers peuvent y partager des photos volées ou bien pratiquer du grooming, une technique de manipulation visant à obtenir des nudes de la part de jeunes filles mineures. 

Face à ce problème, Discord est peu réactif, même quand les internautes tirent la sonnette d’alarme. Le système de modération repose essentiellement sur les utilisateurs eux-mêmes qui sont en charge de s’organiser pour modérer les serveurs. Pour en savoir plus, nous avons demandé à Romain Chibout, coordinateur 3018, la plateforme d’écoute sur les cyberviolences, s’il recevait plus de plaintes venant du monde des serveurs. Sa réponse est sans appel. 

L’usage de Discord a explosé ces dernières années. Avez-vous ressenti un changement dans les signalements que vous recevez ?

Romain Chibout : Depuis l’année dernière, on a remarqué une montée en puissance des signalements. Avant 2022, on était à 2 % des signalements pour cette plateforme. On est passé à 5 % en tout avec 150 signalements sur le dernier semestre. Ça reste toutefois moins fort que les signalements sur TikTok qui ont pris la première place, mais c’est une grosse progression. 

Quels sont les types de signalements que vous recevez ?

R. C. : Chaque plateforme possède généralement un type de signalement spécifique. Facebook et Twitter, c’est du harcèlement en ligne et des propos haineux, Snapchat c’est du vol de nudes, Instagram, c’est du chantage à la webcam… Pour Discord, on a beaucoup de cyberharcèlement, de discours haineux et racistes ou anti-LGBT+. Ça s’accompagne de doxing, une pratique qui consiste à rendre publics les numéros de téléphone et les adresses d’un internaute. Sur les serveurs plus généralistes, on est beaucoup sur du revenge porn et de diffusion de nudes ou de leaks issus de plateformes pornos comme Mym ou OnlyFan. Certains serveurs sont entièrement consacrés à la diffusion de ces photos volées. 

Comment se passe la modération chez Discord ?

R. C. : La politique de Discord est de ne jamais bannir un serveur entier, aussi problématique soit-il, mais plutôt de bannir un utilisateur qui a mal agit dans un serveur. On voit où est le problème quand on a un serveur de 4 000 personnes dont l’objectif principal est le partage de nudes. Il faut donc se battre avec eux, prouver que le serveur concerné est problématique dans son ensemble et que son ou ses créateurs le sont aussi. On doit justifier les infractions et souvent relancer la plateforme pour que des décisions tombent. 

Est-ce que le problème vient du fait que la modération est principalement gérée par les utilisateurs ?

R. C. : Il y a beaucoup de serveurs Discord qui possèdent une communauté positive qui gère leur propre modération, en sanctionnant les membres qui ne respectent pas la charte. Mais le souci est que ces utilisateurs ne sont pas pour autant bannis de la plateforme. De la même manière que Twitch, ils peuvent continuer à accéder à d’autres serveurs sans problème. Discord doit prendre ses responsabilités derrière, en sanctionnant doublement. Après avoir été supprimé d’un serveur, un utilisateur devrait être définitivement banni de la plateforme s’il fait l’objet d’un signalement. 

Quelles sont les raisons de ces défaillances de modération selon vous ?

R. C. : Je ne suis pas dans leurs bureaux, mais c’est un phénomène récurrent que l’on voit sur l’ensemble des plateformes. On lance un projet ou une entreprise qui va marcher ou pas, et si ça décolle, la modération est toujours le dernier des sujets. 

Quel conseil donneriez-vous aux jeunes en cas de problème ?

R. C. : La première étape, c’est de ne pas culpabiliser les victimes. Il faut savoir que les personnes victimes de grooming pensent toujours que c’est de leur faute alors qu’elles se font manipuler par des individus qui ont des méthodes très rodées. Ils savent comment avoir de l’emprise sur des jeunes filles ou des jeunes garçons. Il faut aussi pouvoir prouver juridiquement les choses. Donc il faut tout garder et copier, même si ça fait mal. Il faut enregistrer les messages vocaux, il faut faire des captures d’écrans de photos ou d’échanges écrits. Ce sont des preuves qui seront utilisées par la justice. Il faut aussi porter plainte, même si la personne qui nous a fait subir un harcèlement ou du grooming réside à l’étranger. Les polices de différents pays peuvent collaborer. Enfin il faut signaler le contenu à la plateforme et bloquer la personne pour ne plus être en interaction avec lui et sortir de son emprise.