premium 1
premium1
une jeune fille enpleur devant un écran d'ordinateur
© KatarzynaBialasiewicz via Getty images

Pourquoi la loi Avia contre la cyber-haine pourrait favoriser la délation de masse

Le 3 juill. 2019

Les débats sur la loi Avia contre la « cyberhaine » ont commencé à l’Assemblée Nationale. Censé obliger les plateformes comme Facebook d’effacer les messages « manifestement illicites », le projet peut s’avérer dangereux et liberticide.

Tout partait d’une bonne intention. Après plusieurs années à déplorer la toxicité des réseaux sociaux et du harcèlement en meute, le gouvernement a fait voter un projet de loi censé lutter contre la « cyberhaine ». Porté par la députée LREM Laetitia Avia, elle doit obliger les grandes plateformes du web comme Google, Facebook ou Twitter à retirer en 24h, le contenu considéré comme « manifestement illicite ».

Sous cette expression obscure se cache en fait une multitude de critères qui ont été ajoutés au fur et à mesure des amendements. On y compte les messages à caractère racistes, sexistes, homophobes, terroristes, pédopornographiques, ou bien faisant l’apologie des crimes de guerre et des crimes contre l’humanité. Si les plateformes ne se plient pas à la loi, elles risquent une amende allant jusqu’à 4% de leur chiffre d’affaires. Tout ça pour rendre le web plus civilisé, où est le problème ?

Une modération trop rapide et sans discernement

Pour Fabrice Epelboin, enseignant dans la section Masters de l'Université de la Sorbonne CELSA ainsi qu'au Medialab de Sciences Po, la loi Avia va surtout inciter un autre type de comportement de meute. « La détection de ce type de contenu va être basée sur la délation, explique-t-il. Ça veut dire que n’importe quel groupe un tant soit peu organisé sur les réseaux pourrait signaler un contenu en masse et le faire effacer rapidement. Comme les plateformes n’ont que 24h pour réagir, elles vont déléguer cette tâche de vérification à des armées de petites mains sous-payées dans un pays en voie de développement. Ces personnes n’auront qu’une à deux secondes pour décider si elles doivent supprimer le contenu ou le laisser. »

Cet avis est d’ailleurs partagé par Antonio Casilli qui estime que cette loi va inciter la généralisation du digital labor.

Pour l’association des droits et libertés des citoyens sur Internet, La Quadrature du Net, ce nouveau cadre législatif va obliger les plateformes à traiter tous les contenus en même temps. « Le droit actuel permet de traiter en priorité les contenus les plus graves, peut-on lire sur leur site. Ce délai pousse à l’utilisation d’outils de censure automatisés, fondamentalement contraires à la liberté de communication ».

Vers une censure des grandes plateformes ?

Plus inquiétant encore, la loi Avia renforce la possibilité d’exercer une forme de censure politique sur les réseaux. « Imaginez que des militants signalent en masse une vidéo montrant un cas de violence policière, poursuit Fabrice Epelboin. La seule chose que les opérateurs qui doivent prendre la décision vont voir, c’est une image violente avec éventuellement une blessure sanguinolente. Ils ne vont pas se poser de question et l’effacer tout de suite, censurant du même coup une information importante. »

De son côté, La Quadrature du Net rappelle l’affaire de la caricature d’Emmanuel Macron pour illustrer une possible dérive du pouvoir. Au plus fort du mouvement des Gilets jaunes, une image circulait sur Google, montrant le président français sous les traits du dictateur Pinochet. Le 13 janvier 2019, un utilisateur anonyme signale le contenu à la plateforme Pharos dans la catégorie « incitation à la haine raciale ou provocation à la discrimination de personnes en raison de leurs origines, de leur sexe, de leur orientation sexuelle ou de leur handicap ». En moins de 24h la police demandera le retrait de cette caricature. À l'époque, la demande n’avait pas abouti, mais l’association estime qu’avec la nouvelle loi, ce type de procédure ne pourra plus être refusé.

On aurait pu faire mieux

En guise d’alternative, la Quadrature propose plutôt la mise en place d’une interopérabilité des plateformes. Cette disposition permettrait aux utilisateurs de rester en contact avec leurs proches et leur réseau sur Twitter ou Facebook, tout en utilisant des services alternatifs et mieux modérés et protégés contre les trolls. Le gouvernement a l'air de vouloir faire autrement...

POUR ALLER PLUS LOIN

> Article 13 : quelles solutions contre la future censure du web ?

> Liberté de la presse : trois journalistes français menacés par la DGSI

Commentaires

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.