Face à l’incurie des services de modération des plateformes sociales, une entreprise française veut remodeler l’écosystème de lutte contre le cyberharcèlement.
Avec sa bonne bouille d’ours blanc et sa carrure de catcheur, le logo de SafeBear est à l’image de son produit : il est là pour rassurer. Créée en 2022 par Jérémy Guillon, un ingénieur de 30 ans, cette startup s’est donné pour objectif de changer la donne sur le cyberharcèlement en France. Sa solution ? Agiter la peur du gendarme, seule mesure selon eux, pour réduire significativement le sentiment d’impunité sur les réseaux.
Une IA qui fait office de vigie
Sa plateforme web, qui est en accès anticipé et dont la campagne de promotion commence pour la rentrée scolaire, est présentée comme une sorte de tableau de contrôle des réseaux sociaux. Les utilisateurs peuvent y monitorer leur propre compte ou celui d’un proche, sur Snapchat, Instagram et X. Grâce à une IA, la moindre cyberviolence, insulte ou harcèlement est enregistrée, horodatée et stockée dans un coffre-fort virtuel. Le tout est ensuite présenté de manière à faire office de preuves pouvant être utilisées à des fins juridiques. Les émojis ainsi que l’usage de l’algospeech, des modifications du langage écrit censées faire passer des discours de haine ou des insultes sous les radars, sont aussi pris en compte.
Une fois que ces attaques sont caractérisées, elles sont envoyées à Pharos qui peut engager des poursuites. ce qui permet d’effacer les contenus et de lancer des procédures judiciaires rapidement. Pour Lyess Meddahi, Directeur de la stratégie chez SafeBear, la plateforme a donc pour vocation de faire le pont entre deux univers difficilement joignables : celui de la modération des réseaux, jugée aussi efficace « que passer la poussière sous le tapis », et celui de la police, qui a encore beaucoup de mal à considérer les cas de cyberharcèlement. Les chiffres sont d’ailleurs éloquents. En 2021, on comptait plus de 1,5 million de plaintes et de mains courantes liées aux cyberviolences contre seulement 54 condamnations. Des discution sont toujours en cours avec la plateforme 3018, spécialisée dans les cyberviolences que subissent les jeunes et qui bénéficie du statut de « signaleur de confiance », afin que les contenus haineux soient rapidement effacés.
Payer pour accéder à la justice ?
Cette plateforme web s’adresse à tous les internautes, depuis les enfants et leurs parents jusqu’aux influenceurs ou aux personnalités politiques et médiatiques pouvant faire face à de la haine en ligne. Et pour assurer cette tranquillité, il en coûtera jusqu’à 4 euros par mois, une somme justifiée par les coûts de développement et de mise en œuvre d’un tel outil. Même si le prix de cet abonnement est relativement bas et que les dirigeants de SafeBear envisagent de le réduire pour les familles en difficulté, la mise en place de ce service payant pose une question : ne faudrait-il pas simplifier l’accès à la justice ou aux services de modération des plateformes pour se défendre contre le cyberharcèlement plutôt que de devoir se reposer sur des solutions payantes ?
Participer à la conversation