Personnages de « Lolita malgré moi » faisant une moue désapprobatrice

Selon Cathy O’Neil, susciter la honte est la machine à cash des réseaux sociaux

© © Mark Waters - « Lolita malgré moi », United Intl Pictures

Sommes-nous tous devenus des shamers professionnels ? Dans son nouvel ouvrage, la mathématicienne américaine Cathy O’Neil expose les mécanismes qui font de la honte la base de nos interactions en ligne. Interview. 

Un matin ensoleillé de mai 2020, une quarantenaire prénommée Amy Cooper sort promener son épagneul à Central Park. Elle le lâche dans la partie du parc la plus sauvage qu’affectionnent les observateurs d’oiseaux. L’un d’eux, un certain Christian Cooper, lui demande d’attacher son chien en laisse, gentiment. Elle refuse et appelle la police en expliquant qu’un Afro-Américain l’agresse. Christian filme toute la scène et publie la vidéo sur Facebook avec en légende une retranscription de sa conversation avec Amy. Cette dernière devient alors l’une des célèbres « Karen » du web, prénom utilisé pour archétype d'une femme blanche qui abuse de ses privilèges envers les personnes noires. À la suite de cet incident, Amy a fait l’objet d’une vague d’humiliation sur les réseaux sociaux, puis à la télévision, causant son licenciement par son employeur.

Cette anecdote est racontée par Cathy O’Neil dans son nouvel ouvrage The Shame Machine: Who Profits in the New Age of Humiliation. La mathématicienne diplômée de Berkeley et de Harvard, et ancienne analyste de Wall Street le présente comme l’un des innombrables épisodes d’humiliation de masse sur les réseaux sociaux. Ici, c'est une Karen, là un boomer qui n’a pas compris le débat autour des pronoms, ailleurs une entrepreneuse qui humilie les stagiaires… 

Pour la mathématicienne qui a été l’une des premières à dénoncer les biais algorithmiques, ceux qui humilient ne sont pas les seuls responsables. Elle estime que ce sont les algorithmes des plateformes qui incitent à humilier et à nous sentir nous-mêmes humiliés. Ils agiraient comme « les moteurs à honte les plus prodigieux jamais conçus ». Plus puissants encore que l’industrie de la cosmétique qui depuis des décennies utilise la honte de vieillir et de ne pas correspondre aux canons de beauté pour vendre ses produits. Elle explique comment les réseaux sociaux sont parvenus à détourner la honte, un sentiment dont la fonction parfois utile est de faire évoluer les normes et de fixer certaines règles, pour nous maintenir dans un état d’énervement permanent (et pas vraiment utile) dans le but de générer du profit. 

En tant que mathématicienne, pourquoi vous êtes-vous intéressée au sentiment de honte ?

Cathy O’Neil : Ma réflexion a commencé lors des recherches pour mon précédent livre. Je travaillais sur les mauvais algorithmes qui renforcent les inégalités (Algorithmes : la bombe à retardement, Les Arènes, 2018). Je me suis rendu compte que leur pouvoir était très rarement remis en question à cause du sentiment de honte qu’ils suscitent. Pourquoi utilisons-nous des outils si médiocres ? Qu’est-ce qui les maintient en place ? Quand les personnes victimes de ces algorithmes posent ces questions, on leur répond généralement « ce sont des mathématiques, tu ne peux pas comprendre » . Cette réponse repose sur la honte, sur le fait qu’aux États-Unis, les mathématiques intimident la plupart des gens. Et cette stratégie est malheureusement très efficace et se répète très souvent. Cela me fascinait.

Puis j’ai réalisé que cette stratégie concernait bien d’autres domaines que les mathématiques. Les agresseurs réduisent leurs victimes au silence en provoquant en elles un sentiment de honte. Et cela fonctionne très bien. C’est une stratégie qui est presque institutionnelle. 

Quelques années après cela, je faisais des recherches sur la chirurgie bariatrique (un type de chirurgie portant sur l'anatomie de l'estomac et de l'intestin dans une perspective de réduction du poids de l'opéré, NDLR), et je me suis sentie à mon tour humiliée, fat-shamée par des publicités ciblées. Et j’ai songé au profit gigantesque généré grâce au sentiment de honte. Toutes ces réflexions m’ont amené à penser qu’il existait tout un univers d’humiliation intentionnelle et systématique qui permet soit de générer du profit soit de maintenir une forme de pouvoir. 

Pourquoi est-ce important d’exposer la mécanique économique de la honte ?  

C. O’N. : En tant que société, nous avons été conditionnés à avoir honte et à nous humilier les uns les autres sans réfléchir aux conséquences, sans savoir si cela est approprié, sans même en avoir conscience. Je pense donc que nous avons besoin d'échanger à ce sujet parce que la honte peut nous dévaster. Et comme vous l’avez dit, je suis mathématicienne, donc je m’intéresse aux principes. Je voulais démêler les grands principes derrière ces shame machines (machines à humilier). 

La honte est-elle un sentiment plus prégnant aujourd’hui qu'hier ?  

C. O’N. : C’est un sentiment qui est en tout cas davantage « militarisé » , utilisé comme arme contre nous. C’est en grande partie à cause des algorithmes des grandes plateformes, qui sont extrêmement performants pour humilier et cibler une honte propre à chaque individu. Quand je faisais des recherches sur la chirurgie bariatrique, j’ai directement été inondée de publicités liées au fat shaming. Pourtant j’ai travaillé dans la tech donc je connais ces mécanismes. Mais ça ne m’a pas empêchée de me sentir humiliée malgré tout. C’est extrêmement efficace. Même si vous pensez que vous êtes passé au-delà de vos complexes d’enfance, ces publicités parviennent malgré tout à déclencher un sentiment de honte. 

Mais cela va plus loin. Les algorithmes des réseaux sociaux sont aussi très forts pour nous inciter à nous humilier les uns les autres. Ce sont des shame machines (machine à humilier) plus modernes. La shame machine traditionnelle, c’est l’industrie de la cosmétique ou de la perte de poids, qui est depuis longtemps très performante pour nous faire culpabiliser de notre poids ou de notre vieillissement. La machine à honte moderne – les réseaux sociaux – ne va pas directement vous faire culpabiliser, mais va vous conditionner à humilier les autres. Son produit est conçu de la sorte. Ses algorithmes vous proposent des contenus les plus susceptibles de vous inciter à humilier d’autres personnes. 

Cette instrumentalisation de la honte par les réseaux sociaux est-elle pensée en amont ou est-elle une conséquence collatérale ?  

C. O’N. : C’est inscrit dans le design des réseaux sociaux. Ces algorithmes sont optimisés pour générer du profit, c’est-à-dire vous faire rester le plus longtemps possible sur leur plateforme et de la manière la plus impliquée possible. La façon la plus efficace de faire cela est de vous embarquer dans une spirale de honte. Vous avez l’impression que vous devez faire partie de cette conversation. Cela joue sur notre propension naturelle à ne pas vouloir être éjecté de notre communauté.

La honte a une fonction dans nos sociétés : elle nous permet d’évoluer. Mais cette fonction est détournée par les algorithmes pour nous énerver et nous indigner. Par ailleurs, c'est très plaisant d’humilier une autre personne. Encore plus quand nos amis et abonnés nous félicitent d’avoir humilié telle ou telle personne en likant ou partageant notre publication, notre plaisir est d’autant plus stimulé. C’est une autre manière de devenir addict au procédé de shaming

Les algorithmes des réseaux sociaux amplifient d’autres sentiments : la colère, la confiance en soi... La honte est-elle leur moteur le plus puissant selon vous ?  

C. O’N. : Je pense que la honte est l'ingrédient secret des réseaux sociaux. Elle éveille à la fois notre plaisir et la peur de se faire éjecter d'une communauté. Si quelqu’un vous insulte très directement, si vous êtes victime de violence sur les réseaux sociaux, cela peut être d’une part signalé puis modéré. D’autre part la personne qui vous insulte ne va pas forcément retenir notre attention, vous la catégorisez comme folle. Mais si on vous humilie, vous allez vouloir vous défendre, donc vous restez sur la plateforme. C’est quasiment impossible d’ignorer une humiliation.

Par ailleurs, toutes les machines traditionnelles à créer de la honte sont aussi présentes sur les réseaux sociaux. Beaucoup de jeunes utilisatrices d’Instagram que j’ai interrogées m’ont parlé de ces applis qui permettent de retoucher leurs photos pour avoir l’air plus minces. Il y a donc aussi toute une industrie du body shaming old school. C’est un autre aspect qui permet aux algorithmes de nous garder sur la plateforme : on veut être sûr d’être accepté par les autres. 

Y a-t-il des réseaux plus propices que d’autres à la honte ? Instagram, par exemple, paraît bien positionné

C. O’N. : Tout dépend de quelle honte vous parlez. Instagram et n’importe quel réseau basé sur l’image générera davantage de culpabilité concernant votre apparence. Et si c’est l’un de vos points de vulnérabilité, alors cela fonctionnera bien sur vous. Mais ce qui est intéressant, c’est que même quand vous n’êtes pas particulièrement sensible à la honte, les algorithmes parviennent tout de même à vous toucher. 

Paradoxalement, les réseaux sociaux ont permis de faire émerger des mouvements comme le body positivism, l’acceptation des personnes LGBTQ+... Quelque part on pourrait avoir moins honte d’être ce que l’on est sur ces plateformes.

C. O’N. : C’est juste, mais ne soyons pas naïfs au point de penser qu’il n’y a plus de normes. Il y en a tout autant ! Elles se sont juste déplacées. C'est d’ailleurs parce que les normes se déplacent que les processus d'humiliation sont davantage publics. Le fait d’avoir un comportement inapproprié, d’être une Karen par exemple, donne lieu à une humiliation de masse sur les réseaux sociaux… De plus, les normes n’évoluent pas pour tout le monde à la même vitesse. Il y a une division entre les personnes qui sont alignées et au courant des nouvelles normes et celles qui ne le sont pas. Être polyamoureux par exemple est seulement accepté par quelques personnes à certains moments, c’est une norme très locale. 

Vous notez d’ailleurs que les réseaux sociaux favorisent cette évolution extrêmement rapide des normes, qui nécessite de s’adapter très vite. Et tout le monde ne suit pas… 

C.O’N. : Oui, les personnes qui ne sont pas sur les réseaux sociaux ratent la définition de ces nouvelles normes. Un bon exemple de cela, c’est le débat autour des pronoms. Sur Twitter, certaines personnes définissent leurs pronoms comme une marque de respect envers les personnes non-binaires, LGBTQ+. Mais de nombreuses personnes ont raté ce débat et se sentent régulièrement humiliées à cause de leur ignorance. Or, ce n’est pas vraiment utile d’humilier quelqu’un parce qu’il est ignorant. Il vaut mieux l’informer. La plupart des humiliations provoquées par l’évolution rapide des normes ne sont pas utiles. Une personne humiliée parce qu’elle ne comprend pas une norme ne voudra jamais s’y conformer. 

Parfois la honte peut être un sentiment utile. Dans le cas de MeToo par exemple… 

C. O’N. : Oui, parce que personne n’a pu échapper au mouvement #metoo. C’était international, et cela concernait une situation très basique d’hommes puissants profitant de femmes. L’humiliation de ces hommes puissants, qui ont fait leurs choix, qui ont une voix pour se défendre, est utile. C’est utile pour rendre les puissants responsables de leurs actes. C’est ce que j’appelle la honte qui nous pousse vers le haut et elle est utile pour rappeler les règles et fixer des exemples. La honte qui pousse vers le bas – celle des publicités ciblées par exemple – n’est en revanche pas appropriée. 

La honte n’est pas forcément un mauvais sentiment. Elle est parfois importante et saine, et peut être le seul moyen de tenir responsable ceux qui sont au pouvoir. Si ces derniers se comportent mal, vous ne pouvez pas toujours les poursuivre en justice. Mais vous pouvez les humilier publiquement. Nous voyons cette mécanique en ce moment même en Russie. Vladimir Poutine ne peut pas vraiment être directement humilié, parce qu’il est en quelque sorte invulnérable. Mais les personnes et les entreprises qui le soutiennent peuvent l’être. Et Volodymyr Zelensky est très bon pour provoquer ce sentiment de culpabilité

Vous mentionnez certaines communautés du web comme les Incels, qui font partie selon vous d’un réseau de la honte. Pouvez-vous nous expliquer ?  

C. O’N. : Ce sont des communautés basées sur la honte, qui existent grâce à Internet et à la manière dont le web est construit. Les Incels (pour involuntary celibates, célibataires involontaires en français, Ndlr) sont majoritairement des hommes misogynes. Ils forment une communauté autour du fait d’être humiliés et rejetés par les femmes. Ces hommes renversent quelque part la honte dont ils se sentent eux-mêmes victimes. Ils sont presque fiers d’être autant rejetés.

La plupart des personnes humiliées se sentent mal-aimées. Donc trouver une communauté au sein de laquelle elles se sentent acceptées est primordial pour leur santé mentale. Je ne cherche pas à dire : laissons les Incels être heureux et misogynes. Mais si vous avez un proche qui fait partie de ces communautés, comprenez que c’est parce qu’il est en souffrance. Si vous l’humiliez parce qu’il fait partie de cette communauté, cela ne fonctionnera sans doute pas. Au contraire cela le rendra encore plus incel. Ce qui peut fonctionner est de lui trouver une alternative. 

La plupart des communautés les plus nocives du web viennent du sentiment d’être mal-aimé. Le livre Healing from Hate de Michael Kimmel s’intéresse aux membres de communautés de suprémacistes blancs qui en sont sortis. Certains expliquent qu’ils n’adhéraient pas vraiment à l’idéologie, mais ils s’y sont conformés pour appartenir à une communauté. Je pense que nous faisons face à une sorte d’épidémie de solitude, qui s'explique parce que la plupart de nos interactions sont basées sur la honte. Et si on veut changer cela, humilier les gens n’aide en rien. 

Peut-on changer les algorithmes des réseaux sociaux ?  

C. O’N. : Oui ça serait super, mais je ne pense pas que ça arrivera ! Parce que plus vous générez de la honte, plus vous générez de profit. Mais réaliser qu’on ne tirera rien de bénéfique des réseaux sociaux est un premier pas pour permettre aux gens d’en sortir eux-mêmes. Il faut des alternatives qui nous permettent de nous connecter aux autres, et qui ne soient pas basées sur la publicité. 

commentaires

Participer à la conversation

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.