Des sociologues se mobilisent pour rendre la Silicon Valley meilleure

Depuis quelques années, des chercheurs en sciences sociales travaillent chez Google, Facebook et consorts. Leur regard critique sur la tech permet de faire bouger les lignes de l’intérieur. Le cabinet Unknowns nous livre son compte-rendu d’EPIC, une conférence où ces sociologues se réunissent.

Par Chloé Huie Brickert (UX Designer), Guillaume Montagu (Social scientist) & Marc-Antoine Morier (Social scientist), Unknowns, studio d’innovation.

Des voyants rouges s’affolent, des bip-bip stridents retentissent et des messages d’erreur nous pressent d’agir. En ce vendredi d’hiver, on se demande qui commande : la voiture ou nous ? Comment en est-on arrivé à perdre notre capacité d’agir face à la machine ? Et que peut-on faire pour la retrouver ? Ces questions, EPIC les a posées lors de sa conférence de novembre 2019.

Des sociologues chez Google 

EPIC (Ethnography Practice in the Industry Conference) est une réunion de sociologues passés des bureaux feutrés des universités aux open spaces de la Silicon Valley. Nulle par ailleurs, vous n'aurez la chance de croiser un chercheur en sciences sociales vous dire sans sourciller qu'il travaille chez Google. D'année en année, la conférence a pris de l'ampleur au point que toute la Tech s'y rend (Google, Uber, Facebook sont des sponsors réguliers).

En ce mois de novembre 2019, 425 chercheurs et designers se sont donc réunis à Providence, Rhode Island (US). Le thème de l’année : l’agency, c’est-à-dire les capacités d’actions des individus dans un monde de plus en plus automatisé. Des centaines de propositions d’études de cas et d’articles ont été soumises. Et pour cause, l'automatisation pose de nombreux problèmes : scientifiques, politiques, éthiques et sociaux.

C’est qu’il y a de quoi être mal à l’aise avec la manière dont l’automatisation est mise en place et surtout avec ses conséquences. Introduire une technologie dans des relations sociales c’est toujours introduire un pouvoir, celui de ses concepteurs avec leurs biais, souvent occidentalo-centrés. Et les entreprises de la Tech ont une évidente part de responsabilité dans ces transformations. La contestation monte, de l’intérieur.

Colonialisme technologique

Le ton est donné par la conférence d’ouverture. Intitulée « Tech Colonialism Today », Sareeta Amrute (Data & Society, University of Washington) montre en quoi la manière dont se sont déployées les technologies recrée un colonialisme. Qu’on s’entende, il ne s’agit pas là d'un slogan contestataire mais un point de vue fécond pour rendre intelligible l'économie contemporaine, son fonctionnement et ses implications. Extraction, exploitation, hiérarchisation : trois éléments caractéristiques du colonialisme d’hier, aux fondements du monde promu par la Tech aujourd’hui. Extraction systématique des ressources minières du Sud pour fabriquer smartphones, data centers ou trottinettes électriques. Exploitation de travailleurs précaires par des systèmes de micro-working : au clic, à la course ou à la livraison. Hiérarchisation des savoirs et des valeurs portés principalement par des hommes blancs diplômés de l’enseignement (très) supérieur avec la croyance (peut-être sincère) d’avoir les solutions aux problèmes du monde et donc le droit de gouverner les hommes. Du techno-chauvinisme en somme.

Et nous en sommes tous très concrètement témoins. LaiYee Ho – ex-chercheuse chez Amazon – montre comment les présupposés des ingénieurs concevant les smart homes conduisent à exclure femmes et enfants du système. Keith S. Karn (Human Factors in Context LLC) et William E. Hutson (IBM) montrent dans une recherche indépendante comment la capacité d’agir des chauffeurs Uber et Lyft est contrainte par les deux entreprises, changeant leurs règles en cours de route. Lorsqu’ils tentent de maximiser leurs chances d’avoir de « bonnes courses » – en multipliant les apps VTC par exemple – Uber et Lyft les contrecarrent en modifiant les barèmes de frais et de nombre de courses.

Ainsi, la Tech se demande si l’empowerment qu’elle a promis à tous n'est finalement pas resté entre ses mains. « Who really has power ?  » (Qui a vraiment le pouvoir ? ) La question résonne dans les couloirs de la conférence et dans la tête de chacun. Les technologies ne sont pas aussi neutres qu’on voudrait le croire. Derrière les algorithmes il y a des gens, en chair et en os, avec leurs propriétés sociales, cultures, présupposés, biais… qui finissent par imprégner les technologies. Clapperton Chakanetsa Mavhunga (MIT) invite ainsi à déconstruire l’hégémonie du savoir occidental et sa prétention au monopole de l’innovation, notamment à partir d’exemples africains de réparation, de recyclage et de revente des déchets électroniques arrivés d’Amérique et d’Europe. Un autre point de vue sur la technologie et son utilisation qui tranche d’autant plus que le public de la conférence est majoritairement anglo-saxon et passé par de (très) grandes universités. Tout le monde se sent concerné… si ce n’est responsable !

Difficile pour les sociologues de se faire entendre

Les chercheurs et designers se retrouvent en première ligne lorsque les entreprises sont pointées du doigt et interrogées sur leur responsabilité. Ils sont les premiers à prendre conscience de ces sujets et cherchent à faire bouger les lignes depuis l’intérieur. Chaque décision business a des conséquences sur les individus, consommateurs et travailleurs. Ces choix contribuent à créer ou renforcer des hiérarchies, à tirer profit d’un système colonial qu’ils ont contribué à créer – sans que quiconque ne l’ait nécessairement voulu. L’argument du « business is just business » ne convainc plus.

Aux chercheurs d’éprouver des sentiments de responsabilité et d’impuissance. À EPIC, les discussions migrent vers leur difficulté à se faire entendre et à faire entendre la voix des utilisateurs dans l’entreprise. Greg Weinstein explique avoir dû batailler chez Uber pour que l’amélioration du service pour les publics malvoyants soit reconnue comme un axe de travail légitime. Retrouver des moyens d’action à l’intérieur permet d’avoir un impact positif à l’extérieur. Mettre en place des protocoles inclusifs – pour accueillir et faire entendre les voix minoritaires et marginales – devient un moyen de résister et de transformer l’organisation.

Laisser les ouvriers programmer les robots

Mieux inclure les individus dans les recherches, s’appuyer sur leurs connaissances et leurs pratiques, voici un moyen pour réintégrer leur pouvoir d’agir dans l’équation. Un pré-requis pour remettre les machines au service des humains et non l’inverse. Les exemples de réussite ne manquent pas et offrent une lueur d’espoir aux sociologues de la Silicon Valley. Bruce Pietrykowski (University of Michigan-Dearborn) & Mike Folster (BEHCO) montrent que c’est en laissant aux syndicats le soin de décider d’inclure ou non des robots à l’usine et aux ouvriers le soin de les programmer sur la ligne de production qu’une collaboration humain-machine saine est possible.