Asma Mhalla : les « Big Tech » ont fait de nous les soldats de la grande guerre cognitive

Réseaux sociaux et satellites, IA, implants cérébraux, réalité augmentée… Nos sociétés sont-elles armées pour le monde d’après ? C’est la question vertigineuse posée par l’essai d’Asma Mhalla. Interview.

Du XXIe siècle, ils en sont les grands ordonnateurs. Les « Big Tech », ces géants des technologies, redéfinissent les jeux de pouvoir et de puissance entre nations, interviennent dans la guerre, tracent les nouvelles frontières de la souveraineté. Mais ils ont aussi pris un rôle central dans nos actes les plus quotidiens, les plus intimes et c’est dans nos cerveaux que se joue l’ultime champ de bataille. Mais qui gouverne ces nouveaux acteurs privés de la prolifération technologique, et quel projet de société nous imposent-ils peu à peu ?

Il est devenu urgent de le penser car ce n’est rien de moins que le nouvel ordre mondial qui est en jeu, dans une perspective où nos démocraties sont largement remises en question. C’est à ces questions que s’attaque la politologue, spécialiste des enjeux géopolitiques de la Tech et de l’IA, Asma Mhalla dans un essai passionnant et indispensable paru aux éditions du Seuil – Technopolitique, Comment la technologie fait de nous des soldats. Interview à voir en vidéo, ou à dévorer.

Commençons par le commencement... La « technopolitique », c’est quoi, et pourquoi cette discipline nous serait-elle utile ?

Asma Mhalla : Depuis les années 2010, on a beaucoup entendu le mot, notamment lors des révolutions arabes, quand les réseaux sociaux sont devenus un outil d’empowerment de la société civile. Le terme a la vertu de bien marquer ce croisement entre technologie et politique. Pour moi qui viens du monde de la théorie politique, des relations internationales et qui m’intéresse aux effets des technologies sur ces questions, il est simplement indispensable. Il s’inspire d’une tradition académique très anglo-saxonne, celles des studies. Pour circonscrire une question, les studies considèrent nécessaire de l’aborder au travers de différentes disciplines comme l’économie, le droit ou la sociologie. Cette démarche est particulièrement requise en ce qui concerne la technologie : un sujet éminemment politique qui a des conséquences dans toutes les sphères.

Les GAFAM, ou GAMAM, sont les acteurs principaux des bouleversements en cours. Tu préfères les appeler « Big Tech ». Pourquoi ?

A. M. : Contrairement à des abréviations comme GAFAM ou GAMAM, l’expression « Big Tech » n’invisibilise pas certains acteurs comme Open AI, Palentir ou d’autres startups de défense ultra-puissantes dans leurs niches. C’est une expression plus malléable qui permet aussi de tracer les lignes communes entre tous ces acteurs – non pas par ce qu’ils font, mais par ce qu’ils sont. Les « Big Tech » ont un caractère totalement inédit : ils sont des acteurs économiques privés qui rendent des comptes uniquement au marché, mais ils sont aussi des acteurs géopolitiques, militaires et enfin idéologiques. Et si on n’a pas compris ces imbrications profondes, fondamentales, essentielles, on passe à côté de la grille de lecture pour lire les enjeux de notre temps. Il est donc indispensable de construire d’autres catégories politiques qui n’existent pas parce que les géants du XXe siècle n’avaient pas cette nature fondamentalement hybride.

C’est ce que tu appelles les « technologies totales » ?

A. M. : Remontons à l’objet même de ma thèse : je veux essayer de comprendre si nos démocraties vont résister aux chocs technologiques dont les vagues sont sans précédent et totalement systémiques. De quoi est-il question ?

D’abord, nous sommes en train de sortir des logiques de masse dont nous avons hérité depuis le XIXe siècle : c’est-à-dire production de masse, consommation de masse, média de masse, éducation de masse, démocratie de masse..., qui reposaient sur des logiques verticales de distribution des pouvoirs, du haut vers le bas. On est passé à des logiques différentes de l’hyperpersonnalisation de masse. On reste une masse, mais tous les liens sont atomisés. Ensuite, nos technologies sont des hypertechnologies qui fonctionnent sur l’hypervitesse. IA, réseaux sociaux, métavers, implants... elles nous obligent constamment à aller plus vite, trop vite sans doute. Elles sont par ailleurs toutes duales – à la fois civiles et militaires. Par nos usages, via nos téléphones, nous accédons à des services très pratiques, très ludiques et en même temps qui peuvent devenir des armes de guerre. À l’insu de nous-mêmes, nous devenons à la fois cible et soldat. C’est un paradigme dont nous devons avoir conscience.

Les géants de la technologique sont aussi en train de quadriller nos usages, nos données personnelles, nos données industrielles, militaires. Et je crois qu'on ne s'en rend pas bien compte. C’est ça le projet de « technologies totales ». Tout d'un coup, on a un enfermement, une verticalisation autour de quelques acteurs, qui ont, par ailleurs, un agenda politique et idéologique. Toutes ces technologies sont portées par des acteurs qui ont des agendas idéologiques et mènent de véritables batailles culturelles sous-jacentes. Il faut bien l'avoir en tête, ils ne sont pas des acteurs neutres ou de simples entreprises privées. Le XXIe siècle aura deux grandes questions à gérer de manière globale, et qui ne se contiennent pas dans les frontières géographiques : la question climatique et la question technologique. C’est cette nouvelle grande Histoire qui est en train de se jouer.

Faut-il conclure que les « Big Tech » sont antidémocratiques « by design ? »

A. M. : C'est une question fondamentale. Nous avons affaire à des entreprises privées. Nous sommes dépendants de leur arbitraire. Et depuis Cambridge Analytica, le fameux scandale de 2016, on ne peut plus les considérer comme de simples boîtes privées qu'on va normer, qu'on va réguler par des obligations ou des amendes. Elles sont des « infrastructures informationnelles » à partir desquelles se déploient nos conversations, le débat public, nos données, nos usages… Leur véritable boîte noire n'est pas algorithmique, elle est politique. Si on comprend bien qui sont ces acteurs, il faut décider de la manière dont on veut les gouverner et qui les gouverne ?

Tu expliques que nous sommes en guerre, une guerre qui a changé de nature, de terrain aussi. C'est quoi cette nouvelle forme de guerre ? Pourquoi sommes-nous tous des soldats ?

A. M. : Il y a une question de frontière à bien comprendre. Au XXème siècle, quel était notre imaginaire politique ? C'était de différencier par exemple l'État et le privé, le civil et le militaire, mais aussi, le vrai et le faux, ce qui produit de l’information et ce qui n'en produit pas, tout était extrêmement distinct. Or, ce qu'on voit apparaître, c’est ce que j’appelle la symbiose : on est en train de voir toutes ces lignes disparaître. Comment va-t-on naviguer dans ces eaux troubles, c'est la grande question. Ces symbioses amènent la militarisation de la démocratie. Le champ informationnel devient un enjeu de sécurité nationale mais aussi psychique.

TikTok a été un peu le psychodrame de l'année 2022-2023. Ce réseau social d'origine chinoise est très sympa mais il peut être aussi un outil de cyberespionnage, d'ingérence, de manipulation et même une arme biologique. Pourquoi ? Parce que le PCC, avec des imbrications à trouver, utilise TikTok comme outil d'abêtissement des jeunes générations dans une sorte de revanche de la guerre de l'opium. Or, les jeunes générations sont les citoyens de demain. Si vous les abêtissez, si en fait vous développez toutes les conditions de leur attrition cognitive, c’est une catastrophe pour les 10, 20, 30 ans qui viennent. Et c'est de ce point de vue là que se jouent les guerres cognitives.

Les réseaux sociaux ont évidemment joué un rôle énorme dans les bouleversements que tu évoques. Mais on voit arriver les IA, les mondes virtuels, la réalité augmentée, les biotechs et les implants... Qu'est-ce que cette nouvelle génération de technologies va changer ?

A. M. : Elles ne vont que poursuivre et accélérer des logiques insurrectionnelles alimentées pour créer les conditions de l’implosion des démocraties de l’intérieur. C'est une partie de la guerre hybride qui ne requiert pas d’armes et qui peut se mener en parallèle des conflits plus classiques. Les guerres cognitives sont des combats qui se jouent à très bas bruit sur du très long terme. On y est déjà. Nous sommes tous engagés en qualité de soldats dans une guerre qui nous dépasse. Il faut qu'on ait la conscience de ça, parce que nous tous, nous devenons potentiellement une cible. C'est une guerre de déstabilisation entre nations, et nous sommes donc, par nature et à l'insu de nous-mêmes, des soldats.

Quand on est exposé à tel ou tel contenu, quand notre activité cérébrale est monitorée à des fins malveillantes : tout cela devient l'affaire de tous. Ça n'est pas simplement une affaire technique, ce n'est pas une affaire simplement de politique, c'est une affaire démocratique, citoyenne, parce que nous avons tous dans la poche un smartphone, potentiellement, nous sommes tous parties prenantes ou protagonistes de cette grande Histoire qui est en train de se dérouler.

Big tech, outils omniscients, hypervitesse... ce sont des termes très surplombants. Quelle est notre capacité d'agir ?

A. M. : C'est en comprenant ces enjeux, en les discutant, en les débattant, mais en tout cas en se les appropriant qu'on redevient acteurs. Ce qui me désole, c'est cette passivité, cet effet de sidération dans laquelle nous plonge cette technologie de l'hypervitesse. Or, c'est précisément parce que le monde semble aller trop vite qu'il va falloir au contraire que nous, on décélère, qu'on comprenne la grande Histoire, le système nouveau qui est en train de se mettre en place pour ne pas rester étrangers à ça. L'histoire n'est jamais écrite à l'avance.

Le combat premier restera celui de l'école, mais pas celle que l'on connaît. On est en train de passer au paradigme de l’hyper personnalisation de masse. Ça veut dire quoi ? Ça veut dire qu'il va falloir jouer sur deux échelles : l'individuel et le commun. L'architecture de l'école doit s’adapter à ça.

Notre politique proactive techno-industrielle est fondamentale. Il ne s'agit pas simplement de mettre des milliards et de saupoudrer les actions. Il s'agit de se dire : qui on est dans 30 ans, dans quelle stratégie ou dans quelle filière stratégique nous misons ? Le jour où on aura besoin d'avoir une négociation, d'avoir un rapport de force, d'être dans une relation transactionnelle, qu'est-ce qu'on pourra mettre sur la table pour être écoutés ? La norme et quelques millions de consommateurs ne pourront pas être suffisants…

D’un point de vue politique, il ne s'agit pas de poursuivre cette espèce de logorrhée normative. Elle est nécessaire pour l'Europe. Mais il va falloir qu'on soit un peu plus ambitieux. Par exemple, on pourrait travailler sur ce qu'on appelle en France les PPP - les partenariats public-privé. Ça ne sera pas simple, mais il faut avoir une proposition politique plus innovante et radicale que les resucées du XXe siècle qui ne sont pas opérantes.

Nous devons également monter dans les nouvelles générations de droit avec, par exemple, cette notion de liberté cognitive. Je terminerai en citant Mireille Delmas-Marty, très grande juriste française, professeure au Collège de France, qui disait quelque chose qui m'a beaucoup émue sur notre droit à l'indétermination. Dans le droit international, le droit des peuples à l'autodétermination existe. Il faudrait que chaque individu ait le droit de dire non : non je ne suis pas réductible à mes datas, non je ne suis pas réductible à un algorithme. J'ai le droit à mon intimité, j'ai le droit à l'ombre, j'ai le droit à des moments de secret, j'ai le droit à ne pas être prévisible. Il faut savoir être angulaire, dire non.

À LIRE

Asma Mhalla, Technopolitique, Comment la technologie fait de nous des soldats, Seuil, 2024.