Risques & algorithmes

100 % algorithmes, 0 % de risques ?

Conserver une marge de manœuvre individuelle face à un monde digital qui tend à orienter nos décisions voire surveiller nos faits et gestes ? C’est bien sûr possible et même nécessaire, surtout lorsque l’on comprend que cet univers contrôlé par les algorithmes alimente de nouveaux risques majeurs.

À partir de la fin des années 2000, les promesses de l’Internet semblent marquer le pas. Les systèmes de surveillance de type RFID inquiètent l’opinion. Mark Zuckerberg , le fondateur de Facebook, a beau déclarer que « la protection de la vie privée n'est plus la norme », la digitalisation progressive du quotidien provoque des réactions mitigées.

Bien sûr, il apparaît évident que toutes ces technologies vont rendre d’immenses services à l’humanité. Mais leurs tendances à prédire, inciter, préorganiser laisseront-elles à tout un chacun un espace de liberté pour exercer son libre arbitre, ou tout du moins sa capacité de sérendipité créative ? C’est la question qui ressurgit alors autour de cette vieille rengaine de la dialectique du maître et de l’esclave ou de la dénonciation de ce « monstre froid » qui imposerait ses vues – à l’instar de l’État ou des superstructures – à travers l’écran des ordinateurs connectés. Tandis que la crise financière de 2008 se charge de doucher les optimismes technophiles, des voix s’élèvent pour affirmer qu'un autre monde est possible. Un monde où l’algorithme ne surveille pas et n’organise pas les choix des individus. 

L’art de l’obfuscation

C’est précisément le point que soulève le journaliste américain Evan Ratliff, en 2007. Ce vieux routard d’un Internet encore libertaire et par ailleurs cofondateur d’une société de logiciels décide de s’associer au célèbre magazine Wired pour lancer un défi à la communauté « geek » : celui de tenter de disparaître totalement des radars numériques. Il offre même une prime de 5 000 dollars à celui qui parviendra à le retrouver avant un mois. Typique de ce journalisme américain « d’aventures », Ratliff veut raconter ce qu’il ressent et décrire l’arsenal des trucs qu’il déploie pour rester anonyme : changements constants d’apparence physique, déplacements de ville en ville, de gares routières en motels ordinaires ; création d’adresses e-mail en passant par le logiciel Tor qui empêche de le localiser.

Toujours sur ses gardes dans ce qu’il finira par appeler un « narcissisme surréaliste », il achète tout en liquide ou en « cartes cadeaux » et n’utilise que des téléphones portables prépayés dont il ôte systématiquement la batterie. Le journaliste éprouve ainsi ces nouvelles techniques dites d’obfuscation (obfuscation en anglais) qui consistent à obscurcir, à brouiller les données qui circulent à son sujet – du morceau de scotch sur la webcam à la fourniture de fausses informations – et qui vont vite devenir une stratégie de protection de la vie privée… En 2019 à Hong Kong, les militants opposés à l’immixtion de la Chine dans la gestion des affaires de leur territoire procèderont de façon similaire. Et c’est sans doute la même chose qui se déroule aujourd’hui en Birmanie.

Un art de la rue

Dans les démocraties occidentales, les Ratliff sont surtout des originaux tels que les membres du collectif HeHe ou l’artiste et hacker Paolo Cirio, qui investissent l’espace de la rue en y déployant des œuvres volontairement offline, déconnectées d’Internet dans le but avoué d’amplifier des situations de partage et de communication urbaines. Des dispositifs qui laissent perplexe le commun des mortels penché sur ses réseaux sociaux, ses « amis », ses souvenirs et historiques de consultation ; cette bulle dans laquelle il est immédiatement repérable, comme s’il avait tatoué ses préférences sur sa seconde peau numérique. Soit l’inverse exact de l’obscurcissement.

D’ailleurs, selon plusieurs études, il semble que la plupart des gens s’accommodent plutôt bien du partage des données sauf dans des contextes bien précis, quand ce partage impacte directement leur vie privée ; « lorsque leur réputation est menacée par des informations disponibles en ligne, lorsqu’ils sont victimes d’intrusion dans leur sphère perso par la prospection commerciale, la surveillance sur le lieu de travail. » Par extension, ils s’inquiètent aussi de leur inscription obligatoire dans des fichiers nationaux.

Réparer ses vêtements, raccommoder ses chaussettes

Mais c’est sans doute ce que l’on appelle aujourd’hui « le paradoxe de la vie privée ». Hyperconnecté, délivrant de lui-même quantité d’informations sur le réseau, le citoyen lambda rêve aussi d’une existence très peu numérique en lisant les récits du géographe aventurier Sylvain Tesson, le poussant ainsi parmi les plus gros vendeurs de livres en France. À force de requêtes et de vidéos vantant les mérites virilistes de ces êtres d’exception, Netflix finit par lui recommander la série turque Bir Baskadir qui met en scène des personnages poignants et contemporains naviguant élégamment dans un univers traditionnel où la liberté est bien souvent un fantasme furtif et lointain.

Dans l’un des épisodes, un universitaire quinqua lit à son épouse une analyse qu’il a trouvée sur le réseau Facebook : « Les baby-boomers réparaient eux-mêmes leur poste de radio et rapiéçaient vêtements et chaussures, certes parce qu’ils étaient pauvres, mais aussi parce que c’était là un moyen de rester autonomes. La génération qui a suivi (millennials) a préféré voir dans ces pratiques de l’avarice ou de l’impuissance. Mais la génération qui arrive aujourd’hui a compris le message : elle sait que ne pas savoir réparer les choses est un vrai problème. »

Artisan voyageur et dandy, gentleman cambrioleur

Alors oui, pour vivre heureux, il faut peut-être vivre caché. Et pour éviter de se faire repérer par les vendeurs en ligne, l’important est de ne plus dépendre de qui que ce soit, de « faire avec ses mains » dans ce lyrisme modeste du bricolage ingénieux et de l’autonomie. Soit un brin de survivalisme et de décroissance, accommodés à cette culture cognitive de l’artisanat dont parle le sociologue Richard Sennett (Ce que sait la main, 2010) ou encore le romancier Robert Pirsig (Traité du zen et de la motocyclette, 1974) qui explique comment réaliser de petites réparations avec des bouts de ficelles pour continuer son voyage, et rester libre.

Dans un monde où le regard de l’autre constitue une menace, on peut imaginer quantité de micro-ruses pour tromper l’ordre numérique et réinventer ces « arts de faire » que décrivait le philosophe Michel de Certeau dans L’invention du quotidien (1980). Pas besoin d’être un journaliste de Wired pour identifier le grain de sable qui bloque la machine numérique… Il suffit de prendre exemple sur ces chauffeurs Uber américains et australiens qui ont trouvé une bonne combine en se débranchant tous ensemble de la plateforme de réservation lorsque se profile un pic de demandes prévisibles. Celles-ci sont alors très supérieures à l’offre et provoquent une hausse notable du prix de la course. Bingo.

Les seins d’Angelina Jolie et les promesses de la médecine prédictive

Mais qu’est-il advenu d’Evan Rattlif ? Eh bien, il a finalement été identifié au bout de 26 jours (dommage) par un certain Leach à La Nouvelle-Orléans. Il y a certes gagné une belle notoriété, mais pas autant que son “collègue” Edward Snowden dont les révélations en 2013 souligneront combien la surveillance de la sphère numérique est considérablement développée.

Toujours plus de data, de puissance de calcul et d’anticipation des évènements et aujourd’hui, près de 80 milliards d’ordinateurs connectés chaque jour. Mais il y a aussi quelques bonnes nouvelles. On se souvient de ce coup de tonnerre dans le ciel des people cette même année 2013, lorsque l’actrice Angelina Jolie a annoncé sa double mastectomie. Au cœur de cette décision, la détection dans son ADN du gène BRCA1, dont la mutation prédisait un risque de cancer du sein ou des ovaires beaucoup plus élevé que la moyenne (87 % pour le premier et 50 % pour le second). Mélange d’anticipation et de courage, le choix en faveur de cette lourde intervention a fait descendre son risque à 5 %.

Belle victoire de l’algorithme qui bouscule au passage les règles de nos comportements dans une nouvelle équation à la fois logique et morale : parce que vous ne pouvez pas ne pas vouloir votre propre bien, que vous souhaitez également aider à réduire le flot continu des dépenses de santé, vous devez suivre ce que vous indique le calcul prédictif. In fine, bien sûr, vous restez libre de vos choix, mais, à terme, qui sait ? Il faudra peut-être en assumer la responsabilité directe et accepter d’être moins couvert par les organismes de sécurité sociale ou payer plus cher les primes d’assurances, un peu comme aujourd’hui lorsque vous demandez un crédit bancaire et que vous persistez à fumer.

La quête du match parfait 

Mais, on l’a vu, si le risque zéro n’existe pas, un monde sans aléa n’existe pas non plus et rien ne peut supprimer cette infime part de hasard qui bloque la machine à exaucer les prévisions. Covid, tiercé gagnant et autre « hasard objectif », les exemples sont nombreux. Dans la série télévisée The One, inspirée du livre de John Marrs, une petite startup pense pourtant le contraire et parvient à utiliser les recherches issues de l’ADN pour permettre la rencontre de chacun avec son partenaire de vie idéal. Marketing incroyable qui change considérablement les relations entre les gens et notamment celle d’Hannah et Mark, couple parfait, mais dont le caractère non « matché » pousse la demoiselle à identifier l’alter ego de son compagnon. Et patatras : en cherchant à mieux le connaître pour mieux l’éloigner, elle provoque finalement leur rapprochement ponctuel…  

On attend la saison 2, mais on peut d’ores et déjà s’accorder sur un point : si la prévision algorithmique n’est pas toute puissante, elle modifie radicalement la trajectoire des individus qui y sont confrontés. Pensons, par exemple, à l’industrie de la musique et à cette société australienne, PopGun, dont l’ambition était de fabriquer de toutes pièces des chansons pop à l’aide d’intelligence artificielle. Un rêve qui soulevait quand même une sacrée discussion juridique. S’agirait-il d’œuvres de l’esprit, à ce titre, protégées par le droit d’auteur ? Mais alors qui en serait le titulaire de droit ? Le débat fera long feu, PopGun abandonnant finalement son projet aux vues des difficultés successives qui se sont présentées.

Qui contrôle quoi ?

D’autres compagnies ont choisi de s’intéresser à l’empowerment des créateurs. Un article du Centre National de la Musique nous apprend qu’à Paris, le Sony Computer Science Laboratory travaille avec la société Splash PRO pour concevoir « des fragments musicaux sous forme de partitions et de sons » résultants de son entraînement préalable. Soit un logiciel permettant de « composer et produire des chansons à partir des propositions originales et surprenantes générées par la machine auxquelles les musiciens n’auraient pas pensé » . Une belle interaction homme-machine.

Autrement plus inquiétant, ces cas où les algorithmes agissent à l’insu de ceux qui sont censés les contrôler… Comme dans le cas de Boeing et de son système automatique anti-décrochage (« Maneuvering Characteristics Augmentation System » – logiciel MCAS), forçant l'avion à piquer du nez dans certaines situations d’urgence. A priori ce n’est qu’un logiciel de sécurisation de vol sauf que, pour des raisons obscures, mais délictueuses, le MCAS a été installé dans certains appareils sans que les pilotes ne soient mis au courant. Comment pouvaient-ils agir en conformité avec les procédures de sécurité alors qu’ils ne savaient rien des fonctionnalités du MCAS et, surtout, de cette donnée essentielle indiquant que si l’avion mettait plus de 10 secondes à reconnaître qu’il s'était déclenché par erreur, les conséquences seraient « catastrophiques » ?

Le cauchemar d’Elon Musk 

Au-delà de ce qui relève de délits notoires, le risque de dérèglement algorithmique est aujourd’hui patent et la crainte d’une intervention malveillante sur les systèmes informatiques est de plus en plus concrète. En juillet 2017, Elon Musk s’en inquiétait après qu’un hacker eut trouvé une faille dans un serveur de Tesla lui permettant de contrôler n'importe laquelle de ces voitures grâce à son numéro d'identification… En juin 2021, un bug dans le code source des serveurs Orange a provoqué une panne entraînant de grosses perturbations des numéros de secours type SAMU, modifiant radicalement le parcours de vie de quelques citoyens.

Depuis l’aventure un peu romantique d’Evan Ratliff, le contexte numérique a bien changé, au point que son livre traduit en Français en 2020 apparaît presque désuet. La sécurité est d’autant plus menacée qu’avec les progrès de la 5G, la partie logicielle s’accroît au détriment de la composante « matériel » et génère de nouvelles vulnérabilités. En fait (et c’est logique), plus on s’appuie sur l'infrastructure numérique, plus on élargit la surface potentielle d’attaques. Il faut, en effet, compter sur les failles récurrentes de Windows ou Androïd, principaux sous-traitants des réseaux, qui posent aujourd’hui un réel problème de sécurité. Le patron de la FED Jerome Powell a lancé l’alerte, pointant le risque d’un scénario où le système de paiement ne fonctionnerait plus et les institutions financières perdraient leur capacité à suivre leurs opérations.

En cumulant le retard de la prise de conscience, la faiblesse des investissements en matière de sécurité et la professionnalisation des hackers, le monde digital a généré son propre risque. Aujourd’hui, la cyber-attaque est considérée comme la menace numéro 1, elle est devenue l’un des quatre principaux domaines d’intervention de l’OTAN depuis juin 2021.


Cet article est issu de « L'Amour du Risque » , un dossier complet réalisé par L'ADN en collaboration avec le groupe Aéma. Pour accéder aux autres contenus qui le composent, c'est par ici !

premium2
commentaires

Participer à la conversation

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.