Les IA ne sont pas des outils ! Et c’est important de le comprendre

Mal nommer les choses, c’est ajouter au malheur du monde. Et on admettra qu’on n’a pas envie de ça. Mais alors, si les IA ne sont pas des outils, comment peut-on les qualifier ? Et pourquoi c'est important de mieux le faire pour comprendre les questions qu'elles nous posent.

Alors que la France accueille le Sommet International de l’IA, constatons que notre bingo de l’IA tourne en boucle sur l’idée que l’IA est un outil. Martelée comme une vérité immuable, cette affirmation est rarement remise en question. Pourtant, l’IA est-elle vraiment un outil ? Que signifie ce mot et comment pourrait-on dire autrement ?  

Nous avons posé la question à Vincent Bontems, philosophe des sciences et des techniques, directeur de recherche au CEA et professeur à l'université Paris-Saclay, mais aussi éminent spécialiste de Gilbert Simondon. Or, ce philosophe un peu oublié, auteur en 1958 de l’ouvrage exigeant et précurseur – Du mode d’existence des objets techniques – a été le premier à s’interroger sur ces questions : en quoi une IA pourrait différer des outils, des instruments connus jusqu’alors ? Et comment doit-on la qualifier pour lui donner sa juste place dans nos vies ?

On entend souvent que l’IA est un outil, sans interroger davantage ce mot. Est-ce vraiment le cas ?

Vincent Bontems : Non. Dans la classification des objets techniques de Simondon, l’outil correspond au prolongement de l’action du corps. C’est le cas par exemple d’un marteau : vous décidez de taper à tel endroit avec telle force. On utilise le terme « outil » de façon incorrecte lorsqu’on parle de machines qui ne sont pas liées au fonctionnement de notre corps. Prenez un lave-linge : même si vous lui donnez une information sur le programme sélectionné, il a le principe de son fonctionnement en lui. Il a besoin d’alimentation, mais elle ne vient pas de votre corps : contrairement au marteau, vous avez dû la brancher sur un circuit. C’est une machine, et donc, selon Simondon, un individu technique. Avec l’outil, vous apportez l’énergie et l’information. Avec la machine, l’individu technique, c’est la machine. Or, les humains sont souvent asservis à la machine – sur des chaînes de montage, ils doivent travailler au rythme des machines.

Mais concernant l’IA, j’irai plus loin. L’IA est une machine, mais aussi un terminal de réseau, et c’est peut-être même le réseau lui-même, car l’IA est présente en chacun de ses terminaux et que l’apprentissage a été le résultat du traitement de données récoltées sur un réseau. 

Pourquoi dès lors une telle affirmation ? Est-ce un vecteur d’acceptation sociale ?

V. B. : Le premier motif est que les gens n’ont pas d’autre mot, car on ne leur a pas enseigné les concepts technologiques. Tout devient alors outil, c’est-à-dire un moyen neutre au service d’une fin. 

La seconde raison est que c’est rassurant. Si l’IA est un outil, les conséquences qui en découlent dépendent du bon ou du mauvais usage que j’en fais – je peux utiliser un marteau pour enfoncer un clou ou pour fracasser la tête de quelqu’un. Qui se priverait et qui aurait peur d’un bon outil ? Notre rapport éthique à cette technologie est très ambivalent. D’un côté on dit que c’est une révolution et que tout va changer, de l’autre on ajoute « rassurez-vous, ce n’est qu’un outil ». On porte l’idée que c’est inutile de s’y opposer et que les conséquences vont être immenses, tout en prétendant que l’on peut minimiser les heurts sur le corps social et contrôler les conséquences morales.

Gilbert Simondon décrit cette dualité : d’un côté, l’objet est perçu comme purement technique, « un assemblage de matière dépourvu de vraie signification » ; de l’autre, on le dote d’intentions (hostilité, danger, insurrection). Qu’aurait-il pensé des progrès actuels de l’IA ?

V. B. : Simondon souligne cette dualité à propos du mythe du robot. Il montre que faute de connaître la technique, de la comprendre, nous fonctionnons à partir de mythes et nous oscillons entre deux attitudes inadaptées : l’une est beaucoup trop réductrice et ne comprend pas que les objets techniques sont l’expression d’une humanité, d’une intelligence, notamment parce que les gestes humains nécessaires à sa fabrication sont cristallisés dans la structure de l’objet ; l’autre projette des mythes quasi animistes et prête à l’objet technique des attributs, souvent anthropomorphiques, tirés de l’animalité ou de la volonté de puissance humaine. Il faut comprendre ce qu’est la technique pour développer une attitude plus saine, plus rationnelle, plus technologique.

L’inadaptation de la culture à la technique, dit Simondon est la « plus forte cause d’aliénation dans le monde contemporain ». Sommes-nous plus éduqués à la technique qu’à la fin des années 1950 ?

V. B. : Non, mais nous avons des familiarités et des usages de la technique beaucoup plus riches. Certains individus peuvent développer spontanément des aptitudes beaucoup plus grandes que celles qui étaient à la portée des enfants des années 50-60 grâce aux ressources du milieu, c’est-à-dire l’accès au savoir généralisé par Internet. On a néanmoins également régressé. Autrefois, on pouvait démonter les objets qu’on nous vendait pour essayer de les réparer et les comprendre. Nous étions alors dans un rapport technologique à des objets “ouverts” et nous pouvions faire évoluer nos relations. Aujourd’hui, nous sommes face à des boîtes noires.

Simondon écrit : « le progrès du 18ᵉ siècle laissait intact l’individu humain parce que l’individu humain restait individu technique, au milieu de ses outils dont il était centre et porteur. » Désormais, l’individu devient « le spectateur des résultats du fonctionnement des machines », ou bien celui qui les met en œuvre. « Ce ne sont plus les artisans, mais les mathématiciens qui pensent le progrès », le rendant ainsi angoissant, observe-t-il. Le progrès est-il décorrélé des besoins humains ?

V. B. : La prétention actuelle des entreprises de la tech à incarner le progrès est très abstraite. Elle propose des fantasmes individualistes et ne génère pas de projet collectif. C’est d’autant plus difficile à détecter parce qu’il est difficile de dire aux gens que l’IA est un projet qui ne les inclut pas alors que ce sont eux qui discutent avec elle, et qui lui demandent des services. Pourtant, il n’y a pas de recherche pour savoir comment créer cette technologie pour qu’elle fasse du bien. On voit pourtant les effets de l’IA sur le milieu. Le milieu s’adapte d’abord à la croissance de la puissance de fonctionnement : on a vu la valeur des entreprises qui créent des semi-conducteurs exploser en Bourse et des porte-avions américains et chinois autour de Taïwan. Ensuite, à la croissance de l’alimentation : aujourd’hui, des GAFAM envisagent de construire leurs propres réacteurs nucléaires. Troisièmement, la croissance de l’information mène à une guerre des datas : on peut prévoir des vols de données de bonne qualité, la pollution des datas des autres, la tentative de manipuler les datas synthétiques... Enfin, au fur et à mesure que les cerveaux seront exclus des cycles de production, il y aura aussi une déperdition des fonctions qui étaient remplies par des humains. Autrefois, l’humanité a su réguler les sociétés de porteurs d’outils, puis la société machinique, il reste à inventer l’écologie des réseaux.