premium 1
alain bensoussan robot

Faut-il créer un commissaire aux algorithmes ?

Le 19 oct. 2016

L'avocat Alain Bensoussan travaille depuis 40 ans à l'élaboration d'un droit des technologies avancées. Enjeu : reprendre le contrôle sur les algorithmes qui orientent désormais nos vies.

Alain Bensoussan est un homme de loi, et depuis trente-cinq ans, il écrit le versant juridique du code numérique.

Il est tombé dedans par intuition, en 1978, quand il se mobilise pour la loi relative à l’informatique, aux fichiers et aux libertés promulguée cette année-là. Article 1 : « L’informatique doit être au service de chaque citoyen. Son développement doit s’opérer dans le cadre de la coopération internationale. Elle ne doit porter atteinte ni à l’identité humaine, ni aux droits de l’homme, ni à la vie privée, ni aux libertés individuelles ou publiques. » Dans le monde réel des affaires, le texte a pris quelques coups de cutter, mais pas une ride.

« À l’époque, beaucoup doutaient de la pertinence de légiférer l’activité des ordinateurs qu’ils considéraient être de simples objets. Peu à peu, j’ai démontré que l’informatique présente des spécificités que l’on se doit de prendre en compte. » Et elles le seront dans le cadre de la protection des logiciels, puis de la fraude informatique. Et l’histoire du numérique ne cesse plus de lui donner raison.

Aujourd’hui, Alain Bensoussan continue de bâtir le droit des temps nouveaux. Les défis ne manquent pas. Le plus grand ? Les robots.

 

 

L’intelligence artificielle va modifier le réel : c’est la naissance d’une nouvelle espèce, capable de prendre des décisions de manière autonome, en interaction avec l’homme, sans forcément lui obéir. Ils deviendront des équipiers dans les entreprises, et des compagnons de notre quotidien. Nous avons quitté la science-fiction, et nous sommes à l’aube d’une fusion de l’homme-machine et de la machine-homme. Là encore, il n’y a pas de droit, et il va falloir le créer.

Alain Bensoussan

Pour se prémunir de quels risques ? Ils sont plus familiers que ce que nous pourrions craindre : la télédépendance. « Nous entrons dans un monde où nous sommes téléorientés : Internet est déjà piloté pour 60 % par des robots. Cela ira en s’amplifiant : nous allons nous confier aux algorithmes et nous endormir très tranquillement dans leurs bras parce qu’ils vont nous apporter la jouissance que nous en attendons. »

Comment lutter ? « Je dirais un seul mot : “dignité”, et pour pouvoir la mettre en œuvre, il faut de la transparence et du consentement. »

Transparence d’abord : « Comme il existe des commissaires aux comptes, je prône au niveau des plates-formes des commissaires aux algorithmes, des spécialistes de très haut niveau en charge d’auditer les algorithmes, capables de vérifier l’usage qu’ils font des données personnelles, et dans quelles mesures ils ne biaisent pas les réponses qu’ils donnent. »

Consentement ensuite : « Il ne s’agit pas d’obtenir un consentement général, mais un consentement au plus près de l’action, pour que les utilisateurs soient en capacité de comprendre le pouvoir auquel ils se confient. »

Alain Bensoussan ne verse pas dans le fantasme d’un combat homme/machine, mais se projette suffisamment loin pour appréhender là où doit se construire le droit. « Nous entrons dans la civilisation de la “robot-humanité”. Nous allons vivre avec une nouvelle espèce qui dans certains cas sera plus intelligente que nous. L’homme a toujours créé des éléments plus puissants que lui, et notre humanité s’exerce dans notre capacité à maîtriser cette puissance. » Mais pour ne pas provoquer de fracture sociale, « nous devons faire en sorte que la robotique soit universelle et éthique, au service des humains ».

Pour ce faire, Alain Bensoussan a créé l’association du droit des robots, et rédigé une « charte des droits des robots ». En dix articles, elle pose les premiers principes de gouvernance : responsabilité, assurance, sécurité… « Comme on l’a vu avec l’arrivée des smartphones en Afrique, je crois que les robots peuvent être un moyen d’améliorer l’accès à la culture et à la connaissance. » Mais pour que la chose puisse advenir, il reste à la graver dans le droit.

Alain Bensoussan à L'ÉCHAPPÉE Volée, le 28 mai 2016: Et si nous reprenions le contrôle sur les algorithmes ?

Cet article est paru dans L'ADN revue numéro 8 - Alain Bensoussan compte parmi nos 42 superhéros de l'innovation. Votre exemplaire à commander ici.


 

Commentaires

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.