Vous serez bientôt jugé par une intelligence artificielle

Par Olivier Robillart - Le 1 février 2018

Accueil > Tech à suivre > IA, Machine Learning, IoT, ... > Vous serez bientôt jugé par une intelligence artificielle

Aux Etats-Unis, des algorithmes viennent en soutien des juges pour prononcer leurs verdicts. De son côté, la France teste déjà la justice prédictive.

Cleveland : dans cette cité laborieuse de l’Ohio, la justice a pris un tournant. Celui de l’apport des algorithmes au sein de l’appareil judiciaire américain. Face au nombre importants de dossiers à traiter, les magistrats sont aidés par des machines qui recensent l’ensemble des infractions commises par un prévenu.

Cet algorithme va fournir une recommandation. Un conseil. Et décider s’il est préférable de remettre un accusé en liberté surveillée, de l’incarcérer préventivement en vue de son procès ou de le libérer. Le juge conserve un pouvoir total de décision, mais il n’est désormais plus uniquement guidé par sa propre intuition.

Quand un algo aide un juge, cela soulève des questions… et des critiques. Suite à la mise en place du système, des voix se sont élevées pour contrôler cet outil, raconte l’agence AP. Le risque est de voir ces systèmes supplanter, à terme, la justice ou tout simplement de supprimer la neutralité du juge.

Ces algos peuvent également perpétuer des situations sociales difficiles en omettant des sentiments humains tels que la clémence, l’intuition, le for intérieur. Ils peuvent tout aussi se baser sur des biais discutables en ne puisant que dans le casier judiciaire d’une personne, sans prendre en compte ses autres activités, son travail, sa situation familiale et sociale. Pour contrer ces attaques, la justice américaine a clairement affirmé que l’algorithme ne tenait pas compte d'éléments tels que la couleur de peau, l’historique professionnel, le domicile ou encore le genre.

Malgré ces risques, d’autres Etats américains vont plus loin.

L’an dernier le New Jersey a créé une division « pré-procès » au sein de laquelle la procédure de jugement est accélérée. L’accusé est présenté par vidéo-conférence au juge, lequel lui signifie son « score de risque ». Cet élément va servir à savoir s’il a de fortes chances de récidiver ou non. Le verdict appliqué dépendra de ce score.

La justice prédictive s’installe en France

La justice ne s’appuie pas à proprement parler sur les algorithmes pour rendre un verdict. Des domaines du droit utilisent les algorithmes pour aider les professionnels. C’est le cas par exemple de l’estimation de dommages et intérêts (dommage corporel, divorce, bail…) qui va se baser sur des indices ou des tarifs plafonnés.

Autre cas, certains outils comme Case Law Analytics sont en mesure de quantifier le risque qu’encourt une entreprise lorsqu’elle licencie un collaborateur sans motif. Le service va notamment calculer les éventuels dommages à verser au plaignant.

Enfin, il est d’ores et déjà possible d’établir des statistiques sur les chances de gagner une procédure contentieuse. Là encore, le service baptisé Predictice va servir à connaître le montant des probables indemnités à verser.