L’intelligence artificielle est nulle pour prédire les crimes

Minority Report, mais version débile. Avec des taux de réussite oscillant entre 0,6 % et 0,1 %.

Les technologies de surveillance et de prédiction sont devenues une réponse habituelle aux problèmes de sécurité. Mais que savons-nous de leur efficacité ? Pas grand-chose. Peu de chiffres existent, en dehors de ceux donnés par les entreprises qui développent ces programmes. Une récente enquête de Wired et de The Markup nous éclaire un peu plus. Elle révèle que les crimes prédits par un algorithme de machine learning utilisé par la police américaine ne correspondent que dans 0,5 % des cas à des crimes qui se produisent réellement. 

99,9 % de chance de se tromper sur les cambriolages 

Les deux médias ont épluché les données de la police de Plainfield (New Jersey), une ville de 45 000 habitants. Ils ont analysé les 23 631 prédictions faites par le logiciel Geolitica entre février 2018 et décembre 2018. Celui-ci est censé indiquer un type de crime, une localisation et une heure approximative (dans une fourchette de 12 heures). Ces prédictions sont faites par un algorithme à partir de données sur les crimes passés. Après analyse, moins de 100 prédictions se sont avérées correspondre à des crimes effectivement rapportés à la police. Pour les vols et agressions, le taux de réussite du logiciel est autour de 0,6 %. Pour les cambriolages, c’est encore moins : 0,1 %. 

Avant d’obtenir ces résultats, les policiers n’étaient eux-mêmes pas convaincus de l’efficacité de ce logiciel. Les prédictions ne servaient pas de guide pour diriger les patrouilles, et d’ailleurs les quelques crimes justement prédits par l’algorithme faisaient partie des zones habituellement surveillées par les équipes. Geolitica a coûté à Plainfied 20 000 dollars pour la première année, puis 15 000 dollars chaque année. Des sommes qui auraient été plus utiles ailleurs, juge David Guarino, directeur du département de la police de la ville. Plusieurs États ont d’ailleurs arrêté son utilisation en 2020 après plusieurs années d’utilisation. 

Idiot et discriminant 

Geolitica cessera ses activités à la fin de l’année. Ses équipes ont été en partie embauchées par Sound Thinking, une autre entreprise spécialiste, qui assure ne pas reprendre l’activité prédiction des crimes de Geolitica. Avant cette investigation, le logiciel (anciennement baptisé PredPol) avait déjà fait polémique, notamment parce qu’il perpétuait certaines discriminations sociales en stigmatisant les populations noires et latino-américains. En 2020, la police de Los Angeles l’abandonne, officiellement parce qu’il est trop coûteux. Mais si Geolitica n'est plus utilisée, une multitude d’autres solutions sécuritaires similaires existent. Y compris en France. L’entreprise Two-i basée à Metz se targue notamment de pouvoir détecter des comportements suspicieux en analysant les foules. Elle a été sélectionnée à un appel d’offres pour assurer la sécurité des JO 2024, rapporte La Quadrature du Net. En avril, le Sénat adoptait une loi autorisant la vidéosurveillance algorithmique dans le cadre des jeux olympiques.  

Le problème c’est qu’en plus d’être inefficace, ce type de logiciel peut avoir des effets délétères, comme l’explique le criminologiste David Weisburd à Wired et The Markup. « Prédire des crimes dans des endroits où ils ne se produisent pas est un problème destructeur. La police est un service, mais c'est un service qui peut avoir des conséquences négatives. » Le spécialiste s’appuie sur des études montrant que les interpellations à répétition des forces de l’ordre peuvent causer un stress émotionnel, suivi d’une hausse de la délinquance. 

Rappelons que les technologies dites de police prédictive ont été déclarées comme présentant un niveau de risque « inacceptable » par le Parlement européen, lors de l’adoption de l’AI Act en juin 2023, le règlement qui légifère l’utilisation de l’intelligence artificielle dans l’Union Européenne.