Imaginez un réseau où chacun peut aider la police à identifier et arrêter les criminels. C’est le principe de l’application Citizen, dont on imagine aisément les dérives…
Peut-être vous rappelez-vous de « Vigilante », une application bannie de l’AppStore. Celle-ci encourageait les utilisateurs à être « vigilants » - à savoir reporter tout comportement suspect directement sur la plateforme. Le souci, c’est qu’au-delà de signaler un individu (ce qui peut déjà poser problème en soi dans la mesure où les stéréotypes ont la peau parfois bien dure…), l’application encourageait sa communauté à agir en groupe pour remédier au problème identifié, devenant aussi un outil incitant à d’éventuelles altercations avec des passants totalement innocents.
Or, les conditions de l’AppStore stipulant que toute application qui « encourage ou risque une confrontation physique » sera bannie, Vigilante n’aura pas fait long feu.
Du moins le croyait-on.
Revenue sous un nouveau nom, « Citizen », l’application est désormais disponible à New York et San Francisco. Un poil remasterisée, elle envoie des alertes à ses utilisateurs en fonction des appels reçus par le 911. A partir de là, ils sont invités à « live streamer » les crimes et les incidents afin que d’autres puissent en être les témoins, et commenter la situation en direct.
Plutôt que de lister tous les appels émis auprès du 911 (qui s'élèvent chaque jour au nombre de 10 000), l’application choisit de lister les 300 ou 400 jugés « dangereux » pour la population. Petit hic : il existe toujours une fonction permettant aux utilisateurs de signaler un problème. Si elle n’est pas fréquemment utilisée, il n’empêche que laisser l’appréciation de ce qui pose ou non problème à la population, peut rapidement virer à la délation mal placée.
Une autre dérive possible consiste à l’identification possible de témoins clés, en live-streamant une scène de crime.
Loin d’être un cas isolé, il existe de multiples applications aux Etats-Unis poussant à la surveillance généralisée. Parmi les plus abjectes, on notait « Ghetto Tracker », une application destinée aux Blancs qui souhaitaient éviter les quartiers où ils se trouvaient en minorité.
Tout va bien.
Ce que ça peut être gerbant de mélanger en permanence la technologie à l'omniscience et à la capacité d'amélioration permanente de la recherche du bonheur ou de la sécurité.
En quand en plus on joue sur la corde sensible pour sauver un enfant, on atteint les sommets. La seule image intéressante est la fin du film : une alerte apparait au rythme de 1 toutes les secondes ?! ! Comment faire le tri ? comment choisir ce que vous allez dénoncer : la mamie qui vient de perdre son collier en or ou le petit de 4 ans qui vient de se faire enlever ? Au nom de quoi pourrez vous trancher ? Et si ce choix demain vous était reproché , auriez vous le courage de vos opinions et de subir la critique et des choix judiciaires ? Au sens vrai du terme, on tend à rendre l'homme imbécilité dont il n'a su s'extirper que par un peu de culture et d'art. Mais finalement comme nous ne sommes que les seuls à apprécier l'art ou la culture que nous avons créés, ne serions nous pas condamner à nous asservir à des mécanismes ou des machines que là aussi nous avons créés. Si nous ne sommes pas capables de nous en rendre compte, c'est sans issue.