Cette I.A. stupide étiquette votre visage
L’algorithme du site ImageNet Roulette attribue des mots aux visages des internautes. Le résultat s’avère souvent absurde, sinon carrément offensant.
Êtes-vous plutôt weirdo, traître, divorcé, beau, religieux, violeur potentiel… ? L’intelligence artificielle du site ImageNet Roulette vous donne la réponse à partir d’une simple photo. Et souvent son diagnostic tombe à côté de la plaque.
Sur les réseaux sociaux, les internautes partagent depuis mardi 16 septembre 2019 leur cliché accompagné de la classification opérée par l’intelligence artificielle. Résultat absurde et offensant quasi-garanti. L’algorithme s’avère souvent raciste, homophobe, misogyne et cruel. Il n’hésitera pas à vous catégoriser comme « dingue », « négro » ou « fille stupide ». J'ai moi-même été catégorisée comme « white face », c’est-à-dire « un clown dont le visage est recouvert de maquillage ». Merci bien. Ci-dessous une petite sélection de résultats glanés sur Twitter.
😭😭😭 #imagenetroulette pic.twitter.com/TjyUats7vt
— Roel (@Roelheid) September 17, 2019
L’algorithme s’appuie sur une base de données très utilisée par les chercheurs
Derrière ce petit jeu amusant (et effrayant), se cache un projet très sérieux. ImageNet Roulette fait partie de l'exposition « Training Humans » sur l’histoire de la reconnaissance d’images, à voir jusqu’au 24 février à la Fondation Prada de Milan. L’algorithme d’ImageNet Roulette s’appuie sur ImageNet, l’une des bases de données les plus importantes de l’histoire de l’intelligence artificielle. Cette dernière a été lancée en 2009 à partir de millions de photos du web et de la base de données textuelle WordNet, créée par des chercheurs de Princeton. Elle compte plus 2 500 catégories pour classifier les photos de personnes. ImageNet a été utilisée (et continue de l’être) par des centaines d’équipes de recherche.
« ImageNet contient un certain nombre de catégories problématiques, offensantes et bizarres, toutes tirées de WordNet. Certaines utilisent une terminologie misogyne ou raciste », écrivent sur leur site Kate Crawford et Trevor Paglen, la chercheuse et l’artiste à l’origine d’ImageNet Roulette.
Laisser les IA nous catégoriser est dangereux
Leur objectif est de montrer que de laisser un algorithme catégoriser les humains selon leur genre, émotion, couleur de peau est problématique et dangereux. Car les biais sexistes, racistes et politiques sont inévitables. Et « il n’existe pas de moyen simple pour (les) retirer », estime sur son compte Twitter Kate Crawford. (Il existe tout de même quelques solutions.)
Si vous voulez essayer, rassurez-vous : ImageNet Roulette promet de ne pas stocker les photos des utilisateurs. Pas d’exploitation de votre image par une entreprise façon FaceApp ou Zao.
C'est déjà ça.
POUR ALLER PLUS LOIN :
> Jeux vidéo : les ratés de l'intelligence artificielle créent un nouveau genre d’humour absurde
> Intelligence artificielle : les vraies questions à se poser pour éviter l’ethical washing
> L'intelligence artificielle distingue mal les femmes noires
