L'intelligence artificielle distingue mal les femmes noires

Pour les personnes à la peau plus sombre, l’affaire se complique. Les I.A. se sont trompées dans 12% des cas pour les hommes et dans 35% des cas pour les femmes… En gros, une intelligence artificielle peine à à identifier correctement une femme, encore plus si elle a la peau noire.

C’est la première fois que de tels biais technologiques sont prouvés. Ils démontrent le besoin d’étoffer des analyses pour confirmer ou infirmer ce type de conclusion. Ces tests sont également le témoin de la nécessité d’apporter davantage de diversité parmi les personnes qui créent ces I.A.

Ce n’est malheureusement pas la première fois que des outils des reconnaissances faciales franchissent la limite. En 2015, plusieurs Américains avaient pointé du doigt l’application Photos de Google pour avoir qualifié par erreur des personnes noires de gorilles. Elles avaient été identifiées automatiquement par la plateforme. Cette dernière avait donc agi seule, sans apport humain.

A l'époque, la seule réponse de Google avait été de retirer le terme « gorille » de son système d’indexation d’images. La firme n’avait donc en rien résolu la mauvaise interprétation qu'opéraient ses propres algorithmes, occultant par là-même la possibilité qu’existent ces biais technologiques.

Toujours est-il qu’il est important de noter que, par principe, les algorithmes ne sont pas biaisés intentionnellement. Ils doivent toutefois mieux prendre en considération la diversité qu’offre la nature humaine. Des travaux doivent donc être conduits dans l’optique de limiter ces biais ou erreurs de fait. Cela se peut en intégrant davantage de groupes démographiques variés au sein même de ces intelligences artificielles.

Les exemples ne manquent pas pour montrer que ces biais technologiques sont finalement ceux apportés par l’humain. En 2016, un chatbot lancé par Microsoft avait viré raciste et misogyne en quelques heures. Baptisé Tay, ce robot conversationnel, en apparence candide avait été entraîné pour apprendre à partir d’informations présentes en ligne.

Tay avait répété ce que d’autres pages Web lui avaient indiqué. Le chatbot avait donc appris « bêtement » certains propos nauséabonds pour les valider sans pour autant disposer d’un avis critique. En 15 heures d’apprentissage, Tay a été amené par exemple à considérer le féminisme comme un « cancer » ou prendre des positions racistes comme étant avérées.

Là encore, Microsoft n’avait pas préparé son robot conversationnel pour réfléchir à la portée de ses propos. Il avait relayé, sans aucun filtre, des données pouvant relever du racisme ou de l’atteinte à autrui, sans aucun moyen d’avoir un quelconque recul sur ses propos. Preuve en est que les intelligences artificielles peuvent donc être racistes ou misogynes, à condition qu’elles soient disposées à l’être.