Quand la chercheuse Janelle Shane demande à une IA génératrice de texte de lui trouver des phrases d'accroche pour séduire un partenaire, les résultats sont étranges. Ce qu'on appelle « l'étrangeté » des IA. Explications.
Janelle Shane est chercheuse en optique et en intelligence artificielle. Sur son blog AI weirdness, elle documente les explorations qu'elle mène sur les modèles d’IA génératives, et ses surprises aussi. Elle le fait avec un humour irrésistible qui souligne, qu'à ce stade, « les intelligences génératives de textes sont fascinantes mais restent plus proches du comportement d’un alien que de celui d’un humain », pour reprendre les propos de Gary Marcus, autre chercheur référent sur le sujet.
Lorsque vous avez lancé votre blog, quel était votre objectif ?
Janelle Shane : C’est un texte généré par une IA qui m’a donné envie de me lancer. Le réseau de neurones avait été nourri de recettes de cuisine. Le modèle essayait bien d’imiter les recettes, mais il avait du mal à saisir les ingrédients, les combinaisons. Ça donnait des trucs tels que du « lait haché », du « bourbon râpé » ou du « riz pelé ». Ça m’a frappée, et, surtout, j’ai bien ri. Je voulais continuer à tester cette application d’IA et partager avec mes amis ces résultats vraiment drôles. Je ne pensais pas que ça allait intéresser autant de gens.
Votre blog évoque souvent « l’étrangeté de l’IA générative ». De quoi s'agit-il ?
J.S. : J’aime comparer l’interaction que vous pouvez avoir avec les IA génératrices de texte, au moment où vous écoutez quelque chose alors que vous êtes en train de vous endormir. Vous croyez comprendre, mais en fait non. Ça a l’air correct et normal, mais de très loin. GPT-3, c’est un peu comme si un truc sucré de couleur rouge prétendait faire office de confiture de fraises. Ça y ressemble, mais en surface.
Dans l’un de vos billets, vous racontez comment vous avez demandé à GPT-3 de trouver des phrases d’accroche pour draguer. Et c’est hilarant ! Vous vous attendiez à ce résultat ?
J.S. : Ça m’a surprise. J’ai hésité longuement avant d’essayer parce que j’étais persuadée que GPT-3 serait trop bon. Mais les résultats étaient géniaux et tellement bizarres. ( « Je suis comme la glace, vous devriez me garder dans le congélo, parce que sinon je fonds » ou « Vous avez un si joli visage. Est-ce que je peux le mettre sur un désodorisant ? Je veux garder votre odeur près de moi pour toujours », ndlr). D’ailleurs, c’est l’une des quelques utilisations que l’on pourrait imaginer avec GPT-3, l’interaction avec un créateur qui agirait comme curateur, mais aussi comme garde-fou de ce que génère ce genre d’IA. Je rappelle que GPT-3 est basé sur des informations récupérées sur Internet – et parfois dans les pires endroits du Web. En fait, le modèle vous ramènera toujours à une certaine médiocrité d’Internet, il cherche la « moyenne », donc une certaine forme de banalité.
Bon, quand on dit « deep learning » (apprentissage profond), sur ces modèles, c’est encore abusif ?
J.S. : Il y a la profondeur d’une piscine. Et puis, il y a celle de l’océan. Pour l’IA, on est plutôt au niveau de la piscine, pour l’instant. Mais pour revenir à cette histoire d’uniformisation, le truc, c’est que la plupart des individus sont plus à l’aise avec la norme, avec la « moyenne ». Prenons l’exemple de l’entretien d’embauche. Le danger, c’est qu’avec l’incursion de ces technologies, les êtres humains commencent à altérer leurs comportements. Face à un algorithme de recrutement, on recommandera au candidat de veiller à son langage non verbal, à l’éclairage de la pièce, et aussi à avoir une bibliothèque en arrière-plan. Si, si, je vous assure, des chercheurs allemands ont mené des tests sur ces algorithmes de recrutement, et on a constaté que les candidats avec une bibliothèque en arrière-plan gagnaient des points. Ou que dans le cadre d’examens, l’IA ne regardera pas la cohérence des arguments ou des idées défendues, mais votre capacité à écrire correctement et à faire des phrases complexes. Et je ne vous parle pas de la discrimination des femmes par les algorithmes de recrutement…
À LIRE (en anglais) : You Look Like A Thing And I Love You: How Artificial Intelligence Works And Why It's Making The World A Weirder Place, Janelle Shane, Voracious, 2019 - un livre parfait pour apprendre plein de choses sur l'IA et comment elle va changer notre représentation du monde... mais en riant. « Janelle Shane a atteint le tiercé gagnant : l'explication la plus hilarante, la plus éducative et la meilleure sur l'intelligence artificielle jamais écrite (et dessinée). » On plussoie le commentaire de Éric Topol, auteur lui-même de Deep Medicine : Comment l'intelligence artificielle peut rendre les soins de santé humains à nouveau
Cette interview est parue dans notre dossier consacré aux IA génératives (un dossier non moins savoureux que les textes de Janelle Shane). Nous l'avions composé pour le numéro 31 de la revue de L'ADN paru en juillet 2022 (oui, avant que le phénomène n'explose). Malheureusement, ce numéro est épuisé... Pour découvrir les autres numéros de la revue... cliquez ici.
Participer à la conversation