Nothing Forever, la série télé générée par IA et diffusée sur Twitch est suspendue pour transphobie

Trois jours après son démarrage, cette parodie de Seinfeld générée avec l’aide de ChatGPT a subi un ban de 2 semaines pour propos transphobes. Une histoire qui rappelle forcément celle de Tay, l'IA de Microsoft devenue nazie en moins de 24h.

*Mise à jour de l'article original publié le 2 février 2023

« Il y a au moins 50 personnes ici et personne ne rigole. Quelqu'un a une suggestion ? J'ai pensé faire une blague sur le fait qu'être transgenre est une maladie sexuelle ou bien que tous les libéraux sont secrètement gays et veulent imposer leur volonté au monde ou bien encore sur la manière dont les personnes transgenres sont en train de détruire la fabrique de la société, mais personne ne rit. » Non, cette phrase n'est pas issue du dernier one-man-show d'Elon Musk mais de Nothing Forever, une sitcom générée par intelligence artificielle et diffusée 24h sur 24 en direct sur Twitch. Suivi par 10 000 spectateurs en moyenne, le stream a finalement été interrompu et le compte banni pour deux semaines après cette sortie de route presque parfaite.

C'est quoi Nothing Forever ?

Trois jours plus tôt, Nothing Forever avait suscité l'enthousiasme et la curiosité des aficionados d'expérimentations artistiques et technologiques. Cette série a été créée par le mystérieux Mismatch Média, un laboratoire média dont on ne connaît pas grand-chose en dehors du fait qu’il serait géré par des scientifiques, des entrepreneurs, des ingénieurs et des professionnels de la technologie. Il s’agit d’un pastiche de la célèbre sitcom américaine Seinfeld dont les dialogues et les images sont générés avec GPT3 et streamés en direct sur Twitch depuis le mois de décembre.

Concrètement, cela ressemble à une sorte de dessin animé réalisé avec un vieux moteur de jeu vidéo (les connaisseurs diront qu’il s’agit du style « low poly »), et qui enchaîne deux types de scènes. La première reproduit les dialogues que Jerry Seinfeld, Cosmo Kramer, George Costanza et Elaine Benes pouvaient échanger dans l’appartement de Jerry, comédien new-yorkais ; la deuxième montre « Larry » (le faux Jerry) seul sur scène en train d’enchaîner les blagues pas forcément drôles. 

Pourquoi l'IA a dérapé ?

D'après les créateurs, tout se passait bien avant que ces derniers ne changent d'algorithme en cours de route. En effet, d'après son co-créateur Skyler Hartle, la version de GPT3 qu'ils utilisaient, intitulée DaVinci, avait tendance à produire des résultats erratiques avec notamment des scènes complètement vides. Pour régler le problème, ils ont donc basculé sur une autre version moins sophistiquée intitulée Curie. Or ce modèle n'est pas compatible avec l'outil de modération mis en place par Open AI, outil qui rappelons-le, fonctionne grâce au travail difficile de milliers de vérificateurs humains soumis à des contenus traumatisants. GPT3 étant entraîné avec l'ensemble des écrits trouvés sur le Web, il a forcément absorbé du contenu haineux et transphobe et peut donc les ressortir de manière hasardeuse.

L'art du vide codifié

Regarder Nothing Forever est une expérience plutôt étrange. L’aspect visuel de la chose instaure immédiatement une ambiance de malaise tandis que les dialogues sans queue ni tête s’enchaînent à un rythme effréné. Ceux qui ont déjà regardé quelques épisodes de Seinfeld éprouveront sans doute un certain sentiment de familiarité. Entendons-nous là : les blagues ne sont pas drôles, et nous avons la plupart du temps l’impression d’écouter une personne délirante. Toutefois, la manière dont les personnages échangent et la structure des dialogues évoquent clairement la fameuse sitcom des années 90, comme si l’IA était capable de reproduire le canevas et les codes d’une série télé, sans pour autant y injecter du sens. 

Le contenu ayant lui-même assez peu d’intérêt, toute la saveur de l’expérience provient du chat qui défile très rapidement à côté de la vidéo. Au moment où ces lignes sont écrites, plus de 8300 personnes regardent et commentent Nothing Forever de manière hystérique. Les viewers font semblant de rire, reprennent les blagues, ou bien surnomment la salle de spectacle du faux Jerry, la « blood room » (salle du sang) en raison de ses rideaux rouges. Pour le moment, l’excitation de la découverte et le fait de faire semblant de s’amuser permettent de maintenir une forme d’émulation surréaliste. 

L'éternité c'est long

Cette volonté de créer du vide codifié fait sans doute partie de l’expérience et permet de toucher du doigt ce qu’est véritablement une IA comme ChatGPT. Cette dernière sait très bien imiter un style ou un format, elle sait rédiger des CV, des PowerPoints ou des rédactions, mais les informations qu’elle donne ne sont que des probabilités statistiques. Il s’agit en quelque sorte d’un charabia bien organisé. Par-dessus cette logique vient s’ajouter une autre couche : celle de la diffusion en streaming 24h sur 24h, 365 jours sur 365. Cet élément temporel ininterrompu, tout comme le titre du stream lui-même, montre que cette technologie va sans doute, à l’avenir, remplir continuellement notre existence de non-sens. Mais avec cette mésaventure, Nothing Forever prouve une nouvelle fois que les IA ont besoin d'avoir une forte supervision pour fonctionner correctement.