Sur TikTok, plus personne ne sait si vous êtes un fake (ou pas)

Entre les sosies deep fake de Tom Cruise ou Keanu Reeves et les démonstrations techniques d’effets spéciaux, les utilisateurs de TikTok ne distinguent plus la réalité et l'artificiel.

« Vous vous souvenez de mon jumeau ? Il faut que je vous avoue la vérité sur lui : il n’existe pas. C’est que du montage vidéo. Mais il y a un truc que vous n’aviez sûrement pas remarqué : c’est que moi non plus je n’existe pas ! ». Dans sa vidéo postée le 6 novembre dernier sur TikTok, le créateur de contenu Xelito annonce à son 1,4 million d’abonnés qu’il est en fait l’avatar totalement artificiel, création d’une jeune fille qui l'a réalisé grâce à un assemblage de logiciel d’effets spéciaux et d’IA génératives. 

La vidéo a fait plus de 9,5 millions de vues et a fasciné de nombreux internautes. Il faut dire que la jeune fille à tout de la geek qui maîtrise son sujet. Elle énumère les différentes techniques utilisées pour obtenir ce résultat. L'avatar de Xelito aurait été obtenu grâce au générateur d'image Dall-E qui peut créer des visages artificiels. L'animation du corps serait quant à elle le résultat de l'outil Convert Skeleton pour en faire un modèle en trois dimensions, modèle lui-même animé par Deep Motion qui permet de le faire bouger comme un vrai être humain. Tout cela aurait de quoi impressionner n'importe quel internaute – sauf que toute la vidéo est totalement fausse.

Is this real life ?

Cette jeune geek qui prétend avoir créé l'avatar Xelito s'avère être Satine Wallé, une tiktokeuse et chanteuse dont les différentes vidéos ne démontrent aucune compétence particulière pour les effets spéciaux par IA. Xelito existe bel et bien et le seul effet spécial qui est utilisé dans la vidéo est un morphing relativement simple à utiliser. Pire, cette vidéo n'est pas une idée originale mais le plagiat d'une autre vidéo Tiktok réalisée par Curt Skelton, un créateur spécialiste en effets spéciaux.

Dans cette vidéo originale, sortie il y a 3 mois, on découvre une tiktokeuse qui aurait créé l'avatar de Curt Skelton en utilisant Dall-E et d'autres outils. Sauf qu’à bien y regarder, le seul effet visuel réellement fonctionnel dans cette vidéo est encore une fois ce morphing. Et cet effet ne nécessite pas toute cette débauche d’outils basés sur l'intelligence artificielle. En résumé, les deux vidéos sont fausses, tant sur le fond que sur la forme, en faisant croire qu'elles utilisent des techniques avancées et complexes alors qu'il s'agit d'un petit effet spécial, simple à mettre en place. Mais les internautes n’y ont vu que du feu.

« Avez-vous déjà questionné la nature de votre réalité ? »

Quand on regarde les commentaires sous les vidéos, beaucoup d’internautes sont confus. Certains se demandent qui de Xelito ou de Curt Skelton a sorti la vidéo en premier. D'autres s'interrogent — est-ce un canular, quelle est la motivation derrière ces vidéos ? Sont-ce des démonstrations techniques, de la publicité pour Dall-E, ce programme d'intelligence artificielle capable de créer des images à partir de descriptions textuelles ? Du contenu qui s’amuse à brouiller les pistes ?

Et sur TikTok, beaucoup d'autres comptes surfent sur cette idée de jouer entre réalité et mensonge. Par exemple, sur les comptes Unreal Keanu et Deep Tom Cruise, des sosies numériques des acteurs sont réalisés grâce à la technologie des deep fakes. Ils postent régulièrement de courtes vidéos où on reconnaît les acteurs, alors que les images ont été totalement créées.

En 2019, une influenceuse chinoise, Qiao Biluo, avait perdu en direct le filtre qui lui donnait le visage d’une jeune fille de 20 ans. Ses millions de followers avaient découvert qu’ils adulaient une femme de 58 ans se faisant passer pour une junior. Sur YouTube et sur Twitch certain influenceurs préfèrent utiliser une combinaison de motion capture pour faire parler un avatar virtuel à leur place. À présent, ce sont les intelligences artificielles génératrices d’images qui jettent le trouble dans la psyché collective.