Des fausses images générés par IA

Les outils de génération d’images vont-ils nous faire douter du réel ?

Le tabloïd britannique The Sun s'est-il fait berner par la photo d’une soucoupe volante générée par une intelligence artificielle ? La vérité est ailleurs. Mais où ?

« Une photo incroyablement claire montre une soucoupe volante de 15 mètres émergeant d’une tempête avant de disparaître dans l’espace. »

Ce titre grandiloquent et l’article qui l’accompagne ont été publiés sur le site du Sun, lundi 5 septembre dernier. Basé sur un reportage diffusé à la télévision nationale mexicaine, le papier explique comment un mécanicien du nom de Juan Manuel Sanchez aurait pris cette extraordinaire photo.

Dans un contexte où l’US Navy déclassifie ses archives concernant des OVNIS en plein vol, la news a de quoi exciter les ufologues du monde entier. Malheureusement, pour les amateurs de petits hommes verts, quelques heures après sa diffusion, l'information a perdu de son crédit.

La photo aurait été créée sur Midjourney...

Peu de temps après, un utilisateur de Facebook répondant au pseudo de Poncho poste sur le groupe de génération d’image par IA Midjourney un post dans lequel il prétend être à l’origine des fameuses photographies. « Encore une fois, dit-il, on dirait que l’un de mes posts random sur le groupe Facebook est parti hors de contrôle… Et maintenant c’est sur le Sun. Les gens ont besoin de m’embaucher pour créer des fake news ». À l’aune de ce post, on pourrait croire que le Sun s’est fait berner par une image créée par un I.A.artiste. Mais, nouveau rebondissement..., les choses semblent plus compliquées. D’après un article de Vice, les photos postées par Poncho n’ont tout simplement rien à voir avec les images publiées par le Sun. Poncho a d’ailleurs effacé son post depuis. Retour à la case départ.

Les images générées par IA vont-elles nous rendre dingues ?

Si le mystère de cette soucoupe volante reste entier pour le moment, cette histoire nous éclaire sur le doute que les images trafiquées par intelligence artificielle vont poser. Comment désormais faire confiance aux images quand il est devenu si facile d'en fabriquer ? Dans le contexte où les fake news sont déjà utilisées comme arme de guerre numérique et culturelle, on sent bien là une nouvelle brèche. Pour Benj Edwards, journaliste spécialisé en machine learning et IA, il arrivera forcément un moment où des médias peu scrupuleux sur la vérification de l'information se feront avoir par une photo générée par Midjourney ou Stable Diffusion : « Je pense que la plus grosse menace de l’IA à court terme est la destruction de notre confiance dans les systèmes de communication. Comment vérifier qu’un évènement lointain est vraiment arrivé quand on peut le fabriquer avec une IA par écrit, vidéo ou photo) ? », écrit-il.

Dans les faits, les vidéos de deepfakes comme celle du faux Tom Cruise nous faisaient déjà douter de notre réalité.

À présent, il est tout à fait possible de créer en quelques secondes de fausses photos de personnages historiques ou des images érotiques avec le visage de n’importe quelle célébrité. Plus simples à utiliser que la technologie des deepfakes, ces images vont de nouveau envahir l’espace public et produire de nouveaux casse-tête éthiques et juridiques dans les mois à venir.

commentaires

Participer à la conversation

Laisser un commentaire