Alors que les outils de génération d’images n’en finissent pas de poser des questions éthiques et juridiques, Firefly, la nouvelle IA d’Adobe préfère jouer la carte de la prudence... à outrance ?
Génération d’images violentes ou pornographiques, manque de transparence des données d’entraînement, problèmes de copyrights… Il ne se passe pas une semaine sans que les outils de génération d’images comme Midjourney ou Stable Diffusion ne déclenchent une polémique sur les réseaux. Il faut dire que les principes de fonctionnement de ces intelligences artificielles reposent sur le travail d’artistes et de photographes aspiré sur le Web sans leur consentement. C’est dans ce contexte un peu tendu – d’autant plus que les IA sont maintenant des concurrents directs des graphistes – qu’Adobe a annoncé la sortie de son propre outil de génération d’images, Firefly.
L’art de marcher sur des œufs
Toujours en phase bêta, Firefly fait tout ce qu’on peut attendre d'une IA générative et même un peu plus. Il peut créer des images, mais aussi des outils spécifiques et customisables (des calques, des brosses…) à partir d’un prompt. Le communiqué évoque aussi des sons, des images en trois dimensions et de la vidéo pour les prochaines mises à jour. Mais à la différence d’un Dall.E ou d’un Midjourney, les données utilisées pour l’entraînement de l’IA sont totalement transparentes. « Nous avons utilisé les images de notre fonds Adobe Stock ainsi que du matériel qui est libre de droits, expliquent Rufus Deuchler, Director, Worldwide Creative Cloud Evangelism chez Adobe. C’est une demande que nous avons eue de la part des nombreuses entreprises qui souhaitent avoir un environnement de travail parfaitement sûr pour les années à venir. » À cette précaution de base, Adobe met en place un système « d’opt out » dans les métadonnées des images. En langage humain cela veut dire que chaque artiste ou photographe qui utilise la suite Adobe pourra inscrire dans les données de son image une interdiction d’utilisation pour un entraînement d’intelligence artificielle. Enfin, l’entreprise dit travailler à un système de rémunération des artistes qui accepteraient de voir leur travail utilisé dans l’entraînement de l’IA, « sur un modèle de redistribution inspiré de notre plateforme Adobe Stock », indique Rufus Deuchler.
Un modèle éthique, mais aussi censuré
Le souci d’éthique d’Adobe ne s’arrête pas aux questions de droits. La firme assure que les images produites par son IA maison présenteront des visages diversifiés et ne pourront pas représenter certaines scènes ou s’appuyer sur des noms d’artistes au niveau des prompts. « On donne la possibilité de sélectionner certains styles graphiques ou artistiques, explique Rufus Deuchler. Mais il est impossible d’utiliser le nom d’un artiste vivant dans un prompt pour éviter le vol de son travail. Certains mots ne sont d’ailleurs pas compris par l’IA. Si vous écrivez Mickey Mouse dans le prompt, l’outil va vous donner une souris, mais ne pourra pas récréer le personnage de Disney. Elle ne peut pas non plus afficher des armes ou reproduire certaines scènes que nous considérons comme violentes comme une attaque terroriste par exemple ». Sur ce point, Firefly semble donc faire le même choix que d’autres IA comme Stabe Diffusion qui a mis en place une certaine forme de censure dans ses prompts pour éviter la création de contenus NSFW (à traduire par « non convenable pour le travail », c’est-à-dire pornographique, violent ou gore). Cette limitation avait poussé certains à créer leur propre modèle sans censure dont les résultats, parfois choquants sont accessibles sur le Discord Unstable Diffusion. Quand on demande où Adobe place la limite en termes d’éthique et de restriction, la réponse reste malheureusement dans le vague. « Notre comité d’éthique nous accompagne dans toutes les prises de décisions concernant Firefly, indique Rufus Deuchler. Nous n’avons bien évidemment pas envie de censurer les utilisateurs. Je comprends votre question, mais je n’ai malheureusement pas de bonnes réponses à vous donner. »
Bonne initiative de la part d'Adobe. Ce serrait bien aussi, d'avoir une option AI "perso", pour que l'AI générerait les rendus que d'aprés nos oeuvres que l'on lui inculquerait...