Révolte des artistes contre Instagram : Cara, le réseau social qui défie l'IA de Meta

Face au pillage des IA, des artistes quittent Instagram pour rejoindre Cara, un réseau social conçu pour protéger leurs œuvres. Créée par Jingna Zhang, cette plateforme rencontre un succès fulgurant, mais doit relever d'importants défis.

De nombreux artistes quittent Instagram pour protéger leurs œuvres contre l'IA de Meta et trouvent refuge sur l'application Cara, créée par la photographe militante Jingna Zhang. Cette alternative, conçue pour défendre les droits des artistes face aux IA, a rencontré un succès fulgurant, passant de 40 000 à 650 000 utilisateurs en quelques jours, et atteignant le million aujourd'hui. De quoi surprendre la fondatrice, qui a d'abord cru à une cyberattaque, et qui raconte dans Wired qu'elle doit maintenant gérer une facture de 100 000 $ due à l'hébergeur.

Tromper les algos des IA

Du point de vue du design et des usages, Cara n'innove pas vraiment et reprend en partie les codes d'Instagram et de X. En revanche, la plateforme intègre des fonctionnalités utiles pour les artistes, comme la possibilité de créer un portfolio ou d'accéder à une section dédiée aux offres d'emploi, facilitant ainsi les échanges entre artistes et entreprises. Cependant, l'aspect le plus intéressant de Cara réside dans ses efforts pour se protéger des IA. La plateforme permet de tester en grandeur nature Glaze, un outil conçu par l'université de Chicago, qui trompe les algorithmes d'IA en incorporant des données invisibles dans les images. Bien que ces données soient indétectables à l'œil nu, elles rendent l'image inopérable pour les modèles d'apprentissage automatisés. De plus, aucune œuvre générée par IA ne peut être publiée sur la plateforme, car elle sera automatiquement détectée et supprimée par la technologie Hive.

Cette fronde contre Meta a démarré le 26 juin dernier, quand l'entreprise a annoncé son intention d'utiliser les publications sur ses réseaux pour entraîner et améliorer ses modèles d'IA générative, sans demander le consentement des utilisateurs. Depuis, la colère des artistes ne faiblit pas. Jon Lam, artiste dans le jeu vidéo, résume bien le sentiment général : « Ces entreprises se retournent contre leurs utilisateurs. On nous a vendu de fausses promesses. Aujourd'hui, on se rend compte que nous ne sommes que des données qui servent à entraîner leurs modèles. » Face à cette réalité, tous les moyens sont bons pour résister à l'exploitation par les IA.

Jingna Zhang : figure de proue de la résistance

C'est au sein de cette résistance contre les outils génératifs que Jingna Zhang a émergé comme une figure de proue. En mars dernier, elle a remporté en appel un procès pour plagiat au Luxembourg, où elle avait travaillé comme photographe pour Harper’s Bazaar Vietnam. Elle participe également en Californie à une action collective en justice lancée contre Stable Diffusion, MidJourney, DeviantArt…, et prend la tête d'un groupe de plaignants dans un procès similaire contre Google, dénonçant les menaces de l'IA sur les emplois de cols blancs. « L'automatisation et l'IA générative ne concernent pas seulement les artistes. Elle est déjà présente dans le commerce et va remplacer des métiers de cols blancs. C'est tous les membres de notre société qui vont être affectés. » Cara parviendra-t-il à s'inscrire dans la durée ? Seul l'avenir nous le dira, mais une chose est certaine : Jingna Zhang est déterminée à se défendre contre l'IA, et elle ne compte pas s'arrêter là.