Quand l'intelligence artificielle s'attaque aux enfants

Depuis qu'il est possible « d'écrire » et « d'illustrer » des ouvrages avec des IA, un monceau de livres pour enfants envahit les rayons d'Amazon et d'Etsy.

Des tyrannosaures à trois jambes et aux bras déformés, des petits écureuils qui vous apprennent à mieux gérer votre argent pour devenir très riches, et des histoires illustrées où l'héroïne change de visage et de coupe de cheveux à chaque page. Depuis plusieurs mois, les rayons numériques de la librairie d'Amazon et le site de vente Etsy sont envahis de livres d'histoires ou de coloriages pour enfants co-créés avec l'aide d'intelligences artificielles. Et les résultats sont pour la plupart catastrophiques.

Cibler les enfants, c'est plus facile

Depuis que les intelligences artificielles génératives on fait leur apparition pour le grand public, toute une ribambelle de vidéos de conseils issus de faux entrepreneurs du Web – qui veulent absolument vous faire devenir riche très facilement – ont émergé. Auparavant très concentrée sur les NFT ou la vente en drop-shipping, cette communauté s'est tournée vers l'IA générative pour créer de nouvelles idées de business forcément « révolutionnaires ». Parmi elles, l'une des plus récurrentes consiste à générer via ChatGPT un livre inscrit un domaine spécifique, puis de le placer en tête de vente grâce à des techniques de SEO propre aux sites d’e-commerce. Reste que l'écriture intégrale d'un roman pour adulte est une tâche encore difficile à réaliser pour ChatGPT, cela demanderait trop de travail. C'est pourquoi nos entrepreneurs du dimanche se sont particulièrement intéressés aux livres pour enfants, qui comportent beaucoup moins de texte.

De coach en finance à auteur de littérature jeunesse

Dans son podcast d'enquête Behind The bastards, le journaliste Robert Evan s'est particulièrement penché sur cette tendance. Et cela a de quoi faire sourire. Imaginez des livres spécialement écrits pour les enfants par des individus qui n'ont aucune idée de ce qui constitue une bonne histoire, qui n'ont aucune notion de pédagogie, et qui estiment que leurs valeurs morales et éthiques sont les mêmes que celles d'enfants. Cela n'empêche pas de nouvelles plumes d'apparaître, comme Brett Schickler, un « coach en finance » qui a connu un petit quart d'heure de gloire en étant cité dans un article de l'agence Reuters en tant qu'auteur du livre Le petit écureuil malin : une histoire d'économie et d'investissement. Comme l'indique la quatrième de couverture, l'histoire suit « un écureuil intelligent et ingénieux nommé Sammy, qui découvre une pièce d'or brillante alors qu'il ramassait des glands. Avec l'aide de ses amis Benny l'ours et Lily le chipmunk, Sammy apprend l'importance d'épargner et d'investir pour atteindre ses objectifs. » Cette incroyable publicité n'a heureusement pas empêché le livre de faire un bide sur Amazon, avec quatre critiques 1 étoile traitant le produit « d'arnaque n'ayant de sens que s'il avait été écrit pour un public de robot ».

Pour en savoir un peu plus sur la manière dont ces livres sont conçus, il faut remonter à la source, c’est-à-dire, les vidéos YouTube qui décrivent le process et les prompts utilisés. C'est ce que fait la chaîne sans présentateur The Zinny Studio qui a détaillé comment fabriquer un ouvrage pour enfant de A à Z. Ces ouvrages ne commencent pas avec une idée d'histoire ou de personnage, mais bien avec une recherche marketing pour savoir quelle cible on souhaite atteindre. L'idée est de trouver un marché par trop encombré pour avoir une chance de faire la différence face à la concurrence. Une fois que l'on a désigné sa cible, à savoir « des enfants de 5 à 7 ans qui aiment l'aventure », il suffit ensuite de demander à ChatGPT de générer une histoire spécifiquement pour eux, sans avoir à lui proposer des personnages ou une intrigue. Le prompt ressemble généralement à ceci : « écris-moi une histoire pour enfant sur une fille qui part à l'aventure pour trouver un trésor perdu. La morale doit être " tu accomplis l'objectif que tu as en tête". Écris six pages avec un titre à chaque page. Rends-le tout incroyable et intrigant. »

Le résultat est à la hauteur des attentes : un texte totalement dépourvu d'âme dans lequel le protagoniste « est intrigué » et se souvient qu'il peut accomplir tous ses objectifs grâce à une leçon donnée par ses parents. Ouf, les critères du prompt sont bien respectés.

Est-ce que quelqu'un pense aux enfants ?

Le même sentiment d'amateurisme et de rentabilité forcée se retrouve du côté des illustrations générées par IA. Dans le livre Les aventures de Sammy et Sarah, vendu sur Etsy pour 2.29 euros, les images sont symptomatiques des limites actuelles des IA : les personnages n'ont pas la même tête ou le même style de dessin d'une page à l'autre, les cadrages sont toujours les mêmes et les aberrations graphiques omniprésentes.

Si ces défauts peuvent se faire discrets quand il s'agit de simples illustrations, ils sont beaucoup plus visibles quand ils concernent des livres de coloriage. Dans la vidéo de Paul Marles, un autre entrepreneur de l'IA, on peut assister à la fabrication de dessins de dinosaures à l'anatomie improbable.

Pour le journaliste Robert Evan, cet exemple est très représentatif de ce qui attend les familles dans les années à venir. « Mon inquiétude est que les parents qui tombent sur ces livres sont susceptibles d’être surchargés de travail, avoir des revenus faibles et peu de temps pour vérifier leurs achats. Ils pourraient simplement cliquer sur ce qui est abordable. Je crains aussi que les organismes de bienfaisance qui fournissent des livres gratuits aux enfants pauvres puissent faire des commandes en vrac parce que le prix semble intéressant. Dans notre glorieux futur de l’IA, les enfants riches colorient de vrais dinosaures pendant que les enfants pauvres grandissent en pensant que le stégosaure n’avait pas de queue et que la terre avait une deuxième lune qui ressemblait à un mamelon humain. »

Au-delà de ces dessins réalisés à la va-vite, se pose aussi la question de ce que ces livres vont laisser comme traces dans la tête des enfants. Comme l'indique Kathy Short, professeure spécialisée dans l'éducation et la littérature enfantine, dans un article de The Atlantic, les histoires que l'on raconte aux enfants sont des éléments essentiels dans le développement de leur esprit critique, de leur empathie et de leur capacité à agir. Peut-on dire la même chose des livres générés par des machines qui sont basés sur des modèles statistiques et dont l'objectif n'est pas d'apporter un message ou de raconter une bonne histoire, mais de trouver un marché de niche profitable ?