Un homme et une femme avec casques VR sur fond blanc

Intelligence artificielle générative : « GPT-3 est plus proche du comportement d’un alien que de celui d’un humain »

© Michelangelo Buonarroti

Gary Marcus est une pointure reconnue dans le domaine de l'IA. Et quand il s'agit d'intelligence artificielle générative, il prône l'union des forces plutôt que la dispersion des modèles et des initiatives.

On le connaît pour ses passes d’armes musclées sur Twitter avec d’autres chercheurs en IA éminents. Gary Marcus est un scientifique et un entrepreneur ultra référant sur les domaines de l'IA. Il a fondé une première startup de machine learning, Geometric Intelligence, vendue à Uber en 2016. Il a plus récemment fondé RobustAI, une startup visant à concevoir une IA qui ait « du bon sens » On lui a demandé son avis sur l'explosion des intelligences artificielles génératives.

Il y a beaucoup de battage autour de GPT-3 et des modèles d’intelligences artificielles génératives. Que valent-ils scientifiquement parlant ?

Gary Marcus : Eh bien, je crois que GPT-3, c’est un peu comme un tour de magie. Un tour de magie vous donne l’impression qu’il a un fondement physique. Si je vous montre une personne coupée en deux et que je la recolle, pour autant, ce n’est pas réel. GPT-3 donne l’illusion d’avoir surmonté bon nombre de problèmes de la recherche en intelligence artificielle, mais c’est un leurre. Certes, vous pouvez tenir une conversation avec…, mais il ne peut rester cohérent longtemps. Il perd le fil. Il invente régulièrement. Ça peut avoir du bon dans le domaine du divertissement, mais certainement pas pour prodiguer des conseils d’ordre médical ou au client d’une banque. Son utilisation est, en réalité assez limitée. Si je dois le comparer à un animal, je dirai qu’il s’agit d’un perroquet. Sauf qu’il faut des milliards de mots écrits par des humains pour qu’il apprenne à paraphraser. Bref, c’est juste un super tour de magie !

Si je comprends bien, au lieu d’intelligence artificielle, il serait plus juste de parler de « connaissance statistique » ?

G.M. : Oui, c’est le bon terme. GPT-3 est ce qu’on pourrait appeler une « intelligence alternative ». C’est une approche alternative à l’intelligence, qui doit reposer sur des calculs statistiques et mathématiques pour être efficace. L’intelligence humaine consiste à comprendre le monde, à saisir ce qui nous entoure. Nous ne pouvons certes pas faire confiance à tous les êtres humains, mais nous savons que nous voyons le monde à peu près de la même manière. GPT-3 est plus proche du comportement d’un alien que de celui d’un humain. Or, sans cohérence, il ne peut être efficace. Pour l’instant, la plupart des applications de ce modèle relèvent du monde du divertissement, comme le jeu Dungeon AI ou les applications qui permettent d’écrire des histoires. Mais concernant les travaux de rédaction, on devrait commencer à s’inquiéter de son utilisation par les fermes à trolls à des fins de désinformation. Si vous vous fichez de la précision ou de la vérité, alors oui, GPT-3 est pour vous ! Pour l’instant, ce n’est pas fiable. C’est une erreur de l’utiliser comme LA solution à tout.

Sur Twitter, vous appelez régulièrement à l’émergence d’un nouveau modèle d’IA. Qu’entendez-vous par là ?

G.M. : Je crois que ça doit être une hybridation des deux branches de l’IA, en reprenant des éléments du deep learning – du moins sa capacité d’apprentissage à grande échelle – et d’autres issus de l’IA symbolique, plus traditionnelle (modèle dans lequel vous représentez des abstractions). À vrai dire, je crois que personne n’a encore développé les bons outils. On est un peu à l’âge de l’alchimie (période entre 1300 et 1700 où les scientifiques étaient particulièrement prolifiques, NDLR). Beaucoup d’expérimentations scientifiques étaient lancées. Parfois c’était fructueux…, parfois pas. Aujourd’hui, personne ne peut décemment déclarer qu’il dispose d’un modèle d’IA généraliste fiable. À ce jour, nous disposons d’un ensemble d’outils, tous imparfaits. Pour certaines tâches, ils sont utiles, pour d’autres, non. On devrait plutôt réfléchir à les mutualiser, non ?  

À LIRE (en anglais) Rebooting AI: Building Artificial Intelligence We Can Trust, Gary Marcus & Ernest Davis, Penguin Random House, 2019

Cette interview est parue dans le dossier consacré aux IA génératives, c'était le numéro 31 de la revue de L'ADN paru en juillet 2022. Malheureusement, ce numéro est épuisé... Pour découvrir les autres numéros de la revue... cliquez ici.

commentaires

Participer à la conversation

Laisser un commentaire