OpenAI se confronte à la publicité politique et censure le bot d’un candidat à l'élection américaine

Un chatbot imitant un candidat à l’élection présidentielle américaine, qu'est-ce qui pourrait mal tourner ? OpenAI n’a pas voulu prendre le risque. 

On connaissait les campagnes électorales à l’heure des réseaux sociaux et de la désinformation de masse. OpenAI (créateur de ChatGPT) n’a visiblement pas très envie d’être la prochaine grande plateforme à jouer un rôle dans la manipulation des électeurs. L’entreprise a annoncé vendredi la suspension d’un chatbot mimant Dean Phillips, candidat démocrate à l’élection présidentielle américaine. Celui-ci, lancé il y a quelques jours et baptisé Dean.Bot, pouvait parler aux électeurs, les informer sur son programme et son parcours. « Nous imaginons un monde dans les cinq prochaines années où n'importe qui pourra utiliser l'IA pour parler directement à son président à n'importe quel moment, et où le président apprendra grâce à ces conversations.(...) Nous espérons que ces outils seront utilisés à bon escient », peut-on lire sur le site web Dan.bot. 

Mais la vie de ce bot vocal a été rapidement interrompue. La maison mère de ChatGPT a estimé qu’il allait à l’encontre des règles d’usages de l’entreprise. « Quiconque construit avec nos outils doit suivre nos politiques d'utilisation, a précisé Lindsey Held, porte-parole d'OpenAI, auprès du Washington Post. Nous avons récemment supprimé un compte de développeur qui violait sciemment nos politiques d'utilisation de l'API, qui interdisent les campagnes politiques ou l'usurpation de l'identité d'une personne sans son consentement. »

Le Washington Post comme Axios notent que c’est la première fois qu’OpenAI prend une décision relative à la communication politique. 

La Silicon Valley pousse le concurrent de Joe Biden 

Derrière ce bot, on trouve l’entreprise Delphi. La startup, qui se vante de créer des « clones » de diverses personnalités, est passée par la fonctionnalité CustomGPT récemment lancée par OpenAI. Celle-ci permet aux organisations comme aux particuliers de créer leur propre chatbot. 

Delphi a obtenu un partenariat avec le Super-PAC (comité d’action politique) « We deserve better », créé par deux entrepreneurs de la tech, Matt Krisiloff and Jed Somers. Aux États-Unis, ces comités sont autorisés à collecter des fonds sans limitation pour soutenir les candidats. We deserve better aurait notamment reçu des financements de Bill Ackman, dirigeant d’un fonds d’investissement, qui s’est récemment fait entendre sur ses prises de position contre Claudine Gay, l’ex-présidente d’Harvard, et contre les politiques d’inclusion (DEI). Ce comité a été créé par des influents de la Silicon Valley comme une contre-offensive face à la candidature de Joe Biden, qui leur semble vouer à l’échec, relatait il y a quelques jours le Washington Post. Et cette offensive se voulait donc armée d’outils technologiques. 

« Boîte de Pandore »

Ce bot mimant un candidat avait inquiété, dès sa sortie, certains observateurs. « Je considère que l’on ouvre une boîte de Pandore », explique Paul Barrett, directeur adjoint du Stern Center for Business and Human Rights de l'université de New York au Washington Post. Selon lui, une clause de non-responsabilité n'est pas suffisante pour se prémunir contre l'utilisation abusive de ces technologies. « Une fois que nous aurons des versions IA des candidats qui discutent avec les électeurs, il n'y aura qu'un pas à franchir pour que des robots soient utilisés par les opposants politiques afin de tromper les électeurs en leur faisant croire que les politiciens disent des choses qu'ils n'ont jamais dites. Et bientôt, tout le monde deviendra tellement cynique à propos de toute cette fausse communication que personne ne croira plus rien de ce que dit qui que ce soit. »

Si OpenAI a mis un stop assez rapidement à cette utilisation, il est possible que d’autres entreprises ne prennent pas cette précaution. Il est possible que Dean.bot renaisse de ses cendres en utilisant une autre technologie.