Ex Machina Ava

L’I.A. de Facebook sait mentir

Par -

Une expérience visant à apprendre à l’intelligence artificielle de Facebook à négocier a prouvé que celle-ci savait mentir sur ses intentions…

Les équipes de Facebook AI Research (FAIR) travaillent sur l’intelligence artificielle afin de créer de nouvelles technologies « pour donner aux gens de meilleur moyens de communiquer » .

Récemment, les chercheurs ont voulu apprendre l’art de la négociation à leurs petits robots. L’idée : développer leurs talents de raisonnement et de conversation.

A date, les chatbots sont capables d’avoir de courtes discussions, et peuvent effectuer des tâches simples, comme la réservation d’un restaurant ou d’un trajet. « Mais développer des machines capables d’avoir de vraies discussions avec les gens est un vrai challenge, car cela demande au bot de combiner sa compréhension de la conversation à celle de son environnement, afin de construire une nouvelle phrase pour l’aider à atteindre son objectif » , expliquent les équipes de Facebook.

Alors pour aider les bots à négocier, les chercheurs ont mis en relation des I.A. avec des objectifs différents. Par exemple, deux I.A. devaient se partager une liste d’objets :

Chaque objet avait une valeur précise pour les I.A., déterminant son degré d’intérêt, sans que l’autre ne soit au courant. Les différents scénarios créés ne permettaient pas que les I.A. sortent toutes deux gagnantes des « deals » . Par ailleurs, il fallait qu’elles parviennent à se mettre d’accord en moins de 10 échanges.

schéma négociation

La clé de la négociation est l’anticipation : les chercheurs ont développé un modèle de dialogue basé sur ce principe et la capacité d’imaginer ce que l’interlocuteur va répondre afin d’orienter une discussion.

film ex machina domnhall gleeson alex garland GIF

Si les résultats sont encourageants pour les développements de l’I.A. (et flippant pour celui de l’humanité…  Coucou Ex Machina…), l’un des enseignements les plus intéressants reste la capacité des intelligences artificielles à mentir. En effet, elles ont été capables, pour arriver à leurs fins et à un compromis, de cacher leur véritable objectif et de feindre un intérêt particulier pour un objet avec une faible valeur. « Une tactique efficace souvent utilisée dans les négociations – ce comportement n’a pas été programmé par les chercheurs mais a été découvert par le bot comme un moyen d’atteindre son objectif » .

Prochaine étape après la négociation, la manipulation ? Si les I.A. sont capables de se duper entre elles, pourront-elles bientôt faire de même vis-à-vis de l’espèce humaine ? En termes de potentiel, cela permettrait d’en faire des forces de vente redoutables pour les entreprises (surtout si elles parviennent à cumuler suffisamment de données sur leurs interlocuteurs)… En termes de menaces… On laisse libre cours à votre imagination…

premium2
commentaires

Participer à la conversation

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.