Une expérience visant à apprendre à l’intelligence artificielle de Facebook à négocier a prouvé que celle-ci savait mentir sur ses intentions…
Récemment, les chercheurs ont voulu apprendre l’art de la négociation à leurs petits robots. L’idée : développer leurs talents de raisonnement et de conversation.
A date, les chatbots sont capables d’avoir de courtes discussions, et peuvent effectuer des tâches simples, comme la réservation d’un restaurant ou d’un trajet. « Mais développer des machines capables d’avoir de vraies discussions avec les gens est un vrai challenge, car cela demande au bot de combiner sa compréhension de la conversation à celle de son environnement, afin de construire une nouvelle phrase pour l’aider à atteindre son objectif », expliquent les équipes de Facebook.
Alors pour aider les bots à négocier, les chercheurs ont mis en relation des I.A. avec des objectifs différents. Par exemple, deux I.A. devaient se partager une liste d’objets :
Prochaine étape après la négociation, la manipulation ? Si les I.A. sont capables de se duper entre elles, pourront-elles bientôt faire de même vis-à-vis de l’espèce humaine ? En termes de potentiel, cela permettrait d’en faire des forces de vente redoutables pour les entreprises (surtout si elles parviennent à cumuler suffisamment de données sur leurs interlocuteurs)… En termes de menaces… On laisse libre cours à votre imagination…
Participer à la conversation