habillage
premium1
actu_32177_vignette

Un bouton d'urgence pour stopper les IA

Le 6 juin 2016

Si elle fascine, l’intelligence artificielle peut également effrayer. C’est pourquoi Google a demandé à des chercheurs de travailler sur une sorte de « bouton d’urgence » pour éviter que le robot ne prenne le dessus sur l’Homme.

Pour de nombreux spécialistes et scientifiques, il est impossible que les IA opèrent en permanence de façon optimale, surtout si elles s’inspirent des humains, qui, disons-le, ne sont pas toujours bienveillants. 

 

Laurent Orseau, de Deepmind, et Stuart Armstrong, de l’université d’Oxford, ont donc mis au point un système permettant à l’humain d’interrompre le travail d’une intelligence artificielle sans que cela ne vire à la catastrophe et la robocalypse.

 

Pour ce faire, l’équipe de chercheurs a imaginé une situation bien précise : un robot travaille dans un entrepôt. Il trie des cartons ou se rend à l’extérieur pour en ramener davantage. C’est sur ce deuxième point que les scientifiques se sont concentrés. Puisqu’il a tendance à beaucoup pleuvoir à l’endroit où se trouve l’entrepôt, l’Homme doit pouvoir interrompre la tâche du robot afin d’éviter tout dommage matériel. Mais celui-ci pourrait vouloir employer n’importe quel moyen pour rester à l’extérieur et continuer sa tâche. C’est à ce moment qu’il deviendrait dangereux. L’idée est donc d’intégrer l’intervention de l’humain à sa tâche et que celle-ci ne devienne pas un évènement à contourner, un obstacle dont il faut se débarrasser.

 

Ainsi, une machine qui a un but précis à atteindre, si elle peut prédire qu’elle va être arrêtée, va essayer de résister afin de réussir ce pour quoi elle a été conçue. Le système créé par les équipes permet à un humain de prendre temporairement le contrôle de la machine tout en lui faisant croire qu’elle choisit elle-même d’interrompre son activité. Les chercheurs souhaitent par ailleurs pouvoir programmer une interruption, tout en s'assurant qu'elle ne présentera pas un danger ou un problème pour les robots. De nombreuses mesures sont donc à prendre en compte. 

Par ailleurs, les scientifiques ont découvert que ce système mathématique ne fonctionnait pas pour tous les algorithmes et donc pas pour tous les robots. Affaire à suivre donc…

 

- Découvrez le système dans son intégralité

Axelle Florentin - Le 6 juin 2016

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.