Google rédige une constitution pour les robots afin de les protéger contre les humains : elle s'inspire des lois d'Asimov
C'est un monde étrange dans lequel nous vivons, suspendu entre un passé encore trop présent et un avenir qui frappe à la porte. D'un côté, il y a des questions ouvertes depuis des siècles, comme la dépendance aux combustibles fossiles, et de l'autre, les robots vivent déjà parmi nous. Pour cette raison, Google a formulé une constitution robotique, s'inspirant des trois lois d'Asimov.
Google et la constitution des robots
Google Deepmind
Google DeepMind est la division de l'entreprise basée à Mountain View qui se consacre à la robotique et à l'intelligence artificielle. Récemment, elle a rédigé une constitution pour les robots dans le but de guider les machines intelligentes dans l'accomplissement de leurs tâches et dans leur comportement. Bien sûr, évoquer une "constitution robotique" évoque immédiatement des scénarios à la Terminator ou I, Robot. Cependant, l'apparence est souvent trompeuse.
Selon l'équipe de recherche de Google DeepMind, ce sont les robots qui ont besoin d'une protection accrue contre les êtres humains. En effet, les gens pourraient confier à ces robots des tâches impossibles à accomplir ou potentiellement dangereuses : les robots doivent être capables de distinguer ce qu'ils peuvent faire de ce qu'ils ne peuvent pas faire. Pour cette raison, il existe des règles visant à prévenir l'interaction avec des objets fragiles ou coupants, ainsi que des règles établissant des limites sur la charge utile qu'un robot peut supporter.
Les règles de la robotique selon Google, en référence à Asimov
Pexels
En entrant dans les détails, la constitution robotique de Google DeepMind se compose de trois ensembles de règles différents. Il y a les règles fondamentales, qui s'inspirent des lois de la robotique d'Isaac Asimov. Un robot ne peut causer de tort à aucun être humain (I), il doit obéir aux ordres d'un être humain tant que cela ne contrevient pas à la première loi (II), il doit préserver sa propre existence tant que cela ne contrevient pas à la première ou à la deuxième loi (III).
Cependant, l'équipe de Google DeepMind a opéré une légère inversion de la deuxième et de la troisième loi. Comme mentionné précédemment, le risque majeur à l'heure actuelle est que les ordres donnés par les êtres humains représentent un risque pour les robots. En plus des règles fondamentales, la constitution robotique inclut donc également des règles de sécurité et des règles d'incarnation. Les premières interdisent aux robots de tenter des activités impliquant des êtres humains, des animaux ou des êtres vivants. Les secondes imposent des limites physiques.
Est-ce le futur de la robotique ?
Google Deepmind
La constitution des robots élaborée par Google DeepMind fait évidemment parler d'elle, car elle nous laisse entrevoir un futur qui, jusqu'à présent, n'a peuplé que des films et des romans. Il s'agit cependant d'une pièce d'un puzzle beaucoup plus vaste qui dessine l'avenir de la robotique et de l'humanité. Google DeepMind a introduit bien d'autres innovations que simplement une constitution. En particulier, nous parlons de :
- AutoRT, un système de collecte de données pour l'entraînement expérientiel des robots, c'est-à-dire des données pouvant constituer une véritable expérience ;
- SARA-RT, acronyme de Self-Adaptive Robust Attention for Robotic Transformers, qui vise à rendre les robots du futur plus rapides et plus agiles ;
- RT-Trajectory, un système qui améliore la perception visuelle des robots et leur permet de contrôler les machines de manière beaucoup plus précise.
Comme on peut le voir, le tableau est déjà un peu plus complexe, c'est pourquoi il nécessite une "Robot Constitution" mais génère également d'autres questions. Rendre les robots autonomes est une chose, mais il faut décider jusqu'à quel point la supervision humaine est essentielle ; en même temps, les questions éthiques deviennent de plus en plus pressantes. Une constitution des robots semble donc être un bon point de départ pour une coexistence qui deviendra de plus en plus profonde dans le futur. Dans l'espoir que la lecture ou la vision de certaines histoires puisse nous indiquer une meilleure voie à suivre...
