Un inventeur développe une intelligence artificielle qui décide si elle doit infliger ou non la douleur aux êtres humains
L’expert en robotique et artiste Alexander Reben de l’université de Berkeley a créé une machine simple qui pique le doigt d’un participant quand elle le décide.
M. Reben a nommé son robot “The First Law” (la première loi) en hommage aux règles de l’écrivain de science-fiction Isaac Asimov qui dictent qu’une IA ne doit pas blesser les humains.
L’artiste a créé le robot pour mettre en évidence les dangers de l’IA et susciter le débat sur ce qui pourrait se passer si elle se retrouve entre de mauvaises mains.
Il a dit : “Le robot prend une décision que je ne peux pas prédire en tant que créateur – la douleur n’est pas à des fins utiles – nous entrons dans une question d’éthique, des robots qui sont spécifiquement construits pour faire des choses qui sont éthiquement douteuses.”
La machine peut choisir d’infliger la douleur
“La véritable préoccupation à propos de l’IA est qu’elle devienne hors de contrôle. Les géants de la technologie disent que c’est peu probable, mais nous allons y penser maintenant avant qu’il ne soit trop tard. Je suis la preuve que les “robots nuisibles” peuvent exister maintenant. Nous devons absolument y faire face.”
Le robot ne choisit pas toujours de le faire
Google a récemment affirmé être en train de créer un “bouton off” pour désactiver les robots si besoin, mais M. Reben dit que si une IA est aussi intelligente que l’on espère, alors les machines pourraient-elles trouver un moyen de lutter contre le coupe-circuit ?
Il a ajouté : “Il sera intéressant d’entendre ce que propose ce bouton d’urgence. Pourquoi un robot ne serait pas en mesure de désactivé la sécurité s’il est si intelligent ?”
Source : Daily Express
