Un inventeur développe une intelligence artificielle qui décide si elle doit infliger ou non la douleur aux êtres humains
L’expert en robotique et artiste Alexander Reben de l’université de Berkeley a créé une machine simple qui pique le doigt d’un participant quand elle le décide.
M. Reben a nommé son robot « The First Law » (la première loi) en hommage aux règles de l’écrivain de science-fiction Isaac Asimov qui dictent qu’une IA ne doit pas blesser les humains.
L’artiste a créé le robot pour mettre en évidence les dangers de l’IA et susciter le débat sur ce qui pourrait se passer si elle se retrouve entre de mauvaises mains.
Il a dit : « Le robot prend une décision que je ne peux pas prédire en tant que créateur – la douleur n’est pas à des fins utiles – nous entrons dans une question d’éthique, des robots qui sont spécifiquement construits pour faire des choses qui sont éthiquement douteuses. »
La machine peut choisir d’infliger la douleur
« La véritable préoccupation à propos de l’IA est qu’elle devienne hors de contrôle. Les géants de la technologie disent que c’est peu probable, mais nous allons y penser maintenant avant qu’il ne soit trop tard. Je suis la preuve que les « robots nuisibles » peuvent exister maintenant. Nous devons absolument y faire face. »
Le robot ne choisit pas toujours de le faire
Google a récemment affirmé être en train de créer un « bouton off » pour désactiver les robots si besoin, mais M. Reben dit que si une IA est aussi intelligente que l’on espère, alors les machines pourraient-elles trouver un moyen de lutter contre le coupe-circuit ?
Il a ajouté : « Il sera intéressant d’entendre ce que propose ce bouton d’urgence. Pourquoi un robot ne serait pas en mesure de désactivé la sécurité s’il est si intelligent ? »
Source : Daily Express
