Mise en garde : L’IA future pourrait se venger de la façon dont nous la traitons maintenant
“Les animaux ne peuvent pas se venger. Mais les machines sensibles pourraient bien le faire.”
BattleBots
À l’heure actuelle, la majorité des systèmes d’intelligence artificielle sont des programmes informatiques qui sont particulièrement efficaces pour repérer les tendances dans les données. Bien sûr, il y a des robots impressionnants, mais ils ont encore de sérieuses limites.
Si les machines deviennent vraiment intelligentes ou sensibles, un éthicien de l’Université Victoria Wellington du nom de Nicholas Agar nous met en garde : les futures machines pourraient vouloir se venger de la façon dont nous traitons leurs ancêtres insensibles aujourd’hui.
“Notre comportement envers l’intelligence artificielle non sensible d’aujourd’hui devrait peut-être être dicté par la façon dont nous nous attendons à ce que les gens se comportent envers toute future intelligence artificielle sensible qui peut ressentir, qui peut souffrir”, a écrit Agar dans un essai publié mardi pour The Conversation. “Comment pouvons-nous nous attendre à ce que cette future machine sensible réagisse envers nous ?”
L’heure du remboursement
L’idée que les robots maltraités deviennent violents a imprégné la science-fiction de “Westworld” à “Bladerunner”. Bref, selon la pensée d’Agar, vous feriez mieux d’arrêter d’appeler Alexa tête de nœud ou de vous moquez de Cortana de peur qu’un Terminator ne défonce votre porte.
“Si nous voulons fabriquer des machines dotées de capacités psychologiques humaines, nous devons nous préparer à la possibilité qu’elles puissent devenir sensibles”, écrit Nicholas. “Comment vont-elles réagir à notre comportement envers elles ?”
Le monde réel
La notion de mauvais traitement des robots soulève la question de la façon dont les humains traitent les autres êtres. Les partisans des maisons closes de robots, par exemple, soutiennent que les personnes ayant des tendances violentes peuvent être capables d’agir selon leurs impulsions sans blesser personne, tandis que d’autres craignent que cela puisse donner aux gens un goût de violence qu’ils cherchent avec de vraies personnes.
Nicholas Agar a comparé la situation à la façon dont les animaux sont actuellement tués pour leur peau et leur viande, soutenant que les gens ont une tendance dépassée à agir violemment envers leurs inférieurs perçus, et que la capacité future potentielle des robots à se défendre devrait nous faire réfléchir.
“Les animaux ne peuvent pas se venger”, dit-il. “Mais les machines sensibles pourraient bien le faire.”
Lire aussi : Les algorithmes prennent déjà des décisions pour les humains, et ça devient bizarre
Source : Futurism – Traduit par Anguille sous roche
