Les « robots tueurs » sont déjà là. Ils ne ressemblent juste pas à ce que vous pensez

On pourrait croire que Hollywood est doué pour prédire l’avenir.

En effet, Robert Wallace, chef de l’Office of Technical Service de la CIA et équivalent américain du Q fictif du MI6, a raconté comment les espions russes regardaient le dernier film de Bond pour voir quelles technologies pouvaient les attendre.

L’obsession constante d’Hollywood pour les robots tueurs pourrait donc être très préoccupante. Le dernier film de ce type est Dolly, le drame judiciaire sur les robots sexuels qui sera diffusé par Apple TV.

Je n’aurais jamais cru que j’écrirais un jour l’expression “drame judiciaire avec robot sexuel”, mais c’est ainsi. Basée sur une nouvelle d’Elizabeth Bear datant de 2011, l’intrigue concerne un milliardaire tué par un robot sexuel qui demande ensuite un avocat pour défendre ses actes meurtriers.

Les vrais robots tueurs

Dolly est le dernier en date d’une longue série de films mettant en scène des robots tueurs – notamment HAL dans 2001 : L’Odyssée de l’espace de Kubrick, et le robot T-800 d’Arnold Schwarzenegger dans la série Terminator.

En fait, le conflit entre les robots et les humains était au centre du tout premier long métrage de science-fiction, le classique Metropolis de Fritz Lang (1927).

Mais presque tous ces films se trompent.

Les robots tueurs ne seront pas des robots humanoïdes sensibles et mal intentionnés. Cela pourrait donner lieu à un scénario dramatique et à un succès au box-office, mais ces technologies ne seront pas disponibles avant plusieurs décennies, voire plusieurs siècles.

En effet, contrairement aux craintes récentes, les robots ne seront peut-être jamais sensibles.

Ce sont des technologies beaucoup plus simples qui devraient nous inquiéter. Et ces technologies commencent à apparaître sur le champ de bataille aujourd’hui dans des endroits comme l’Ukraine et le Nagorny-Karabakh.

Une guerre transformée

Les films qui mettent en scène des drones armés beaucoup plus simples, comme Angel has Fallen (2019) et Eye in the Sky (2015), brossent peut-être le tableau le plus précis du véritable avenir des robots tueurs.

Dans les journaux télévisés du soir, nous voyons comment la guerre moderne est transformée par des drones, des chars, des navires et des sous-marins toujours plus autonomes. Ces robots sont à peine plus sophistiqués que ceux que vous pouvez acheter dans votre magasin de loisirs créatifs local.

Et de plus en plus, les décisions d’identifier, de suivre et de détruire les cibles sont confiées à leurs algorithmes.

Cela entraîne le monde dans un endroit dangereux, avec une foule de problèmes moraux, juridiques et techniques. De telles armes vont, par exemple, bouleverser davantage notre situation géopolitique troublée. Nous voyons déjà la Turquie émerger comme une puissance majeure en matière de drones.

Et ces armes franchissent une ligne rouge morale vers un monde terrible et terrifiant où des machines qui n’ont aucun compte à rendre décident de qui vit et qui meurt.

Les fabricants de robots commencent toutefois à s’opposer à cet avenir.

Un engagement à ne pas militariser

La semaine dernière, six grandes entreprises de robotique se sont engagées à ne jamais militariser leurs plateformes robotiques.

Parmi ces entreprises figurent Boston Dynamics, qui fabrique le robot humanoïde Atlas, capable d’effectuer un impressionnant saut périlleux arrière, et le chien robot Spot, qui semble tout droit sorti de la série télévisée Black Mirror.

Ce n’est pas la première fois que des entreprises de robotique s’expriment sur cet avenir inquiétant.

Il y a cinq ans, j’ai organisé une lettre ouverte signée par Elon Musk et plus de 100 fondateurs d’autres entreprises d’IA et de robots, appelant les Nations unies à réglementer l’utilisation des robots tueurs. La lettre a même fait tomber le pape en troisième position pour un prix mondial du désarmement.

Cependant, le fait que les principales entreprises de robotique s’engagent à ne pas militariser leurs plateformes robotiques relève plus du signal de vertu que d’autre chose.

Nous avons, par exemple, déjà vu des tiers monter des armes sur des clones du chien robot Spot de Boston Dynamics.

Et ces robots modifiés se sont avérés efficaces en action. Le principal scientifique nucléaire iranien a été assassiné par des agents israéliens à l’aide d’un robot mitrailleur en 2020.

Une action collective pour préserver notre avenir

La seule façon de nous prémunir contre cet avenir terrifiant est que les nations prennent collectivement des mesures, comme elles l’ont fait pour les armes chimiques, les armes biologiques et même les armes nucléaires.

Une telle réglementation ne sera pas parfaite, tout comme celle des armes chimiques ne l’est pas. Mais elle empêchera les entreprises d’armement de vendre ouvertement ces armes et donc leur prolifération.

Par conséquent, il est encore plus important qu’une promesse des entreprises de robotique de voir que le Conseil des droits de l’homme des Nations unies a récemment décidé à l’unanimité d’explorer les implications en matière de droits de l’homme des technologies nouvelles et émergentes telles que les armes autonomes.

Plusieurs dizaines de nations ont déjà demandé à l’ONU de réglementer les robots tueurs. Le Parlement européen, l’Union africaine, le secrétaire général de l’ONU, des lauréats du prix Nobel de la paix, des chefs religieux, des politiciens et des milliers de chercheurs en IA et en robotique comme moi ont tous demandé une réglementation.

L’Australie n’est pas un pays qui, jusqu’à présent, a soutenu ces appels. Mais si vous voulez éviter cet avenir hollywoodien, vous pouvez en parler à votre représentant politique la prochaine fois que vous le verrez.

Lire aussi : La Chine associe des chiens robots armés et des drones dans une nouvelle vidéo

Source : The Conversation – Traduit par Anguille sous roche