Le chef de l’ONU avertit le monde de ne pas laisser l’intelligence artificielle contrôler les armes nucléaires


Il a prévenu que l’humanité était à nouveau « sur le fil du rasoir ».

Le Secrétaire général de l’Organisation des Nations Unies (ONU), António Guterres, a averti le monde de ne pas permettre à l’intelligence artificielle (IA) de jouer un rôle dans la décision de lancer des armes nucléaires.

S’exprimant lors d’une réunion de l’Association pour la maîtrise des armements (ACA), António Guterres a averti que « l’humanité est sur le fil du rasoir », le risque d’utilisation d’armes nucléaires atteignant « des sommets inégalés depuis la guerre froide ».

« Les États sont engagés dans une course aux armements qualitative », a déclaré M. Guterres dans son discours. « Des technologies telles que l’intelligence artificielle multiplient le danger, le chantage nucléaire a refait surface, certains menaçant imprudemment d’une catastrophe nucléaire, tandis que le régime conçu pour empêcher l’utilisation, l’essai et la prolifération des armes nucléaires s’affaiblit. Chers amis, nous avons besoin du désarmement maintenant. »

Le secrétaire général a exhorté les pays à désarmer et ceux qui possèdent déjà des armes nucléaires à montrer la voie.

« J’exhorte également les États-Unis et la Fédération de Russie à revenir à la table des négociations, à mettre pleinement en œuvre le nouveau traité START et à convenir de son successeur », a-t-il poursuivi. « Jusqu’à ce que ces armes soient éliminées, tous les pays doivent accepter que toute décision d’utilisation nucléaire soit prise par des humains, et non par des machines ou des algorithmes. »

Si cette dernière partie peut sembler une menace lointaine, l’automatisation a joué un rôle dans la guerre froide.

Un système de « main morte » garantissant l’anéantissement nucléaire au cas où le commandement de l’Union soviétique serait détruit par une explosion nucléaire surveillait l’activité sismique, les niveaux de radiation et la pression atmosphérique à la recherche de signes indiquant qu’une arme nucléaire avait été lancée contre la superpuissance. Si le système détectait une telle frappe, il vérifiait alors si les lignes de communication entre les hauts responsables soviétiques étaient ouvertes.

Si c’est le cas, le système s’arrêterait au bout de 15 minutes, car cela signifierait que les personnes qui peuvent décider de lancer une frappe sont toujours en vie. Si les lignes étaient mortes, l’autorité de lancer des armes nucléaires serait transférée à des opérateurs de niveau inférieur du système de la main morte à l’intérieur d’un bunker protégé, plaçant le sort du monde entre les mains d’un officier de niveau inférieur et d’un système informatique.

Ce système n’a jamais été activé, ce que vous pouvez constater en étant en vie. Cependant, le 26 septembre 1983, un système de détection de missiles a semblé détecter cinq missiles nucléaires se dirigeant vers l’Union soviétique. L’officier militaire soviétique Stanislav Petrov, sceptique quant à cette détection, a refusé de dire au commandement soviétique de lancer une frappe de représailles. La détection s’est avérée être le résultat de l’éblouissement du soleil se reflétant sur les nuages de haute altitude, qui ressemblaient à une frappe potentielle d’après les données satellitaires.

Peut-être devrions-nous nous méfier de l’automatisation – par le biais d’algorithmes ou d’IA – de décisions qui pourraient anéantir l’humanité. S’il n’en tenait qu’à eux, l’humanité aurait déjà pu être anéantie à cause des nuages.

Lire aussi : Le recours aux détecteurs d’intelligence artificielle suscite des inquiétudes en matière de censure, après que de vraies vidéos ont été qualifiées de fausses

Source : IFLScience – Traduit par Anguille sous roche


Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *