L’essor de l’IA : un chercheur en informatique met en garde contre une situation semblable à celle de Tchernobyl en l’absence de mesures de protection
L’explosion de l’IA sur la scène technologique est à la fois intéressante et effrayante.
Russell estime que le bon sens peut empêcher l’IA de devenir catastrophique
Un informaticien réputé de l’université de Berkeley, Stuart Russell, a mis en garde contre les conséquences désastreuses d’un développement incontrôlé de l’intelligence artificielle (IA). M. Russell est l’un des scientifiques de renom qui ont cosigné une lettre demandant un moratoire sur la mise sur le marché de produits d’intelligence artificielle au cours des six prochains mois.
Il serait difficile de croire que le ChatGPT n’existe que depuis quelques mois. Alors que l’IA était auparavant un sujet de discussion au sein d’un petit groupe de chercheurs en informatique, le chatbot conversationnel est également devenu un sujet de conversation dans les médias grand public. Il est associé à toute une série de produits utilisés dans la vie quotidienne, qu’il s’agisse d’applications informatiques ou même de soins de santé.
Un outil polyvalent peut avoir une myriade d’applications, augmentant la productivité des employés et facilitant la vie de nombreuses personnes. Cependant, il y a aussi un côté plus sombre, concernant les craintes de perte d’emploi et la diffusion de contenus haineux et de fausses informations lors de l’utilisation de ces outils. Certains experts de l’IA ont prévenu que les risques liés à cette technologie dépassaient de loin les bénéfices qui pouvaient en être tirés, et qu’il était donc nécessaire d’interrompre son développement.
Un Tchernobyl pour l’IA
M. Russell, professeur d’informatique, est considéré comme un expert de premier plan en matière d’IA et d’apprentissage automatique et a coécrit l’ouvrage Artificial Intelligence: A Modern Approach, l’un des textes sur l’IA qui fait le plus autorité aujourd’hui.
S’adressant au média Business Today, M. Russell a souligné la nécessité d’adopter des lignes directrices et des mesures de sécurité raisonnables pour garantir un développement sûr de la technologie. Chercheur dans ce domaine depuis 45 ans, M. Russell est conscient que l’élaboration de lignes directrices en matière d’IA prend du temps, mais il estime que c’est nécessaire si nous voulons que les futures technologies d’IA n’aient pas de conséquences catastrophiques.
Comparant la construction d’une technologie d’IA à la construction d’une centrale nucléaire, M. Russell a déclaré que, tout comme il faut démontrer qu’une centrale nucléaire peut résister à un tremblement de terre et dispose de mécanismes de sécurité, des lignes directrices raisonnables permettront également de garantir que les technologies d’IA qui se développent rapidement ne conduisent pas à un « Tchernobyl pour l’IA ».
Malgré son immense expérience, M. Russell a estimé qu’il était difficile de prédire exactement à quoi ressemblerait un événement de type Tchernobyl avec l’IA, mais il a appelé à la prudence lors du développement de nouveaux produits. Le professeur de l’université de Berkeley a également ajouté qu’en faisant preuve de bon sens lors du développement de nouveaux systèmes d’IA, on pourrait s’assurer qu’ils ne menacent pas la société.
Lors d’une récente réunion, le président américain Joe Biden a confié aux entreprises technologiques la responsabilité de développer des produits d’IA sûrs, tout en mettant en garde contre les dangers de l’IA.
Lire aussi : Elon Musk tire un frein d’urgence sur l’IA et admet un risque pour l’avenir de l’humanité
Source : Interesting Engineering – Traduit par Anguille sous roche
Découvrez une formation gratuite sur la décentralisation pour sortir du système bancaire :
Cliquez ici pour commencer à sortir du système bancaire !
