L’un des créateurs de ChatGPT pense que le développement des systèmes d’intelligence artificielle peut conduire à une catastrophe
Une élimination des humains par les machines.
Un ancien chercheur clé d’OpenAI estime qu’il y a des chances que l’intelligence artificielle prenne le contrôle de l’humanité et la détruise. Sa sortie s’accorde avec celle de Geoffrey Hinton, un des pionniers de l’apprentissage profond, qui craint que l’intelligence artificielle n’élimine les humains lorsqu’elle commencera à écrire et à exécuter son propre code informatique. Le tableau ravive les craintes sur la survenue d’une apocalypse semblable à celle de productions cinématographiques comme Terminator. La possibilité de la réalisation d’un tel scénario repose désormais sur l’éventualité de l’atteinte par les équipes de recherche de l’IA de niveau humain.
« Je le prends très au sérieux. Dans l’ensemble, nous parlons peut-être d’une probabilité de catastrophe de 50/50 peu de temps après que nous ayons mis en place des systèmes au niveau humain », déclare Paul Christiano.
Son propos rejoint celui de Geoffrey Hinton : « L’idée que l’IA puisse devenir plus intelligente que les gens, quelques personnes y ont cru. Mais la plupart des gens pensaient que c’était une erreur. Et je pensais personnellement que c’était loin d’être le cas. Je me disais qu’il fallait attendre dans les 30 à 50 ans, voire plus. Évidemment, je ne le pense plus. »
C’est la raison pour laquelle des experts de la filière demandent à tous les laboratoires d’interrompre la formation de systèmes d’intelligence artificielle
Dans une lettre ouverte, Elon Musk et un groupe d’experts en intelligence artificielle et de dirigeants de l’industrie demandent une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI, en invoquant les risques potentiels pour la société et l’humanité.
Au début du mois de mars, OpenAI, soutenue par Microsoft, a dévoilé la quatrième itération de son programme d’IA GPT (Generative Pre-trained Transformer), qui a séduit les utilisateurs par sa vaste gamme d’applications, allant de l’engagement des utilisateurs dans une conversation de type humain à la composition de chansons et au résumé de longs documents.
La lettre, publiée par l’organisation à but non lucratif Future of Life Institute et signée par plus de 1 000 personnes, dont Musk, appelle à une pause dans le développement de l’IA avancée jusqu’à ce que des protocoles de sécurité partagés pour de telles conceptions soient élaborés, mis en œuvre et contrôlés par des experts indépendants.
« Des systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables », peut-on lire dans la lettre.
La lettre détaille les risques potentiels pour la société et la civilisation que représentent les systèmes d’IA compétitifs pour les humains, sous la forme de perturbations économiques et politiques, et appelle les développeurs à travailler avec les décideurs politiques sur la gouvernance et les autorités de régulation.
Parmi les cosignataires figurent Emad Mostaque, PDG de Stability AI, des chercheurs de DeepMind, propriété d’Alphabet (GOOGL.O), et des poids lourds de l’IA, Yoshua Bengio, souvent considéré comme l’un des « parrains de l’IA », et Stuart Russell, pionnier de la recherche dans ce domaine.
Selon le registre de transparence de l’Union européenne, Future of Life Institute est principalement financé par la Musk Foundation, ainsi que par le groupe Founders Pledge, basé à Londres, et la Silicon Valley Community Foundation.
Ces inquiétudes surviennent alors qu’Europol, la police de l’Union européenne, s’est jointe le 27 mars 2023 à un concert de préoccupations éthiques et juridiques concernant l’IA avancée telle que ChatGPT, mettant en garde contre l’utilisation abusive potentielle du système dans des tentatives de phishing, de désinformation et de cybercriminalité.
Dans le même temps, le gouvernement britannique a dévoilé des propositions pour un cadre réglementaire adaptable autour de l’IA. L’approche du gouvernement, décrite dans un document d’orientation publié il y a peu, répartirait la responsabilité de la gestion de l’intelligence artificielle entre les organismes de réglementation des droits de l’Homme, de la santé et de la sécurité, et de la concurrence, plutôt que de créer un nouvel organisme dédié à la technologie.
Les grandes enseignes technologiques multiplient les projets dans le but d’atteindre l’intelligence artificielle de niveau humain
Google par exemple est lancé en secret sur le développement de Pitchfork ou AI Developer Assistance. C’est un outil qui utilise l’apprentissage automatique pour apprendre au code à s’écrire et se réécrire lui-même. Comment ? En apprenant des styles correspondant à des langages de programmation et en appliquant ces connaissances pour écrire de nouvelles lignes de code.
L’intention initiale derrière ce projet était de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu’une nouvelle version était publiée, sans nécessiter l’intervention ou l’embauche d’un grand nombre d’ingénieurs. Cependant, le potentiel du programme s’est avéré beaucoup plus important que prévu. Désormais, l’intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l’intervention humaine dans les tâches de développement et de mise à jour.
Un tel objectif pourrait ne plus relever de la science-fiction en cas d’atteinte du stade d’intelligence artificielle générale. Le tableau viendrait alors raviver la possibilité pour l’humanité d’entrer dans une ère de domination par les machines comme prédit par de nombreuses productions cinématographiques à l’instar de Terminator, Matrix ou encore i-Robot.
C’est d’ailleurs la raison pour laquelle Elon Musk travaille sur un projet visant à fusionner un cerveau humain et un ordinateur afin de permettre aux Hommes de rivaliser avec l’intelligence artificielle. Le « Neural Lace » est une interface cerveau-ordinateur permettant de relier le cerveau humain à des ordinateurs sans avoir besoin de connexion physique. Cette technologie donnerait aux humains la possibilité de fusionner avec l’intelligence artificielle et d’améliorer ainsi leur mémoire et leurs facultés cognitives. Cette puce issue de sa société Neuralink peut diffuser de la musique directement au cerveau. C’est l’une des applications de cette interface cerveau-ordinateur à côté d’autres comme la possibilité de guérir la dépression et la dépendance.
Elon Musk est d’avis que seule la mise sur pied d’une interface cerveau-ordinateur peut permettre à l’Homme de subsister. Son initiative vise une sorte de symbiose avec l’intelligence artificielle, ce, à un degré qui rendrait le langage humain obsolète. Il suffirait alors de penser pour communiquer. Grosso modo, dans les laboratoires de la société d’Elon Musk, on est au « service de l’humanité. » Le projet ne manque néanmoins pas d’être terrifiant puisque la puce est à insérer dans le crâne ; ce qui serait selon certaines interprétations la marque de la bête référence faite à Apocalypse 13:17 dans la Bible : « La deuxième bête d’Apocalypse 13 fait en sorte que “tous, petits et grands, riches et pauvres, libres et esclaves, reçoivent une marque sur leur main droite ou sur leur front, et que personne ne puisse acheter ni vendre, sans avoir la marque, le nom de la bête ou le nombre de son nom. »
L’on peut cependant considérer que la réception d’une marque sur la main ou sur le front peut se comprendre au sens figuré. Apocalypse 7:3 fait mention de ce que les serviteurs de Dieu seront marqués d’un sceau sur leur front. Dans Deutéronome 6, Moïse dit au peuple de Dieu d’observer « toutes ses lois et tous ses commandements », en précisant : « Tu les lieras comme un signe sur tes mains et ils seront comme des fronteaux entre tes yeux. » (Deutéronome 6:2 ; Deutéronome 6:8) La main et le front représentent ici les actions et les pensées qui, pour chacun, devraient être consacrées à obéir à Dieu.
De même, la marque de la bête, quant à elle, représente une marque de désobéissance à Dieu ; des textes et interprétations qu’il ne ferait pas sens de mentionner sans rappeler Deutéronome 30:19 : « J’en prends aujourd’hui à témoin contre vous le ciel et la terre : j’ai mis devant toi la vie et la mort, la bénédiction et la malédiction. Choisis la vie, afin que tu vives, toi et ta descendance. » Le fameux libre arbitre sur lequel l’Homme est appelé à s’appuyer depuis toujours.
Sources : Developpez – Paul Christiano
