Une intelligence artificielle avancée pourrait diriger le monde mieux que les humains ne pourraient jamais le faire

Il y a des craintes qui ont tendance à surgir lorsque les gens parlent d’intelligence artificielle futuriste – disons, une qui pourrait apprendre à apprendre et à devenir plus avancée que tout ce que nous, les humains, pourrions être capables de comprendre. Entre de mauvaises mains, peut-être même seul, un tel algorithme avancé pourrait dominer les gouvernements et les armées du monde, conférer aux Orwelliens des niveaux de surveillance, de manipulation et de contrôle social sur les sociétés, et peut-être même contrôler des champs de bataille entiers d’armes mortelles autonomes comme les drones militaires.

Mais certains experts en intelligence artificielle ne pensent pas que ces craintes sont fondées. En fait, l’intelligence artificielle hautement avancée pourrait mieux gérer le monde que ne l’ont jamais fait les humains. Ces craintes constituent le danger réel, car elles peuvent nous empêcher de faire de ce potentiel une réalité.

“Peut-être que ne pas réaliser l’IA est le danger pour l’humanité”, a déclaré samedi à Prague Tomas Mikolov, chercheur sur Facebook AI, lors d’une conférence commune sur l’intelligence artificielle de niveau humain.

“Ne pas réaliser l’IA est peut-être le danger pour l’humanité.”

En tant qu’espèce, a expliqué Mikolov, les humains sont très mauvais pour faire des choix qui sont bons pour nous à long terme. Les gens ont rasé des forêts tropicales et d’autres écosystèmes pour récolter des matières premières, ignorant ou se moquant de comment ils contribuaient à la lente et peut-être irréversible dégradation de la planète dans son ensemble.

Mais un système d’intelligence artificielle sophistiqué pourrait être capable de protéger l’humanité de sa propre myopie.

“En tant qu’humains, nous sommes très mauvais pour faire des prédictions sur ce qui se produira dans un avenir lointain, peut-être dans 20 à 30 ans”, a ajouté Mikolov. “Peut-être qu’une IA beaucoup plus intelligente que la nôtre, dans une sorte de relation symbiotique, peut nous aider à éviter de futurs désastres.”

Certes, Mikolov peut être minoritaire en pensant qu’une entité supérieure d’IA serait bienveillante. Tout au long de la conférence, de nombreux autres intervenants ont exprimé ces craintes communes, principalement au sujet de l’IA utilisée à des fins dangereuses ou mal utilisée par des acteurs humains malveillants. Et nous ne devrions pas rire ou minimiser ces préoccupations.

Nous ne savons pas avec certitude s’il sera un jour possible de créer une intelligence générale artificielle, souvent considérée comme le Saint-Graal de l’intelligence artificielle sophistiquée, capable d’accomplir à peu près toutes les tâches cognitives que les humains peuvent accomplir, peut-être même en mieux.

L’avenir de l’intelligence artificielle avancée est prometteur, mais il s’accompagne de nombreuses questions éthiques. Nous ne connaissons probablement pas encore toutes les questions auxquelles nous devrons répondre.

Mais la plupart des panélistes de la conférence ont convenu que nous devons encore décider des règles avant d’en avoir besoin. Le temps de créer des accords internationaux, des comités d’éthique et des organismes de réglementation dans l’ensemble des gouvernements, des entreprises privées et des universités ? C’est maintenant. La mise en place de ces institutions et protocoles réduirait les risques qu’un gouvernement hostile, un chercheur involontaire ou même un savant fou déclencherait un système d’IA malveillant ou armé d’algorithmes avancés. Et si quelque chose de désagréable arrivait, ces systèmes nous permettraient d’avoir les moyens d’y faire face.

Avec ces règles et sauvegardes en place, nous serons beaucoup plus susceptibles d’inaugurer un avenir où les systèmes d’IA avancés vivront harmonieusement avec nous, ou peut-être même de nous sauver de nous-mêmes.

Source : Futurism