Qu’est-ce que « l’hypothèse singleton », et que signifie-t-elle pour l’avenir de l’humanité ?

À quoi ressemble l’avenir de l’humanité ? Serons-nous audacieux et irons-nous là où personne n’est allé auparavant ? Ou peut-être finirons-nous dans un paysage d’enfer aride et dystopique, nous battant dans la poussière pour une goutte d’eau.

Source : Ellie Burgin/pexels

Peut-être, cependant, que le futur ne sera pas humain du tout. Non, nous ne parlons pas d’une guerre perdue d’avance contre nos cousins évolutionnaires ou d’une éventuelle scission de l’espèce entre Eloïs et Morlocks. Et si les humains perdaient leur place au sommet de l’ordre mondial non pas parce qu’on nous l’a prise, mais parce que nous l’avons abandonnée de notre plein gré – au profit d’un gouvernement mondial, d’un code moral universel ou même d’une intelligence artificielle superintelligente ?

C’est la vision connue sous le nom d’“Hypothèse Singleton”. Elle nous vient du philosophe futuriste Nick Bostrom, et c’est l’idée que l’humanité – ou en fait toute vie intelligente sur Terre – finira par vivre comme un “singleton” : un monde dirigé par une seule entité décisionnelle.

“La question de savoir si l’hypothèse singleton est vraie est ouverte”, écrit Bostrom. “Ma propre opinion est qu’il est plus probable qu’elle soit vraie que fausse.”

En fait, selon Bostrom, il s’agit simplement de la dernière étape d’une échelle que nous sommes déjà en train de gravir. Si vous regardez où l’humanité a commencé et que vous la comparez à ce que nous sommes maintenant, dit-il, l’hypothèse Singleton commence à sembler tout à fait inévitable.

“Historiquement, nous avons observé une tendance générale à l’émergence de niveaux plus élevés d’organisation sociale, des bandes de chasseurs-cueilleurs aux chefferies, aux cités-États, aux États-nations, et maintenant aux organisations multinationales, aux alliances régionales, aux diverses structures de gouvernance internationale et à d’autres aspects de la mondialisation”, explique-t-il. “L’extrapolation de cette tendance indique la création d’un singleton.”

Maintenant, nous avons tous vu The Matrix, donc nous pensons probablement tous la même chose en ce moment.

Oui, il est vrai que l’hypothèse singleton n’est peut-être pas une vision utopique – il y a de nombreuses façons dont cela pourrait mal tourner. Un singleton totalitaire, par exemple, nous donnerait un monde avec “absolument aucune liberté, aucune vie privée, aucun espoir de s’échapper, aucune agence pour contrôler nos vies du tout”, a averti Tucker Davey, un écrivain du Future of Life Institute dans le Massachusetts, qui se concentre sur la recherche sur le risque existentiel.

“Dans les régimes totalitaires du passé, [il y avait] tellement de paranoïa et de souffrance psychologique parce que vous ne savez tout simplement pas si vous allez être tué pour avoir dit la mauvaise chose”, a-t-il déclaré à la BBC. “Et maintenant, imaginez qu’il n’y a même pas de question, chaque chose que vous dites est rapportée et analysée.”

Mais Bostrom ne pense pas que sa vision doive être aussi cauchemardesque. Il existe de nombreuses façons dont l’hypothèse singleton pourrait être vraie et qui semblent plutôt agréables : peut-être qu’avec suffisamment de temps et de ressources, tout le monde sur la planète adopterait indépendamment le même code moral – ce code serait alors considéré comme un singleton. Peut-être le monde s’unit-il sous l’égide d’une république démocratique mondiale, ou d’une “machine superintelligente amicale”, suggère Bostrom – “en supposant qu’elle soit suffisamment puissante pour qu’aucune autre entité ne puisse menacer son existence ou contrecarrer ses plans”, bien sûr.

En fait, suggère-t-il, l’hypothèse de Singleton pourrait être le seul moyen d’éviter un avenir dystopique. Quel serait l’intérêt de courses aux armements coûteuses et dangereuses ou de guerres nucléaires dévastatrices, souligne-t-il, si le monde est uni sous une seule entité ? Comment mieux éviter une distribution inégale et gaspilleuse des ressources, ou la croissance exponentielle de la population, qu’un superordinateur bienveillant et omniscient ?

“Un large soutien à la création d’un singleton pourrait se développer progressivement si un singleton est effectivement nécessaire pour résoudre [des problèmes comme ceux-ci] et si la saillance de ces problèmes augmente avec le temps”, écrit Bostrom. “Un événement catastrophique qui mettrait en évidence les dangers de l’incapacité à résoudre les problèmes de coordination globale, comme une guerre menée avec des armes de destruction massive, pourrait accélérer un tel développement.”

Quelle est la probabilité de ce scénario ? Selon Bostrom, cela dépend de ce que nous décidons de faire ensuite.

“Certaines technologies anticipées pourraient faciliter la création d’un singleton”, écrit-il, “comme l’amélioration de la surveillance (y compris la détection fiable des mensonges) et les technologies de contrôle de l’esprit, les technologies de communication et l’intelligence artificielle.”

Cela peut sembler fermement dans le domaine de la science-fiction pour le moment, mais c’est plus proche de la réalité que vous ne le pensez. Nous sommes déjà très à l’aise avec l’idée d’être constamment surveillés, et pour ce qui est du contrôle de l’esprit – eh bien, nous y sommes presque.

“Au cours des dernières années, nous avons assisté à l’émergence de bulles de filtres et à la multiplication des algorithmes qui poussent les gens à croire à diverses théories du complot, ou même s’il ne s’agit pas de théories du complot, à ne croire qu’une partie de la vérité”, a déclaré à la BBC Haydn Belfield, du Centre for the Study of Existential Risk de l’université de Cambridge.

“Vous pouvez imaginer que les choses empirent, notamment avec les fakes profonds et les choses de ce genre, jusqu’à ce qu’il soit de plus en plus difficile pour nous, en tant que société, de décider que ce sont les faits de la question, voici ce que nous devons faire à ce sujet, puis de prendre des mesures collectives.”

Mais il y a une autre façon dont l’histoire de l’humanité pourrait progresser. Selon Bostrom, si nous nous dirigeons vers une plus grande utilisation de la cryptographie, un futur dirigé par un singleton pourrait être moins probable. Avec moins d’accès à l’information, et moins de contrôle centralisé, le développement d’une seule entité toute puissante aurait du mal à décoller.

À cet égard, ceux qui craignent le singleton pourraient trouver des raisons d’être optimistes. Avec la prise de conscience croissante des pièges potentiels des technologies de surveillance et de manipulation, nous voyons des organes politiques demander l’interdiction de la reconnaissance faciale et des médias sociaux réglementer la désinformation sur leurs plateformes. Si nous suivons cette voie, il est possible qu’un singleton – bon ou mauvais – n’existe jamais.

“Les singletons pourraient être bons, mauvais ou neutres”, écrit Bostrom. “[Il pourrait] résoudre certains problèmes fondamentaux de coordination qui pourraient être insolubles dans un monde qui contient un grand nombre d’organismes indépendants au niveau supérieur.”

“Mais si un singleton va mal, c’est toute une civilisation qui va mal”, prévient-il. “Tous les œufs sont dans le même panier.”

Lire aussi : Cette théorie prédit le contrôle du monde par un gouvernement unique

Source : IFLScience – Traduit par Anguille sous roche