Le président de Microsoft prévient que l’année 2024 pourrait ressembler à « 1984 »


1984 pourrait n’être qu’à quelques années de nous.

Le président de Microsoft a récemment déclaré que la vie en 2024 pourrait ressembler à la dystopie oppressante décrite dans le roman 1984 de George Orwell, si l’intelligence artificielle (IA) n’est pas rapidement réglementée et contrôlée.

Un nouveau documentaire de la BBC Panorama a étudié la façon dont l’IA révolutionne notre monde, des percées scientifiques aux sinistres moyens de contrôle utilisés par les armées et les gouvernements.

Le documentaire décrit ensuite comment les gouvernements commencent à utiliser l’IA comme un moyen de contrôler leur population. L’accent est mis sur la technologie de surveillance en Chine – le pays espère devenir le leader mondial de l’IA d’ici 2030 – mais de nombreux autres gouvernements dans le monde utilisent déjà l’IA pour la surveillance. Aux États-Unis, par exemple, la technologie de reconnaissance faciale de l’IA a été utilisée par les forces de l’ordre pour surveiller les manifestations de Black Lives Matter en 2020.

De nombreuses voix de premier plan affirment que cela crée un dangereux précédent. Pour alimenter un monde piloté par l’IA, des données sont nécessaires – vos données, pour être précis, sur tout, de vos goûts à votre localisation actuelle. La ressource la plus précieuse du monde n’est plus le pétrole, mais les données. Non seulement cette soif de données pourrait se traduire par de nouvelles atteintes à la vie privée, mais on ne sait pas non plus comment ces données peuvent être utilisées pour prédire, influencer et contrôler notre comportement. L’IA est également susceptible de capter nos propres préjugés sociaux et les hypothèses qui sont implicitement exprimées dans les données, ce qui entraîne des problèmes de partialité.

« Je me souviens constamment des leçons de George Orwell dans son livre 1984 », conclut Brad Smith, le président de Microsoft Corporation, dans le documentaire. « L’histoire fondamentale… était celle d’un gouvernement qui pouvait voir tout ce que chacun faisait et entendre tout ce que chacun disait, tout le temps. »

« Eh bien, cela ne s’est pas produit en 1984, mais si nous ne faisons pas attention, cela pourrait se produire en 2024. Il y a des régions du monde où la réalité rattrape, malheureusement, de plus en plus cette vision de la science-fiction », a-t-il ajouté.

« Si nous ne promulguons pas les lois qui protègent le public, nous allons constater que la technologie avance à toute allure et qu’il sera très difficile de la rattraper. »

Le président de Microsoft n’est pas le seul à avoir des craintes. De nombreux autres scientifiques et technologues de premier plan ont exprimé de sérieuses inquiétudes quant à la domination croissante de l’IA et ont souligné que la réglementation de cette technologie est désespérément nécessaire. Alors que l’IA devient exponentiellement plus intelligente et plus largement utilisée, elle pourrait bientôt atteindre un point où la croissance technologique devient incontrôlable et irréversible. Sans contrôle, l’IA pourrait régner en maître.

« Je suis très proche, à la pointe de l’IA et cela m’effraie au plus haut point », a déclaré Elon Musk en 2018.

« Retenez bien mes mots, l’IA est bien plus dangereuse que les armes nucléaires. De loin. Alors pourquoi n’avons-nous pas de surveillance réglementaire ? », a-t-il poursuivi.

« Je ne suis normalement pas un défenseur de la réglementation et de la surveillance – je pense qu’il faut généralement pécher par excès de minimisation de ces choses – mais c’est un cas où vous avez un danger très grave pour le public », a ajouté Musk.

Lire aussi : Selon un prix Nobel, la domination de l’intelligence artificielle est inévitable

Source : IFLScience – Traduit par Anguille sous roche


Vous aimerez aussi...

4 réponses

  1. Bruno dit :

    Morpheus, des trucs (littéralement) à dormir debout … C’est vrai que c’est difficile de rester éveillé vu le contexte, leurs craintes ne sont rien de moins que l’expression de leurs désirs.

    • Bruno dit :

      En gros (c’est tellement gros d’ailleurs, qu’on ne le voit même plus), la stratégie globale est la quatrième révolution industrielle (qui est ce qu’elle est, hein, de mon point de vue, assez fantasmée, elle est de fait une réinitialisation, une redistribution des cartes pour une nouvelle partie, a “new game” plutôt que a “new world order”), qui nécessite des tactiques, s’appuyant notamment sur différents traitements de l’attention comme l’omission, le contournement, le masquage, etc. comme une attention ‘photoshopée” pour ainsi dire : s’agissant de l’I.A, les visuels associés sont assez ébouriffants et traduisent assez bien les remous agitant le psychisme “patriarcal” de la communauté humaine.

  2. Pat dit :

    Pas besoin d’intelligence artificielle pour cela.
    L’intelligence naturelle suffit, notamment pour planifier la surveillance ou pour planifier tout ce que Bill Gates et ses amis ont promu.
    C’est l’intelligence naturelle de certaines personnes qui programment les intelligences artificielles aux fins de surveillance, ou qui financent ces programmes de surveillance.

    • Bruno dit :

      De la com, merci de développer “intelligence naturelle” ; technologiquement, c’est au-delà de la surveillance (que signifie d’ailleurs “planifier une surveillance” ? Pourquoi Bill Gates ?) Pat est aussi un résultat de partie d’échecs :)

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *