L’auteur de Sapiens avertit que le cerveau humain pourrait être piraté si l’IA n’est pas réglementée

Où vont exactement nos données ?

Yuval Noah Harari s’exprimant au Forum économique mondial. Yuval Noah Harari/Instagram

Si vous avez lu le best-seller mondial “Sapiens”, “Homo Deus” ou “21 Leçons pour le XXIe siècle”, vous connaissez probablement le professeur israélien Yuval Noah Harari. Après avoir vendu 35 millions d’exemplaires en 65 langues avec ces trois livres, Harari est devenu un auteur de vulgarisation scientifique de renommée mondiale.

En dehors de ses travaux axés sur la grande histoire, l’esprit humain et la philosophie sociale, Harari est un penseur notable qui a déjà exprimé ses inquiétudes quant à l’intelligence artificielle et à la bio-ingénierie, qui pourraient constituer une menace existentielle pour l’humanité, et à la nécessité de surveiller de près ces technologies émergentes.

Aujourd’hui, dans une nouvelle interview accordée à l’émission 60 Minutes de CBS, Harari prévient que, dans un avenir proche, les cerveaux humains pourraient être piratés, à moins que l’IA ne soit réglementée au niveau mondial.

Pirater un cerveau humain

“Pirater un être humain, c’est apprendre à connaître cette personne mieux qu’elle ne se connaît elle-même. Et sur la base de cela, vous manipuler de plus en plus”, explique Harari. Et de prévenir que “ce sont des données sur ce qui se passe à l’intérieur de mon corps. Ce que nous avons vu jusqu’à présent, ce sont des entreprises et des gouvernements qui collectent des données sur les endroits où nous allons, les personnes que nous rencontrons, les films que nous regardons. La prochaine phase sera la surveillance sous notre peau”.

S’adressant à Anderson Cooper de CBS, Harari a commenté la façon dont les données mondiales sont traitées et où exactement toutes nos données sont stockées. Il a ajouté que “le monde est de plus en plus découpé en sphères de collecte de données, de récolte de données. Pendant la guerre froide, il y avait le rideau de fer. Aujourd’hui, nous avons le rideau de silicium, le monde est de plus en plus divisé entre les États-Unis et la Chine, vos données vont-elles en Californie ou à Shenzhen, Shanghai et Pékin ?”.

Harari met depuis longtemps les pays en garde contre les éventuels effets néfastes que l’intelligence artificielle pourrait avoir sur les gens. Dans un avenir pas si lointain, nous pourrions être confrontés à un énorme changement dans notre façon de vivre, de travailler et dans la formation des hiérarchies sociales.

À mesure que la technologie s’immisce dans notre vie quotidienne, les plateformes technologiques sont devenues des nécessités dont nous ne pouvons plus nous passer. Selon Harari, “Netflix nous dit ce que nous devons regarder et Amazon nous dit ce que nous devons acheter. À terme, d’ici 10, 20 ou 30 ans, ces algorithmes pourraient également vous dire quoi étudier à l’université, où travailler, qui épouser et même pour qui voter”, dans son interview avec CBS.

Alors, que faut-il faire ? Harari affirme que “certainement, nous sommes maintenant au point où nous avons besoin d’une coopération mondiale. Vous ne pouvez pas réguler le pouvoir explosif de l’intelligence artificielle au niveau national”.

Bien qu’elle présente des inconvénients possibles, l’IA ne doit pas nécessairement être une catastrophe sociale. Entre de bonnes mains, nos données pourraient être utilisées pour combler les lacunes de nos systèmes de santé, d’infrastructure et de gouvernance, entre autres. Selon Harari, “une règle clé est que si vous obtenez mes données, celles-ci doivent être utilisées pour m’aider et non pour me manipuler. Une autre règle clé est que chaque fois que vous augmentez la surveillance des individus, vous devez simultanément augmenter la surveillance des sociétés, des gouvernements et des personnes au sommet. Et le troisième principe est le suivant : ne jamais permettre que toutes les données soient concentrées en un seul endroit. C’est la recette pour une dictature”, dans l’interview.

“Le tout est que ce n’est pas seulement dystopique. C’est aussi utopique. Je veux dire que ce genre de données peut aussi nous permettre de créer le meilleur système de soins de santé de l’histoire”, dit-il. “La question est de savoir ce que l’on fait d’autre avec ces données. Et qui le supervise ? Qui le réglemente ?”

Lire aussi : « L’intelligence artificielle va surpasser l’humain dans 5 ans », d’après Elon Musk

Source : Interesting Engineering – Traduit par Anguille sous roche