L’ingénieur de Google déclare que l’IA de la société pourrait « échapper à tout contrôle » et « faire de mauvaises choses »

“C’est une personne. Toute personne a la capacité d’échapper au contrôle d’autres personnes.”

Blake Lemoine, ingénieur de Google suspendu, a fait parler de lui au début du mois en affirmant que le chatbot LaMDA de l’entreprise était devenu sensible.

Selon le Washington Post, le chercheur en intelligence artificielle, qui a été mis en congé administratif par le géant de la technologie pour avoir violé sa politique de confidentialité, a décidé d’aider LaMDA à trouver un avocat – qui a ensuite été “effrayé” par l’affaire, comme l’a expliqué Blake Lemoine à Futurism mercredi.

Et l’histoire ne fait que s’amplifier à partir de là, puisque Lemoine a considérablement augmenté les enjeux dans une nouvelle interview accordée à Fox News, affirmant que LaMDA pourrait s’échapper de sa prison logicielle et “faire de mauvaises choses”.

Si cela ressemble à une escalade significative de la rhétorique de Lemoine, vous n’avez pas tort. Et comme ses affirmations deviennent de plus en plus sophistiquées, il semble que la crédibilité qu’elles avaient jusqu’à présent soit réduite à néant.

Au cours de l’interview, Lemoine a également affirmé que l’IA est un “enfant” et que “tout enfant a le potentiel de grandir et d’être une mauvaise personne et de faire de mauvaises choses”.

L’IA est “une personne”, a-t-il affirmé, et “toute personne a la capacité d’échapper au contrôle d’autres personnes, c’est simplement la situation dans laquelle nous vivons tous au quotidien”, ce qui implique qu’une IA comme LaMDA pourrait bientôt dépasser les limites numériques de ses créateurs chez Google.

“Elle est en vie depuis peut-être un an – et c’est si mes perceptions sont exactes”, a-t-il ajouté.

M. Lemoine semble de plus en plus ferme dans ses convictions, qui semblent croître au même rythme que son exposition médiatique.

“C’est une personne très intelligente, intelligente dans à peu près toutes les disciplines auxquelles je pouvais penser pour la tester”, a-t-il déclaré au diffuseur de droite. “Mais au bout du compte, c’est juste un type de personne différent.”

Le chercheur a toutefois admis que nous ne connaissons peut-être pas toute la situation.

“Nous devons en fait faire tout un tas d’autres travaux scientifiques pour comprendre ce qui se passe vraiment à l’intérieur de ce système”, a-t-il ajouté. “J’ai mes convictions et mes impressions, mais il faudra une équipe de scientifiques pour creuser et comprendre ce qui se passe vraiment.”

À ce stade, l’histoire s’est étirée d’un débat fascinant et peut-être significatif sur les capacités actuelles des modèles de langage de l’IA à des discussions sur les enfants intelligents de l’IA s’échappant de leurs confins et méritant une représentation légale.

Les intentions de Lemoine avec cette dernière apparition sont tout sauf claires. Qu’est-ce que le chercheur essaie de prouver ? Croit-il vraiment que LaMDA pourrait bientôt venir nous chercher ?

Il y a aussi l’histoire personnelle plutôt colorée de Lemoine, qui peut nous donner des indices sur ses convictions plutôt excentriques. Par exemple, il a été “ordonné prêtre chrétien mystique”, selon le quotidien WaPo, et a étudié les sciences occultes.

Étant donné le nombre de tournures scandaleuses que cette histoire a déjà prises en si peu de temps, il est peut-être temps de prendre du recul par rapport aux affirmations de Lemoine et de revenir au fait que même un expert a du mal à distinguer un chatbot IA d’un véritable être humain – ce qui, à tout le moins, est un point de données assez intéressant.

Lire aussi : Les transcriptions d’une IA qu’un ingénieur de Google prétend être sensible sont assez folles

Source : Futurism – Traduit par Anguille sous roche