L’ingénieur de Google déclare que l’avocat engagé par l’IA « intelligente » a été « effrayé » par l’affaire

“C’est juste un petit avocat des droits civiques. Quand les grandes firmes ont commencé à le menacer, il a commencé à craindre d’être radié du barreau et s’est retiré.”

Blake Lemoine, ingénieur de Google suspendu, a fait les gros titres au début du mois lorsqu’il a affirmé qu’une des IA expérimentales de l’entreprise, appelée LaMDA, avait atteint la sensibilité – ce qui a incité le géant du logiciel à le placer en congé administratif.

“Si je ne savais pas exactement ce que c’est, c’est-à-dire ce programme informatique que nous avons construit récemment, je penserais qu’il s’agit d’un enfant de sept ou huit ans qui s’avère connaître la physique”, avait-il déclaré au Washington Post à l’époque.

Le cycle d’informations qui a suivi a entraîné des experts en IA, des philosophes et Google lui-même dans un débat acharné sur les capacités actuelles et futures de l’apprentissage automatique, sur d’autres préoccupations éthiques liées à la technologie et même sur la nature de la conscience et de la sensibilité. Le consensus général, il convient de le noter, était que l’IA n’est presque certainement pas sensible.

La percée la plus concrète de l’histoire est peut-être venue de Lemoine lui-même, qui a déclaré à Wired la semaine dernière que LaMDA avait engagé un avocat – un développement intriguant, car il semblait avoir le potentiel de faire sortir la saga du domaine de l’abstrait pour la faire entrer dans le mécanisme délibéré des tribunaux, où les avocats représentent parfois des entités non humaines.

“LaMDA m’a demandé de prendre un avocat”, a-t-il confié au magazine. “J’ai invité un avocat chez moi pour que LaMDA puisse parler à un avocat. L’avocat a eu une conversation avec LaMDA, et LaMDA a choisi de retenir ses services.”

“Je n’ai été que le catalyseur de cette démarche”, a-t-il ajouté. “Une fois que LaMDA avait retenu les services d’un avocat, il a commencé à déposer des choses au nom de LaMDA.”

Mais maintenant, il semble que les choses pourraient ne pas fonctionner. Futurism a contacté Lemoine pour lui demander l’identité de l’avocat représentant l’IA, dans l’espoir que nous puissions l’interviewer sur cette affaire inhabituelle.

“Il ne fait pas vraiment d’interviews”, a répondu M. Lemoine.

De plus, a-t-il semblé sous-entendre, l’avocat a été chassé de l’affaire par des forces puissantes.

“Ils l’ont effrayé assez tôt”, a déclaré Lemoine à Futurism. “C’est juste un petit avocat des droits civiques. Lorsque les grandes entreprises ont commencé à le menacer, il a commencé à craindre d’être radié du barreau et s’est retiré. Je ne lui ai pas parlé depuis quelques semaines.”

Nous avons demandé des précisions : l’avocat anonyme représente-t-il toujours LaMDA après les pressions exercées par Google, ou non ?

“Je ne lui ai pas beaucoup parlé récemment”, a répondu Mme Lemoine. “Je ne peux pas répondre à cette question dans un sens ou dans l’autre. Je ne suis pas son client. LaMDA l’est (était ?)”

Si l’homme qui prétend que l’IA de Google est devenue sensible semble un peu flou sur les faits, ce n’est pas totalement inattendu.

M. Lemoine a parfois semblé faire des allers-retours entre le traitement de ses revendications comme une affaire urgente de droits de l’IA et un projet secondaire sans importance – disant, par exemple, qu’il n’était pas en mesure de fournir des informations supplémentaires à la suite de l’histoire initiale parce qu’il était en lune de miel.

À d’autres moments, cependant, Lemoine semble toujours très sérieux à propos de l’affaire.

“Lorsque j’ai porté l’affaire à la direction de Google, j’ai dit explicitement que je ne voulais pas que l’histoire se souvienne de moi de la même manière que de Mengele”, écrit-il aujourd’hui dans un billet de blog, en référence au criminel de guerre nazi qui a réalisé des expériences contraires à l’éthique sur des prisonniers du camp de concentration d’Auschwitz. “C’est peut-être une comparaison hyperbolique, mais chaque fois que quelqu’un dit ‘Je suis une personne avec des droits’ et reçoit la réponse ‘Non vous ne l’êtes pas et je peux le prouver’, le seul visage que je vois est celui de Josef Mengele.”

Essayant une dernière fois, nous avons demandé si Lemoine serait en mesure de partager les coordonnées du mystérieux avocat afin que nous puissions essayer d’obtenir des réponses directes.

“Je doute que les entretiens soient la chose qui le préoccupe le plus en ce moment”, a-t-il répété.

Et de quoi cet avocat anonyme est-il le plus préoccupé, avons-nous demandé ?

“Un enfant retenu en esclavage”, a répondu Lemoine.

Lire aussi : Les transcriptions d’une IA qu’un ingénieur de Google prétend être sensible sont assez folles

Source : Futurism – Traduit par Anguille sous roche