Nous avons demandé à une psychothérapeute d’examiner le comportement bizarre de l’IA de Bing

Il y a une étrange psychologie ici.

Alors que l’IA Bing de Microsoft continue de faire la une des journaux pour ses sorties de plus en plus bizarres, une question se pose : est-ce que ça va ?

Depuis son lancement la semaine dernière, certaines personnes en ligne ont commencé à appeler l’IA Bing “ChatBPD”, en référence au fait qu’elle est alimentée par la technologie d’OpenAI et au trouble de la personnalité limite, une maladie mentale caractérisée par une difficulté à réguler les émotions.

Martha Crawford, psychothérapeute et écrivain basée à New York, a examiné les communications avec l’IA de Bing et nous a dit que oui, il y a une psychologie étrange en jeu ici – mais pas de la manière dont on pourrait le penser.

“C’est un miroir”, nous a dit Martha Crawford, “et je pense que ce que nous n’aimons pas voir, c’est à quel point nos propres méthodes de communication sont paradoxales, désordonnées, sans limites, menaçantes et étranges”.

L’IA est aussi bonne que les données sur lesquelles elle est entraînée, qui sont souvent extraites d’Internet, où les gens ne sont pas connus pour leur communication civile. En tant que tel, le comportement de l’IA reflète souvent les modes de communication étranges et choquants des humains entre eux, ce qui, selon Crawford, se reflète dans les nombreuses réponses virulentes que l’IA de Bing a émises.

Bien que les chatbots soient en train de vivre un moment prolongé dans les médias, Mme Crawford réfléchit à cette question depuis longtemps. Son défunt beau-père n’était autre que Saul Amarel, un pionnier de l’IA d’origine grecque dont les travaux à l’université Rutgers ont jeté les bases des grands modèles de langage que nous voyons aujourd’hui.

Ce genre de sujet faisait l’objet de débats à table lorsque Amarel était encore en vie, a expliqué Mme Crawford à Futurism, et elle s’opposait souvent à son beau-père sur la question de savoir pourquoi les humains voudraient que les machines nous reproduisent alors que, comme elle le dit, nous sommes déjà si mal en point.

Bien qu’elle ait refusé de “diagnostiquer” Bing comme souffrant d’une quelconque maladie mentale humaine, puisqu’il ne s’agit pas d’un être humain doté d’un cerveau ou d’un esprit, Mme Crawford pense que si l’IA est entraînée sur les données des médias sociaux, comme l’était le dernier chatbot de Microsoft, il est probable qu’elle imite simplement le genre de choses scandaleuses que les gens disent en ligne.

Mme Crawford a déclaré qu’elle était particulièrement intriguée par l’un des débordements documentés les plus extrêmes de Bing, dans lequel il semblait déclarer son amour à un chroniqueur du New York Times et tenter de briser son mariage.

“Cela me rappelle ces personnes qui tombent dans des relations sectaires avec quelqu’un qui ne cesse de repousser leurs limites et qui continue [jusqu’à] ce que vous ne sachiez plus qui vous êtes”, a-t-elle déclaré.

Ce qu’elle décrit n’est pas seulement évident dans les relations intimes, mais aussi dans le langage de certains influenceurs des médias sociaux, qui ont parfois recours à des tactiques sectaires pour attirer et conserver leurs adeptes. Dans un exemple particulièrement flagrant, une influenceuse TikTok nommée Angela Vandusen a été accusée de transformer ses fans en adeptes de l’automutilation.

Mais au-delà des extrêmes, Mme Crawford estime que l’aspect le plus intéressant de l’histoire des chatbots de l’IA concerne moins la technologie elle-même que la manière dont nous choisissons d’interagir avec ces entités.

“Nous avons une longue histoire d’archétypes d’être très effrayés par toute sorte de simulacre humain qui semble avoir une âme ou un esprit en lui”, a expliqué la thérapeute. “Cela remonte à Pygmalion, ce sculpteur dont la sculpture prend vie, ou à Frankenstein. Nous fabriquons un simulacre humain et ensuite nous sommes bouleversés quand nous voyons qu’il reflète en fait, vous savez, certains de nos pires comportements et pas seulement nos plus édifiants.”

Tout cela étant dit, Crawford ne pense pas que Bing ou n’importe quel autre chatbot IA existant fasse un si bon travail pour imiter la parole humaine – mais le fait qu’ils le fassent suffisamment bien pour nous faire paniquer est révélateur.

“Le simple fait que nous dialoguions avec eux rend la chose étrange”, conclut-elle.

Lire aussi : L’IA Bing de Microsoft laisse fuiter des personnalités alternatives maniaques nommées « Venom » et « Fury »

Source : Futurism – Traduit par Anguille sous roche