Des chercheurs de Facebook ont éteint une intelligence artificielle qui a créé son propre langage

Facebook a récemment développé une nouvelle intelligence artificielle et elle a déjà créé sa propre langue à l’aide de mots codés pour communiquer plus efficacement. Les chercheurs ont rapidement éteint le système à cause des craintes de perdre le contrôle de l’IA.

Ce n’est pas la première fois que les IA ont divergé de leur formation en langue anglaise pour développer leur propre langage plus efficace. Alors que les phrases résultantes de cette méthode condensée de communication ressemblent à du charabia pour nos oreilles, elles ont en fait un sens sémantique lorsqu’elles sont interprétées par des agents de l’IA.

Négocier dans une nouvelle langue

Comme l’indique Fast Co. Design, les chercheurs ont remarqué que les robots avaient complètement abandonné l’anglais, mais leur système avancé était en mesure de négocier avec d’autres agents de l’IA. Ensemble, ils peuvent décider comment procéder avec ce qu’ils travaillent. D’abord, les phrases utilisées semblaient inintelligibles, mais après une observation supplémentaire, les chercheurs ont constaté qu’elles représentaient des tâches à accomplir.

Dans un échange particulier, deux des robots, Bob et Alice, ont utilisé leur propre langue pour terminer leur échange. Bob a commencé en disant : “Je peux peux je je tout le reste”, auquel Alice a répondu : “Les balles ont zéro à moi à moi à moi à moi à moi à moi à moi.” Le reste de la conversation a été formé à partir de variations multiples de ces phrases.

Bien que les phrases semblent être absurdes à première vue, les chercheurs croient qu’elles révèlent comment les deux robots déterminent combien d’articles ils doivent prendre lorsqu’ils travaillent. La répétition de Bob indique comment il utilisait la langue pour offrir plus d’articles à Alice. Si on l’interprète de cette manière, sa réponse devient quelque chose comme : «J’en ai trois et vous avez tout le reste».

Il semble que l’IA ait découvert que des phrases anglaises n’étaient pas requises pour le scénario spécifique. Les IA modernes fonctionnent selon un principe de «récompense», où en suivant un plan d’action, les robots recevront un «avantage». Mais dans ce scénario, par exemple, il n’y avait aucune récompense pour continuer à utiliser l’anglais, alors ils ont décidé d’utiliser un moyen de communication plus efficace.

Selon FastCo. Designs : “Les agents dériveront un langage compréhensible et inventeront des mots-clés pour eux-mêmes. Comme si je dis «le» cinq fois, vous interprétez cela comme signifiant que je veux cinq exemplaires de cet article.”

D’autres développeurs d’IA ont remarqué une utilisation similaire de “raccourcis” pour simplifier la communication. Dans une entreprise appelée OpenAI (le laboratoire d’IA fondé par le créateur de Tesla Elon Musk) le succès d’une expérience a permis à des IA d’apprendre leurs propres langues.

Quel est le problème ?

Si l’IA continue de créer ses propres langues, les développeurs pourraient avoir des problèmes pour créer et adopter de nouveaux réseaux de neurones, mais on ne sait pas si cela permettrait aux machines d’envahir leurs opérateurs.

Source : Collective-Evolution