Quand des intelligences artificielles trouvent des solutions qui n’avaient pas été prévues par leurs créateurs


Le chercheur autrichien Károly Zsolnai-Fehér présente dans la vidéo ci-dessous quatre exemples d’intelligence artificielles (IA) trouvant des failles que les programmeurs n’avaient pas prévues.

Vous y verrez une IA sous la forme d’une créature virtuelle à 6 pattes à laquelle on demande de minimiser la quantité de contact avec ses pieds. L’IA prendra rapidement le parti de se mettre sur le dos et de se déplacer avec ses coudes (0% de contact), chose que son créateur n’avait pas prévu. Dans le deuxième exemple, l’IA est sous forme d’un bras surmonté d’une pince et doit attraper un cube. Problème : la pince ne peut pas s’ouvrir. L’IA trouvera assez rapidement le moyen de saisir le cube, soit en bloquant ce dernier pour le forcer à rentrer dans la pince ou en effectuant un mouvement suffisamment rapide pour capturer le cube. Le dernier exemple fait intervenir un essaim de robots qui peuvent se déplacer et chacun muni d’une caméra et d’une lumière. Leur seul but est de survivre en groupe en se nourrissant dans un temps imparti à des points précis et sans autre information/ programmation. L’IA aura eu vite fait de comprendre que pour la survie du groupe, il est nécessaire de prévenir les autres qu’ils ont trouvé la source de nourriture en activant leur lumière.

Ces exemples sont issus d’une étude (lien plus bas) qui rassemble un certain nombre d’anecdotes de résultats surprenants issus d’algorithmes évolutifs (evolutionary computation) qui, selon elle :

“L’évolution biologique fournit une source créative d’adaptations complexes et subtiles, surprenant souvent les scientifiques qui les découvrent. Cependant, parce que l’évolution est un processus algorithmique qui transcende le substrat dans lequel il se produit, la créativité de l’évolution n’est pas limitée à la nature. En effet, de nombreux chercheurs dans le domaine de l’évolution numérique ont observé que leurs algorithmes et organismes en évolution subvertissent leurs intentions, exposant des bugs non reconnus dans leur code, produisant des adaptations inattendues ou présentant des résultats qui convergent étrangement avec ceux de la nature. De tels récits révèlent régulièrement la créativité par l’évolution de ces mondes numériques, mais ils s’intègrent rarement dans le récit scientifique standard. Au contraire, ils sont souvent traités comme de simples obstacles à surmonter, plutôt que comme des résultats qui méritent d’être étudiés de leur propre chef.

Les histoires elles-mêmes sont échangées entre chercheurs par tradition orale, mais ce mode de transmission de l’information est inefficace et sujet à l’erreur et à la déperdition pure et simple. De plus, le fait que ces histoires ont tendance à n’être partagées que par les professionnels signifie que de nombreux scientifiques ne se rendent pas compte à quel point les organismes numériques sont intéressants et réalistes et à quel point leur évolution peut être naturelle. A notre connaissance, aucune collection de telles anecdotes n’a été publiée auparavant. Cet article est le produit d’une foule de chercheurs dans les domaines de la vie artificielle et du traitement de l’évolution qui ont fourni des comptes rendus de tels cas. Il s’agit donc d’une collection écrite et vérifiée de récits scientifiquement importants et même divertissants. Ce faisant, nous présentons également ici des preuves substantielles que l’existence et l’importance des imprévus évolutionnaires s’étendent au-delà du monde naturel, et peuvent en effet être une propriété universelle de tous les systèmes évolutifs complexes.”

L’étude en accès libre sur le site de prépublication arXiv : The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities.

Source : GuruMeditation

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *