Rencontrez Norman, la première IA psychopathe au monde

IA psychopathe

Les scientifiques du Massachusetts Institute of Technology ont formé un algorithme d’intelligence artificielle pour devenir un psychopathe en l’exposant à des images horribles et violentes sur le réseau social populaire Reddit.

Appelé Norman, d’après le personnage emblématique d’Anthony Perkins dans le classique “Psycho” d’Alfred Hitchcock en 1960, l’IA a été formée pour effectuer le sous-titrage d’images, une méthode populaire d’apprentissage en profondeur pour générer une description textuelle d’une image. Mais il y avait une tournure amusante – pendant une longue période de temps, Norman n’a été exposé qu’à des images macabres et violentes d’une infâme sous-section de reddit dédiée à documenter et à observer la réalité troublante de la mort. Les chercheurs ont ensuite utilisé des taches d’encre de Rorsach pour comparer Norman à d’autres IA qui n’avaient pas été exposées aux mêmes images macabres.

“Norman est né du fait que les données utilisées pour enseigner un algorithme d’apprentissage machine peuvent influencer de manière significative son comportement”, ont écrit les scientifiques du MIT sur la page officielle du projet. “Ainsi, lorsque les gens disent que les algorithmes d’IA sont biaisés et injustes, le coupable n’est souvent pas l’algorithme lui-même, mais les données biaisées qui lui ont été fournies. La même méthode peut voir des choses très différentes dans une image, même des choses malades, si elle est formée sur le mauvais (ou, le bon !) ensemble de données. Norman a souffert d’une exposition prolongée aux coins les plus sombres de Reddit, et représente une étude de cas sur les dangers de l’Intelligence Artificielle qui tourne mal quand des données biaisées sont utilisées dans les algorithmes d’apprentissage machine.”

Les scientifiques ont conclu qu’après avoir été exposé aux coins les plus sombres de Reddit, Norman manquait de logique empathique, ce qui a fondamentalement transformé l’IA en psychopathe. Lorsqu’il a été exposé aux mêmes taches d’encre Rorsach que les autres IA, il a vu des choses très différentes. Par exemple, lorsqu’une IA non contaminée a vu “un gros plan d’un vase avec des fleurs”, Norman a vu un homme se faire “abattre”, lorsqu’une IA normale a vu “une personne tenant un parapluie dans l’air”, le psychopathe numérique a vu un homme se faire abattre “devant sa femme hurlante”, et lorsqu’une IA standard a vu une scène réconfortante d’un couple debout ensemble, Norman a vu une femme enceinte tomber de la construction.

En créant la première IA psychopathe au monde, les chercheurs ont voulu prouver que la méthode et le matériel utilisés pour enseigner à une machine apprenant un algorithme peuvent grandement influencer son comportement, et illustrer “les dangers de l’intelligence artificielle qui tournent mal lorsque des données biaisées sont utilisées dans des algorithmes d’apprentissage machine”.

Source : Oddity Central

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *