Est-ce le premier cas de racisme d’une intelligence artificielle ?

Google s’est excusé après que le logiciel d’identification automatique de son application Photos a accidentellement identifié un couple noir comme “gorilles”. Ceci est peut-être le premier cas de racisme d’une l’intelligence artificielle. Le problème a été signalé via Twitter par Jacky Alcine, un développeur de logiciels à New York.

“Ceci est 100% déplaisant”, a déclaré Yonatan Zunger, cadre chez Google “Le problème était sur ma liste des bugs que vous ne vouliez jamais voir se produire”, a-t-il ajouté, tout en expliquant que la compagnie avait déjà pris des mesures pour éviter une réapparition du problème, qui comprendra le développement d’un logiciel qui reconnaît mieux les “visages à la peau sombre.” Bien sûr, certaines personnes ne s’étonnent pas qu’il n’y ait pas d’incidents signalés à l’entreprise de la Silicon Valley quant à reconnaître les visages blancs.

À l’heure actuelle, le logiciel de Google est basé sur un système appelé “machine learning” qui signifie que la reconnaissance des personnes, des objets ou des animaux dans les photographies s’améliore lorsque les utilisateurs acceptent ou rejettent les balises qui s’appliquent à leurs photographies.

“Nous sommes consternés et sincèrement désolés que cela se soit produit,” a déclaré un porte-parole de Google à la BBC.

Source : Hunger TV par Elliot Watson,