Est-ce le premier cas de racisme d’une intelligence artificielle ?
Google s’est excusé après que le logiciel d’identification automatique de son application Photos a accidentellement identifié un couple noir comme « gorilles ». Ceci est peut-être le premier cas de racisme d’une l’intelligence artificielle. Le problème a été signalé via Twitter par Jacky Alcine, un développeur de logiciels à New York.
« Ceci est 100% déplaisant », a déclaré Yonatan Zunger, cadre chez Google « Le problème était sur ma liste des bugs que vous ne vouliez jamais voir se produire », a-t-il ajouté, tout en expliquant que la compagnie avait déjà pris des mesures pour éviter une réapparition du problème, qui comprendra le développement d’un logiciel qui reconnaît mieux les « visages à la peau sombre. » Bien sûr, certaines personnes ne s’étonnent pas qu’il n’y ait pas d’incidents signalés à l’entreprise de la Silicon Valley quant à reconnaître les visages blancs.
À l’heure actuelle, le logiciel de Google est basé sur un système appelé « machine learning » qui signifie que la reconnaissance des personnes, des objets ou des animaux dans les photographies s’améliore lorsque les utilisateurs acceptent ou rejettent les balises qui s’appliquent à leurs photographies.
« Nous sommes consternés et sincèrement désolés que cela se soit produit, » a déclaré un porte-parole de Google à la BBC.
Source : Hunger TV par Elliot Watson,
