Quelque chose dans les yeux révèle si vous regardez une personne qui n’existe pas

Nous vivons à une époque de faux. La réalité est toujours aussi présente, bien sûr, mais elle devient de plus en plus difficile à trouver.

(Leonardo Yip/Unsplash)

Ce phénomène n’est peut-être nulle part aussi troublant que dans le monde étrange des “deepfakes” et autres visages générés par ordinateur de personnes qui n’existent pas réellement (mais qui ressemblent étrangement aux vrais).

Des scientifiques viennent de mettre au point une technique qui pourrait nous aider à détecter si les visages que nous regardons sont effectivement des personnes authentiques, par opposition à des fantômes créés par l’intelligence artificielle (IA).

Selon une nouvelle étude préimprimée dirigée par le premier auteur et informaticien Hui Guo de l’université d’État de New York, le secret se trouve dans les yeux, et plus précisément dans la forme de la pupille.

(Guo et al., arXiv, 2021)

Ci-dessus : Une décomposition de l’anatomie de l’œil, y compris la forme régulière de la pupille (en haut), ainsi qu’une comparaison d’un visage réel et de ses pupilles (à gauche), avec des yeux artificiels (à droite).

En zoomant sur les yeux artificiels des faux visages créés par un système d’apprentissage automatique appelé “generative adversarial network“ (GAN), les chercheurs ont remarqué quelque chose d’étrange à propos des pupilles.

Contrairement aux vraies pupilles, la plupart des faux visages n’étaient pas vraiment ronds.

“Les pupilles ont des formes quasi-circulaires chez les adultes en bonne santé”, explique l’équipe dans l’étude.

“En comparant avec les vrais visages, nous observons que des artefacts et des incohérences visibles peuvent être observés dans les régions des yeux des visages générés par le GAN.”

Selon les chercheurs, cet étrange cadeau est dû au fait que les modèles GAN ne comprennent pas l’anatomie des yeux humains, notamment en ce qui concerne les formes géométriques des pupilles régulières.

Pour déterminer l’ampleur de ce phénomène, les chercheurs ont mis au point un outil de détection qui extrait automatiquement les contours des pupilles des yeux sur des photos, puis les évalue pour vérifier si elles ont une forme elliptique.

Lors d’une expérience consistant à comparer l’outil à une base de données de 2 000 images (1 000 visages réels et 1 000 faux), le système a réussi à distinguer les deux groupes de manière fiable.

“Nous avons constaté que les formes irrégulières des pupilles sont largement répandues dans les visages de haute qualité générés par StyleGAN, et qu’elles sont différentes des pupilles humaines réelles”, expliquent les chercheurs.

“Nous proposons une nouvelle méthode basée sur la physiologie qui peut utiliser les formes irrégulières des pupilles comme un indice pour détecter les visages générés par StyleGAN, ce qui est simple mais efficace.”

Selon l’équipe, une technologie comme celle-ci pourrait un jour aider à contrer l’utilisation malveillante de faux d’apparence réaliste utilisés pour tromper les gens sur les plateformes de médias sociaux, entre autres.

Au moins jusqu’à ce que quelqu’un puisse enseigner à l’IA la forme correcte d’une pupille, bien sûr.

Les résultats sont disponibles sur le site arXiv.org.

Lire aussi : Sensity dévoile un outil de détection de deepfakes qui combine l’apprentissage profond et l’intelligence automatisée, pour repérer si une image est créée pour être manipulée ou pas

Source : ScienceAlert – Traduit par Anguille sous roche