Une panne de Facebook met en lumière les métadonnées associées aux photos des utilisateurs par son IA, les réactions divergent
Ce mercredi 3 juillet 2019, Facebook a connu une panne mondiale sur ses produits ; pendant plusieurs heures, il était difficile, voire impossible, d’afficher des médias sur Messenger, Instagram et WhatsApp.
L’entreprise a d’abord affirmé être au courant de la situation puis est revenue vers les utilisateurs via Twitter pour expliquer que :
« Au cours de l’une de nos opérations de maintenance courante, nous avons provoqué un problème qui rend difficile le téléchargement ou l’envoi de photos et de vidéos par certaines personnes. Nous travaillons pour que les choses redeviennent normales le plus rapidement possible et nous nous excusons pour tout inconvénient. »
Seulement voilà, si les images ne s’affichaient plus, les utilisateurs du réseau social ont eu le loisir de voir de nombreuses images du site remplacées par les métadonnées attribuées par les systèmes de vision artificielle de l’entreprise.
La vision artificielle (aussi appelée vision par ordinateur ou vision numérique) est une branche de l’intelligence artificielle dont le principal but est de permettre à une machine d’analyser, traiter et comprendre une ou plusieurs images prises par un système d’acquisition (par exemple : caméras, etc.).
En somme, pour certains utilisateurs qui parcouraient les photos téléchargées, au lieu de voir par exemple des photos de vacances ou des photos de sorties, ils sont tombé sur un texte descriptif comme celui-ci « l’image peut contenir: des gens souriants, des gens qui dansent et représenter un mariage » ou encore « l’image peut contenir : des nuages, le ciel et être prise à l’extérieur ».
Des métadonnées également présentes sur Instagram
Les mêmes métadonnées d’images apparaissent sur Instagram et, en plus de donner une description générale de la scène et des objets, elles suggèrent également le nom d’une photo basée sur la reconnaissance faciale de Facebook. Rappelons que Facebook utilise un algorithme de reconnaissance faciale sur son site et son application mobile. Un algorithme que l’entreprise s’est efforcée d’améliorer au fil des années. Par exemple, en 2014, Facebook a présenté son projet DeepFace.
Si Facebook possédait déjà un système de reconnaissance faciale capable de vous proposer des noms d’amis à taguer quand vous téléchargez une photo (en utilisant des informations telles que la distance entre les yeux et le nez en les comparant avec des photos de profil et des photos déjà taguées) ces résultats sont loin d’être aussi précis que ceux obtenus par DeepFace. Ce dernier utilise des techniques d’apprentissage profond (deep learning), un domaine d’intelligence artificielle spécialisé dans le décodage des types de données irrégulières. Les chercheurs ont estimé que DeepFace peut déterminer si deux visages photographiés appartiennent à la même personne – avec une précision de 97,25 %.
Facebook a voulu aller un cran plus loin et s’assurer que vous soyez au courant si quelqu’un poste vos photos, même lorsque la personne ne vous tague pas, et que vous puissiez en prendre le contrôle. C’est dans ce contexte que le réseau social a lancé en février 2018 une nouvelle fonction de reconnaissance faciale appelée Photo Review qui vous permettra par exemple de détecter si d’autres personnes tentent d’utiliser votre photo comme leur photo de profil.
Depuis des années donc, Facebook utilise l’apprentissage automatique pour « lire » les images de cette façon et le projet représente une part importante des efforts d’accessibilité de l’entreprise. Ces balises sont utilisées pour décrire des photos et des vidéos aux utilisateurs malvoyants.
À en juger par les réactions sur Twitter à cette panne, il s’agit certainement d’une information nouvelle pour beaucoup de gens. Néanmoins, les internautes n’ont pas manqué de s’amuser de la situation comme celui-ci qui déclare :
Voici ce qui se passe quand un mauvais influenceur publie un selfie sur Facebook aujourd’hui : « peut contenir l’image d’un idiot »
Il y a beaucoup de données sur la vie des utilisateurs qu’ils peuvent partager avec Facebook via ces images : le réseau social serait par exemple en mesure de savoir que vous ayez un animal de compagnie, quels sont vos passe-temps, où vous aimez aller en vacances ou si vous aimez vraiment les voitures de collection. Autant de choses qui ont soulevé la question de savoir si ces métadonnées pourraient être utilisées pour cibler les publicités avec davantage de précision. Il faut dire que les avis sont partagés.
Lire aussi : Quand Facebook censure la photo d’Emmanuel Macron à Saint-Martin pour «nudité et actes sexuels»
Sources : Developpez par Stéphane le calme – Facebook
