IBM a secrètement collaboré avec la NYPD pour entraîner son outil de reconnaissance faciale
La technologie en question était chargée de reconnaître les individus en fonction de leur genre, de leur âge ou de leur couleur de peau. IBM et la police de New York (NYPD) n’ont pas informé les citoyens.
Un récent rapport de The Incercept révèle que la société IBM a exploité les images des caméras de vidéosurveillance de la police new-yorkaise afin de former sa technologie de reconnaissance faciale. Publié le 6 septembre en partenariat avec The Investigate fund, l’article indique que l’entreprise a eu accès des milliers de photographies issues d’une cinquantaine de caméras différentes. En s’appuyant sur ces clichés, le système d’IBM a été en mesure d’apprendre à distinguer les nombreuses caractéristiques physiques des individus, mais aussi les menaces potentielles telles que les colis ou les bagages abandonnés.
Une collaboration entre IBM et les autorités qui date de 2012
Selon des « documents d’entreprise confidentiels », cela faisait une dizaine d’années qu’IBM élaborait un tel projet en partenariat avec le centre antiterroriste du Lower Manhattan Security Initiative à New York. La police de New York aurait eu accès à la technologie d’IBM en 2007 par le biais de sa filiale Vexcel. Quelques années après, la société américaine aurait testé le système en analysant les corps et les visages des citoyens avant d’archiver ces données et de les utiliser pour améliorer la technologie.
Interrogé, le porte-parole de la NYPD, Peter Donald a confirmé l’existence de cette collaboration : « De temps à autre, des vidéos ont été fournies à IBM pour s’assurer que le produit qu’il développait fonctionnerait dans l’environnement urbain surpeuplé de New York et nous aiderait à protéger la ville ». Il a tenu à préciser que l’outil de reconnaissance faciale n’était utilisé qu’à des fins « d’évaluation » et que les agents avaient pour ordre d’exclure le critère de recherche portant sur la couleur de peau. Donald a ajouté que la nouvelle version Intelligent Video Analytics 2.0 proposée par IBM avait été rejetée en raison du fait qu’elle permettait de rechercher les gens selon leur origine. En effet, la technologie était en mesure de se focaliser sur les individus selon les mots-clefs « asiatique », « noir » ou « blanc ». Il a été précisé explicitement : « Bien que des outils de recherche sur la race ou le ton de peau aient été offerts à la police de New York, ils ont été explicitement refusés par cette dernière ».
Selon le rapport, la police de New York n’utiliserait plus la technologie d’IBM depuis 2017. Dans une déclaration, l’entreprise américaine a tenu à indiquer : « IBM s’est engagé à faire progresser et à utiliser les nouvelles technologies de manière responsable et est reconnu pour ses politiques de promotion de la diversité et de l’inclusion ».
Au-delà d’IBM, une technologie qui fait débat
Il y a quelques mois, c’est l’ACLU qui épinglait Amazon après avoir découvert que la compagnie américaine collaborait avec les autorités autour d’une technologie de reconnaissance faciale. En effet, l’association a révélé que l’entreprise souhaitait vendre son outil au le gouvernement afin de permettre à ce dernier de disposer d’un puissant système. Elle rappelle à ce sujet : « Grâce à l’intelligence artificielle, Rekognition peut identifier, suivre et analyser les personnes en temps réel et reconnaître jusqu’à 100 personnes dans une seule image. Il peut rapidement analyser les informations qu’il recueille sur des bases de données comportant des dizaines de millions de visages ». Lors des révélations de l’ACLU, la technologie était en test sur trois des caméras de la ville d’Orlando aux États-Unis, sans que les citoyens n’en soient au courant.
Depuis plusieurs maintenant, la collaboration entre les entreprises technologiques et les autorités inquiètent les associations qui militent en faveur des libertés individuelles. Si celles-ci évoquent le fait qu’il s’agit, dans ces cas, de surveillance à grande échelle, la majorité des associations évoquent également le renforcement de la discrimination. Il y a quelques mois, l’ACLU a testé le système d’Amazon, qui a identifié à tort 28 membres du Congrès comme étant des criminels. Sur le total des politiciens identifiés par Rekognition, 39% étaient Afro-Américains, là où ces derniers ne représentent que 20% des 535 membres du Congrès.
Source : Presse-citron
