Les élèves sont confrontés à des listes de surveillance par reconnaissance faciale dans les écoles du Texas
Les mouvements et les actions des élèves sont enregistrés.
Après une fusillade de masse en 2018, le district scolaire indépendant de Santa Fe au Texas a décidé d’essayer la reconnaissance faciale comme couche de sécurité supplémentaire.
Si la raison de l’installation du système était réactive, il est difficile d’ignorer les préoccupations en matière de vie privée, et le fait que la reconnaissance faciale n’est pas d’une précision fiable pour identifier les personnes.
The Markup a obtenu des documents détaillant le fonctionnement du système de reconnaissance faciale installé par le district scolaire. Lors du test, en 2019, plus de 5 000 photos d’élèves ont été téléchargées dans le système, et les résultats, selon l’entreprise technologique, étaient impressionnants.
“Dans l’ensemble, nous avons eu plus de 164 000 détections les 7 derniers jours de fonctionnement du pilote. Nous avons pu détecter des étudiants sur plusieurs caméras et même détecter un étudiant 1100 fois !” a déclaré Taylor May, alors directeur régional des ventes pour AnyVision, dans un courriel adressé aux administrateurs de l’école. Pour l’entreprise technologique, ces chiffres sont impressionnants, mais pour les personnes soucieuses de leur vie privée, ils sont inquiétants, car ils donnent une idée plus précise de la mesure dans laquelle la technologie de reconnaissance faciale signifie la fin de l’anonymat.
Parmi les documents que The Markup a obtenus figure le guide d’utilisation 2019 du logiciel, appelé “Better Tomorrow”. Le logiciel est présenté comme un système de reconnaissance faciale basé sur une liste de surveillance, ce qui signifie qu’il ne détecte que les personnes qu’on lui a demandé d’identifier (les visages qui ont été placés sur une liste de surveillance).
Mais d’après le guide d’utilisation, il est clair que le programme enregistre tous les visages qui apparaissent sur les caméras, et pas seulement les visages des personnes figurant sur une liste de surveillance. Cela explique pourquoi un seul étudiant a été identifié plus de mille fois en cinq jours.
Par défaut, le programme conserve tous les visages enregistrés pendant trente jours. En utilisant la fonction de recherche d’images inversées, vous pouvez télécharger la photo d’une personne et déterminer si elle a été filmée au cours des 30 derniers jours.
Grâce à ce système, le district scolaire a pu aider la police à identifier un trafiquant de drogue qu’elle soupçonnait d’être un lycéen.
Le logiciel comporte des fonctions de protection de la vie privée, notamment le “mode vie privée”, qui ignore tous les visages qui ne figurent pas sur une liste de surveillance, et le “mode GDPR”, qui estompe les visages ne figurant pas sur une liste de surveillance lors des téléchargements et de la lecture de vidéos. Le district scolaire a refusé de commenter s’il a activé les fonctions de confidentialité.
“Nous n’activons pas ces modes par défaut, mais nous informons nos clients à leur sujet”, a déclaré Dean Nicolls, directeur marketing d’AnyVision, dans un courriel. “Leur décision d’activer ou non est largement basée sur leur cas d’utilisation particulier, leur industrie, leur géographie et les réglementations en vigueur en matière de confidentialité.”
L’une des principales préoccupations concernant la technologie de reconnaissance faciale, dont l’utilisation ne cesse de croître, est la vie privée. Cette technologie permet aux gouvernements et aux entreprises privées de surveiller et de suivre en permanence les mouvements des personnes. Et lorsqu’elle est utilisée dans les écoles, cela signifie que même les mouvements des mineurs peuvent facilement être surveillés.
Il y a environ un mois, le Contrôleur européen de la protection des données et le Conseil européen de la protection des données ont recommandé l’interdiction de l’utilisation de la technologie d’identification faciale dans les espaces publics, arguant que “le déploiement de l’identification biométrique à distance dans les espaces accessibles au public signifie la fin de l’anonymat dans ces lieux”.
Une autre préoccupation majeure concernant cette technologie est sa précision, notamment dans l’identification des étudiants non blancs. Une étude réalisée par le National Institute of Standards and Technology en décembre 2019 a révélé que la plupart des systèmes d’identification faciale donnent plus de faux positifs pour les non-Blancs que pour les Blancs.
Selon James Grassmuck, membre du conseil d’administration du Santa Fe Independent School District, jusqu’à présent, il n’y a pas eu de cas d’erreurs d’identification et de plaintes relatives à la vie privée.
“Ils n’utilisent pas ces informations pour fouiller et envahir la vie privée des gens au quotidien”, a déclaré M. Grassmuck. “C’est un niveau supplémentaire de sécurité, et après ce que nous avons vécu, nous sommes prêts à accepter tous les niveaux de sécurité possibles.”
“La question de la dérive de la mission est une réelle préoccupation lorsque vous construisez initialement un système pour trouver cette personne qui a été suspendue et qui est incroyablement dangereuse, et que tout d’un coup vous avez enregistré toutes les photos des étudiants et pouvez les suivre partout où ils vont”, a déclaré Clare Garvie, associé principal au Centre sur la vie privée et la technologie du Centre juridique de l’Université de Georgetown. “Vous avez construit un système qui revient essentiellement à mettre un bracelet électronique sur tous vos enfants.”
Source : Reclaim The Net – Traduit par Anguille sous roche
