Le ministère de la sécurité intérieure cherche à attribuer des « scores de risque » de type « crédit social » aux utilisateurs des médias sociaux

Révèlent des documents récemment obtenus.

Des documents récemment divulgués ont mis en lumière l’interaction entre la sécurité nationale et la protection de la vie privée. Ils révèlent que le Département de la sécurité intérieure (DHS) a conclu un contrat avec l’Université de l’Alabama à Birmingham (UAB) en 2018 pour développer un projet, baptisé « Night Fury », destiné à analyser et à attribuer des « scores de risque » aux comptes de médias sociaux.

Le Brennan Center for Justice s’est procuré ces documents par le biais d’une demande de documents publics, et Motherboard a été le premier à en faire état. Le projet Night Fury visait à utiliser l’automatisation pour détecter et évaluer les comptes de médias sociaux afin de déterminer s’ils étaient liés au terrorisme, à la distribution illégale d’opioïdes, mais aussi aux campagnes de désinformation.

Le document du DHS indique que « le contractant doit développer ces attributs pour créer une méthodologie permettant d’établir un classement, ou “score de risque”, associé aux comptes identifiés ».

Le projet Night Fury prévoyait également d’impliquer les services des douanes et de la protection des frontières (CBP), les services de l’immigration et des douanes (ICE), l’administration de la sécurité des transports (TSA) et les services de citoyenneté et d’immigration des États-Unis (USCIS) afin de fournir un « contexte opérationnel inter-missions », selon l’un des documents.

Des experts avaient mis en garde le DHS contre les difficultés et les biais inhérents au jugement automatisé dans ce domaine, en soulignant que des caractéristiques telles que le fait d’être « pro-terroriste » ne font l’objet d’aucune définition concrète.

Le DHS a notamment mis fin au projet Night Fury en 2019. Cependant, il souligne l’intérêt continu de l’agence pour les médias sociaux en tant que ressource d’analyse. Cela fait suite à des rapports antérieurs sur l’utilisation par le CBP d’un outil alimenté par l’IA, Babel X, pour analyser les médias sociaux des voyageurs aux frontières des États-Unis.

Alors que Night Fury se concentrait initialement sur « la lutte contre le terrorisme, la chaîne d’approvisionnement illégale en opioïdes, la criminalité transnationale et la compréhension/caractérisation/identification de la propagation de la désinformation par des entités étrangères », les documents indiquent que le travail de l’UAB était destiné à « s’étendre à d’autres domaines du DHS » et à « construire des capacités de nouvelle génération ».

Lire aussi : Comment les grandes entreprises conditionnent le public à accepter un système de crédit social à la chinoise

Source : Reclaim The Net – Traduit par Anguille sous roche