Des chercheurs expérimentent le concept de « flic numérique »


“On dirait un pitch pour le film le plus dystopique qui soit.”

Une organisation qui défend les libertés civiles dans le monde numérique fait état d’un nouveau projet en cours d’élaboration dans un laboratoire national : la création d’un policier numérique.

Le concept “ressemble à un pitch pour le film de potes policiers le plus dystopique qui soit”, explique le rapport de Dave Maass de l’Electronic Frontier Foundation.

Le travail sur un “D-PO”, qui est maintenant présenté comme un “concept visionnaire”, se déroule au Pacific Northwest National Laboratory, qui est géré par Battelle pour le compte du ministère américain de l’énergie.

Les chercheurs travaillent à “prévoir un avenir où la police et les agents frontaliers seront assistés par l’intelligence artificielle, non pas en tant qu’outil logiciel mais en tant que partenaire autonome capable de prendre le volant pendant les poursuites et de parcourir les médias sociaux pour cibler les personnes devant faire l’objet d’une enquête plus approfondie”, indique le rapport.

L’EFF a découvert ces travaux grâce à un examen des documents et aux procédures de la loi sur la liberté d’information.

“Nous devons concevoir des systèmes informatiques qui ne sont pas simplement des outils que nous utilisons, mais des coéquipiers avec lesquels nous travaillons”, explique le projet à un moment donné.

“Pendant des années, les groupes de défense des libertés civiles ont mis en garde contre les menaces découlant du recours accru des forces de l’ordre aux technologies automatisées, telles que la reconnaissance faciale et les systèmes de ‘police prédictive’. Ces dernières années, nous avons également attiré l’attention sur les problèmes inhérents aux robots policiers autonomes, tels que les robots de patrouille de sécurité Knightscope en forme de cornichon et les robots ‘chiens’ quadrupèdes que le ministère américain de la sécurité intérieure veut déployer le long de la frontière entre les États-Unis et le Mexique”, explique la fondation.

Mais elle a déclaré que la dernière itération “va beaucoup plus loin”.

L’idée est que l’IA apprend “de l’humain et de son environnement”, puis utilise ces connaissances “pour aider à guider l’équipe sans avoir besoin d’instructions spécifiques de l’humain”.

Dans son scénario, le PNNL explique que les deux “agents” reçoivent une alerte concernant un vol en cours, et immédiatement des drones sont mis sur écoute, la reconnaissance faciale utilisée, la technologie d’auto-conduite incorporée et la prédiction algorithmique mise en jeu.

“Pendant que l’agent Miller se rend sur le lieu du vol, D-PO surveille les images d’un drone de police autonome qui tourne autour de la scène du crime. Ensuite, D-PO utilise sa reconnaissance d’image par apprentissage profond pour détecter un individu correspondant à la description du suspect. D-PO signale à l’agent Miller qu’il a une correspondance très fiable et demande à prendre le contrôle de la conduite pour que l’agent puisse étudier la séquence vidéo. L’agent accepte la demande et le D-PO affiche la séquence vidéo du suspect potentiel sur l’écran de la voiture de patrouille. D-PO a mis en évidence les caractéristiques de la vidéo et explique les caractéristiques qui ont conduit à sa cote de confiance élevée”, explique le rapport de l’EFF.

Ensuite, il y a une discussion entre Miller et l’officier numérique sur la façon d’appréhender le suspect.

“Les auteurs laissent le lecteur conclure ce qui se passe ensuite. Si vous adhérez au fantasme, vous pouvez imaginer que ce récit se termine par une arrestation parfaite, où personne n’est blessé et où tout le monde reçoit une médaille, même le coéquipier numérique. Mais pour ceux qui examinent l’intersection entre le maintien de l’ordre et la technologie, il existe un grand nombre de fins tragiques, de l’erreur d’identité qui entraîne une personne innocente dans le système de justice pénale à une fusillade policière évitable – une fusillade qui se termine par l’absence de responsabilité, parce que l’officier Miller est capable de blâmer un algorithme non punissable pour avoir fait une recommandation erronée”, indique le rapport de l’EFF.

L’organisation a indiqué que la technologie est apparemment “loin d’être au point”, mais a noté qu’un service de police municipal a déjà exprimé son intérêt pour ces capacités.

Mais le rapport indique que la technologie est également proposée en option aux agents des douanes et de la protection des frontières.

“Le CBP est réputé pour investir dans des technologies expérimentales au nom de la sécurité des frontières, qu’il s’agisse de dirigeables de surveillance ou de tours de surveillance autonomes. Dans le scénario du PNNL, le Border Inspections Teammate System (BITS) serait une intelligence artificielle autodirigée qui communiquerait avec les inspecteurs des postes de contrôle via un casque de réalité augmentée (RA)”, indique le rapport.

L’EFF a ensuite mis en garde contre les problèmes liés à l’adoption de technologies non éprouvées, qui sont “souvent basées sur des récits miraculeux mais peu crédibles promus par des développeurs et des spécialistes du marketing, sans tenir compte des dommages qu’ils pourraient causer”.

“La société serait mieux servie si l’équipe du PNNL utilisait son imagination collective pour explorer les dangers des nouvelles technologies de maintien de l’ordre, afin que nous puissions éviter les pièges, et non pas nous précipiter dessus”, note le rapport.

Lire aussi : Le Forum économique mondial annonce le recrutement de « volontaires de l’information » pour contrôler le récit sur les médias sociaux

Source : WND – Traduit par Anguille sous roche


Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *