Les deux visages de l’État de surveillance chinois


Sauf coup du sort, le dirigeant chinois Xi Jinping entrera dans le Grand Hall du Peuple de Pékin cet automne pour revendiquer un troisième mandat, prélude probable à un mandat à vie.

Cette nouvelle phase du règne de M. Xi permettra d’examiner de près l’une de ses plus grandes ambitions : la création d’un nouveau type de gouvernement moderne, alimenté par les données et la surveillance numérique de masse, capable de rivaliser avec la démocratie à l’échelle mondiale.

En accumulant toujours plus de données sur les mouvements et les habitudes de sa population et en développant de nouveaux moyens de les traiter, le Parti communiste chinois fait miroiter la promesse d’une société parfaitement conçue : une société dans laquelle les entreprises d’intelligence artificielle travaillent main dans la main avec la police pour traquer les fugitifs, retrouver les enfants enlevés et couvrir de honte les piétons indisciplinés ; une société dans laquelle les services publics, les récompenses pour les bonnes actions et les punitions pour les mauvais comportements sont tous délivrés avec une précision et une efficacité mathématiques.

Plutôt que de séduire les citoyens en leur offrant la possibilité de s’enrichir, Xi leur propose un monde prévisible dans lequel des milliers d’algorithmes neutralisent les menaces et éliminent les frictions.

M. Xi poursuit cette vision par nécessité. Pendant les quelque trois décennies qui ont suivi la mort de Mao Zedong en 1976, le Parti communiste s’est retiré de la vie privée des gens, a investi dans les infrastructures et a surfé sur une vague de croissance économique historique qui a fait passer la Chine d’une pauvreté abjecte à un confort de revenu moyen. Mais au cours de la dernière décennie, cette croissance s’est ralentie. L’explosion de la dette, la lutte contre les pandémies et la pression démographique menacent de la réduire à peau de chagrin.

M. Xi tente désormais de rédiger un nouveau contrat social. Plutôt que de séduire les citoyens en leur offrant la possibilité de s’enrichir, il leur propose la sécurité et la commodité – un monde prévisible dans lequel des milliers d’algorithmes neutralisent les menaces et éliminent les frictions de la vie quotidienne.

Le monde a vu la face cachée du projet de surveillance de la Chine dans la région isolée du Xinjiang, au nord-ouest du pays, où les autorités ont mené une campagne pluriannuelle d’assimilation forcée des Ouïghours et d’autres groupes musulmans turcs. Les membres de ces groupes sont suivis numériquement, à partir de leur visage, de leur voix, des tourbillons de leur iris, et même de leur façon de marcher. Leurs smartphones sont constamment scannés par la police à la recherche de preuves d’identité religieuse ou de liens avec l’étranger. Les Ouïghours jugés susceptibles de causer des problèmes sont envoyés en prison ou dans l’un des archipels de “centres de transformation par l’éducation” de la région. Le résultat est la plus grande incarcération d’une minorité religieuse depuis la Seconde Guerre mondiale.

Mais si le Xinjiang est le lieu où l’utilisation de la surveillance de masse par le Parti se transforme en cauchemar dystopique, Hangzhou, la riche capitale de la province du Zhejiang, est le lieu où elle atteint des sommets utopiques. Comme le Xinjiang, Hangzhou est truffée de caméras. Mais ce réseau dense de capteurs est destiné à améliorer la vie des habitants autant qu’à la contrôler. Il alimente en données des algorithmes qui réduisent les embouteillages, surveillent la sécurité alimentaire et aident les premiers intervenants à se rendre plus rapidement sur les lieux. À Hangzhou, la facette la plus séduisante des ambitions de Xi de changer le monde est exposée.

Au cœur de l’économie moderne de Hangzhou se trouve un groupe d’entreprises technologiques soigneusement entretenues et exceptionnellement prospères. Parmi celles-ci figurent le géant du commerce électronique Alibaba Group et Hikvision, le premier fabricant mondial de caméras de surveillance. Depuis 2016, Hangzhou a fait de ces entreprises des partenaires dans la gestion de la ville. Grâce à elles, les quartiers d’affaires de la ville – des zones fraîchement construites portant des noms tels que Future Sci-Tech City et Internet of Things Street – vibrent aujourd’hui d’une énergie jeune et conquérante, reconnaissable par tous ceux qui ont passé du temps dans les centres technologiques américains.

Ces collaborations ont fait de Hangzhou la plus “intelligente” des villes chinoises et un modèle que d’autres villes du pays s’empressent d’imiter. Les données collectées par la ville l’aident à gérer le flux de touristes dans les attractions bondées, à optimiser les places de stationnement et à concevoir de nouveaux réseaux routiers. Le réseau de caméras de surveillance de la ville a permis de retrouver des enfants disparus, ce qui a suscité une immense sympathie dans un pays où la politique a longtemps limité la taille des familles.

Le City Brain d’Alibaba utilise l’IA visuelle pour patrouiller la circulation à Hangzhou, en Chine, en avril 2018. Photo : Associated Press

Une initiative particulièrement remarquable s’appelle City Eye, dans un quartier de Hangzhou connu sous le nom de Little River Street. Le programme a placé des outils dotés de l’IA entre les mains de la branche locale du chengguan, une force de gestion urbaine qui passe le plus clair de son temps à s’occuper de tâches dont la police ne veut pas s’occuper : chasser les vendeurs ambulants, sanctionner les décharges sauvages, traquer les vandales et distribuer des contraventions.

Nous avons visité un poste de commandement de City Eye au troisième étage d’un bâtiment administratif de faible hauteur dans Little River Street, un quartier où les gens sont sur le point d’accéder à la classe moyenne ou font tout leur possible pour ne pas en sortir. Le bien-être semble répandu mais fragile dans ces endroits intermédiaires, où le linge qui pend entre les fenêtres des appartements masque la peinture écaillée derrière des arcs-en-ciel de T-shirts et de sous-vêtements.

Le parti communiste s’inquiète des quartiers comme celui-ci. Les riches n’ont pas intérêt à faire des histoires, et les pauvres n’ont pas le pouvoir, mais les gens du milieu ont juste assez des deux. Et les pressions qu’ils subissent en essayant de se frayer un chemin dans la Chine moderne – horaires de travail harassants, soins de santé médiocres, hausse constante des prix, pollution et problèmes de sécurité alimentaire, marché boursier capricieux – les rendent susceptibles de se déchaîner.

Les responsables locaux doivent faire preuve d’une grande finesse pour exercer une force suffisante afin de maintenir l’ordre dans les rues et la croissance économique, mais pas au point de déclencher une réaction désagréable. Le chengguan est au premier plan de cette rencontre, car il est chargé d’empêcher les rues de Hangzhou d’être envahies par les forces désordonnées, insistantes et parfois désespérées des économies du monde en développement : les agriculteurs qui vendent des fruits à l’arrière de minivans déglingués, les vendeurs migrants qui vendent des chaussettes et des sacs à main de contrefaçon, les chariots sans licence qui proposent le célèbre tofu puant de la région, les mendiants qui bloquent la circulation piétonne avec des histoires de tragédie personnelle griffonnées sur des bouts de carton récupérés.

Le programme a relié les flux de caméras à une technologie d’intelligence artificielle qui surveille les rues 24 heures sur 24 et envoie une alerte automatique avec une capture d’écran chaque fois qu’elle voit quelque chose d’anormal.

Au fil des ans, les chengguan sont devenus l’objet d’un dégoût quasi universel dans toute la Chine, et ce n’est pas sans raison. Les médias sociaux chinois regorgent de vidéos montrant des chengguan attaquant vicieusement des vendeurs de rue, qui font souvent partie des membres les plus pauvres et les plus faibles de la société chinoise.

Qiu Liqun, le responsable du centre de commandement de City Eye, nous a concédé que les chengguan devenaient parfois physiques, mais il a dit que c’était seulement dans des cas extrêmes. Personne n’a vu les efforts qu’ils déployaient en coulisse pour essayer de raisonner les contrevenants.

City Eye a commencé en 2017, lorsque Hikvision a installé environ 1 600 caméras de surveillance de la police dans la rue Little River. Le programme a relié les flux des caméras à une technologie d’IA qui surveillait les rues 24 heures sur 24 et envoyait une alerte automatique avec une capture d’écran chaque fois qu’elle voyait quelque chose d’anormal. Le système a été formé pour remarquer, entre autres, les piles d’ordures et les vendeurs ambulants qui vendent leurs produits à des coins de rue non autorisés. Les agents décidaient ensuite quelles infractions méritaient une intervention.

L’IA ne faisait pas toujours les choses correctement, et ses erreurs entraînaient parfois un gaspillage d’efforts. Dans les premiers temps, il arrivait que les machines confondent des feuilles mortes ou des chutes de neige avec des déchets. D’autres fois, elles signalaient quelque chose qui était techniquement une violation, mais qui n’était pas un problème assez important pour qu’on y donne suite. Mais le système s’est amélioré au fur et à mesure qu’il recueillait des données, a déclaré M. Qiu, et les avantages ont largement dépassé la nuisance des fausses alarmes.

Des policiers patrouillent à vélo dans Hangzhou, en octobre 2014. Photo : Reuters

Entre janvier et juillet 2019, M. Qiu a déclaré que ses patrouilles de rue humaines avaient identifié 2 600 violations potentielles. Sur la même période, l’IA de City Eye en a signalé 19 000. Plus important encore, l’examen minutieux avait produit des résultats : L’équipe de M. Qiu a enregistré une baisse des cas mensuels de vente sans licence dans Little River Street, passant de plus de 1 100 en août 2018 à seulement 30 un an plus tard. “Vous en attrapez un à chaque fois qu’ils surgissent”, a-t-il dit à propos des vendeurs illégaux.

Les supérieurs de M. Qiu étaient manifestement satisfaits. Un mur derrière la table de conférence du centre de commandement était accroché avec des articles de médias d’État locaux vantant l’efficacité du système, des photos de délégations de forces de l’ordre envoyées par d’autres villes pour étudier ce qu’elles avaient fait et un message encadré de louanges du maire adjoint de Hangzhou. Les habitants semblaient eux aussi satisfaits. L’expérience des piétons s’est améliorée, ont-ils dit. Les rues auparavant encombrées sont désormais propres. Les vélos électriques étaient garés proprement à l’intérieur des lignes blanches tracées sur la chaussée et non plus au hasard sur le trottoir.

M. Qiu a particulièrement apprécié l’effet de City Eye sur les relations entre les habitants du quartier et les chengguan. Les caméras et un système de rapport transparent sur WeChat ont permis aux chengguan de prouver qu’ils ne venaient dans les rues que lorsque les autres options avaient été épuisées. Ils ont également permis aux chengguan de rester honnêtes et de réduire les pots-de-vin. Le résultat, selon M. Qiu, a été de transformer les chengguan d’emblèmes détestés de la brutalité de l’État en protecteurs respectés de l’ordre social dans la rue Little River.

City Eye pourrait aussi être utilisé, bien sûr, pour détecter et supprimer les protestations locales contre les abus de pouvoir. Mais il a permis d’éviter certains des conflits qui conduisaient auparavant à de telles protestations.

Si Hikvision a fourni des yeux dans les rues de Hangzhou, Alibaba a fourni le centre nerveux de la ville. Sa plateforme alimentée par l’IA, City Brain, aide le gouvernement de la ville à tout optimiser, de la circulation à la gestion de l’eau. Dans le même temps, les produits et les plateformes d’Alibaba permettent aux habitants de la ville de payer plus facilement leurs factures de services publics, de prendre le bus, d’obtenir des prêts et même de poursuivre des entreprises locales devant un tribunal en ligne.

City Brain a permis à Hangzhou, notoirement encombrée de voitures, de passer de la cinquième à la cinquante-septième place des villes les plus encombrées du pays. Pour atténuer les embouteillages légendaires de Hangzhou, Alibaba a conçu un système permettant de traiter les données vidéo des intersections et les positions GPS en temps réel, ce qui permet aux autorités chargées de la circulation de la ville d’optimiser les feux de circulation et de réduire la congestion de ses réseaux routiers vieillissants. City Brain fournit même aux ambulances un outil de navigation alimenté par l’IA qui manipule les feux de circulation pour se frayer un chemin dans le trafic.

En octobre 2019, une habitante d’un district rural âgée de 77 ans, Wang Fengqin, lavait du linge près d’un ruisseau lorsqu’elle a perdu l’équilibre et est tombée dedans. Les médecins qui l’ont embarquée dans l’ambulance ont activé l’outil de navigation City Brain, et tandis que l’ambulance descendait la route en direction de l’hôpital populaire n° 1 de Xiaoshan, l’algorithme s’est assuré que des feux verts apparaissaient à chacune des 14 intersections qu’ils devaient franchir. Par le passé, lors d’une bonne journée, le trajet vers l’hôpital aurait pu prendre près d’une demi-heure. Cette fois-ci, selon un reportage local, il a pris 12 minutes. Les ambulanciers l’ont emmenée dans la salle des urgences, où les médecins ont évacué l’eau de ses poumons.

Nous avons retrouvé le fils de Mme Wang, Li Dong. Après que sa mère soit rentrée de l’hôpital, M. Li a offert un banquet à 20 de ses concitoyens et a distribué des paniers de fruits d’une valeur de 50 dollars pour les remercier de leur aide. Ce n’est que plus tard qu’il a découvert que City Brain avait joué un rôle dans le sauvetage de sa mère. “Je ne m’attendais pas à ce que l’IA affecte ma vie de cette façon”, a-t-il déclaré.

Au moment de l’accident de Mme Wang, City Brain couvrait 400 carrefours et 600 feux de circulation. Il était déployé dans huit hôpitaux et 18 postes d’urgence et avait été utilisé plus de 400 fois, réduisant les temps de déplacement des urgences de 50 % en moyenne.

Alibaba a injecté de l’argent dans un City Brain Lab dédié à l’affinage et à l’expansion de sa plateforme de ville intelligente. Grâce à un traitement avancé, l’entreprise prévoit que City Brain finira par élargir ses algorithmes pour couvrir la planification urbaine, la consommation d’électricité et la lutte contre les incendies. À plus long terme, les planificateurs de l’État chinois poussent les systèmes des villes intelligentes à absorber des données provenant d’un réseau plus diversifié de capteurs : pas seulement des caméras et des smartphones, mais aussi des lecteurs de QR codes, des machines de point de vente, des moniteurs de qualité de l’air et des puces d’identification par radiofréquence utilisées pour stocker des informations biométriques dans des cartes d’identité avancées.

L’ambition des villes chinoises de faciliter la vie de leurs habitants est croissante. Les gouvernements locaux et les entreprises ont dépensé 24 milliards de dollars dans la technologie des villes intelligentes en 2020, un chiffre qui devrait atteindre environ 40 milliards de dollars d’ici la fin 2024.

Comme le Xinjiang, avec son oppression systématique des Ouïghours, Hangzhou sert de zone pilote pour le contrôle social, permettant au Parti communiste de voir ce qui fonctionne et ce qui ne fonctionne pas. Les expériences menées dans ces deux endroits suggèrent que les mêmes technologies utilisées pour terroriser et remodeler ceux qui sont censés résister à l’autorité du parti peuvent être déployées pour dorloter et rassurer ceux qui acceptent sa domination.

La nature à visage de Janus de l’État de surveillance chinois et les termes du nouveau contrat social de M. Xi ont tous deux été mis en lumière depuis l’apparition de la pandémie de Covid-19. Presque tout le monde dans le pays a maintenant une application de code de santé sur son téléphone qui suit ses voyages, son statut vaccinal et les résultats des tests, en attribuant un code de couleur en fonction de l’exposition au risque. Des drones et des chiens robots rôdent dans les quartiers résidentiels pour traquer ceux qui ne respectent pas les règles d’isolement.

La dévotion zélée de Pékin pour le “zéro Covid” a fait chuter la croissance du PIB du pays à un niveau presque nul, tandis que des millions de citoyens chinois ont enduré des mesures de confinement draconiennes. Mais beaucoup dans le pays sont néanmoins heureux d’accepter l’expansion du contrôle de l’État à la lumière des taux de mortalité dus au coronavirus ailleurs : 315 pour 100 000 citoyens aux États-Unis, selon les données de Johns Hopkins en vigueur jusqu’en août, contre un pour 100 000 en Chine.

Le mariage de l’IA et de l’autoritarisme par M. Xi fait miroiter la promesse alléchante de la sécurité et de l’efficacité à une époque confrontée à la guerre, aux pandémies, aux revers économiques et à l’effondrement des institutions. L’attrait d’une société parfaitement conçue est réel. La mesure dans laquelle ce modèle se répandra dépendra non seulement des ambitions et des performances de M. Xi, mais aussi de la manière dont les démocraties du monde entier feront face à la même série de défis.

Cet essai est adapté du nouveau livre de M. Chin et Mme Lin, “Surveillance State: Inside China’s Quest to Launch a New Era of Social Control”, qui sera publié par St. Martin’s Press le 6 septembre. Ils sont journalistes pour le Wall Street Journal.

Lire aussi : La Chine espionne désormais les écoliers grâce à leur stylo

Source : The Wall Street Journal – Traduit par Anguille sous roche


Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *