L’intelligence artificielle luttant contre la corruption en Chine fonctionne trop bien – elle est déconnectée
Depuis peu en Chine, le gouvernement utilise l’intelligence artificielle pour éradiquer la corruption, et il a fini par découvrir que beaucoup des personnes corrompues qu’elle trouve sont employées par le gouvernement ! Se pourrait-il que ce soit pour cette raison que le programme soit fermé avant qu’il puisse être déployé à l’échelle nationale ?
Félicitations aux lanceurs d’alerte du South China Morning Post pour avoir dénoncé cette affaire en publiant à la fois les résultats de l’enquête fondée sur l’intelligence artificielle et l’arrêt subséquent de l’enquête par des représentants du gouvernement qui craignent des retombées. On estime à 64 millions le nombre de personnes qui occupent des emplois gouvernementaux en Chine (chiffre de 2016), ce qui signifie que près de 5 % de la population chinoise fait partie de la bureaucratie gouvernementale à un certain niveau. Pour gérer ce monstre, certaines parties mettent en œuvre des outils technologiques. Le ministère des Affaires étrangères utilise l’apprentissage machine pour aider à évaluer les risques et à prendre des décisions concernant les grands projets d’investissement à l’étranger. La province du Guizhou dispose d’un système qui suit les mouvements de l’ensemble de ses forces de police. Et il est bien connu que la Chine est le chef de file mondial dans la mise en œuvre de caméras de surveillance omniprésentes et d’un système national de reconnaissance faciale pour une grande variété de bonnes et de mauvaises raisons. Cependant, certains pensent que le système est allé trop loin lorsqu’il a pointé les caméras et la technologie IA sur lui-même en 2012 avec le système anti-corruption Confiance Zéro.
Entreprise conjointe de l’Académie chinoise des sciences et du Parti communiste, Confiance Zéro est l’institution de contrôle interne du gouvernement chinois chargée de surveiller et d’évaluer la vie privée des fonctionnaires à l’aide de plus de 150 bases de données gouvernementales protégées et de cartes des relations sociales. Confiance Zéro recherche des indicateurs tels que des dépôts sur des comptes bancaires importants ou des achats importants inhabituels, des contrats gouvernementaux attribués à des amis ou des parents, et d’autres comportements qu’il juge suspects comme des indicateurs de détournement de fonds, d’abus de pouvoir, d’utilisation abusive des fonds publics et de népotisme. Dans quelle mesure fonctionne-t-il bien ?
“Bien que limité à 30 comtés et villes, le système d’intelligence artificielle a déjà aidé à attraper 8 721 fonctionnaires.”
Cela ne représente qu’un pour cent de la population. Certains des crimes étaient suffisamment graves pour justifier des peines d’emprisonnement, mais le South China Morning Post a constaté que la plupart d’entre eux venaient de recevoir des avertissements et étaient autorisés à garder leur emploi en partant du principe (fourni par un informaticien sans nom) que l’exposition et la surveillance ultérieure les empêcheraient de “s’engager sur la voie du non retour avec de plus grandes erreurs”. Avec ce genre de machine d’IA efficace qui maintient les travailleurs sur la bonne voie, la direction doit être ravie de Confiance Zéro, n’est-ce pas ?
“Néanmoins, certains gouvernements – y compris le comté de Mayang, la ville de Huaihua et le comté de Li dans le Hunan – ont mis la machine hors service, selon les chercheurs, dont l’un a dit qu’il ‘pourrait ne pas se sentir très à l’aise avec la nouvelle technologie’.”
Confiance Zéro se rapproche-t-il trop du sommet ? Certains fonctionnaires (tous anonymes pour des raisons évidentes) se cachent derrière l’affirmation selon laquelle il n’existe aucune loi régissant l’accès des IA aux bases de données sensibles. Les informaticiens qui conçoivent et mettent en œuvre le système Confiance Zéro disent qu’il a été prouvé la plupart du temps que le système a raison et prétendent qu’aucune accusation n’est portée sans qu’un humain ne l’examine au préalable. Un humain ? Nous parlons de la supervision de 64 millions d’employés du gouvernement par d’autres employés du gouvernement ! Qu’est-ce qui pourrait mal tourner… ou pas ?
Un autre chercheur sans nom a exposé l’affaire en soulignant que l’idée de Confiance Zéro était d’“éviter de déclencher une résistance à grande échelle chez les bureaucrates”, en particulier les plus puissants, à l’utilisation des robots dans la gouvernance. En d’autres termes, exactement ce qui s’est passé.
L’accord entre Big Brother et son nouvel outil, Big IA, se transforme en une bataille, avec la Chine comme premier champ de bataille. Lequel va gagner ? Lequel mérite de gagner ? Devrait-il y avoir un gagnant ? Que ferait votre gouvernement d’après vous ?
La Confiance Zéro…. ça va dans les deux sens.
Lire aussi : L’IA au service de l’Etat pour lutter contre la corruption : la Chine teste « Confiance zéro »
Source : Mysterious Universe – Traduit par Anguille sous roche
