L’Allemagne utilise l’IA pour cibler les contenus en ligne à supprimer et envoyer des données à la police
Elle est déjà utilisée pour cibler les contenus pour adultes.
L’Allemagne s’est dotée d’une “police du porno”, c’est-à-dire de régulateurs qui utilisent un outil d'”IA” appelé KIVI pour trouver des contenus pour adultes sur Internet, sur des sites et des applications comme Twitter, YouTube, Telegram et TikTok.
Lorsqu’ils le font, les créateurs et/ou les diffuseurs de ces contenus risquent de se retrouver en prison ou de devoir payer des amendes, et ils sont avertis de leur transgression par la police proprement dite.
Le porno n’est pas la seule cible de KIVI : l’outil recherche également “l’extrémisme politique, le négationnisme et la violence”.
Des rapports font état d’un couple qui s’adonnait au porno amateur et qui a reçu une lettre de ce type de la part de la police de Berlin, indiquant qu’ils avaient mis en ligne de la pornographie de manière illégale. Toutefois, la lettre n’était pas très détaillée, ni en ce qui concerne l’endroit où le contenu en question avait été partagé, ni en ce qui concerne la raison pour laquelle l’action était illégale.
Dans ce cas, il s’est avéré que le système avait trouvé le contenu en analysant Twitter, fournissant à la police des captures d’écran.
La politique de suppression du porno semble s’accélérer récemment en Allemagne, où plus d’une centaine de personnes ont reçu le même type de lettre et pourraient désormais être accusées dans des affaires pénales.
Même si l’accès à la pornographie n’est pas illégal en Allemagne pour les personnes de plus de 18 ans, des pressions ont été exercées pour introduire la vérification de l’âge en utilisant cette industrie particulière comme choix évident pour promouvoir la mise en œuvre de la technologie.
Comme toujours, la vérification de l’âge est présentée comme un moyen de protéger les moins de 18 ans des contenus inappropriés, mais en réalité, pour y parvenir, chaque utilisateur d’Internet est exposé au processus de vérification de l’âge (qui implique généralement la présentation d’une pièce d’identité délivrée par le gouvernement à des sites ou à des tiers).
Les autorités semblent déterminées à faire ce qu’elles veulent, puisqu’elles ordonnent désormais à Twitter de bloquer les comptes litigieux et ont même tenté d’imposer une interdiction générale à un grand site pornographique qui toucherait tous les utilisateurs en Allemagne, écrit Wired.
Les personnes visées par ces mesures ont fait part de leur sentiment d’être censurées, mais aussi d’avoir été intimidées pour supprimer parfois des milliers de messages, de peur d’être exposées à des poursuites pénales.
Lire aussi : Ubisoft s’attaque à la « toxicité » des jeux en ligne en s’associant à la police
Source : Reclaim The Net – Traduit par Anguille sous roche
