Discord acquiert une société spécialisée dans la censure par l’IA
Un grand changement pour la technologie de censure automatique.
Discord abandonne son modèle actuel de modération qui repose sur des employés humains ainsi que sur des bénévoles de la communauté tels que des modérateurs et des administrateurs, et ajoute des solutions algorithmiques, c’est-à-dire l’“IA”, au mélange.
C’est ce qui ressort de l’annonce de l’acquisition de Sentropy par la plateforme de chat en ligne, qui servait à l’origine la communauté des joueurs mais qui a depuis cherché à s’étendre à d’autres groupes.
Sentropy n’est apparu sur la scène que l’été dernier en vendant des outils “alimentés par l’IA” pour combattre ce qui est considéré comme des abus et du harcèlement en ligne. Le moment était évidemment bien choisi, car la volonté d’étiqueter le contenu en ligne et de le censurer est devenue primordiale dans certains cercles, ce qui a donné naissance à une industrie qui s’est développée autour d’elle – des vérificateurs de faits aux “censeurs IA” dont la valeur technique est douteuse.
Il y a un an, lors de son lancement, Sentropy, décrite dans les rapports comme une petite entreprise, disposait immédiatement de 13 millions de dollars de financement, provenant de quelques noms bien connus, notamment la société Initialized Capital du cofondateur de Reddit, Alexis Ohanian, ainsi que King River Capital, Horizons Ventures et Playground Global.
Le PDG de Sentropy, John Redgrave, parle du produit de la société comme d’une “technologie et de processus de confiance et de sécurité (T&S)” – quelque chose qui, selon lui, donne aux modérateurs humains de meilleurs outils pour faire leur travail, tout en assurant “la sécurité numérique et physique des utilisateurs”.
Cependant, les utilisateurs gratuits de Sentropy lui-même ont été coupés du service plus tôt en juillet, tandis que les clients payants continueront à avoir accès jusqu’à la fin du mois de septembre. La gestion de Sentropy sera intégrée à Discord en même temps que son produit.
Mais dans un billet de blog annonçant l’acquisition, Mme Redgrave laisse entendre que l’outil de modération pourrait être proposé sous une forme ou une autre, en tant que “service public”, à d’autres plateformes qui cherchent à améliorer leur système de censure.
Discord, qui a été accusé par le passé de laisser trop de place à la liberté d’expression sur sa plateforme, a renforcé ces dernières années ses mesures de contrôle et de suppression des contenus et des utilisateurs indésirables. Avec l’achat de Sentropy (les détails financiers n’ont pas été divulgués), Discord prévoit désormais d’affecter 15 % de ses effectifs à l’équipe T&S. Par ailleurs, l’entreprise déclare compter 150 employés.
Par ailleurs, l’entreprise déclare avoir 150 millions d’utilisateurs mensuels et cherche probablement à se rendre acceptable sur le marché avant la rumeur d’une introduction en bourse.
Source : Reclaim The Net – Traduit par Anguille sous roche
