YouTube interroge les créateurs sur leur race, leur genre et leur sexualité afin de pouvoir manipuler les algorithmes en conséquence
Une démarche controversée pour introduire une discrimination active.
YouTube, propriété du géant des données Google, prévoit de demander aux utilisateurs de partager leur origine ethnique, leurs préférences sexuelles et leur sexe afin de disposer de plus de données pour développer des algorithmes et manipuler la manière dont le contenu est présenté sur la plateforme.
YouTube affirme que cela l’aidera à éliminer les « biais involontaires » de ses systèmes de modération pour l’aider à lutter contre les « discours de haine ».
Adoptant l’idéologie intersectionnelle, YouTube veut de nouvelles façons de manipuler ses algorithmes pour modifier la promotion du contenu sur la plateforme en fonction de l’identité personnelle du créateur.
Selon le géant de la vidéo, les systèmes de modération automatisés ne tiennent pas compte du contexte, ce qui, selon lui, peut parfois entraîner un biais involontaire.
Pour tenter de supprimer ce biais supposé, YouTube prévoit d’en apprendre davantage sur les créateurs de contenu et de mieux comprendre quels contenus proviennent de quelles communautés.
« Par exemple, nos systèmes peuvent évaluer les performances des vidéos sur Black Lives Matter par rapport à d’autres contenus sur YouTube, quel que soit le créateur, mais nous ne sommes pas en mesure actuellement d’évaluer la croissance des créateurs de beauté noire, des animateurs de talk-shows LGBTQ+, des vlogueuses ou de toute autre communauté » a écrit la vice-présidente de la gestion des produits du site, Johanna Wright, dans un article de blog.
YouTube lancera au début de l’année prochaine une enquête volontaire visant à recueillir des informations auprès des créateurs de contenu. L’enquête portera sur le sexe, l’orientation sexuelle, l’origine ethnique et la race. L’entreprise utilisera ensuite ces informations pour déterminer comment ses systèmes de recherche et de découverte de contenu traitent les contenus des différentes communautés et adaptera ses algorithmes secrets en conséquence.
Comprenant que les créateurs pourraient être réticents à participer à l’enquête pour des raisons de protection de la vie privée, Mme Wright a écrit :
« Le respect de la vie privée de nos créateurs et leur capacité à donner leur consentement quant à l’utilisation de leurs informations sont essentiels. Dans l’enquête, nous expliquerons comment les informations seront utilisées et comment le créateur contrôle ses informations. Par exemple, les informations recueillies ne seront pas utilisées à des fins publicitaires, et les créateurs auront la possibilité de refuser et de supprimer entièrement leurs informations à tout moment. »
En outre, la société sollicitera l’aide des créateurs pour la réalisation de l’enquête. La société déclare qu’elle demandera également l’avis d’experts en matière de droits civils et de droits de l’homme sur le projet.
« Les mesures que nous annonçons aujourd’hui s’inscrivent dans le cadre de nos travaux en cours visant à garantir que YouTube continue d’être une plateforme où les créateurs de tous horizons peuvent s’épanouir. Nous apprécions le partenariat des communautés de créateurs noirs, LGBTQ+ et Latinx qui nous ont consultés dans le cadre de ces efforts. Nous vous remercions d’avoir partagé vos points de vue avec nous et d’avoir contribué à faire de YouTube un endroit meilleur pour tous », conclut le billet de blog.
Aux États-Unis, les enquêtes auprès des créateurs de contenu devraient être disponibles au début de l’année prochaine.
Cette initiative fait suite aux récentes propositions controversées de Facebook qui impliquent de modifier la manière dont les règles relatives aux « discours haineux » sont appliquées en fonction de l’identité des personnes visées.
Source : Reclaim The Net – Traduit par Anguille sous roche
