Internet horrifié par CNET publiant secrètement des articles écrits par une IA

“Ce n’est que le début.”

En début de semaine, nous avons signalé que le célèbre site d’information technologique CNET publiait discrètement des articles entiers rédigés par une IA depuis des mois, sans que la paternité de l’IA soit immédiatement claire pour les lecteurs.

Contrairement aux reportages robotisés utilisés par des agences de presse telles que l’Associated Press, ces articles – au nombre de 75 et plus – sont des explications financières substantielles, et pas seulement des mises à jour à remplir les blancs, et semblent avoir été écrits par une IA plus puissante semblable à GPT-3 d’OpenAI (conformément à l’esprit général de secret qui entoure le projet, CNET n’a pas précisé quelle IA elle utilise pour produire ces articles).

De nombreux observateurs, y compris ceux qui travaillent dans l’industrie des médias, n’étaient pas heureux.

“Ce n’est que le début”, a tweeté Nathan Grayson, journaliste au Washington Post, en réponse à l’article, “et l’agrégation plus l’explication effectuée par l’IA entraîneront sans aucun doute un travail de moindre qualité et moins d’emplois”.

“Je pense beaucoup à ce genre de merde en tant que personne licenciée d’un emploi de rédacteur parce que certaines personnes pensent que les outils d’IA peuvent faire le travail à votre place”, a écrit un autre rédacteur. Luke Plunkett, rédacteur de Kotaku, a simplement qualifié le programme d’“affreux”.

Les articles en question ont été publiés sous la signature “CNET Money Staff”, une formulation qui semble clairement impliquer que les rédacteurs humains en sont les principaux auteurs. Ce n’est pas le cas. Au contraire, le contenu est “généré à l’aide d’une technologie d’automatisation”, puis révisé par un rédacteur humain. Mais, ce qui est inquiétant, c’est que vous ne le saurez que si vous cliquez sur la signature et lisez une petite liste déroulante.

C’est une façon plutôt douteuse de faire une déclaration, surtout pour une marque aussi connue. D’autres grands sites d’information, comme AP ou le LA Times, indiquent explicitement que l’auteur est un robot ou font suivre un article d’une déclaration claire sur la paternité de l’IA.

Le système de CNET est aussi clairement plus sophistiqué qu’un simple robot. Utiliser une IA pour diffuser des mises à jour écrites automatiques est une chose, mais l’utiliser pour générer des explications entières et en informer à peine son public est une nouvelle déchéance, qui bouleverse même ceux qui ont travaillé dans l’entreprise.

“En tant qu’ancien employé de CNET, c’est incroyablement décevant et décourageant, mais ce n’est pas surprenant”, a tweeté Kyle Hyatt, qui écrit maintenant pour Jalopnik. “Quel autre choix avez-vous quand vous licenciez tous vos talentueux et loyaux rédacteurs ?”

Il semble probable qu’un certain sentiment de honte plane autour du projet de remplacement des humains à CNET, un membre du personnel nous ayant dit qu’ils n’étaient même pas au courant des articles sur l’IA avant notre reportage. La société n’a toujours pas répondu aux questions de Futurism ou d’autres médias, et n’a fait aucune autre déclaration publique à ce sujet.

Elle est pourtant clairement consciente du discours. À la suite de notre article, CNET a supprimé le terme “staff” de la signature des articles sur l’IA et les publie désormais sous le titre “CNET Money”. La divulgation est toujours reléguée à une minuscule description déroulante, mais on lit maintenant “créé à l’aide d’un moteur d’IA”, au lieu de “technologie d’automatisation”.

Ce léger changement de marque, cependant, ne semble pas significativement plus direct sur l’utilisation de l’IA qu’auparavant. “CNET Money Staff” était carrément trompeur, mais un “CNET Money” raccourci n’est pas plus éclairant.

Et en fin de compte, ces tours de passe-passe n’effacent pas l’amère réalité que la rédaction d’explications comme celles-ci était auparavant le travail de quelqu’un.

“C’est en écrivant des articles comme celui-ci que je me suis maintenu à flot pendant mes 20 ans”, a écrit Brenden Gallagher, un scénariste. “Un geste honteux de la part de CNET.”

Les défenseurs de l’utilisation de l’IA dans l’information la vantent comme un moyen d’épargner aux journalistes et reporters surchargés d’avoir à faire des rédactions subalternes et occupées. Mais il est difficile d’imaginer que les patrons de presse s’arrêtent là si la technologie continue de s’améliorer.

Et d’ailleurs, la version actuelle de GPT-3 “ne peut pas faire le travail d’un journaliste”, écrivait le mois dernier un journaliste de CNET dans un article intitulé “ChatGPT est une IA étonnante, mais les emplois humains sont préservés (pour l’instant)”, repéré par Gizmodo.

En fin de compte, cela dépend probablement de votre définition du mot “journaliste”. L’IA n’est peut-être pas encore à la recherche de pistes chez CNET, mais elle est certainement en train de chasser les rédacteurs du bureau.

Lire aussi : Un professeur surprend un étudiant en train de tricher avec le chatbot d’IA ChatGPT : « je suis terrorisé »

Source : Futurism – Traduit par Anguille sous roche