Des chercheurs travaillent sur un algorithme permettant de diagnostiquer une maladie mentale à partir de messages publiés sur Internet

Un modèle d’IA développé par une université libérale diagnostiquera bientôt les maladies mentales des internautes en fonction de leur activité en ligne.

Les chercheurs n’ont pas dit ce qu’il adviendra des internautes identifiés comme “malades mentaux” parce qu’ils partagent des contenus jugés inappropriés par les chercheurs libéraux qui ont créé le modèle d’IA.

Des chercheurs du collège libéral de Dartmouth ont créé un modèle d’intelligence artificielle qui identifie les maladies mentales à partir des discussions sur Reddit, a annoncé le collège.

Les détracteurs du modèle d’IA affirment qu’il s’agit d’une nouvelle étape sur la voie de l’introduction d’un système de crédit social, comme en Chine, dans lequel les citoyens sont contrôlés. D’autres affirment que le modèle d’IA ouvrira la voie à l’emprisonnement des citoyens et des internautes dans des “cyber-goulags” pour avoir osé exprimer leur désaccord avec les récits des médias dominants.

Cependant, les chercheurs en IA affirment qu’ils essaient simplement d’“aider” les gens.

“Les médias sociaux offrent un moyen facile d’exploiter les comportements des gens”, a déclaré Xiaobo Guo, de la promotion 2024 et co-auteur du document de recherche. Cela est dû au fait que les médias sociaux sont volontaires et publics, a-t-il ajouté. Reddit compte également près d’un demi-milliard d’utilisateurs actifs qui discutent d’un large éventail de sujets depuis 2011, ce qui donne aux chercheurs de nombreuses données sur lesquelles s’appuyer.

DailyCaller rapporte : Ce qui distingue le modèle de Dartmouth des nombreuses autres technologies similaires en développement, c’est qu’il analyse les émotions plutôt que le texte réel des conversations en ligne, a déclaré l’université.

Soroush Vosoughi, professeur associé à Dartmouth et co-auteur de l’article, a expliqué que si un modèle apprenait à associer “COVID” à “tristesse”, il supposerait que l’utilisateur souffre de dépression. Le modèle de Dartmouth se concentre uniquement sur l’émotion, et non sur le sujet des messages, a-t-il précisé.

Les chercheurs se sont concentrés sur ce qu’ils ont appelé les “troubles émotionnels”, notamment la dépression, l’anxiété et le trouble bipolaire. Pour ce faire, ils ont recherché les utilisateurs qui ont déclaré eux-mêmes leurs troubles émotionnels par rapport aux utilisateurs qui ne présentaient aucun trouble connu, puis ils ont entraîné le modèle à reconnaître ces “modèles de signature”.

Le modèle peut identifier un trouble émotionnel en comparant l’“empreinte digitale” de l’utilisateur à des “signatures” établies de maladies émotionnelles, a indiqué l’université.

Les chercheurs ont ensuite testé des messages non utilisés lors de la formation, et le modèle a pu prédire avec précision si l’utilisateur était atteint de l’un de ces troubles.

Selon M. Guo, l’utilisation d’outils de dépistage numériques peut inciter les gens à obtenir l’aide dont ils ont besoin pour traiter les maladies mentales.

• Lire aussi : Une société américaine de surveillance affirme que l’iCloud d’Apple est un atout « phénoménal » pour les forces de l’ordre
• La commissaire sortante de la police métropolitaine de Londres se félicite de l’extension de l’État de surveillance
• La police d’Ottawa annonce une surveillance numérique des manifestants, des partisans et des donateurs du Convoi de la liberté