Une intelligence artificielle invente 40 000 armes chimiques en seulement 6 heures

L’I.A. ne fait que commencer à montrer ce qu’elle peut faire pour la médecine moderne.

Dans la société actuelle, l’intelligence artificielle (IA) est surtout utilisée à bon escient. Mais que se passerait-il si elle ne l’était pas ?

C’est la question que se sont posée des chercheurs de Collaborations Pharmaceuticals en menant des expériences avec une IA conçue pour rechercher des médicaments utiles.

Ils ont donc modifié cette IA pour qu’elle recherche des armes chimiques et, chose impressionnante, l’algorithme d’apprentissage automatique a trouvé 40 000 options en six heures seulement, selon un article publié ce mois-ci dans la revue Nature Machine Intelligence.

Une pensée naïve

“L’idée ne nous avait jamais effleuré auparavant. Nous étions vaguement conscients des problèmes de sécurité liés au travail avec des agents pathogènes ou des produits chimiques toxiques, mais cela ne nous concernait pas ; nous travaillons principalement dans un environnement virtuel. Notre travail consiste à construire des modèles d’apprentissage automatique pour les cibles thérapeutiques et toxiques afin de mieux aider à la conception de nouvelles molécules pour la découverte de médicaments”, écrivent les chercheurs dans leur article.

“Nous avons passé des décennies à utiliser les ordinateurs et l’intelligence artificielle pour améliorer la santé humaine, et non pour la dégrader. Nous avons été naïfs en pensant au mauvais usage potentiel de notre métier, car notre objectif avait toujours été d’éviter les caractéristiques moléculaires qui pourraient interférer avec les nombreuses classes de protéines essentielles à la vie humaine.”

Les chercheurs ont déclaré que même leurs travaux sur Ebola et les neurotoxines, qui auraient pu susciter des inquiétudes quant aux implications négatives potentielles de leurs modèles d’apprentissage automatique, n’avaient pas déclenché leur sonnette d’alarme. Ils étaient parfaitement inconscients des dommages qu’ils pouvaient infliger.

Comment leur expérience a-t-elle fonctionné ?

Collaborations Pharmaceuticals avait publié des modèles d’apprentissage automatique pour la prédiction de la toxicité. Les chercheurs n’ont eu qu’à adapter leur méthodologie pour rechercher, plutôt qu’éliminer, la toxicité et ils ont obtenu un exercice de réflexion qui s’est transformé en une preuve de concept informatique pour la fabrication d’armes biochimiques.

Cette expérience montre clairement pourquoi nous devons surveiller de plus près les modèles d’IA et réfléchir réellement aux conséquences de notre travail.

Résumé :

L’Institut fédéral suisse pour la protection ABC (nucléaire, biologique et chimique) – Laboratoire Spiez – organise la série de conférences “Convergence” mise en place par le gouvernement suisse pour identifier les développements en chimie, biologie et technologies habilitantes qui pourraient avoir des implications pour les conventions sur les armes chimiques et biologiques. Ces conférences, qui se tiennent tous les deux ans, rassemblent un groupe international d’experts scientifiques et de spécialistes du désarmement afin d’explorer l’état actuel des connaissances dans les domaines chimique et biologique et leurs trajectoires, de réfléchir aux implications potentielles en matière de sécurité et d’examiner comment ces implications peuvent être gérées le plus efficacement possible au niveau international. Les participants se réunissent pendant trois jours pour discuter des possibilités de nuire, si l’intention est là, à partir de technologies chimiques et biologiques de pointe. Notre société de découverte de médicaments a été invitée à faire une présentation sur la façon dont les technologies d’IA pour la découverte de médicaments pourraient être utilisées à mauvais escient.

Lire aussi : « L’intelligence artificielle va surpasser l’humain dans 5 ans », d’après Elon Musk

Source : Interesting Engineering – Traduit par Anguille sous roche