Des mathématiciens ont développé un problème informatique que l’IA ne pourra jamais résoudre

On ne peut pas tout savoir. Dans un monde où l’intelligence artificielle et l’apprentissage automatique semblent pouvoir comprendre à peu près tout, cela peut sembler être une hérésie, mais c’est vrai.

Du moins, c’est le cas selon une nouvelle étude internationale menée par une équipe de mathématiciens et de chercheurs en intelligence artificielle, qui ont découvert que malgré le potentiel apparemment illimité de l’apprentissage automatique, même les algorithmes les plus intelligents sont néanmoins liés par les contraintes des mathématiques.

“Les avantages des mathématiques, cependant, ont parfois un coût… en un mot… tout n’est pas prouvable”, écrivent les chercheurs, dirigés par le premier auteur et informaticien Shai Ben-David de l’Université de Waterloo.

“Ici, nous montrons que l’apprentissage machine partage ce destin.”

La conscience de ces limitations mathématiques est souvent liée au célèbre mathématicien autrichien Kurt Gödel, qui a développé dans les années 1930 ce que l’on appelle les théorèmes de l’incomplétude – deux propositions suggérant que toutes les questions mathématiques ne peuvent être réellement résolues.

Maintenant, la nouvelle recherche de Ben-David indique que l’apprentissage machine est limité par la même insolvabilité.

Dans cet argument, la capacité d’apprentissage d’une machine peut être limitée par les mathématiques, ce qui est impossible à prouver. En d’autres termes, il s’agit essentiellement de donner à une IA un problème indécidable, quelque chose qu’un algorithme ne peut résoudre avec une réponse vraie ou fausse.

“Pour nous, c’était une surprise”, a expliqué à Nature le chercheur et mathématicien Amir Yehudayoff, de Technion – Institut de technologie d’Israël.

Dans leur recherche, l’équipe enquête sur un problème d’apprentissage machine qu’ils appellent “estimation du maximum” (EMX), dans lequel un site Web cherche à afficher une publicité ciblée pour les visiteurs qui naviguent le plus souvent sur le site – bien que l’on ne sache pas à l’avance quels visiteurs vont visiter le site.

Selon les chercheurs, dans ce type de cas, le problème mathématique à résoudre présente des similitudes avec un cadre d’apprentissage machine connu sous le nom d’apprentissage approximativement correct (apprentissage PAC), mais il est également similaire à un paradoxe mathématique appelé hypothèse du continu, autre champ d’investigation pour Gödel.

Comme les théorèmes de l’incomplétude, l’hypothèse du continu concerne les mathématiques qui ne peuvent jamais être prouvées comme étant vraies ou fausses, et compte tenu des conditions de l’exemple EMX, au moins, l’apprentissage machine pourrait hypothétiquement se retrouver dans la même impasse permanente.

“Les chercheurs identifient un problème d’apprentissage machine dont le sort dépend de l’hypothèse du continu, laissant sa résolution à jamais hors de portée”, a écrit le mathématicien et informaticien Lev Reyzin de l’Université de l’Illinois à Chicago, qui n’a pas participé aux travaux, dans un commentaire sur la recherche pour la revue Nature.

Bien sûr, les paramètres donnés du problème EMX ne sont pas les mêmes que ceux auxquels l’apprentissage machine doit faire face dans d’autres situations, mais sur le plan académique, le nouvel article nous rappelle que l’avant-garde de l’informatique ne peut échapper à ses fondements ésotériques et mathématiques.

“L’apprentissage automatique a mûri en tant que discipline mathématique et rejoint maintenant les nombreux sous-domaines des mathématiques qui traitent du fardeau de l’improbabilité et du malaise qui l’accompagne”, a écrit Reyzin.

“Peut-être que des résultats comme celui-ci apporteront au domaine de l’apprentissage machine une bonne dose d’humilité, même si les algorithmes d’apprentissage machine continuent à révolutionner le monde qui nous entoure.”

Les résultats sont rapportés dans Nature Machine Intelligence.

Lire aussi : Une intelligence artificielle détecte la maladie d’Alzheimer 6 ans avant un diagnostique humain

Source : ScienceAlert – Traduit par Anguille sous roche