IA : des chercheurs ont mis au point des algorithmes d’apprentissage automatique qui s’améliorent génération après génération sans intervention humaine

L’intelligence artificielle et l’informatique quantique pourraient bien être les prochaines révolutions de cette décennie, mais il reste beaucoup de travail dans ces deux domaines selon les scientifiques.

Dans le cas de l’IA, l’un des plus grands obstacles à franchir est le temps accordé à la mise en place des algorithmes d’apprentissage automatique (ML) ou des réseaux de neurones. C’est un problème qui tend à être résolu. Des chercheurs ont mis au point des algorithmes capables de construire de manière autonome le modèle d’apprentissage automatique adapté à un problème donné.

Il est connu de tous que la construction d’un algorithme d’IA prend assez de temps et de ressources. Par exemple, les réseaux de neurones, un type courant d’apprentissage automatique utilisé pour la traduction des langues et la conduite des voitures. Ce sont des réseaux d’apprentissage qui imitent vaguement la structure du cerveau et apprennent à partir des données d’entraînement en modifiant la force des connexions entre les neurones artificiels. Dans ces réseaux, il y a des sous-circuits de neurones plus petits qui accomplissent des tâches spécifiques.

Il y a par exemple le repérage des panneaux dans le cas d’une voiture autonome. Pour atteindre leur objectif, les chercheurs peuvent mettre des mois à chercher la façon dont il faut les connecter pour qu’ils travaillent ensemble de manière transparente. Ces dernières années, les scientifiques ont accéléré le processus en automatisant quelques-unes des étapes. Mais ces programmes reposent toujours sur l’assemblage de circuits prêts à l’emploi conçus par l’homme. Cela signifie que le résultat est encore limité par l’imagination des ingénieurs et leurs préjugés existants.

Les nouvelles trouvailles des scientifiques pourraient constituer un accélérateur pour l’évolution de l’IA. En effet, les chercheurs ont créé des logiciels qui empruntent des concepts de l’évolution darwinienne, dont la « survie du plus fort », pour construire des programmes d’IA qui s’améliorent génération après génération sans intervention humaine. Les programmes ont reproduit en quelques jours des décennies de recherche sur l’IA. Selon ses concepteurs, il est tout à fait possible que ces programmes découvrent un jour de nouvelles approches de l’IA.

Quoc Le, un informaticien de Google, et ses collègues ont présenté un programme qu’ils ont baptisé AutoML-Zero qui permet de développer des programmes d’IA avec un apport humain quasi nul. En fait, AutoML est l’abréviation de « automated machine learning » (apprentissage machine automatique) et désigne un algorithme capable de déterminer, puis de mettre en place le meilleur modèle d’apprentissage automatique pour un problème donné. Leur approche serait basée sur des concepts mathématiques de base qu’un lycéen connaîtrait.

« Notre but ultime est de pouvoir développer de nouveaux concepts d’apprentissage automatique que même les chercheurs ne pourraient pas trouver », a déclaré Le. Leur programme découvre seul des algorithmes utilisant une approximation libre de l’évolution. Il commence par créer une population de 100 algorithmes candidats en combinant de manière aléatoire des opérations mathématiques. Il les teste ensuite sur une tâche simple, comme un problème de reconnaissance d’images où il doit décider si une image montre un chat ou un camion.

À la fin de chaque cycle, le programme compare les performances des algorithmes à celles d’algorithmes conçus à la main. Des copies des meilleurs résultats sont « mutées » en remplaçant, modifiant ou supprimant au hasard une partie de son code pour créer de légères variations des meilleurs algorithmes. Ces « enfants » sont ajoutés à la population, puis les programmes plus anciens sont éliminés. Le système crée des milliers de ces populations en même temps. Il fait passer ainsi des dizaines de milliers d’algorithmes par seconde jusqu’à ce qu’il trouve une bonne solution.

Le est optimiste par rapport aux potentiels d’AutoML-Z-éro. Il estime que les solutions mises en avant par AutoML-Zéro sont très simples comparées aux algorithmes les plus avancés d’aujourd’hui. Toutefois, Joaquin Vanschoren, informaticien à l’université de technologie d’Eindhoven, pense qu’il faudra un certain temps avant que cette approche ne puisse rivaliser avec l’état de l’art. Selon lui, ce n’est pas en demandant au programme de partir de zéro qu’il pourra s’améliorer, mais plutôt en l’ensemençant avec certaines des astuces et techniques que les humains ont déjà découvertes.

En se basant sur ces critiques et d’autres du milieu, Le et son équipe ont publié un nouveau rapport sur arXiv décrivant une approche similaire pour concevoir un nouveau composant prêt à l’emploi très populaire utilisé dans de nombreux réseaux de neurones. Selon la nouvelle approche de Le et ses collègues, en augmentant le nombre d’opérations mathématiques dans la bibliothèque et en affectant des ressources informatiques encore plus importantes au programme, cela pourrait lui permettre de découvrir des capacités d’IA entièrement nouvelles.

Lire aussi : Cette IA a réussi à traduire des pensées en mots à l’aide d’un implant dans le cerveau

Sources : Developpez – Rapport de l’étude (1), Rapport de l’étude (2), AutoML