Des chercheurs ont créé une IA dont la performance augmente s’ils la laissent dormir et rêver
Dormir, c’est génial. Chez l’humain, les données probantes suggèrent que le sommeil présente toute une gamme d’avantages, dont celui-ci : il garde le cerveau en santé en permettant aux neurones d’élaguer les connexions synaptiques inutiles que nous faisons pendant la journée.
Ce processus, appelé homéostasie synaptique, empêche le cerveau d’être submergé par des souvenirs inutiles. Il est possible qu’il contribue à améliorer nos performances cognitives, tandis que les rêves nous permettent de traiter nos souvenirs.
Il s’avère que quelque chose de similaire peut se produire lorsque des réseaux neuronaux artificiels sont autorisés à dormir et à rêver.
Oui, vous avez bien lu. Et cela fonctionne de manière très similaire à la façon dont on pense que cela se produit chez l’homme.
Bien sûr, les réseaux neuronaux artificiels (RNA) – un type d’intelligence artificielle basée sur des réseaux neuronaux biologiques – ne s’endorment pas automatiquement et instinctivement et ne rêvent pas. C’est pourquoi les mathématiciens italiens ont programmé un type de RNA appelé réseau de neurones Hopfield pour pouvoir dormir.
“Inspirés par les mécanismes du sommeil et du rêve dans le cerveau des mammifères, nous proposons une extension de ce modèle en affichant le mécanisme standard d’apprentissage en ligne (éveillé) (qui permet le stockage d’informations externes en termes de modèles) et un mécanisme hors ligne (sommeil) de désapprentissage et de consolidation”, ont-ils écrit dans leur article.
En d’autres termes, pendant que le RNA est “éveillé”, il apprend et stocke des modèles. Mais sa capacité de stockage est limitée.
L’équipe a donc trouvé un moyen d’appliquer mathématiquement les schémas du sommeil humain – le sommeil à mouvements oculaires rapides et sommeil à ondes lentes, dont le premier vise à éliminer les souvenirs inutiles et le second à consolider ceux qui sont importants.
C’est donc ce que fait aussi l’état de “sommeil” du RNA, c’est-à-dire faire défiler et désapprendre des informations inutiles, puis consolider ce qui reste, ce qui est important.
Le résultat a été remarquable. Sans sommeil, la capacité maximale était α=0.14, où α représente le nombre de bits stockés par synapse. Lorsqu’un cycle de sommeil a été incorporé, le RNA a atteint la limite théorique pour les réseaux de ce type – α=1.
Des essais approfondis à l’aide de simulations ont validé le résultat – montrant que le fait de permettre à un réseau neuronal de faire une sieste de temps en temps (en utilisant l’algorithme de sieste approprié) pourrait améliorer la performance.
“Nous croyons que dans le processus de la cognition – bien que l’apprentissage et la récupération continuent certainement à couvrir un rôle central – le sommeil est également obligatoire pour l’intelligence artificielle, comme pour l’intelligence biologique”, a déclaré le mathématicien Adriano Barra de l’Université du Salento.
Espérons que leurs rêves sont beaux.
La recherche de l’équipe a été publiée dans la revue Neural Networks et peut être lue en entier sur arXiv.
Lire aussi : L’intelligence artificielle luttant contre la corruption en Chine fonctionne trop bien – elle est déconnectée
Source : ScienceAlert – Traduit par Anguille sous roche
