Les scientifiques utilisent des textes anciens en sanskrit védique pour enseigner l’éthique à l’intelligence artificielle

enseigner l'éthique

Les Védas (qui signifient littéralement “connaissance” dans l’ancien sanskrit) sont appelés les quatre plus anciens textes originaires du sous-continent indien. Le fondement de la religion védique est antérieur à la religion hindoue. Le plus ancien des quatre, le Rig-Véda, a été composé oralement en sanskrit au milieu du deuxième millénaire avant Jésus-Christ.

Les savants croient qu’il y a quatre Védas : le Rig-Veda, le Yajur Veda, le Sāmaveda et l’Atharva-Veda.

Chaque Veda a été subdivisé en quatre grands types de textes : les Samhitas (mantras et bénédictions), les Aranyakas (textes anciens sur les rituels, cérémonies, sacrifices et sacrifices symboliques), les Brahmanas (commentaires sur les rituels, cérémonies et sacrifices) et les Upanishads (textes discutant de méditation, de philosophie et de connaissance spirituelle).

Les hindous considèrent les Védas comme des apauruṣeya, ce qui signifie “non pas d’un homme, surhumain” et “impersonnel, sans auteur”.

enseigner l'éthique

Les Vedas sont d’anciens textes sanscrits de l’hindouisme. Ci-dessus : Une page de l’Atharvaveda. Crédit Image : Wikimedia Commons.

Maintenant, les informaticiens sont en train d’analyser les textes sacrés indiens et d’appliquer les méthodes de la logique mathématique pour atteindre un ensemble de normes par lesquelles ils seront en mesure d’enseigner l’éthique à l’IA.

Selon des chercheurs de Institute for Logic, Language, and Computation (ILLC) de TU Wien, une machine pourrait se voir présenter un certain nombre d’obligations et d’interdictions, et suivre certaines règles pour déterminer automatiquement si un certain type de comportement est acceptable ou non : par exemple, une voiture sans conducteur qui devrait prendre des décisions éthiques en cas d’accident.

Les Védas sont un grand corpus de textes anciens en sanskrit, dont certains contiennent des énoncés moraux très clairs ; comme “on ne doit pas nuire à un être vivant”, explique Agata Ciabattoni de l’Institut de Logique et de Calcul de TU Wien. Ciabattoni supervise le projet de recherche, en étroite collaboration avec Elisa Freschi, sanskritiste de l’Académie autrichienne des sciences. Leur but est de comprendre comment les anciens Védas peuvent aider à enseigner l’éthique à l’IA.

Regard sur les civilisations anciennes pour enseigner l’intelligence artificielle

Les scientifiques de TU Wien disent qu’il y avait une école philosophique dans l’antique appelée Mimamsa, qui utilise une approche rigoureuse pour analyser les obligations et les interdictions mentionnées dans les Védas.

Pendant de nombreux siècles, les savants de Mimamsa ont formulé des règles pour tirer des conclusions des prémisses et résoudre les contradictions apparentes.

“Cela est étroitement lié à ce que font des logiciens comme nous”, dit Agata Ciabattoni. “On peut formaliser ces règles dans un langage que les ordinateurs peuvent aussi comprendre.”

Le Sacrifice Syena

Les chercheurs pointent du doigt un différend appelé “sacrifice Syena”, un sacrifice dans les Védas visant à tuer des ennemis.

Comment cela peut-il être harmonisé avec la règle de ne pas nuire à un être vivant ?

“Pour un hindou, les Védas sont tout à fait corrects, de sorte qu’il ne peut y avoir aucune contradiction”, dit Agata Ciabattoni.

Au septième siècle, Prabhakara, philosophe indien de la tradition Mimamsa, a résolu ce problème en appliquant plusieurs règles des Védas de manière logique, mais assez compliquée.

Plusieurs érudits ont refusé de reconnaître que ce raisonnement était juste, et cette dispute a duré pendant des siècles.

Par conséquent, Agata Ciabattoni et son équipe de chercheurs ont travaillé en étroite collaboration avec les anciens experts sanskrit pour traduire les règles de Mimamsa et les lois védiques en formules mathématiques, et ils ont été en mesure de montrer que Prabhakara avait eu raison depuis le début.

Compte tenu des prescriptions des Védas, la logique de Prabhakaras était parfaite, montrant comment la logique mathématique est en mesure de résoudre une vieille dispute philosophique.

“Pour nous, c’était une première preuve de concept que nous pouvons vraiment apprendre quelque chose de nouveau en associant l’Indologie et la logique formelle”, dit Ciabattoni. “Mais finalement, nous voulons faire beaucoup plus. Nous voulons comprendre comment exprimer avec une précision mathématique des logiques bénéfiques concernant les interdictions et les obligations.”

Comprendre les anciens Védas pour enseigner aux machines

Comme l’ont noté les experts de la nouvelle étude, la logique classique traite des énoncés qui sont vrais ou faux, et fournit des règles que nous pouvons utiliser pour combiner des énoncés vrais, créant de nouveaux énoncés qui sont également vrais.

C’est ainsi que les mathématiques fonctionnent : si nous commençons par quelque chose de vrai et suivons un certain ensemble de règles, le résultat final sera donc vrai.

Cependant, les scientifiques de l’Université de Vienne affirment que ce genre de logique n’est pas utile si nous voulons aborder la question de l’éthique.

“Lorsque nous traitons des interdictions et des obligations, nous ne nous intéressons pas à ce qui est vrai ou faux, mais à ce que nous devrions ou ne devrions pas faire”, conclut Ciabattoni.

“C’est pourquoi une logique complètement différente est nécessaire, appelée logique déontique. Tout comme la logique classique, elle peut être exprimée sous forme de formules mathématiques qui nous permettent de déterminer sans équivoque si un certain raisonnement est correct ou non.”

Source : Ancient Code

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *