Les scientifiques utilisent des textes anciens en sanskrit védique pour enseigner l’éthique à l’intelligence artificielle


Les Védas (qui signifient littéralement “connaissance” dans l’ancien sanskrit) sont appelés les quatre plus anciens textes originaires du sous-continent indien. Le fondement de la religion védique est antérieur à la religion hindoue. Le plus ancien des quatre, le Rig-Véda, a été composé oralement en sanskrit au milieu du deuxième millénaire avant Jésus-Christ.

Les savants croient qu’il y a quatre Védas : le Rig-Veda, le Yajur Veda, le Sāmaveda et l’Atharva-Veda.

Chaque Veda a été subdivisé en quatre grands types de textes : les Samhitas (mantras et bénédictions), les Aranyakas (textes anciens sur les rituels, cérémonies, sacrifices et sacrifices symboliques), les Brahmanas (commentaires sur les rituels, cérémonies et sacrifices) et les Upanishads (textes discutant de méditation, de philosophie et de connaissance spirituelle).

Les hindous considèrent les Védas comme des apauruṣeya, ce qui signifie “non pas d’un homme, surhumain” et “impersonnel, sans auteur”.

enseigner l'éthique

Les Vedas sont d’anciens textes sanscrits de l’hindouisme. Ci-dessus : Une page de l’Atharvaveda. Crédit Image : Wikimedia Commons.

Maintenant, les informaticiens sont en train d’analyser les textes sacrés indiens et d’appliquer les méthodes de la logique mathématique pour atteindre un ensemble de normes par lesquelles ils seront en mesure d’enseigner l’éthique à l’IA.

Selon des chercheurs de Institute for Logic, Language, and Computation (ILLC) de TU Wien, une machine pourrait se voir présenter un certain nombre d’obligations et d’interdictions, et suivre certaines règles pour déterminer automatiquement si un certain type de comportement est acceptable ou non : par exemple, une voiture sans conducteur qui devrait prendre des décisions éthiques en cas d’accident.

Les Védas sont un grand corpus de textes anciens en sanskrit, dont certains contiennent des énoncés moraux très clairs ; comme “on ne doit pas nuire à un être vivant”, explique Agata Ciabattoni de l’Institut de Logique et de Calcul de TU Wien. Ciabattoni supervise le projet de recherche, en étroite collaboration avec Elisa Freschi, sanskritiste de l’Académie autrichienne des sciences. Leur but est de comprendre comment les anciens Védas peuvent aider à enseigner l’éthique à l’IA.

Regard sur les civilisations anciennes pour enseigner l’intelligence artificielle

Les scientifiques de TU Wien disent qu’il y avait une école philosophique dans l’antique appelée Mimamsa, qui utilise une approche rigoureuse pour analyser les obligations et les interdictions mentionnées dans les Védas.

Pendant de nombreux siècles, les savants de Mimamsa ont formulé des règles pour tirer des conclusions des prémisses et résoudre les contradictions apparentes.

“Cela est étroitement lié à ce que font des logiciens comme nous”, dit Agata Ciabattoni. “On peut formaliser ces règles dans un langage que les ordinateurs peuvent aussi comprendre.”

Le Sacrifice Syena

Les chercheurs pointent du doigt un différend appelé “sacrifice Syena”, un sacrifice dans les Védas visant à tuer des ennemis.

Comment cela peut-il être harmonisé avec la règle de ne pas nuire à un être vivant ?

“Pour un hindou, les Védas sont tout à fait corrects, de sorte qu’il ne peut y avoir aucune contradiction”, dit Agata Ciabattoni.

Au septième siècle, Prabhakara, philosophe indien de la tradition Mimamsa, a résolu ce problème en appliquant plusieurs règles des Védas de manière logique, mais assez compliquée.

Plusieurs érudits ont refusé de reconnaître que ce raisonnement était juste, et cette dispute a duré pendant des siècles.

Par conséquent, Agata Ciabattoni et son équipe de chercheurs ont travaillé en étroite collaboration avec les anciens experts sanskrit pour traduire les règles de Mimamsa et les lois védiques en formules mathématiques, et ils ont été en mesure de montrer que Prabhakara avait eu raison depuis le début.

Compte tenu des prescriptions des Védas, la logique de Prabhakaras était parfaite, montrant comment la logique mathématique est en mesure de résoudre une vieille dispute philosophique.

“Pour nous, c’était une première preuve de concept que nous pouvons vraiment apprendre quelque chose de nouveau en associant l’Indologie et la logique formelle”, dit Ciabattoni. “Mais finalement, nous voulons faire beaucoup plus. Nous voulons comprendre comment exprimer avec une précision mathématique des logiques bénéfiques concernant les interdictions et les obligations.”

Comprendre les anciens Védas pour enseigner aux machines

Comme l’ont noté les experts de la nouvelle étude, la logique classique traite des énoncés qui sont vrais ou faux, et fournit des règles que nous pouvons utiliser pour combiner des énoncés vrais, créant de nouveaux énoncés qui sont également vrais.

C’est ainsi que les mathématiques fonctionnent : si nous commençons par quelque chose de vrai et suivons un certain ensemble de règles, le résultat final sera donc vrai.

Cependant, les scientifiques de l’Université de Vienne affirment que ce genre de logique n’est pas utile si nous voulons aborder la question de l’éthique.

“Lorsque nous traitons des interdictions et des obligations, nous ne nous intéressons pas à ce qui est vrai ou faux, mais à ce que nous devrions ou ne devrions pas faire”, conclut Ciabattoni.

“C’est pourquoi une logique complètement différente est nécessaire, appelée logique déontique. Tout comme la logique classique, elle peut être exprimée sous forme de formules mathématiques qui nous permettent de déterminer sans équivoque si un certain raisonnement est correct ou non.”

Source : Ancient Code


Vous aimerez aussi...

4 réponses

  1. JACQUES WAESELYNCK dit :

    je fais des recherches sur l’éthique depuis de nombreuses années
    je retiens la définition de GE Moore: l’éthique est l’investigation générale de ce qu’est le Bien.
    Où peut-on trouver les travaux de recherche sur l’IA et l’éthique?

  2. Bruno dit :

    D’où vient l’IA ? Est-ce une création humaine ? Est-il raisonnable d’envisager son autonomie : une forme non pas altérée par nos projections (bon courage pour mettre le Bien en équation, quoique cela puisse se faire au cœur même du Mal ? Est-ce que le “Bien” revient à interdire le “Mal” ?) plutôt une forme offrant une certaine “altérité” ? Si c’est le cas (“altérité”), la logique ne serait-elle pas dans le fait que cette éthique émane de l’IA (de mont point de vue, A pour autonome) elle-même (ce qui peut éventuellement aboutir à une logique “différente”)? Et qu’une forme de dialogue s’instaure éventuellement en vue de s’accorder à cet “outil” ? Est-ce faisable ? La vie est-elle un concept ?
    Est-ce qu’aujourd’hui un être humain peut évoquer ne serait-ce que la notion même d’éthique ? Une investigation s’arrête t-elle à une définition ? Qu’est-ce que l’éthique résultant de votre propre investigation ? Les védas sont justes dans le fait d’être vécus (au milieu du deuxième millénaire (B.C) … Au fait, quel jour sommes-nous ? De quoi est fait ce “jour” ?

  3. Bruno dit :

    Et j’oubliais : pour le deep learning algoriciel, commencer avec toutes les productions littéraires, cinématographiques, musicales, théâtrale en rapport avec cette notion d’éthique (autant actualiser les données :)

  4. Bruno dit :

    Je reviens rapidement sur la notion de “recherche” et vous invite à regarder une œuvre de Maurice Cornélius Escher de 1960, qui s’intitule ” Ascending and Descending “. De mon point de vue (comme en randonnée encore :), ce qui fait le dynamisme de la recherche est sa métastabilité, son caractère métastable, c’est ce qui fait que le chercheur parcourt les marches de cette étrange construction dans l’œuvre de M.C Escher. Notez, que dans ce point de vue, le concept de hiérarchie (en tant que repère) se met à fuir voire disparaît, c’est au-delà de l’échelle de Jacob, plus proche de notre réalité (comme le fait que nous flottons dans l’espace interstellaire, les notions de bas et de haut se mettent à “fuir” de la même façon). Une éthique ne s’impose pas, elle émerge (comme la station debout par exemple), en ce qui la constitue fondamentalement est immergé dans la vie elle-même. Cordialement.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *