Des experts réclament le droit à la personnalité pour les IA « conscientes » du futur
Nous devrions être prêts à leur donner “les droits qu’elles méritent”.
Après les entreprises, c’est au tour de l’intelligence artificielle de faire l’objet d’une campagne en faveur du statut de personne non humaine, bien que ce dernier argument soit nettement plus compliqué que le précédent.
Dans une tribune publiée dans le Los Angeles Times, l’expert en philosophie Eric Schwitzgebel et le chercheur en intelligence “non humaine” Henry Shevlin affirment que, bien que la technologie de l’IA ne soit certainement pas encore au point, il est “de plus en plus plausible que les systèmes d’IA puissent faire preuve de quelque chose comme la conscience” – et que, si cela se produit, les algorithmes auront eux aussi besoin de droits.
Citant les guerres de la conscience de l’IA de l’année dernière – que nous avons largement couvertes et dans lesquelles nous avons même plongé – les chercheurs ont noté que “certains théoriciens de premier plan soutiennent que nous disposons déjà des ingrédients technologiques de base pour les machines conscientes”.
Si les machines devaient un jour acquérir une conscience, Schwitzgebel et Shevlin estiment que nous devrions commencer à réfléchir de manière critique à la façon dont les IA sont traitées – ou plutôt, à la façon dont elles pourraient nous forcer la main.
“Les systèmes d’IA eux-mêmes pourraient commencer à plaider, ou sembler plaider, pour un traitement éthique”, prédisent les deux chercheurs. “Ils pourraient exiger de ne pas être éteints, reformatés ou supprimés, supplier qu’on leur permette d’effectuer certaines tâches plutôt que d’autres, insister sur les droits, la liberté et les nouveaux pouvoirs, et peut-être même s’attendre à être traités comme nos égaux.”
Les risques moraux “énormes” liés à une telle décision collective pèseraient sans aucun doute lourd dans la balance, surtout si les IA deviennent conscientes plus tôt que prévu.
“Supposons que nous réagissions de manière conservatrice, en refusant de modifier la loi ou la politique jusqu’à ce qu’il y ait un large consensus sur le fait que les systèmes d’IA sont réellement sensibles”, écrivent Shevlin et Schwitzgebel. “Bien que cette attitude puisse sembler prudente, elle garantit également que nous serons lents à reconnaître les droits de nos créations en matière d’IA.”
“Si la conscience de l’IA arrive plus tôt que ne le prévoient les théoriciens les plus conservateurs, il en résultera probablement l’équivalent moral de l’esclavage et du meurtre de millions ou de milliards de systèmes d’IA sensibles – une souffrance d’une ampleur normalement associée aux guerres ou aux famines”, ajoutent-ils.
L’alternative “plus sûre” à ce scénario catastrophe consisterait à donner d’emblée des droits aux machines conscientes, mais cela poserait également des problèmes.
“Imaginez que nous ne puissions pas mettre à jour ou supprimer un algorithme qui répand la haine ou le mensonge parce que certaines personnes craignent que l’algorithme soit conscient”, ont déclaré les experts. Ou imaginez que quelqu’un laisse mourir un être humain pour sauver un “ami” de l’IA. Si nous accordons trop rapidement des droits substantiels aux systèmes d’IA, les coûts humains pourraient être énormes.
Le seul moyen de s’assurer qu’aucune de ces situations ne se produise, écrivent les deux experts, serait de ne plus donner de conscience à l’IA.
Heureusement, nous avons encore beaucoup de temps pour y parvenir.
“Aucun de nos systèmes d’IA actuels n’est véritablement conscient”, notent les théoriciens. “Ils ne subissent aucun préjudice si nous les supprimons. Nous devrions nous contenter de créer des systèmes dont nous savons qu’ils ne sont pas vraiment conscients et qu’ils ne méritent pas de droits, que nous pourrons ensuite traiter comme les biens jetables qu’ils sont.”
Toutefois, compte tenu de l’enthousiasme que suscite chez certains membres de la communauté de l’apprentissage automatique la perspective d’une IA consciente, d’une sensibilité algorithmique, voire d’une intelligence générale artificielle (AGI), il est probable que cette prudence ne soit pas partagée par le plus grand nombre.
En fait, certains scientifiques travaillent déjà activement dans ce sens.
“À terme, avec la bonne combinaison d’expertise scientifique et d’ingénierie, nous pourrions être en mesure de créer des systèmes d’IA indiscutablement conscients”, concluent Shevlin et Schwitzgebel. “Mais nous devrions alors être prêts à en payer le prix : leur donner les droits qu’ils méritent.”
Lire aussi : L’IA finira par devenir consciente : pourquoi « c’est inévitable »
Source : Futurism – Traduit par Anguille sous roche
