Il y a une lutte de pouvoir à l’intérieur de Google pour contrôler l’IA surhumaine

Si DeepMind construit une IA surhumaine, qui la contrôlera ?

Garanties internes

DeepMind, la start-up d’intelligence artificielle achetée par Google en 2014, a pour mission de construire la première intelligence artificielle générale (AGI, Artificial General Intelligence) au monde – le genre d’intelligence artificielle surhumaine et globale que nous voyons dans la science-fiction.

Pour s’assurer que l’AGI est utilisée de manière responsable, Demis Hassabis, fondateur de DeepMind, a protégé l’indépendance de son entreprise vis-à-vis de Google et de sa société mère Alphabet en créant des sauvegardes internes, selon une nouvelle histoire de la publication culturelle de The Economist, 1843 Magazine – dont un comité éthique contrôlé par Hassabis et son équipe originale, plutôt que Google.

Prise de pouvoir

Bien que Google se soit longtemps imposé comme un leader éthique dans le monde de l’intelligence artificielle, le rapport de 1843 Magazine détaille une histoire de prises de pouvoir et de gestion douteuse.

Par exemple, DeepMind a lancé en 2016 une nouvelle division de soins de santé qui utiliserait la technologie de l’IA pour rationaliser les opérations hospitalières et surveiller les fonctions vitales des patients.

Deux ans plus tard, quelques mois seulement après que DeepMind Health ait conclu des contrats avec des hôpitaux partenaires, Google a annoncé Google Health et y a absorbé le programme de DeepMind, donnant peu de préavis à DeepMind ou aux hôpitaux. Des sources proches de l’affaire, rendues anonymes par 1843 Magazine parce qu’elles avaient signé des accords de non-divulgation, ont partagé que cette décision avait suscité le ressentiment et la colère de l’équipe de DeepMind.

Le Grand “Si”

Certaines de ces mêmes sources anonymes ont également partagé des doutes avec 1843 Magazine sur le fait que DeepMind puisse un jour déchiffrer le code de l’intelligence artificielle générale, soulignant des faiblesses et des mises en garde peu connues sur les succès de l’entreprise en matière d’intelligence artificielle dont on a tant parlé.

Les algorithmes développés à DeepMind peuvent faire des choses fascinantes, comme démolir certains jeux vidéo et retenir les connaissances mieux que d’autres systèmes, mais il n’y a pas de feuille de route claire vers la technologie fondamentalement nouvelle nécessaire pour développer l’AGI.

Mais si jamais Hassabis s’en rendait compte, les mesures de protection et les comités d’éthique qu’il a mis en place lors de l’achat de son entreprise pourraient signifier que la technologie restera entre ses mains et celles de son équipe au lieu de devenir une simple technologie Google.

Lire aussi : D’après Ray Kurzweil, l’IA est sur la bonne voie pour surpasser l’intelligence humaine

Source : Futurism – Traduit par Anguille sous roche

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *