Le PDG de Microsoft est presque sûr qu’il peut empêcher l’IA d’échapper au contrôle humain
Eh bien, si vous le dites…
En début de semaine, Microsoft a révélé son nouveau moteur de recherche Bing, réinventé et enrichi par l’IA, qui est alimenté par une version améliorée de ChatGPT d’OpenAI. Dans un format conversationnel semblable à celui du chatbot dont il s’inspire, le nouveau Bing peut répondre à presque toutes les questions que vous lui posez, avec des résultats impressionnants (bien que d’une précision variable).
Alors que certains employés de l’entreprise versent des larmes de joie, le PDG de Microsoft, Satya Nadella, a profité de l’occasion pour répondre aux inquiétudes concernant le développement de son IA en toute sécurité dans une interview accordée à CBS News.
Il a d’abord défendu la décision de rendre l’IA publique, même si elle comporte encore de nombreux défauts.
“La seule façon pour toute nouvelle technologie d’être vraiment perfectionnée est d’être sur le marché avec un vrai retour humain”, a déclaré Nadella. “Si quelque chose, en particulier avec l’IA, doit s’aligner sur les préférences humaines, à la fois personnellement et sociétalement, en termes de normes.”
“Et oui, nous aurons beaucoup, beaucoup de mécanismes en place pour garantir que rien de biaisé, rien de nuisible ne soit généré”, a-t-il ajouté.
Maintenir le contrôle
À la demande de l’intervieweur, le PDG de Microsoft a reconnu que la sinistre possibilité qu’une IA se déchaîne et se retourne contre l’humanité est une préoccupation valable.
“L’IA incontrôlée – si elle se produit – est un véritable problème”, a admis M. Nadella.
“Mais la façon d’y faire face est de s’assurer qu’elle ne s’enfuit jamais”, a-t-il déclaré avec assurance. Qui l’eût cru !
Au-delà de l’évidence, Nadella a poursuivi en décrivant le contexte dans lequel nous, les humains, devrions utiliser l’IA pour éviter un avenir dystopique.
“La première série de catégories dans lesquelles nous devrions utiliser ces puissants modèles est celle où les humains, sans ambiguïté, sans conteste, sont aux commandes”, a déclaré Nadella. “Et donc, tant que nous commençons en quelque sorte là, que nous caractérisons ces modèles, que nous les rendons plus sûrs et, au fil du temps, beaucoup plus explicables, alors nous pouvons penser à d’autres formes d’utilisation.”
Source : Futurism – Traduit par Anguille sous roche
