Les algorithmes prennent déjà des décisions pour les humains, et ça devient bizarre


Je me souviens encore de ma surprise lorsqu’un livre du biologiste évolutionniste Peter Lawrence intitulé The Making of a Fly a été publié sur Amazon à 23 698 655,93 $ (plus 3,99 $ d’expédition).

Alors que mes collègues du monde entier ont dû être plutôt déprimés à l’idée qu’un livre académique puisse réaliser un tel exploit, le prix élevé était en fait le résultat d’algorithmes se nourrissant les uns des autres et échappant à tout contrôle. Il s’est avéré que ce n’était pas seulement le personnel de vente qui était créatif : ce sont les algorithmes qui prenaient les décisions.

Cet exemple accrocheur a été repéré et corrigé. Mais que faire si de telles interférences algorithmiques se produisent tout le temps, y compris d’une manière que nous ne remarquons même pas ? Si notre réalité est de plus en plus construite par des algorithmes, où cela nous mène-t-il, nous les humains ?

Inspirés par de tels exemples, mon collègue le professeur Allen Lee et moi-même avons récemment entrepris d’explorer les effets plus profonds de la technologie algorithmique dans un article publié dans le Journal of the Association for Information Systems.

Notre exploration nous a amenés à la conclusion qu’avec le temps, les rôles des technologies de l’information et des humains se sont inversés. Dans le passé, nous, les humains, utilisions la technologie comme un outil. Aujourd’hui, la technologie a progressé au point de nous utiliser et même de nous contrôler.

Nous, les humains, ne sommes pas simplement coupés des décisions que les machines prennent pour nous, mais profondément affectés par elles de manière imprévisible. Au lieu d’être au cœur du système décisionnel qui nous touche, nous sommes jetés dans son environnement.

Nous avons progressivement limité notre propre capacité de décision et laissé les algorithmes prendre le dessus. Nous sommes devenus des êtres humains artificiels, ou des artefacts humains, qui sont créés, façonnés et utilisés par la technologie.

Les exemples abondent. En droit, les analystes juridiques sont progressivement remplacés par l’intelligence artificielle, ce qui signifie que la défense ou la poursuite réussie d’une affaire peut reposer en partie sur des algorithmes.

On a même permis à des logiciels de prédire l’avenir des criminels et, en fin de compte, de contrôler la liberté humaine en déterminant comment la libération conditionnelle est refusée ou accordée aux détenus. De cette façon, l’esprit des juges est façonné par des mécanismes décisionnels qu’ils ne peuvent comprendre en raison de la complexité du processus et de la quantité de données qu’il comporte.

Sur le marché du travail, le recours excessif à la technologie a conduit certaines des plus grandes entreprises du monde à filtrer les CV à l’aide de logiciels, ce qui signifie que les recruteurs humains ne pourront même pas voir les détails de certains candidats potentiels. Non seulement cela met les moyens d’existence des gens à la merci des machines, mais cela peut aussi créer des préjugés en matière d’embauche que l’entreprise n’avait pas l’intention de mettre en œuvre, comme ce fut le cas avec Amazon.

Dans les nouvelles, ce qu’on appelle l’analyse automatisée du sentiment analyse les opinions positives et négatives sur les entreprises à partir de différentes sources Web. En retour, celles-ci sont utilisées par des algorithmes de trading qui prennent des décisions financières automatisées, sans que les humains n’aient à lire les nouvelles.

Conséquences imprévues

En fait, les algorithmes fonctionnant sans intervention humaine jouent maintenant un rôle important sur les marchés financiers. Par exemple, 85 % de toutes les opérations sur les marchés des changes sont effectuées uniquement au moyen d’algorithmes.

La course aux armements algorithmique croissante pour développer des systèmes de plus en plus complexes afin d’être compétitifs sur ces marchés signifie que d’énormes sommes d’argent sont allouées en fonction des décisions des machines.

À petite échelle, les personnes et les entreprises qui créent ces algorithmes sont en mesure d’influer sur ce qu’ils font et comment ils le font.

Mais parce qu’une grande partie de l’intelligence artificielle implique la programmation d’un logiciel pour savoir comment accomplir une tâche par lui-même, nous ne savons souvent pas exactement ce qui se cache derrière la prise de décision. Comme pour toute technologie, cela peut entraîner des conséquences involontaires qui peuvent aller bien au-delà de ce que les concepteurs ont jamais envisagé.

Prenons l’exemple du “Flash Crash” 2010 de l’indice Dow Jones Industrial Average Index. L’action des algorithmes a contribué à créer la plus forte baisse de l’indice de son histoire, effaçant près de 9 % de sa valeur en quelques minutes (bien qu’il ait retrouvé la plupart de cette valeur à la fin de la journée). Une enquête de cinq mois ne pouvait que suggérer ce qui a déclenché la récession (et diverses autres théories ont été proposées).

Mais les algorithmes qui ont amplifié les problèmes initiaux n’ont pas fait d’erreur. Il n’y avait pas de bogue dans la programmation. Le comportement a émergé de l’interaction de millions de décisions algorithmiques se jouant les unes des autres de manière imprévisible, suivant leur propre logique d’une manière qui a créé une spirale descendante pour le marché.

Les conditions qui ont rendu cela possible sont apparues parce que, au fil des ans, les dirigeants du système commercial en sont venus à considérer les décisions humaines comme un obstacle à l’efficacité du marché. En 1987, lorsque le marché boursier américain a chuté de 22,61 %, certains courtiers de Wall Street ont simplement cessé de décrocher leur téléphone pour éviter de recevoir les ordres de leurs clients de vendre des actions.

Cela a déclenché un processus qui, comme l’a dit l’auteur Michael Lewis dans son livre Flash Boys, “s’est terminé par le remplacement total des gens par les ordinateurs”.

Le monde financier a investi des millions de dollars dans des câbles ultrarapides et des communications par micro-ondes pour réduire de quelques millisecondes la vitesse à laquelle les algorithmes peuvent transmettre leurs instructions. Lorsque la vitesse est si importante, un être humain qui a besoin de 215 millisecondes pour cliquer sur un bouton est presque complètement redondant.

Notre seul but restant est de reconfigurer les algorithmes chaque fois que le système de décisions technologiques échoue.

Alors que de nouvelles frontières sont tracées entre l’homme et la technologie, nous devons réfléchir soigneusement à ce que notre dépendance extrême à l’égard des logiciels nous apporte. Comme les décisions humaines sont remplacées par des décisions algorithmiques et que nous devenons des outils dont la vie est façonnée par les machines et leurs conséquences involontaires, nous nous préparons à la domination technologique.

Nous devons décider, tant que nous le pouvons encore, de ce que cela signifie pour nous en tant qu’individus et en tant que société.

Lire aussi : Une intelligence artificielle avancée pourrait diriger le monde mieux que les humains ne pourraient jamais le faire

Source : The Conversation – Traduit par Anguille sous roche


Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *