Votre patron pourrait bientôt être un algorithme. S’il ne l’est pas déjà, bien sûr

Le film culte 35 heures, c’est déjà trop, sorti en 1999, dépeint la vie morne de Peter, un ingénieur en informatique qui vit dans un cubicule.

Chaque vendredi, Peter essaie d’éviter son patron et les mots redoutés : “Je vais avoir besoin de vous pour aller de l’avant et de venir demain.”

Cette scène est toujours populaire sur Internet près de 25 ans plus tard parce qu’elle capture des aspects troublants de la relation de travail – l’impuissance que ressent Peter, la fausse sympathie que son patron entonne lorsqu’il émet cette directive, la demande incessante d’une plus grande productivité.

La culture populaire ne manque pas de représentations de patrons horribles. Il existe même un film portant ce titre. Mais les choses pourraient être sur le point d’empirer.

Que penser des nouveaux patrons qui s’installent sur les lieux de travail dans tous les secteurs : les gestionnaires d’algorithmes ?

La montée en puissance des algorithmes de gestion

La perspective de voir les robots remplacer les travailleurs est fréquemment évoquée dans les médias. Mais il n’y a pas que le travail qui s’automatise. Les managers aussi.

De plus en plus, les algorithmes logiciels assument des fonctions de gestion, telles que l’examen des demandes d’emploi, la délégation de tâches, l’évaluation des performances des travailleurs – et même la décision de licencier un employé.

Le transfert des tâches des gestionnaires humains vers les machines ne peut que s’intensifier à mesure que les dispositifs de surveillance et de contrôle deviennent de plus en plus sophistiqués. En particulier, les technologies portables qui peuvent suivre les mouvements des employés.

Du point de vue de l’employeur, il y a beaucoup à gagner à transférer les tâches des gestionnaires à des algorithmes. Les algorithmes réduisent les coûts des entreprises en automatisant des tâches qui prennent plus de temps à l’homme. Uber, avec ses 22 800 employés, peut superviser 3,5 millions de chauffeurs selon les derniers chiffres annuels.

Les systèmes d’intelligence artificielle peuvent également découvrir des moyens d’optimiser les organisations commerciales. Le modèle de prix de pointe d’Uber (qui consiste à augmenter temporairement les prix pour attirer les conducteurs pendant les périodes d’affluence) n’est possible que parce qu’un algorithme peut traiter les changements en temps réel de la demande des passagers.

Les risques

Certains problèmes liés à la gestion des algorithmes reçoivent plus d’attention que d’autres. Le risque le plus discuté par les journalistes, les chercheurs et les responsables politiques est sans doute le biais algorithmique.

Le défunt système de classement CV d’Amazon en est un exemple tristement célèbre. Ce programme, qui était utilisé pour classer les CV des candidats sur une échelle de un à cinq, a été abandonné parce qu’il classait systématiquement les CV présentant des caractéristiques masculines plus haut que les CV comparables jugés plus féminins.

Mais plusieurs autres problèmes entourent la croissance de la gestion des algorithmes.

Le premier est le problème de la transparence. Les algorithmes classiques sont programmés pour prendre des décisions sur la base d’instructions étape par étape et ne donnent que des résultats programmés.

Les algorithmes d’apprentissage automatique, en revanche, apprennent à prendre des décisions par eux-mêmes après avoir été exposés à de nombreuses données d’entraînement. Cela signifie qu’ils deviennent plus complexes au fur et à mesure de leur développement, rendant leurs opérations opaques, même pour les programmeurs.

Lorsque le raisonnement qui sous-tend une décision comme celle de licencier un employé n’est pas transparent, un arrangement moralement douteux se prépare. La décision de l’algorithme de licencier l’employé était-elle biaisée, corrompue ou arbitraire ?

Si tel est le cas, son résultat serait considéré comme moralement illégitime, voire illégal dans la plupart des cas. Mais comment un employé pourrait-il démontrer que son licenciement est le résultat de motivations illégales ?

La gestion par algorithme exacerbe le déséquilibre des pouvoirs entre employeurs et employés en protégeant les abus de pouvoir de tout recours. Et les algorithmes suppriment une fonction humaine essentielle de la relation de travail.

C’est ce que feu le philosophe Jean-Jacques Rousseau appelait notre “sens naturel de la pitié” et notre “répugnance innée à voir souffrir son semblable”.

Même si tous les managers humains ne sont pas compatissants, il y a zéro pour cent de chance que les managers algorithmiques le soient.

Dans notre étude de cas sur les coursiers d’Amazon Flex, nous avons observé l’exaspération des travailleurs de la plateforme face à l’incapacité de l’algorithme à accepter les appels humains.

Les algorithmes conçus pour maximiser l’efficacité sont indifférents aux urgences de garde d’enfants. Ils n’ont aucune tolérance pour les travailleurs qui avancent lentement parce qu’ils apprennent encore le métier. Ils ne négocient pas pour trouver une solution qui aide un travailleur luttant contre la maladie ou le handicap.

Ce que nous pouvons faire

Les risques encourus par les travailleurs sous la gestion des algorithmes sont déjà au cœur des préoccupations des chercheurs, des syndicats et des développeurs de logiciels qui tentent de promouvoir de bonnes conditions de travail. Les politiciens américains discutent d’une extension des droits numériques pour les travailleurs.

D’autres solutions consistent à évaluer régulièrement l’impact des algorithmes sur les travailleurs et à donner aux employés leur mot à dire sur la manière dont ces technologies sont utilisées.

Si les entreprises peuvent trouver que les algorithmes de gestion sont très lucratifs, la nécessité de faire du profit n’est pas une raison pour tolérer la souffrance des employés.

Peter a fini par apprendre à gérer son patron et à rendre le travail agréable. Il y est parvenu en mettant en avant sa valeur lors de rencontres très personnelles avec les hauts responsables de l’entreprise. La question est de savoir comment il se serait débrouillé si son patron avait été un algorithme.

Lire aussi : Une société de jeux vidéo chinoise a nommé le premier robot humanoïde au monde au poste de PDG

Source : The Conversation – Traduit par Anguille sous roche