4000 employés de Google signent une pétition pour mettre fin au contrat controversé de drones intelligents avec l’armée américaine

employés de Google

Il y a une histoire de la Deuxième Guerre mondiale qui m’a toujours semblé être l’essence même de ce que signifiait avoir une conscience. Un soldat allemand, membre d’un peloton d’exécution, a dit à son commandant qu’il ne pouvait pas se résoudre à tirer sur un groupe de Juifs innocents et sans défense. Le commandant a dit au soldat que s’il n’obéissait pas aux ordres, il devrait se joindre à eux. À la surprise de l’officier, le soldat déposa son fusil et traversa pour se tenir debout parmi les Juifs. L’officier a donné l’ordre et ils ont tous été tués par balle.

Les actes de conscience ne sont jamais vains, même s’ils ne sont jamais entendus. Il ne fait aucun doute que chaque fois que nous entendons parler de quelqu’un qui conteste l’autorité de faire ce qui est intrinsèquement juste, il y a des milliers d’autres cas de ce genre qui sont cachés ou dissimulés. Mais tous ces actes contribuent à notre conscience collective et aident à rapprocher un peu plus notre sens commun de soi de la lumière.

Refus des employés de Google

Aujourd’hui, l’un des principaux champs de bataille de la conscience est le bureau de l’entreprise, où un nombre restreint mais croissant de la base des employés ont commencé à remettre en question leur propre complicité dans la politique et les activités de l’entreprise qui est préjudiciable à l’humanité.

Il y a trois mois, les employés de Google ont appris la décision de fournir une intelligence artificielle à un programme pilote militaire controversé connu sous le nom de “Project Maven”, qui vise à accélérer l’analyse des séquences de drone en classant automatiquement les images d’objets et de personnes.

Cela a donné lieu à une pétition signée par près de 4 000 employés de Google qui demande à Google d’annuler immédiatement le contrat et d’instituer une politique contre le travail militaire futur. La pétition se lit comme suit :

“Nous ne pouvons plus ignorer les préjugés préjudiciables de notre industrie et de nos technologies, les abus de confiance à grande échelle et le manque de garanties éthiques.”

La lettre ouverte est prête à être envoyée

Pour soutenir les employés de Google, une lettre ouverte rédigée récemment par plus de 90 universitaires en intelligence artificielle, éthique et informatique, demande à Google de mettre fin à ses travaux sur le projet Maven et de soutenir un traité international interdisant les systèmes d’armes autonomes. Dans la lettre, ils soulignent les implications du partenariat de Google avec l’armée :

Avec Project Maven, Google devient impliqué dans la pratique douteuse des assassinats ciblés. Il s’agit notamment de ce que l’on appelle des frappes de signatures et des frappes de type de vie qui ciblent des personnes non sur des activités connues mais sur des probabilités tirées de séquences de surveillance à longue portée.

Bien que les rapports sur le projet Maven mettent actuellement l’accent sur le rôle des analystes humains, ces technologies sont sur le point de devenir une base pour la reconnaissance automatisée des cibles et des systèmes d’armes autonomes. Comme les commandants militaires en viennent à considérer les algorithmes de reconnaissance d’objets comme fiables, il sera tentant d’atténuer ou même d’éliminer l’examen et la surveillance de ces systèmes par les humains. Selon Defense One, le DoD prévoit déjà d’installer des technologies d’analyse d’images à bord des drones eux-mêmes, y compris les drones armés. Nous sommes alors à deux doigts d’autoriser des drones autonomes à tuer automatiquement, sans supervision humaine ou contrôle humain significatif. Si l’action éthique de la part des entreprises de technologie exige que l’on se demande qui pourrait bénéficier d’une technologie et qui pourrait être lésé, alors nous pouvons dire avec certitude qu’aucun sujet ne mérite une réflexion plus sobre – aucune technologie n’a des enjeux plus élevés – que les algorithmes destinés à cibler et à tuer à distance et sans responsabilité publique.

Google refuse la pétition

Un article sur Gizmodo note que “la pression croissante des employés semble avoir peu contribué à influencer la décision de Google ; l’entreprise a défendu son travail sur Maven et est considérée comme l’un des principaux concurrents pour un autre contrat majeur du Pentagone, le Joint Enterprise Defense Infrastructure, mieux connu sous le nom de JEDI, qui fait actuellement l’objet d’appels d’offres”.

Face à cette intransigeance, une douzaine d’employés ont décidé que la seule chose qu’il leur reste à faire en toute bonne conscience est de démissionner en signe de protestation. Leur raisonnement fait valoir que Google ne respectait pas ses politiques fondatrices et que leurs préoccupations très légitimes n’étaient pas sérieusement prises en compte :

Historiquement, Google a fait la promotion d’une culture ouverte qui encourage les employés à remettre en question et à débattre des décisions relatives aux produits. Mais certains employés estiment que leur leadership n’est plus aussi attentif à leurs préoccupations, ce qui les laisse faire face aux retombées. “Au cours des deux derniers mois, j’ai été de moins en moins impressionné par la réponse et la façon dont les préoccupations des gens sont traitées et écoutées”, a déclaré un employé qui a démissionné.

“Ce n’est pas comme si Google était cette petite startup d’apprentissage machine qui essaie de trouver des clients dans différents secteurs d’activité”, a déclaré un employé démissionnaire. “Il semble logique que Google et sa réputation restent en dehors de ça.”

Un employé a expliqué qu’on avait promis aux employés de Google une mise à jour de la politique d’éthique dans quelques semaines, mais que les progrès semblaient s’inscrire dans un schéma d’attente. Les préoccupations éthiques “auraient dû être prises en compte avant la signature de ce contrat”, a déclaré l’employé. – Article de Gizmodo

Hmm. Une petite entreprise démarre avec une grande idée, grandit grâce à une politique ouverte et inclusive avec ses employés, devient grande et financièrement viable, et abandonne lentement ses principes fondateurs en faveur du pouvoir, du contrôle et de l’influence. Où avons-nous déjà vu cela ? Partout. Cela se produit tous les jours dans notre Corporatocratie, où la richesse et le pouvoir insensés au sommet de la pyramide est capable d’engloutir les entreprises chaque fois qu’elles commencent à présenter des problèmes. Ce qui est encore plus insidieux, c’est lorsqu’ils les laissent devenir une entité puissante, avec des mécanismes qui ont fait leurs preuves pour éventuellement infiltrer, compromettre et corrompre toute entreprise autrefois ouverte et ouverte.

Pourquoi la conscience des employés dans les entreprises est-elle si importante ?

Par nos paroles et nos actions, nous, en tant que collectivité, nous nous définissons tous les jours. Ceux qui agissent avec conscience contre les efforts qui nuisent à la paix et à l’harmonie sur la planète aident à créer un avenir meilleur. Ceux qui évitent de regarder les conséquences plus larges de leurs actions par peur ou ignorance, ou ceux qui vont de l’avant et font des choses qu’ils savent ne sont pas justes, simplement parce que leur autorité leur a dit de les faire, sont tout aussi influents (et responsables) pour définir ce que signifie être humain.

Rappelez-vous le verdict sur les soldats allemands au procès de Nuremberg qui ont dit qu’ils ne faisaient que leur travail.

Quand une masse critique d’entre nous met un point d’honneur à cesser de se conformer à des politiques et à des actions dont les conséquences ne sont pas dans le meilleur intérêt de l’humanité, c’est alors que notre évolution collective prendra réellement racine.

Source : Collective Evolution

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *