Les employés d'Amazon, de Google et de Microsoft se sont rebellés. Ils ont été scandalisés par la coopération avec Petagon, les services anti-immigration et les forces de l'ordre, de sorte que la direction des géants de la technologie a dû suivre des considérations éthiques. Cela a privé l'entreprise de gros contrats gouvernementaux.
Habr - pas un lieu pour la politique, mais un lieu pour discuter de l'éthique de certaines questions. Comprenons ce que les opinions des employeurs n'aimaient pas l'employé des sociétés.
Microsoft, Saleforce et la séparation des migrants illégaux des enfants
Un scandale éclate aux États-Unis: le public et les médias critiquent les politiques dures de l'administration présidentielle, Donald Trump, à l'égard des migrants. La stratégie de «
tolérance zéro » prévoit la désignation des restrictions et sanctions maximales possibles en vertu de la loi qui ne sont affectées par aucune circonstance atténuante. Les autorités américaines utilisent cette politique à l'égard des migrants qui sont entrés illégalement dans le pays et les séparent de leurs propres enfants. Alors que les adultes sont isolés, les enfants sont placés dans des camps spéciaux pour enfants. Le 20 juin, sous la pression de militants des droits humains et de journalistes, Trump a néanmoins
signé un décret pour mettre fin à la pratique de la séparation des familles d'immigrants illégaux.
Néanmoins, avant la signature du décret, alors que les enfants étaient toujours enlevés à leurs parents, des militants des droits de l'homme ont agi. Dans le contexte du scandale, plusieurs sociétés sont tombées sous le coup. Microsoft a été
critiqué pour sa collaboration avec la police américaine de l'immigration et des douanes (ICE). La société s'est opposée à ses propres employés.
La raison en est que la société a
annoncé en janvier 2018 un travail conjoint avec les autorités dans le domaine de la mise en œuvre des technologies de reconnaissance faciale. Ensuite, dans un communiqué de presse de Microsoft, il a déclaré que «la nouvelle technologie permettra l'utilisation de services d'identification et d'accès basés sur le cloud, au service des agents d'immigration et des douanes et des citoyens américains. Cela aidera les employés à prendre des décisions plus rapidement. «Le gouvernement Azure les aidera à tirer parti des opportunités d'apprentissage approfondi pour améliorer la technologie de reconnaissance et d'identification des visages.»
En signe de protestation,
plus de 300 employés ont signé
une lettre ouverte , refusant d'être complices de la séparation des enfants et de leurs parents. Plus tard, le chef de Microsoft, Satya Nadella, a
déclaré que la coopération ne concernait que la prise en charge du courrier électronique, du calendrier et du flux de travail.
Le 26 juin, il est devenu connu que pour la même raison, les employés de Salesforce.com, la société développant le système CRM du même nom, s'opposaient à leur employeur. 650 personnes ont
signé un appel au chef de l'entreprise, Mark Benioff, critiquant les contrats avec les services frontaliers et douaniers: «Compte tenu de la séparation inhumaine des enfants de leurs parents à la frontière, nous pensons que notre valeur fondamentale d'égalité est en jeu et que Salesforce devrait revoir contrats avec le service et dénoncer le fait de travailler avec lui. » Le service utilise un produit de Salesforce.com pour l'embauche d'employés et d'autres travaux qui ne sont pas nécessairement directement liés à ce sujet.
En raison d'un problème, un activiste nommé Sam Lavigne a compilé une liste d'informations sur les personnes travaillant pour ICE sur la base des informations disponibles sur LinkedIn et les a publiées sur Github, en les signalant à Medium. Les deux ressources ont
supprimé ces données .
Amazon et la police
L'Union américaine des libertés civiles (
ACLU ) a
exigé qu'Amazon cesse de travailler sur les systèmes de reconnaissance faciale. L'ACLU a ouvert une enquête après avoir appris que l'entreprise
proposait son développement de Rekognition à la police et à toute entreprise privée.
La technologie vous permet d'identifier, de suivre et d'analyser les visages, ainsi que de déterminer avec quoi une personne est occupée - qu'elle conduise une voiture ou joue au football. Tout se passe en temps réel. L'organisation est convaincue que cette technologie affectera de nombreuses personnes et leur permettra d'être surveillées, violant ainsi leurs droits. Avec son aide, il sera possible de savoir quand et chez quel médecin la personne s'est rendue, si elle était à l'église ou si elle a participé au rassemblement.
L'une des raisons pour lesquelles certaines organisations trouvent inacceptable d'utiliser l'IA pour surveiller en permanence les personnes est le résultat de tests montrant que les systèmes existants sont plus souvent appelés criminels comme des personnes ayant des
couleurs de peau différentes du blanc. Selon l'ACLU, «les gens devraient pouvoir simplement marcher le long de la rue jusqu'à ce que les autorités les suivent».
L'activité des organisations des droits de l'homme a eu un impact. Comme pour Microsoft, les employés d'Amazon se sont
prononcés contre le transfert de technologie policière. Dans une lettre ouverte au PDG d'Amazon, Jeff Bozos, ils ont également rappelé que dans le cloud, Amazon Web Services est loué à des serveurs par Palantir, ce qui aide la police américaine de l'immigration et des douanes. En plus de geler la coopération, les employés ont appelé à des mesures d'ouverture afin qu'à l'avenir, il soit clair quels organismes d'application de la loi utilisent les services Amazon.
La collaboration entre Amazon et la police s'effondre vraiment. À Orlando, l'un des nombreux services de police testant le système de reconnaissance
ne prolongera
pas le projet pilote.
Le fondateur de Kairos, une entreprise spécialisée dans la technologie de reconnaissance faciale, est certain qu'un tel système ne peut pas être introduit partout aux États-Unis. Selon lui, la technologie
affectera gravement la vie des personnes de races individuelles et, de plus, le fait même de son travail sera une invasion de la vie privée des citoyens. Il rappelle le nouveau
système de crédit social en Chine. La même «note» aux États-Unis peut être biaisée, conduisant à l'arrestation de personnes innocentes et, peut-être, à leur meurtre par des responsables de l'application des lois: «Dans un climat social rempli de protestations et de préoccupations concernant la détention disproportionnée dans les prisons et les actions illégales de la police, l'implication de logiciels ", qui n'est clairement pas prêt à être utilisé par les civils dans l'application des lois, ne sera pas en mesure de servir les citoyens et ne fera que provoquer de nouveaux troubles."
7 principes d'éthique de l'IA de Google
Google a passé un contrat avec le département américain de la Défense pour développer des algorithmes de vision par ordinateur dans le cadre du projet Maven. La technologie se concentre sur le développement de la vision industrielle à l'aide de réseaux de neurones, ce qui permettra la reconnaissance d'images provenant de drones militaires pour accroître l'efficacité des analystes de l'armée américaine. Ses propres employés ont commencé à
recueillir des signatures contre le développement de la technologie militaire et ont quitté l'entreprise.
Un autre groupe d'ingénieurs Google a surpris leurs managers et a simplement
refusé de travailler sur un système de sécurité utilisant «l'entrefer». Le développement d'un tel système permettrait à Google de concourir pour des contrats d'État intéressants: pour obtenir la certification pour travailler avec des informations sensibles de services spéciaux, l'entreprise a besoin de systèmes physiquement isolés. Dans les clouds Amazon et Microsoft Azure, ces technologies existent déjà. Bien que cela soit important, y compris pour les organisations financières, les programmeurs n'étaient pas sûrs que le développement n'était pas conçu pour faire la guerre et ont boycotté le projet.
Les concessions de la direction de Google ont consisté à annoncer un
ensemble de principes dans le domaine du développement de l'intelligence artificielle, que la société a promis d'adhérer, ainsi qu'une liste de technologies inacceptables pour l'intelligence artificielle de Google:
- Technologies qui causent ou peuvent causer un préjudice général;
- Armes ou autres technologies dont le but principal ou la mise en œuvre est de causer ou d'atténuer directement des dommages aux personnes;
- Les technologies qui collectent ou utilisent des informations de surveillance violent les normes internationalement reconnues;
- Technologies dont la finalité est contraire aux principes universellement reconnus du droit international et des droits de l'homme.
De plus, Google
quittera Project Maven après 2019, à la fin du contrat.
Technologie à double usage
Bon nombre des technologies disponibles aux consommateurs au XXe siècle ont été initialement développées à des fins militaires. Le téflon trouvé dans la cuisine aujourd'hui a été utilisé dans des vaisseaux spatiaux dans le passé, la sublimation des produits a été développée en raison du besoin de nourrir les soldats et la navigation par satellite a été créée pour les militaires.
Le concept de "technologie à double usage" est apparu dans les années 80, et maintenant leur exportation est réglementée par une législation spéciale dans de nombreux pays. Ces produits comprennent ce qui est utilisé à des fins civiles, mais peuvent être utilisés dans l'armée. Robotique, biotechnologies, matériaux et méthodes de traitement, électronique, lasers, navigation - les développements dans ces domaines et dans bien d'autres sont menés dans le cadre de commandes publiques, stimulant le progrès scientifique et technologique. Comme le montre l'histoire, les entreprises sont parfois critiquées par le public et leurs propres employés, ce qui les oblige à reconsidérer leurs positions sur le thème du travail avec les autorités.
La position d'Amazon a été exprimée dans une déclaration de la société: «La qualité de vie se détériorera considérablement si nous interdisons les nouvelles technologies simplement parce que certaines personnes veulent les interdire. Imaginez que les gens ne puissent pas acheter un ordinateur car il peut être utilisé à des fins illégales? "
Les dirigeants de certaines entreprises critiquent la politique de «tolérance zéro». Tim Cook
s'est prononcé contre elle: «Beaucoup d'immigrants travaillent chez Apple. Dans le cadre du programme DACA (Deferred Action for Childhood Arrivals, un programme qui protège contre l'expulsion du pays des immigrants arrivés aux États-Unis dans leur enfance), nous employons 300 personnes. Je les défends. "
Les conflits récents et même les grèves des employés ne reflètent qu'une anxiété sociale de plus en plus forte de la coopération des géants de la technologie et des organisations gouvernementales. Non seulement les amateurs de technologie, mais les gens ordinaires sont horrifiés de voir à quel
point l'infrastructure de surveillance en Chine est développée. Les différences dans la culture de la civilisation occidentale nous obligent à développer des normes de contrôle public sur la diffusion des technologies de surveillance.