Mitarbeiter von Amazon, Google, Microsoft rebellierten. Sie waren empört über die Zusammenarbeit mit Petagon, Einwanderungsschutzbehörden und Strafverfolgungsbehörden, weshalb die Führung der Technologiegiganten ethischen Erwägungen folgen musste. Dies beraubte das Unternehmen der fetten Regierungsverträge.
Habr - kein Ort für Politik, sondern ein Ort für die Diskussion der Ethik bestimmter Themen. Lassen Sie uns verstehen, was die Ansichten der Arbeitgeber den Arbeitnehmer von Unternehmen nicht mochten.
Microsoft, Saleforce und die Trennung illegaler Migranten von Kindern
In den Vereinigten Staaten bricht ein Skandal aus: Die Öffentlichkeit und die Medien kritisieren die strenge Politik der Präsidialverwaltung Donald Trump gegenüber Migranten. Die
Null-Toleranz- Strategie sieht die Festlegung der maximal möglichen Beschränkungen und Sanktionen nach dem Gesetz vor, die nicht von mildernden Umständen betroffen sind. Die US-Behörden wenden diese Richtlinie in Bezug auf Migranten an, die illegal in das Land eingereist sind und diese von ihren eigenen Kindern trennen. Während Erwachsene isoliert sind, werden Kinder in speziellen Kinderlagern untergebracht. Am 20. Juni
unterzeichnete Trump unter dem Druck von Menschenrechtsaktivisten und Journalisten dennoch
ein Dekret, um die Praxis der Trennung der Familien illegaler Einwanderer zu beenden.
Dennoch handelten Menschenrechtsaktivisten, bevor das Dekret unterzeichnet wurde, als die Kinder noch von ihren Eltern weggenommen wurden. Vor dem Hintergrund des Skandals fielen mehrere Unternehmen unter die Hand. Microsoft wurde für die Zusammenarbeit mit der US-amerikanischen Einwanderungs- und Zollpolizei (ICE)
kritisiert . Das Unternehmen wurde von seinen eigenen Mitarbeitern abgelehnt.
Der Grund war, dass das Unternehmen im Januar 2018 eine gemeinsame Arbeit mit den Behörden im Bereich der Implementierung von Gesichtserkennungstechnologien
ankündigte . In einer Pressemitteilung von Microsoft heißt es dann: „Die neue Technologie wird die Nutzung von Cloud-basierten Identifikations- und Zugangsdiensten ermöglichen, die sowohl US-Einwanderungs- als auch Zollbeamten und Bürgern dienen. Dies hilft den Mitarbeitern, Entscheidungen schneller zu treffen. "Die Azure-Regierung wird ihnen dabei helfen, umfassende Lernmöglichkeiten zu nutzen, um die Technologie zur Gesichtserkennung und -identifizierung zu verbessern."
Aus Protest unterzeichneten
mehr als 300 Mitarbeiter einen
offenen Brief , in dem sie sich weigerten, Komplizen bei der Trennung von Kindern und ihren Eltern zu sein. Später
sagte die Leiterin von Microsoft, Satya Nadella, dass die Zusammenarbeit nur die Unterstützung von E-Mail, Kalender und Workflow betrifft.
Am 26. Juni wurde bekannt, dass sich Mitarbeiter von Salesforce.com, dem Unternehmen, das das gleichnamige CRM-System entwickelt, aus demselben Grund gegen ihren Arbeitgeber aussprachen. 650 Personen
unterschrieben einen Appell an den Leiter des Unternehmens, Mark Benioff, und kritisierten die Verträge mit der Grenze und den Zolldiensten: „Angesichts der unmenschlichen Trennung von Kindern von ihren Eltern an der Grenze glauben wir, dass unser Grundwert der Gleichstellung auf dem Spiel steht und dass Salesforce dies überprüfen sollte Verträge mit dem Dienst abschließen und sich gegen eine Zusammenarbeit aussprechen. “ Der Service verwendet ein Produkt von Salesforce.com, um Mitarbeiter und andere Arbeiten einzustellen, die nicht unbedingt in direktem Zusammenhang mit diesem Thema stehen.
Aufgrund eines Problems hat ein Aktivist namens Sam Lavigne eine Liste mit Informationen über Personen, die für ICE arbeiten, auf der Grundlage der auf LinkedIn verfügbaren Informationen zusammengestellt und auf Github veröffentlicht und an Medium gemeldet. Beide Ressourcen haben
diese Daten gelöscht .
Amazon und die Polizei
Die American Civil Liberties Union (
ACLU ) hat
gefordert, dass Amazon nicht mehr an Gesichtserkennungssystemen arbeitet. Die ACLU leitete eine Untersuchung ein, nachdem bekannt wurde, dass das Unternehmen der Polizei und allen privaten Unternehmen
die Entwicklung der Anerkennung
anbot .
Mit dieser Technologie können Sie Gesichter identifizieren, verfolgen und analysieren sowie feststellen, womit eine Person beschäftigt ist - ob sie Auto fährt oder Fußball spielt. Alles geschieht in Echtzeit. Die Organisation ist zuversichtlich, dass diese Technologie viele Menschen betreffen und ihnen die Überwachung ermöglichen wird, wodurch ihre Rechte verletzt werden. Mit seiner Hilfe wird es möglich sein herauszufinden, wann und zu welchem Arzt die Person gegangen ist, ob sie in der Kirche war oder ob sie an der Kundgebung teilgenommen hat.
Einer der Gründe, warum es für einige Unternehmen nicht akzeptabel ist, KI zur ständigen Überwachung von Personen zu verwenden, sind die Ergebnisse von Tests, die zeigen, dass vorhandene Systeme Kriminelle häufiger als Personen mit anderen
Hautfarben als Weiß bezeichnen. Laut ACLU sollten „die Menschen nur die Straße entlang gehen können, bis die Behörden ihnen folgen“.
Die Aktivitäten von Menschenrechtsorganisationen haben Auswirkungen gehabt. Wie bei Microsoft haben sich Amazon-Mitarbeiter gegen den Technologietransfer der Polizei ausgesprochen. In einem offenen Brief an Jeff Bozos, CEO von Amazon, erinnerten sie auch daran, dass Amazon Web Services in der Cloud von Palantir an Server vermietet werden, was der US-Einwanderungs- und Zollpolizei hilft. Neben dem Einfrieren der Zusammenarbeit forderten die Mitarbeiter Offenheitsmaßnahmen, damit in Zukunft klar ist, welche Strafverfolgungsbehörden Amazon-Dienste nutzen.
Die Zusammenarbeit zwischen Amazon und der Polizei bricht wirklich zusammen. In Orlando wird eine von mehreren Polizeibehörden, die das Erkennungssystem testen, das Pilotprojekt
nicht verlängern.
Der Gründer von Kairos, einem auf Gesichtserkennungstechnologie spezialisierten Unternehmen, ist sich sicher, dass ein solches System nicht überall in den USA eingeführt werden kann. Seiner Meinung nach wird Technologie das Leben von Menschen einzelner Rassen
ernsthaft beeinträchtigen , und darüber hinaus wird die Tatsache ihrer Arbeit eine Invasion des Privatlebens der Bürger sein. Es erinnert an das aufkommende soziale Kreditsystem in China. Die gleiche „Bewertung“ in den Vereinigten Staaten kann voreingenommen sein, was zur Verhaftung unschuldiger Menschen und möglicherweise zu deren Tötung durch Strafverfolgungsbeamte führt: „In einem sozialen Klima voller Proteste und Besorgnis über unverhältnismäßige Inhaftierungen in Gefängnissen und illegale Polizeiaktionen die Beteiligung von Software "Die eindeutig nicht für den zivilen Einsatz in der Strafverfolgung bereit ist, wird den Bürgern nicht dienen können und nur neue Unruhen verursachen."
7 ethische Grundsätze der KI von Google
Google hat mit dem US-Verteidigungsministerium einen Vertrag über die Entwicklung von Computer-Vision-Algorithmen im Rahmen von Project Maven abgeschlossen. Die Technologie konzentriert sich auf die Entwicklung der Bildverarbeitung mithilfe neuronaler Netze, die die Erkennung von Bildern von Militärdrohnen ermöglichen, um die Effizienz von Analysten in der US-Armee zu steigern. Eigene Mitarbeiter
sammelten Unterschriften gegen die Entwicklung der Militärtechnologie und verließen das Unternehmen.
Eine andere Gruppe von Google-Ingenieuren überraschte ihre Manager und
weigerte sich einfach, über den „Luftspalt“ an einem Sicherheitssystem zu arbeiten. Die Entwicklung eines solchen Systems würde es Google ermöglichen, um interessante staatliche Verträge zu konkurrieren: Um eine Zertifizierung für die Arbeit mit sensiblen Informationen über spezielle Dienste zu erhalten, benötigt das Unternehmen physisch isolierte Systeme. In den Amazon- und Microsoft Azure-Clouds sind diese Technologien bereits vorhanden. Obwohl dies auch für Finanzorganisationen wichtig ist, waren sich die Programmierer nicht sicher, ob die Entwicklung nicht auf Krieg ausgelegt war, und boykottierten das Projekt.
Die Zugeständnisse der Google-Führung bestanden darin, eine
Reihe von Grundsätzen im Bereich der Entwicklung künstlicher Intelligenz bekannt zu geben, deren Einhaltung das Unternehmen versprochen hatte, sowie eine Liste von Technologien, die für künstliche Intelligenz von Google nicht akzeptabel sind:
- Technologien, die allgemeinen Schaden verursachen oder verursachen können;
- Waffen oder andere Technologien, deren Hauptzweck oder Implementierung darin besteht, Menschen Schaden zuzufügen oder sie direkt zu lindern;
- Technologien, die Überwachungsinformationen sammeln oder verwenden, verstoßen gegen international anerkannte Standards.
- Technologien, deren Zweck den allgemein anerkannten Grundsätzen des Völkerrechts und der Menschenrechte widerspricht.
Darüber hinaus
verlässt Google Project Maven nach 2019, wenn der Vertrag endet.
Dual-Use-Technologie
Viele der den Verbrauchern zur Verfügung stehenden Technologien des 20. Jahrhunderts wurden ursprünglich für militärische Zwecke entwickelt. Das heute in der Küche gefundene Teflon wurde in der Vergangenheit in Raumschiffen verwendet, die Sublimation von Produkten wurde aufgrund der Notwendigkeit, Soldaten zu ernähren, entwickelt und die Satellitennavigation wurde für das Militär geschaffen.
Das Konzept der "Dual-Use-Technologie" wurde in den 1980er Jahren eingeführt, und jetzt wird ihr Export in vielen Ländern durch spezielle Gesetze geregelt. Solche Produkte umfassen das, was für zivile Zwecke verwendet wird, können aber im Militär verwendet werden. Robotik, Biotechnologien, Materialien und Methoden ihrer Verarbeitung, Elektronik, Laser, Navigation - Entwicklungen in diesen und vielen anderen Bereichen werden im Rahmen staatlicher Ordnungen durchgeführt, was den wissenschaftlichen und technologischen Fortschritt vorantreibt. Wie die Geschichte zeigt, werden Unternehmen manchmal von der Öffentlichkeit und ihren eigenen Mitarbeitern kritisiert, was sie dazu zwingt, ihre Positionen zum Thema Zusammenarbeit mit den Behörden zu überdenken.
Die Position von Amazon wurde in einer Erklärung des Unternehmens zum Ausdruck gebracht: „Die Lebensqualität wird sich erheblich verschlechtern, wenn wir neue Technologien verbieten, nur weil einige Leute sie verbieten wollen. Stellen Sie sich vor, die Leute können keinen Computer kaufen, weil er für illegale Zwecke verwendet werden kann? "
Die Leiter einiger Unternehmen kritisieren die Null-Toleranz-Politik. Tim Cook
sprach sich gegen sie aus: „Viele Einwanderer arbeiten bei Apple. Im Rahmen des DACA-Programms (Deferred Action for Childhood Arrivals, ein Programm, das vor der Vertreibung von Einwanderern aus dem Land schützt, die als Kind in die USA gekommen sind) beschäftigen wir 300 Mitarbeiter. Ich stehe für sie. "
Die jüngsten Konflikte und sogar Streiks von Mitarbeitern spiegeln nur eine zunehmend starke soziale Besorgnis wider, die sich aus der Zusammenarbeit von Technologie-Riesenunternehmen und Regierungsorganisationen ergibt. Nicht nur Technikbegeisterte, sondern auch normale Menschen sind entsetzt darüber, wie
gut die Überwachungsinfrastruktur in China entwickelt ist. Unterschiede in der Kultur der westlichen Zivilisation zwingen uns, Normen der öffentlichen Kontrolle über die Verbreitung von Überwachungstechnologien zu entwickeln.