Los empleados de Amazon, Google, Microsoft se rebelaron. Estaban indignados por el hecho de la cooperación con Petagon, los servicios contra la inmigración y las agencias de aplicación de la ley, por lo que el liderazgo de los gigantes tecnológicos tuvo que seguir consideraciones éticas. Esto privó a la compañía de contratos gordos del gobierno.
Habr: no es un lugar para la política, sino un lugar para discutir la ética de ciertos temas. Comprendamos lo que no le gustó a los empleados de las corporaciones.
Microsoft, Saleforce y la separación de los inmigrantes ilegales de los niños.
Un escándalo estalla en los Estados Unidos: el público y los medios critican las duras políticas de la administración presidencial, Donald Trump, en relación con los migrantes. La estrategia de "
tolerancia cero " prevé la designación de las restricciones y sanciones máximas posibles bajo la ley que no se ven afectadas por ninguna circunstancia atenuante. Las autoridades estadounidenses usan esta política en relación con los migrantes que ingresaron ilegalmente al país y los separan de sus propios hijos. Mientras los adultos están aislados, los niños son colocados en campamentos especiales para niños. El 20 de junio, bajo la presión de activistas de derechos humanos y periodistas, Trump
firmó un decreto para poner fin a la práctica de separar a las familias de los inmigrantes ilegales.
Sin embargo, antes de que se firmara el decreto, cuando los niños aún se los arrebataron a sus padres, los activistas de derechos humanos actuaron. En el contexto del escándalo, varias corporaciones cayeron bajo la mano. Microsoft ha sido
criticado por colaborar con la Policía de Inmigración y Aduanas de EE. UU. (ICE). La compañía fue rechazada por sus propios empleados.
La razón fue que la compañía
anunció en enero de 2018 un trabajo conjunto con las autoridades en el campo de la implementación de tecnologías de reconocimiento facial. Luego, en un comunicado de prensa de Microsoft, declaró que "la nueva tecnología permitirá el uso de servicios de identificación y acceso basados en la nube, sirviendo tanto a ciudadanos como a funcionarios de inmigración y aduanas de los Estados Unidos. Esto ayudará a los empleados a tomar decisiones más rápido. "Azure Government les ayudará a aprovechar las oportunidades de aprendizaje en profundidad para mejorar la tecnología de reconocimiento facial e identificación".
En protesta,
más de 300 empleados firmaron
una carta abierta , negándose a ser cómplices en la separación de los niños y sus padres. Más tarde, la directora de Microsoft, Satya Nadella,
dijo que la cooperación solo se refiere al soporte para correo electrónico, calendario y flujo de trabajo.
El 26 de junio, se supo que, por la misma razón, los empleados de Salesforce.com, la compañía que desarrolla el sistema CRM del mismo nombre, se opusieron a su empleador. 650 personas
firmaron una apelación al jefe de la compañía, Mark Benioff, criticando los contratos con la frontera y los servicios de aduanas: “Dada la separación inhumana de los niños de sus padres en la frontera, creemos que nuestro valor básico de igualdad está en juego, y que Salesforce debería revisar contrata el servicio y habla en contra de trabajar con él ". El servicio utiliza un producto de Salesforce.com para contratar empleados y otros trabajos que no están necesariamente relacionados directamente con este tema.
Debido a un problema, un activista llamado Sam Lavigne compiló una lista de información sobre las personas que trabajan para ICE sobre la base de la información disponible en LinkedIn y la publicó en Github, informándola a Medium. Ambos recursos
eliminaron estos datos .
Amazon y la policía
La American Civil Liberties Union (
ACLU ) ha
exigido que Amazon deje de trabajar en sistemas de reconocimiento facial. La ACLU comenzó una investigación después de que se supo que la compañía estaba
ofreciendo su desarrollo de Rekognition a la policía y a cualquier compañía privada.
La tecnología le permite identificar, rastrear y analizar rostros, así como determinar con qué está ocupada una persona, ya sea que conduzca un automóvil o juegue al fútbol. Todo pasa en tiempo real. La organización confía en que esta tecnología afectará a muchas personas y les permitirá ser monitoreadas, violando sus derechos. Con su ayuda, será posible averiguar cuándo y a qué médico acudió la persona, si estaba en la iglesia o si participó en la manifestación.
Una de las razones por las que algunas organizaciones consideran inaceptable usar IA para monitorear constantemente a las personas son los resultados de las pruebas que muestran que los sistemas existentes se refieren con mayor frecuencia a los delincuentes como personas con diferentes
colores de piel que el blanco. Según ACLU, "la gente debería poder caminar por la calle hasta que las autoridades los sigan".
La actividad de las organizaciones de derechos humanos ha tenido un impacto. Al igual que con Microsoft, los empleados de Amazon se
manifestaron en contra de la transferencia de tecnología policial. En una carta abierta al CEO de Amazon, Jeff Bozos, también recordaron que en la nube, Palantir alquila los servicios web de Amazon a los servidores, lo que ayuda a la Policía de Inmigración y Aduanas de EE. UU. Además de congelar la cooperación, los empleados pidieron medidas de apertura para que en el futuro quede claro qué agencias de aplicación de la ley usan los servicios de Amazon.
La colaboración entre Amazon y la policía realmente se derrumba. En Orlando, uno de los varios departamentos de policía que prueban el sistema Rekognition
no extenderá el proyecto piloto.
El fundador de Kairos, una compañía que se especializa en tecnología de reconocimiento facial, está seguro de que dicho sistema no se puede introducir en todas partes de los EE. UU. En su opinión, la tecnología
afectará seriamente la vida de las personas de razas individuales y, además, el hecho mismo de su trabajo será una invasión de la vida privada de los ciudadanos. Recuerda el emergente
sistema de crédito social en China. La misma "calificación" en los Estados Unidos puede ser parcial, lo que lleva al arresto de personas inocentes y, posiblemente, a su asesinato por parte de los funcionarios encargados de hacer cumplir la ley: "En un clima social lleno de protestas y preocupación por la detención desproporcionada en las cárceles y las acciones ilegales de la policía, la participación del software ", que claramente no está listo para el uso civil en la aplicación de la ley, no podrá servir a los ciudadanos y solo causará nuevos disturbios".
7 principios de ética de la IA de Google
Google ha contratado al Departamento de Defensa de los EE. UU. Para desarrollar algoritmos de visión por computadora como parte del Proyecto Maven. La tecnología se centra en el desarrollo de la visión artificial utilizando redes neuronales, lo que permitirá el reconocimiento de imágenes de drones militares para aumentar la eficiencia de los analistas en el ejército de los EE. UU. Los propios empleados comenzaron a
recolectar firmas contra el desarrollo de la tecnología militar y abandonaron la empresa.
Otro grupo de ingenieros de Google sorprendió a sus gerentes y simplemente se
negó a trabajar en un sistema de seguridad utilizando el "espacio de aire". El desarrollo de dicho sistema permitiría a Google competir por interesantes contratos estatales: para obtener la certificación para trabajar con información sensible de servicios especiales, la empresa necesita sistemas físicamente aislados. En las nubes Amazon y Microsoft Azure, estas tecnologías ya existen. Aunque esto es importante, incluso para las organizaciones financieras, los programadores no estaban seguros de que el desarrollo no fuera diseñado para hacer la guerra, y boicotearon el proyecto.
Las concesiones del liderazgo de Google consistieron en anunciar un
conjunto de principios en el campo del desarrollo de inteligencia artificial, que la compañía prometió cumplir, así como una lista de tecnologías que son inaceptables para la inteligencia artificial de Google:
- Tecnologías que causan o pueden causar daño general;
- Armas u otras tecnologías, cuyo objetivo principal o implementación es causar o aliviar directamente el daño a las personas;
- Las tecnologías que recopilan o usan información de vigilancia violan estándares reconocidos internacionalmente;
- Tecnologías cuyo propósito es contrario a los principios universalmente reconocidos del derecho internacional y los derechos humanos.
Además, Google
abandonará Project Maven después de 2019, cuando finalice el contrato.
Tecnología de doble uso
Muchas de las tecnologías del siglo XX disponibles para los consumidores se desarrollaron originalmente para fines militares. El teflón encontrado en la cocina hoy se usó en naves espaciales en el pasado, sublimación de productos desarrollados debido a la necesidad de alimentar a los soldados, y se creó la navegación por satélite para los militares.
El concepto de "tecnología de doble uso" apareció en la década de 1980, y ahora su exportación está regulada por una legislación especial en muchos países. Dichos productos incluyen lo que se usa para fines civiles, pero se pueden usar en el ejército. Robótica, biotecnologías, materiales y métodos de procesamiento, electrónica, láser, navegación: los desarrollos en estas y muchas otras áreas se llevan a cabo en el marco de órdenes estatales, estimulando el progreso científico y tecnológico. Como muestra la historia, a veces las corporaciones son criticadas por el público y sus propios empleados, lo que les obliga a reconsiderar sus posiciones sobre el tema de trabajar con las autoridades.
La posición de Amazon se expresó en una declaración de la compañía: "La calidad de vida se deteriorará enormemente si prohibimos las nuevas tecnologías simplemente porque algunas personas quieren prohibirlas. ¿Imagina que las personas no pueden comprar una computadora porque puede usarse con fines ilegales? "
Los jefes de algunas empresas critican la política de "tolerancia cero". Tim Cook
habló en contra de ella: “Muchos inmigrantes trabajan en Apple. Como parte del programa DACA (Acción Diferida para los Llegados en la Infancia, un programa que protege contra la expulsión del país de inmigrantes que llegaron a los Estados Unidos cuando eran niños), empleamos a 300 personas. Los defiendo ".
Los conflictos recientes e incluso las huelgas de los empleados solo reflejan una ansiedad social cada vez más fuerte por la cooperación de las compañías gigantes tecnológicas y las organizaciones gubernamentales. No solo los entusiastas de la tecnología, sino la gente común se horroriza al ver qué tan
bien desarrollada está la infraestructura de vigilancia en China. Las diferencias en la cultura de la civilización occidental nos obligan a desarrollar normas de control público sobre la difusión de las tecnologías de vigilancia.