Funcionários da Amazon, Google e Microsoft se rebelaram. Eles ficaram indignados com o fato de cooperar com a Petagon, serviços anti-imigração e agências policiais, de modo que a liderança dos gigantes da tecnologia teve que seguir considerações éticas. Isso privou a empresa de contratos governamentais gordos.
Habr - não um lugar para política, mas um lugar para discutir a ética de certas questões. Vamos entender o que os pontos de vista dos empregadores não gostaram do funcionário das empresas.
Microsoft, Saleforce e a separação de migrantes ilegais de crianças
Um escândalo irrompe nos Estados Unidos: o público e a mídia criticam as duras políticas do governo presidencial, Donald Trump, em relação aos migrantes. A estratégia de “
tolerância zero ” prevê a designação do máximo possível de restrições e sanções sob a lei que não são afetadas por nenhuma circunstância atenuante. As autoridades dos EUA usam essa política em relação aos migrantes que entraram ilegalmente no país e os separam de seus próprios filhos. Enquanto os adultos estão isolados, as crianças são colocadas em acampamentos especiais para crianças. Em 20 de junho, sob pressão de ativistas e jornalistas de direitos humanos, Trump
assinou um decreto para encerrar a prática de separar as famílias de imigrantes ilegais.
No entanto, antes da assinatura do decreto, quando as crianças ainda eram tiradas de seus pais, ativistas de direitos humanos agiram. No contexto do escândalo, várias empresas caíram sob a mão. A Microsoft foi
criticada por colaborar com a Polícia de Imigração e Alfândega dos EUA (ICE). A empresa foi contestada por seus próprios funcionários.
O motivo foi que a empresa, em janeiro de 2018,
anunciou um trabalho conjunto com as autoridades no campo da implementação de tecnologias de reconhecimento facial. Então, em um comunicado de imprensa da Microsoft, afirmou que “a nova tecnologia permitirá o uso de serviços de identificação e acesso baseados em nuvem, servindo aos oficiais e cidadãos de Imigração e Alfândega dos EUA. Isso ajudará os funcionários a tomar decisões mais rapidamente. "O governo do Azure os ajudará a aproveitar oportunidades de aprendizado aprofundadas para melhorar a tecnologia de reconhecimento e identificação de faces".
Em protesto,
mais de 300 funcionários assinaram
uma carta aberta , recusando-se a ser cúmplices na separação de crianças e seus pais. Mais tarde, a chefe da Microsoft, Satya Nadella,
disse que a cooperação diz respeito apenas ao suporte a email, calendário e fluxo de trabalho.
Em 26 de junho, soube-se que, pela mesma razão, os funcionários da Salesforce.com, empresa que desenvolvia o sistema de CRM com o mesmo nome, se opunham ao empregador. 650 pessoas
assinaram um apelo ao chefe da empresa, Mark Benioff, criticando os contratos com os serviços de fronteira e alfandegários: “Dada a separação desumana de filhos de seus pais na fronteira, acreditamos que nosso valor básico de igualdade está em jogo e que a Salesforce deve revisar contratos com o serviço e se manifestam contra o trabalho com ele ”. O serviço usa um produto da Salesforce.com para contratar funcionários e outro trabalho que não esteja necessariamente diretamente relacionado a este tópico.
Devido a um problema, um ativista chamado Sam Lavigne compilou uma lista de informações sobre pessoas que trabalham para o ICE com base nas informações disponíveis no LinkedIn e as publicou no Github, reportando-as ao Medium. Ambos os recursos
excluíram esses dados .
Amazônia e a polícia
A União Americana das Liberdades Civis (
ACLU )
exigiu que a Amazon parasse de trabalhar em sistemas de reconhecimento facial. A ACLU iniciou uma investigação depois que se soube que a empresa estava
oferecendo seu desenvolvimento de reconhecimento à polícia e a quaisquer empresas privadas.
A tecnologia permite identificar, rastrear e analisar rostos, além de determinar com que uma pessoa está ocupada - seja ela dirigindo um carro ou jogando futebol. Tudo acontece em tempo real. A organização está confiante de que essa tecnologia afetará muitas pessoas e permitirá que elas sejam monitoradas, violando seus direitos. Com sua ajuda, será possível descobrir quando e para qual médico a pessoa foi, se estava na igreja ou se participou da manifestação.
Uma das razões pelas quais algumas organizações acham inaceitável usar a IA para monitorar constantemente as pessoas é o resultado de testes que mostram que os sistemas existentes são mais frequentemente chamados de criminosos como pessoas com
cores de pele diferentes do branco. De acordo com a ACLU, "as pessoas devem poder andar pela rua até que as autoridades as sigam".
A atividade das organizações de direitos humanos teve um impacto. Assim como a Microsoft, os funcionários da Amazon se
manifestaram contra a transferência de tecnologia policial. Em uma carta aberta ao CEO da Amazon, Jeff Bozos, eles também lembraram que, na nuvem, a Amazon Web Services é alugada a servidores pela Palantir, que ajuda a Polícia de Imigração e Alfândega dos EUA. Além de congelar a cooperação, os funcionários pediram medidas de abertura para que, no futuro, fique claro quais agências policiais usam os serviços da Amazon.
A colaboração entre a Amazon e a polícia realmente entra em colapso. Em Orlando, um dos vários departamentos de polícia que testam o sistema de reconhecimento
não estenderá o projeto piloto.
O fundador da Kairos, uma empresa especializada em tecnologia de reconhecimento de rosto, tem certeza de que esse sistema não pode ser introduzido em qualquer lugar dos EUA. Na sua opinião, a tecnologia
afetará seriamente a vida das pessoas de raças individuais e, além disso, o próprio fato de seu trabalho será uma invasão da vida privada dos cidadãos. Recorda o emergente
sistema de crédito social na China. A mesma “classificação” nos Estados Unidos pode ser tendenciosa, levando à prisão de pessoas inocentes e, possivelmente, à sua morte por agentes da lei: “Em um clima social repleto de protestos e preocupação com a detenção desproporcional em prisões e ações policiais ilegais, o envolvimento de software ", que claramente não está pronto para uso civil na aplicação da lei, não será capaz de servir os cidadãos e só causará nova agitação".
7 princípios de ética da IA do Google
O Google contratou o Departamento de Defesa dos EUA para desenvolver algoritmos de visão por computador como parte do Projeto Maven. A tecnologia se concentra no desenvolvimento da visão de máquina usando redes neurais, o que permitirá o reconhecimento de imagens de drones militares para aumentar a eficiência dos analistas do Exército dos EUA. Os próprios funcionários começaram a
coletar assinaturas contra o desenvolvimento da tecnologia militar e deixaram a empresa.
Outro grupo de engenheiros do Google surpreendeu seus gerentes e simplesmente
se recusou a trabalhar em um sistema de segurança usando o "espaço aéreo". O desenvolvimento desse sistema permitiria ao Google competir por contratos estatais interessantes: para obter a certificação para trabalhar com informações confidenciais de serviços especiais, a empresa precisa de sistemas fisicamente isolados. Nas nuvens Amazon e Microsoft Azure, essas tecnologias já existem. Embora isso seja importante, inclusive para organizações financeiras, os programadores não tinham certeza de que o desenvolvimento não foi projetado para a guerra e boicotaram o projeto.
As concessões da liderança do Google consistiram em anunciar um
conjunto de princípios no campo do desenvolvimento da inteligência artificial, aos quais a empresa prometeu aderir, bem como uma lista de tecnologias inaceitáveis para a inteligência artificial do Google:
- Tecnologias que causam ou podem causar danos gerais;
- Armas ou outras tecnologias, cujo principal objetivo ou implementação é causar ou aliviar diretamente danos a pessoas;
- As tecnologias que coletam ou usam informações de vigilância violam padrões internacionalmente reconhecidos;
- Tecnologias cujo objetivo é contrário aos princípios universalmente reconhecidos do direito internacional e dos direitos humanos.
Além disso, o Google
deixará o Project Maven após 2019, quando o contrato terminar.
Tecnologia de uso duplo
Muitas das tecnologias do século XX disponíveis para os consumidores foram originalmente desenvolvidas para fins militares. O teflon encontrado na cozinha hoje era usado em naves espaciais no passado, sublimação de produtos desenvolvidos devido à necessidade de alimentar soldados e a navegação por satélite foi criada para os militares.
O conceito de "tecnologia de uso duplo" surgiu na década de 1980 e agora sua exportação é regulada por legislação especial em muitos países. Esses produtos incluem o que é usado para fins civis, mas pode ser usado nas forças armadas. Robótica, biotecnologias, materiais e métodos de processamento, eletrônicos, lasers, navegação - desenvolvimentos nessas e em muitas outras áreas são realizados no âmbito de ordens estaduais, estimulando o progresso científico e tecnológico. Como a história mostra, às vezes as empresas são criticadas pelo público e por seus próprios funcionários, o que as obriga a reconsiderar suas posições no tópico de trabalhar com as autoridades.
A posição da Amazon foi expressa em uma declaração da empresa: “A qualidade de vida se deteriorará bastante se proibirmos novas tecnologias simplesmente porque algumas pessoas querem proibi-las. Imagine que as pessoas não podem comprar um computador porque ele pode ser usado para fins ilegais? "
Os chefes de algumas empresas criticam a política de "tolerância zero". Tim Cook
falou contra ela: “Muitos imigrantes trabalham na Apple. Como parte do programa DACA (Ação Diferida para Chegadas de Infância, um programa que protege contra a expulsão do país de imigrantes que vieram para os Estados Unidos quando criança), empregamos 300 pessoas. Eu defendo eles. "
Conflitos recentes e até greves de funcionários refletem apenas uma ansiedade social cada vez mais forte da cooperação de empresas gigantes de tecnologia e organizações governamentais. Não apenas os entusiastas da tecnologia, mas as pessoas comuns ficam horrorizadas ao ver quão
bem desenvolvida é a infraestrutura de vigilância na China. As diferenças na cultura da civilização ocidental nos forçam a desenvolver normas de controle público sobre a expansão das tecnologias de vigilância.