“Acreditamos que o Google não deve se tornar parte dos negócios militares. Portanto, pedimos à empresa que cancele o projeto Maven, além de publicar e aplicar uma política que indique claramente que nem o Google nem seus contratados jamais criarão tecnologia militar ”, começa o texto da carta coletiva ao empregador, que agora está sendo massivamente assinada pelos funcionários do Google. O documento já foi assinado por
mais de 3.100 pessoas , de
acordo com o NY Times . Os editores receberam o
texto (pdf) .
Como ficou conhecido há um mês, o gigante das buscas
assinou um contrato com o Departamento de Defesa dos EUA . Como parte
do projeto Maven, no final de 2017, planejava-se "introduzir algoritmos avançados de computador em plataformas governamentais para reconhecer objetos em um grande número de imagens em movimento ou estáticas". De fato, este é um sistema de visão de máquina para UAVs militares.
Na carta, o projeto Maven é descrito brevemente como "um mecanismo de IA personalizado que usa os dados de imagens em movimento de área ampla coletados por veículos aéreos não tripulados do governo dos EUA para detectar veículos e outros objetos, rastrear seus movimentos e transmitir resultados de reconhecimento ao Departamento de Defesa".
Entre os funcionários comuns do Google, há uma
discussão sobre o projeto há pelo menos um mês . A carta diz que, a princípio, eles tentaram discutir o problema dentro da empresa. A equipe foi abordada pela presidente do conselho de administração do Google Diane Greene (Diane Greene). Ela garantiu que a tecnologia do Google não "controlará drones" e "não será usada para lançar armas". Como se esses fatos fossem suficientes para tranquilizar a todos. Mas não. De fato, a tecnologia pode ser usada para um grande número de outras aplicações militares, incluindo UAVs de combate que carregam armas mortais a bordo. E ninguém garante que o operador do UAV decida usar essa arma depois de receber dados do Google. Programadores civis comuns, especialistas em visão de máquina e inteligência artificial não querem assumir essa responsabilidade.
No outono de 2017, em uma cúpula sobre Inteligência Artificial e Sistemas de Segurança Global, Eric Schmidt
expressou preocupação de que tais sistemas avançados de visão por computador e IA possam "ser usados incorretamente pelos militares para matar pessoas". Segundo ele, no setor de tecnologia há alguma preocupação com isso, porque, de um modo geral, as empresas de TI não estão desenvolvendo sistemas de visão de máquina. Muitos cientistas e pesquisadores de universidades e departamentos de IA não sugerem que seu desenvolvimento possa ser usado dessa maneira.
O Pentágono acredita em contrário. O projeto Maven foi lançado em abril de 2017 e, no ano passado, o Departamento de Defesa investiu um total de US $ 7,4 bilhões em áreas relacionadas à Inteligência Artificial,
escreveu o Wall Street Journal . Agora todo o trabalho na compra de equipamentos e software, bem como na implementação de sistemas de IA, é coordenado dentro da estrutura do projeto Maven. A principal tarefa é o reconhecimento de objetos e o processamento analítico de um grande número de quadros de vídeo gravados por drones de reconhecimento. Com base nessas informações, é possível tomar decisões para destruir alvos.
"Esse plano danifica irreparavelmente a marca e a capacidade do Google de competir no mercado de trabalho", afirmou a carta. - Em meio ao crescente medo de uma IA armada e tendenciosa, o Google já está lutando para manter a confiança do público. Ao assinar este contrato, o Google se juntará a fileiras de empresas como Palantir, Raytheon e General Dynamics. O argumento de que outras empresas, como Microsoft e Amazon, também estão participando do projeto, não reduz os riscos para o Google. "A história única do Google, seu lema
Don't Be Evil e o impacto direto na vida de bilhões de pessoas estão tirando isso da cena".
Os funcionários acreditam que é
impossível transferir para pessoas não autorizadas a responsabilidade moral pelo uso das tecnologias criadas . Os valores declarados do Google deixam claro que cada usuário confia na empresa. Você nunca pode arriscar. Este contrato compromete a reputação do Google e contradiz diretamente os principais valores. "A criação desta tecnologia para ajudar o governo dos EUA em inteligência militar - e potencialmente fatalidades - é inaceitável", afirmou a carta.
Assim, milhares de funcionários que assinaram a carta perguntam à gerência:
- Cancele o projeto imediatamente.
- Crie, publique e aplique uma política clara que indique que nem o Google nem seus contratados criarão tecnologia para a guerra.
Em resposta a reclamações públicas, o Google
cancelou a
inscrição de que o Pentágono usa "software gratuito disponível para qualquer usuário do Google Cloud". A tecnologia "é usada para identificar imagens candidatas a serem estudadas por uma pessoa e é projetada para salvar vidas humanas e impedir que as pessoas tenham que fazer um trabalho muito tedioso".
Segundo as informações disponíveis, em um futuro próximo, Google, Amazon e Microsoft argumentarão por um contrato de vários bilhões de dólares para a prestação de serviços em nuvem ao Departamento de Defesa dos EUA.
