No começo era a palavra. E a palavra é código.
Nos países do primeiro mundo, as altas tecnologias gerenciam o fornecimento de energia e a logística, fornecem acesso a informações e serviços. Os médicos a uma distância de vários milhares de quilômetros do paciente realizam operações no cérebro usando ferramentas robóticas. Podemos conversar com parentes e amigos a qualquer momento, estando no fundo da Terra.
E também linhas de controle de código drones de choque, cujos operadores não escolhem particularmente quem foi atacado - militantes ou não combatentes. Eles formam os mecanismos de retenção de atenção nas redes sociais, causando cenários comportamentais viciantes, FoMO (medo de perder, esgotamento da dopamina e depressão). Gerencie os mercados eletrônicos de drogas e armas da DarkNet.
A profissão de desenvolvedor de TI cresceu e amadureceu - após os direitos e privilégios, é hora de aparecerem responsabilidades e restrições. Então costumava ser com médicos, costumava ser com os militares.
Para a barreira!
O desenvolvedor retorna do trabalho, na cabeça há uma lista de verificação de sua esposa "compre bálsamo de salsicha com óleo de pão de repolho inteiro para esponjas de boi do novo número da navalha Cosmo de Vênus -" e nem sequer lhe ocorre isso ao mesmo tempo graças ao seu código no extremo nevado o polígono caminha ao longo das colinas da borda. Enquanto isso, o desenvolvedor lembra que a lista também inclui "óleo de bebê e iogurte Johnsons com bactérias benéficas".
O arquiteto de TI senta-se em uma confortável poltrona de couro, olha para o homem de uniforme oposto e suprime o desejo instintivo de latir “Sim-sim, senhor!”. E ele também, vagamente, embora aproximadamente saiba para onde o código de sua equipe acabará indo.
Proprietários de empresas, bebendo Glenfiddich 1937, juntamente com um general de dez estrelas, já estão calculando os lucros do projeto conjunto.
A responsabilidade coletiva é boa em palavras. Mas é muito pouco aplicável na realidade. Um artista comum nunca pensa realmente em como suas realizações são usadas em geral. Além disso, a “ realidade que nos é dada pelas sensações ” sugere que os conceitos de bem absoluto e mal absoluto são muito arbitrários - e dependem não apenas da época e do contexto cultural, mas às vezes simplesmente das coordenadas geográficas e da demanda política.
Vale a pena pensar em ética, o principal é não entrar em um famoso hóquei:
“Os homens desejam carne masculina.
Estou sozinho com uma espada na capa de um mosqueteiro.
Longe de prazeres cruéis.
Boa Corporação e Projeto Maven
Em março de 2018, ficou claro que o Google estava ajudando o Pentágono a desenvolver inteligência artificial, que analisava vídeos de drones de combate em tempo real. A alta gerência do Google elogiou o valor desse projeto - o orçamento chegaria a US $ 250 milhões.
O Project Maven é um software especializado para fotografia aérea de alta altitude, capaz de reconhecer objetos em movimento, rastrear sua trajetória de movimento e transmitir informações em tempo real para os servidores do Departamento de Defesa dos EUA.
Cerca de quatro mil funcionários do Google assinaram uma petição exigindo que a "boa corporação" parasse de participar do projeto Project Maven, além de evitar projetos conjuntos com o Pentágono no futuro. Em uma petição, os desenvolvedores do Google disseram: “ Acreditamos que o Google não deve se envolver em negócios militares. Portanto, pedimos que você anule o Project Maven, além de preparar, publicar e aplicar uma política clara e precisa de que o Google e seus contratados nunca criarão tecnologia de combate . ”
A petição dos desenvolvedores do Google em uma carta aberta foi apoiada por 90 cientistas conhecidos que trabalham no campo da inteligência artificial. Além disso, a Tech Workers Coalition, uma organização sem fins lucrativos que reúne trabalhadores de TI nos estados da Califórnia e Washington, apelou a outras grandes empresas de TI para se recusarem a cooperar com o Departamento de Defesa dos EUA.
Os funcionários do Google que se opuseram ao projeto Maven explicaram sua posição da seguinte maneira: as pessoas devem analisar as informações dos drones de batalha, não da inteligência artificial, porque o preço do erro é muito alto. Sem dúvida, a inteligência artificial pode distinguir um objeto em movimento de um imóvel e uma criatura viva de um objeto inanimado. Mas determinar se uma pessoa é militante ou não combatente não pode.
É claro que o Pentágono é profundamente estrelado, quantos civis cairão sob bombardeios humanitários. Mas, como mostrou a reação do Google, os desenvolvedores não se importam com o uso do código.
O Gizmodo, citando fontes no Google, compartilhou informações que, como resultado, cerca de 10 funcionários deixaram a empresa por razões éticas.
Um dos desistentes disse: " Em algum momento, percebi que não podia aconselhar voluntariamente ninguém a ir ao Google, sabendo o que sei. E se eu não posso mais recomendar esta empresa a outras pessoas, por que ainda estou aqui? "
Representantes do Google não começaram a discutir com a imprensa a demissão de funcionários. Mas em junho de 2018, a empresa se recusou a cumprir o pedido do Pentágono.
O Departamento de Defesa dos EUA conseguiu o que queria de qualquer maneira. Em vez do Google, os serviços de desenvolvimento foram oferecidos pela Anduril Industries, cujo proprietário é Palmer Lucky, inventor do capacete de realidade virtual Oculus Rift e um dos fundadores da Oculus VR, que claramente não está muito preocupado com questões éticas no desenvolvimento da tecnologia militar.
Good Corporation e o mecanismo de busca chinês
Uma fama um pouco menor foi a história do desenvolvimento de um mecanismo de busca para a China. A política de informações da China é bem conhecida - o projeto Golden Shield bloqueia o acesso a vários sites estrangeiros, a mídia chinesa não pode vincular notícias obtidas de sites de notícias estrangeiros sem permissão especial, as páginas dos resultados da pesquisa são filtradas por palavras-chave relacionadas à segurança do estado. De fato, o "Grande Firewall Chinês" é o primeiro caso de profunda censura na rede, uma espécie de olá do "maravilhoso mundo novo" do futuro.
Em agosto de 2018, mais de 1.500 desenvolvedores do Google assinaram uma carta coletiva protestando contra o desenvolvimento de um mecanismo de pesquisa censurado para a China. Os desenvolvedores disseram que a existência de um projeto secreto dentro dos muros do Google para criar um mecanismo de pesquisa que censure o conteúdo a mando de Pequim levanta problemas morais e éticos complexos.
O Google há muito tempo queria voltar ao mercado chinês. E a criação desse mecanismo de busca foi uma das condições nas negociações. Para o bem do grande mercado chinês, o Google está pronto para se afastar dos princípios da liberdade de expressão e se submeter aos requisitos das autoridades chinesas.
Para isso, uma equipe separada foi criada na empresa, que desde a primavera de 2017 desenvolve um projeto com o codinome Dragonfly ("Dragonfly"). Recursos adicionais foram transferidos para o projeto e aceleraram o trabalho o máximo possível quando, em dezembro de 2017, o CEO do Google, Sundar Pichai, se reuniu com altos funcionários do governo da China.
Após um protesto do desenvolvedor, a gerência do Google teve que suspender o projeto e explicar aos funcionários. Sundar Pichai tentou tranquilizar os desenvolvedores do Google na reunião: “ Não estamos perto de lançar um produto de pesquisa na China. E se vamos fazê-lo, e se podemos fazê-lo, é totalmente incerto . ”
Conclusões óbvias e não óbvias
Os desenvolvedores do Google, como todas as pessoas honestas, aprenderam sobre o projeto Dragonfly nas páginas da publicação online The Intercept, financiada por Pierre Omidyar, fundador do eBay. E, adicionando o caso da Anduril Industries, que pegou o Project Maven do Google, vemos que questões éticas são frequentemente usadas em competições. Proprietários de empresas A ética em TI não está mais interessada na teoria da relatividade do que os pinguins-rei.
O Google é muito importante para retornar ao espaço de informações do Império Celestial. De 2006 a 2010, o Google trabalhou silenciosamente na China e restringiu o acesso às informações da mesma maneira que o Baidu.
Mas em 2010, algo aconteceu. Os servidores de grandes empresas - Google, Yahoo, Adobe - foram invadidos por hackers chineses durante a Operação Aurora. Então Sergey Brin aproveitou a oportunidade e retratou a inocência insultada, disse que não toleraria a censura - embora de 2006 a 2010 o Google fizesse parte do sistema de censura da China - e tirou a empresa do mercado chinês.
As verdadeiras causas do mistério. A política americana ou o Google não puderam se integrar ao complexo sistema de relações orientais, ou os chineses os pressionaram, não confiando nos sistemas americanos em seu território - e o Google fez uma boa cara em um jogo ruim.
Mas agora, o Google claramente se arrependeu dessa decisão. Razões: Android e Google Play.
Total e por país, o número de downloads de aplicativos, de acordo com o relatório App Annie.
Em 2018, o número total de downloads de aplicativos em todo o mundo excedeu 194 bilhões - e mais de 50% veio da China. No primeiro trimestre de 2019, o número médio de instalações de aplicativos móveis na China foi de 52 aplicativos por pessoa. E lembro que o Google Play na China não funciona.
Gastar usuários em lojas de aplicativos em todo o mundo e separadamente por país, de acordo com o relatório da App Annie.
Em 2018, os usuários gastaram mais de US $ 101 bilhões em lojas de aplicativos e 40% dos gastos dos usuários em 2018 são lojas chinesas alternativas. Essas somas astronômicas foram aprovadas pelo Google. É uma pena? Assim mesmo.
E, portanto, há grandes suspeitas de que o Google não interrompeu os contatos com o governo chinês. Até tranquilizou funcionários externamente. A liderança da "corporação do bem" deixou um enorme espaço de manobras em um plano não público - a partir da criação de uma unidade subsidiária separada na qual funcionários leais trabalharão, concordando inicialmente com o desenvolvimento de tecnologias com um objetivo não inteiramente ético, terminando com a transferência de tecnologia para os camaradas chineses. As apostas são muito altas. Como Thomas Dunning disse: “ Forneça 10% e o capital concorda com qualquer uso; em 20%, ele se torna animado; em 50%, está positivamente pronto para quebrar a cabeça; em 100%, viola todas as leis humanas; em 300%, não existe esse crime; que ele não teria arriscado, mesmo que tivesse medo da forca . ”
Ética em Southbridge
Ao avaliar a posição de outras empresas, você deve ir para o "você" e ser franco. E como eles levantaram o assunto, vale a pena dizer como resolvemos questões éticas em nossa empresa.
Fiz essas perguntas ao CEO da Southbridge, Igor Olemsky.
O princípio turquesa que guia nossa empresa visa melhorar os clientes, funcionários e o mundo exterior. Para o melhor de nossa capacidade.
Naturalmente, não trabalhamos com clientes que nos oferecem suporte a serviços que violam diretamente as leis da Federação Russa. Não há nada a discutir. Venda de armas, venda de especiarias, portais com serviços íntimos, portais com pornografia.
Mas há também uma zona cinzenta, que não é regulamentada por lei, mas, no entanto, não causa entusiasmo especial. Por exemplo, um cassino online ou um esquema de pirâmide. É lógico que essa atividade não faça do mundo um lugar melhor e contradiga o princípio da turquesa. Naturalmente, a empresa deve ganhar dinheiro, mas é importante que isso não contradiga as convicções internas da equipe.
Recentemente, veio um cliente que queria analisar sites usando a falsificação de IP do pool. Ele relatou que atua completamente no campo jurídico. Recusamos - a empresa é contra essas atividades.
O ponto de não retorno
Há uma situação única no mercado global de TI. Alto déficit para desenvolvedores altamente qualificados. O rápido desenvolvimento da esfera de TI, quando as universidades simplesmente não têm tempo para criar o número certo de especialistas. A dependência de quase todos os setores da economia de especialistas em TI. Dependência de sucesso e lucratividade de grandes empresas internacionais em equipes de desenvolvimento interno.
É aqui e agora que os desenvolvedores podem ditar termos para aqueles que estão acostumados a se controlar.
Na sociedade humana, os códigos de ética geralmente aparecem nas profissões relacionadas à vida e à saúde das pessoas. Na Rússia, há um juramento militar, há o juramento de um médico russo.
É uma pena que não haja juramento político - é por suas decisões, medos pessoais e jogos de bastidores que um grande número de pessoas morre no planeta. Às vezes, parece que a política não é uma profissão, mas um desvio mental.
Agora, a profissão de desenvolvedor de TI chegou perto do limite quando a vida e a saúde das pessoas, tanto físicas quanto mentais, dependem do especialista.
Infelizmente, ainda existem poucos casos em que os desenvolvedores levantam questões éticas complexas. Na maioria das vezes, as pessoas preferem não pensar nas consequências de seu trabalho.
Eduard Medvedev, orador convidado da Slerm DevOps, respondeu a uma pergunta em uma entrevista recente : “ ... Infelizmente, eu não conheço grandes comunidades que lidariam especificamente com novas questões éticas e morais na rede. Eu suspeito que eles são, porque eles não podem deixar de existir. Mas o fato de eu não conhecê-los, apesar de estar interessado no assunto, ainda fala de algo . ”
Penso que, mais cedo ou mais tarde, haverá uma ampla discussão entre especialistas em TI, para que questões éticas não sejam levantadas em resposta a projetos duvidosos de uma determinada empresa, e não desçam "de cima" para tranquilizar os funcionários. E para que o movimento “de baixo” forme regras simples e claras que podem não melhorar o mundo, mas não permitirão que ele se torne pior.
Desenvolvedor Decalog
E vamos tentar, dentro da estrutura dos jogos da mente, imaginar como os princípios do desenvolvedor do século XXI podem soar:
- Um desenvolvedor não pode prejudicar uma pessoa ou, por inação, permitir que uma pessoa seja prejudicada.
- O desenvolvedor deve obedecer a todas as tarefas de trabalho que o líder da equipe realiza, exceto nos casos em que essas ordens sejam contrárias à Primeira Lei.
- O desenvolvedor deve cuidar de sua segurança na medida em que isso não contradiga a Primeira ou a Segunda Lei.
- O desenvolvedor não deve usar o código de outra pessoa sem demanda.
- Um desenvolvedor não pode criar código potencialmente capaz de prejudicar a vida e a saúde humanas.
- Um desenvolvedor não pode criar um código capaz de restringir os direitos humanos básicos - liberdade de expressão, pensamento e crença.
- Um desenvolvedor não pode criar código que será usado para limitar o acesso das pessoas a informações confiáveis.
- Um desenvolvedor não pode criar código que use as vulnerabilidades neurofisiológicas e psicológicas de uma pessoa para obter controle sobre seu comportamento e tempo.
- O desenvolvedor deve estar preparado para o fato de que nada sempre pode dar certo e eticamente.
- O desenvolvedor deve estar preparado para o fato de que tudo o que pode dar errado dá errado.
- et cetera, et cetera ...