A inteligência artificial foi criada para tomada de decisão organizacional e administração pública; ele precisa de uma ética humana, diz johnny penn, da universidade de cambridgeA inteligência artificial (IA) está em todo lugar, mas não é totalmente inventada de maneira histórica. Para entender o impacto da IA em nossas vidas, é importante avaliar o ambiente em que foi criada. No final, estatísticas e controle estatal evoluíram de mãos dadas por centenas de anos.
Considere a ciência da computação. Sua origem pode ser rastreada não apenas pela filosofia analítica, matemática pura e Alan Turing, mas também surpreendentemente, pela história da administração pública. Em 2003, A Máquina do Governo: Uma História Revolucionária do Computador, John Agar da University College London elabora o desenvolvimento do serviço público britânico, que passou de 16.000 funcionários em 1797 para 460.000 em 1999. Ele notou uma similaridade anormal entre a funcionalidade da burocracia humana e o computador eletrônico. (Ele admitiu que não sabia dizer se essa observação era trivial ou profunda).
Ambos os sistemas processaram uma grande quantidade de informações usando uma hierarquia de regras predefinidas, mas adaptáveis. Mas um deles veio do outro. Isso mostrou uma conexão importante entre a organização das estruturas sociais das pessoas e as ferramentas digitais projetadas para atendê-las. Agar conecta a própria origem da ciência da computação ao mecanismo analítico Charles Babbage, desenvolvido na Grã-Bretanha na década de 1820. Seu desenvolvimento foi subsidiado pelo governo, sugerindo que serviria como seu patrocinador. Os projetos de Babbage, observa Agar, devem ser vistos como "a materialização da atividade estatal".
Essa relação entre sistemas de computação e estruturas organizacionais humanas repete a história da IA. Nas décadas de 1930 e 1940, Herbert Simon (foto abaixo), um cientista político da Universidade de Chicago que mais tarde lecionou na Universidade Carnegie Mellon, decidiu desenvolver uma abordagem "científica" para a fundação da estrutura administrativa. Simon havia estudado anteriormente sob a liderança de Rudolf Karnap, membro do Círculo de Positivistas Lógicos de Viena. Isso confirmou sua crença de que as teorias existentes carecem de empirismo. Sua tese de doutorado em 1947 tornou-se o livro "Comportamento Administrativo", que serviu de base para que todas as atividades da organização pudessem ser entendidas usando a matriz de decisão.
Simon dizEle fez uma enorme contribuição para muitos campos científicos, não apenas em ciência política e economia, mas também em ciência da computação e inteligência artificial. Ele cunhou o termo "satisfatório" (para aceitar o que é desejado, em vez de buscar o ideal) e desenvolveu a idéia de "racionalidade limitada", pela qual recebeu o Prêmio Nobel de Economia em 1978. Mas na década de 1950, Simon era consultor da RAND Corporation, um think tank influente apoiado pela Força Aérea dos EUA.
Na RAND, Simon e seus dois colegas: o jovem matemático Allan Newell e o ex-atuário de seguros J. Clifford Shaw, tentaram modelar uma solução para os problemas humanos em termos de como um computador executa uma operação específica. Para isso, Simon pegou emprestado elementos do sistema que ele desenvolveu em Comportamento administrativo, a fim de ensinar o computador a "pensar" como uma pessoa, Simon o fez pensar como um grupo de pessoas.
O produto do trabalho de três cientistas foi uma máquina virtual, chamada Teoria Lógica, nomeada o primeiro protótipo funcional da inteligência artificial. As impressões do teórico que trabalhava durante o Projeto de Pesquisa de Verão de 1956 em Dartmouth nos fizeram prestar atenção à inteligência artificial, que deu o nome e estabeleceu as bases para todo o campo científico. Em notas de uma conferência em Dartmouth, um participante escreveu que o teórico ajudou a superar o medo de financiar essa área de pesquisa. Isso foi importante porque o fundo de financiamento da inteligência artificial estava cético quanto a essa área de pesquisa ser útil.
Como Simon viu suas realizações científicas? Um ano após a conferência de Dartmouth, ele e Newell apresentaram seus resultados na publicação “Solução de problemas heurísticos: o próximo movimento em pesquisa operacional”. A expressão chave no título: “pesquisa operacional” apareceu no Reino Unido durante a Segunda Guerra Mundial para aplicar princípios e estatísticas científicas para otimizar operações militares e, então, para fins corporativos. A inteligência artificial era para os negócios.
Em um discurso para profissionais de pesquisadores operacionais em Londres, em 1957, Simon notou Frederick Taylor, o pai do movimento de gerenciamento de ciências, e Charles Babbage, seus antecessores mentais. "Físicos e engenheiros elétricos não tiveram nada a ver com a invenção de um computador digital", disse Simon. O verdadeiro inventor, na sua opinião, foi o economista Adam Smith. Ele explicou essa relação: o engenheiro civil francês Gaspard de Prony pretendia criar logaritmos usando métodos criados a partir da Wealth of Nations de Smith. Babbage, inspirado em Prony, aplicou essa conjectura em equipamentos mecânicos. Em meados da década de 1950, Simon o transformou em código de programa.
A tradição continua viva. Muitos sistemas modernos de inteligência artificial não imitam tanto o pensamento humano quanto as mentes menos dotadas das instituições burocráticas; nossos métodos de aprendizado de máquina geralmente são programados para alcançar proporções, velocidade e precisão sobre-humanas por meio de identidade, ambição ou moralidade no nível humano.
Capitalismo em códigoEssas linhas da história da inteligência artificial: tomada de decisões corporativas, poder estatal e uso de estatísticas na guerra - não foram preservadas no entendimento da inteligência artificial acessível ao povo.
Em vez disso, as notícias de avanços técnicos ou especialistas que expressam preocupações são acompanhadas por imagens, se não na forma de um Exterminador bem armado, depois pela mente, robô, microchips de neon ou equações matemáticas absurdas. Cada um deles não é uma confirmação tão forte da autoridade das ciências naturais ou da ciência da computação em relação a, digamos, ciências "suaves", emprestando a terminologia de Simon, ciência política, administração ou mesmo economia, ou seja, áreas para as quais ele foi a Estocolmo para receber seu Prêmio Nobel.
Talvez como resultado dessa impressão errônea, o debate público continue até hoje sobre quais benefícios, se houver, as ciências sociais podem trazer para o estudo da inteligência artificial. Segundo Simon, a própria inteligência artificial nasceu na ciência social.
David Runciman, cientista político da Universidade de Cambridge, argumentou que, para entender a inteligência artificial, precisamos primeiro entender como ela funciona no sistema capitalista no qual está inserida. "As empresas são outra forma de pensamento artificial, elas são projetadas para poder tomar decisões por conta própria", explica ele.
"Muitos dos medos que as pessoas experimentam sobre a próxima era dos robôs inteligentes são os mesmos que tiveram sobre associações corporativas há várias centenas de anos", diz Runciman. A preocupação é que "nunca seremos capazes de aprender a controlar esses sistemas".
Por exemplo, depois de um vazamento de petróleo em 2010, quando 11 pessoas morreram e o Golfo do México ficou arrasado, ninguém foi preso. A ameaça que Runciman adverte é que métodos de inteligência artificial, como táticas para fugir à responsabilidade pública, serão usados com impunidade.
Hoje, pesquisadores pioneiros como Julia Angwin, Virginia Eubanks e Katie O'Neill mostram como vários sistemas algorítmicos reforçam a violência, destroem a dignidade humana e minam os mecanismos democráticos básicos, como prestação de contas, se criados de forma irresponsável. O dano não deve ser intencional; conjuntos de dados tendenciosos usados para treinar modelos preditivos também são prejudiciais. Considerando a mão de obra cara necessária para identificar e eliminar os danos causados, é necessário criar algo como um "serviço ético" criado como um setor separado. O'Neill, por exemplo, agora lançou seu próprio serviço de verificação de algoritmos.
Nos anos 50, cunhando o termo "inteligência artificial" para uma conferência em Dartmouth, John McCarthy, um dos primeiros pioneiros nesse campo, escreveu em suas notas: "Assim que um sistema epistemológico for programado e funcionar, nada mais será levado a sério, além de gerenciar programas inteligentes ". Por esse motivo, o slogan inicial do DeepMind “Conheça a mente. Use-o para saber tudo o mais ”, parece quase imperial.
A sugestão de McCarthy era que a influência, não o poder, poderia resolver o consenso científico em seu campo. O DeepMind não precisa "conhecer" o intelecto (desde que isso seja possível), apenas precisa derrotar a concorrência. Este novo slogan da empresa: “Conheça a mente. Use-o para saber tudo o mais ”, sugere que ele também reconhece a necessidade de diplomacia em uma era de poder total da Inteligência Artificial.
Stephen Cave, diretor do Levergulm Center for Future Research, revelou que a definição de inteligência tem sido usada ao longo da história como uma ferramenta para o domínio. Aristóteles voltou-se para a "lei natural" da hierarquia social para explicar por que mulheres, escravos e animais deveriam estar subordinados a pessoas inteligentes. Dado esse legado brutal, as políticas das agências corporativas e de computação devem resolver questões complexas formadas por gênero, sexualidade e colonialismo com relação a outras qualidades pessoais.
A principal responsabilidade da inteligência artificial é que ela fornece categorização automatizada em larga escala. Por exemplo, o aprendizado de máquina pode ser usado para distinguir uma toupeira maligna de uma toupeira benigna. Esse "dever" se torna uma ameaça quando visa solucionar os problemas da vida cotidiana. Etiquetas descuidadas podem assediar e prejudicar quando reivindicam poder falso. Em protesto contra os rótulos injustos que são usados para "conhecer" o mundo, muitos jovens hoje desafiam orgulhosamente categorizações indesejáveis, sejam os tradicionais gêneros ou pares de gêneros.
Máquinas que pensam novamentePara muitos, pode ser surpreendente que as causas sociais, materiais e políticas da origem da inteligência artificial não sejam bem compreendidas. De fato, muito se escreveu sobre a história da inteligência artificial: Simon em 1996 e Newell em 2000. A maioria dessas histórias, no entanto, adere a algumas limitações, vendo-as "principalmente em termos intelectuais", segundo Paul Edwards, historiador da tecnologia da informação.
Cada uma das duas histórias quase oficiais de inteligência artificial é uma história de pensamentos: “As máquinas que pensam”, de Pamela McCordack, que “criou o modelo para a maioria das histórias subseqüentes” após a primeira publicação em 1979; e Inteligência Artificial: Uma História Excitante de Daniel Crevier, publicada em 1993. Ambos os livros se baseavam principalmente em entrevistas detalhadas com os principais pesquisadores.
Talvez ninguém, como resultado, tenha procurado entender a inteligência artificial em um contexto mais amplo, incluindo o desenvolvimento de pesquisas operacionais, "grandes ciências", ciências atuariais e financiamento militar americano, como se desenvolve desde a Segunda Guerra Mundial. Riscada dessas histórias, a IA pode ser separada de seu contexto histórico e político.
Sem esse contexto, a inteligência artificial também pode parecer divorciada do sistema de ciências que a criou. Em uma conversa de 1957 com profissionais da área de pesquisa operacional, Simon observou a diversidade do passado em sua área científica. Ele descreveu a contribuição dos tecelões franceses e da mecânica do jacquard, bem como de Smith, de Prony, Babbage e seus colegas nas ciências moles, como uma "dívida" coletiva que ainda precisa ser paga.
Esse novo conhecimento poderia ter surgido de maneira tão inesperada e de tantos lugares que empolgou Simon em seu trabalho - e pode nos fazer pensar da mesma maneira hoje. A IA moderna pode não apenas refletir o dogma organizacional que caracterizou seu nascimento, mas também refletir nossa humanidade.