"Qualquer tecnologia suficientemente avançada",
escreveu o cardeal cinza da ficção científica Arthur Clark, "é indistinguível da mágica". Essa citação, que os fãs que promovem a tecnologia citam incansavelmente, talvez tenha se tornado a afirmação mais destrutiva que Clark já fez, pois encoraja nosso espanto hipnótico com a tecnologia e desativa o pensamento crítico. Porque quando se trata de "mágica", por definição, será algo inexplicável. Não faz sentido fazer perguntas sobre isso; apenas aceite como é, relaxe e afogue a desconfiança.
Agora, acima de tudo,
o pensamento mágico atrai para si inteligência artificial (IA). Entusiastas o descrevem como se fosse a invenção mais importante desde a roda. Os pessimistas vêem isso como uma ameaça existencial para a humanidade: a primeira máquina "mais inteligente" que criamos será o começo do fim da humanidade; a única questão é se os carros nos manterão como animais de estimação.
Nos dois casos, a relação inversa é visível entre a força da crença das pessoas nas capacidades da IA e seu conhecimento sobre essa tecnologia. Especialistas são otimistas cautelosos, e torcedores ardentes não sabem que a IA exaltada por eles é na verdade uma combinação bastante mundana de aprendizado de máquina (MO) e big data.
O aprendizado de máquina usa técnicas estatísticas para capacitar as máquinas com a capacidade de "aprender" - ou seja, usar dados para melhorar continuamente o desempenho de uma tarefa específica sem a necessidade de programação prévia. O sistema MI é um monte de algoritmos que recebem um fluxo de dados como entrada e fornecem links, correlações, recomendações e, provavelmente, até soluções. Essa tecnologia já é usada em todos os lugares: quase todas as nossas interações com o Google, Amazon, Facebook, Netflix, Spotify e assim por diante ocorrem através da mediação de sistemas MI. Chegou ao ponto de um dos proeminentes gurus da IA,
Andrew Eun ,
comparar o MO com eletricidade.
Para muitos diretores de empresas, uma máquina que pode aprender mais sobre seus clientes do que nunca, parece mágica. Imagine o momento em que o Walmart descobriu que, entre todas as coisas que os consumidores nos Estados Unidos estocavam após um
alerta de furacão , além do conjunto habitual, havia
tortas de cerveja e biscoitos de
pop . E, inevitavelmente, o entusiasmo das empresas por tecnologia mágica logo foi além da compra de supermercados e transferido para o governo. O MoD penetrou rapidamente nas previsões de congestionamento de tráfego,
estado de direito preditivo (o MO ajuda a marcar áreas onde "é provável" que os crimes ocorram), decisões sobre liberdade condicional e assim por diante. Entre as desculpas para esse crescimento louco, estão o aumento da eficiência, o controle aprimorado do cumprimento da lei, a tomada de decisão mais "objetiva" e, é claro, as utilidades mais responsivas.
Essa mudança gradual de foco não passou despercebida. Os críticos observam que o aforismo antigo do computador “lixo dentro, lixo dentro” se aplica à região de Moscou. Se os dados nos quais a máquina “aprende” é tendenciosa, sua saída
refletirá essa tendência . Isso pode ser generalizado; talvez tenhamos criado uma tecnologia que - embora lide com as recomendações de qual filme assistir para você - possa se
transformar em um fator que aumenta a desigualdade social, econômica e cultural.
Com toda essa crítica sociopolítica da região de Moscou, ninguém questionou a eficiência tecnológica da ideia em si - ou seja, acreditava-se que quaisquer decisões incorretas que ela produz dependem apenas de deficiências nos dados de entrada. Mas agora essa suposição tranquilizadora é bastante controversa. Em uma recente conferência do NIPS (Sistema de Processamento de Informações Neurais), a grande reunião anual de especialistas em MO, Ali Rahimi, uma das estrelas reconhecidas no campo, lançou uma granada intelectual na platéia. Em uma palestra notável, ele comparou o MO com a alquimia medieval. Ambos os campos do conhecimento acabaram funcionando, em um certo nível - os alquimistas criaram metalurgia e fabricação de vidro; Os pesquisadores do MO criaram máquinas que podem derrotar as pessoas no Go e identificar objetos da imagem. Mas, assim como a alquimia não possuía fundamento científico, também está faltando no MO, segundo Rahimi. Ele argumenta que os pesquisadores geralmente não conseguem explicar os princípios de funcionamento de seus modelos matemáticos - eles não têm uma compreensão clara e detalhada de suas ferramentas e, nesse sentido, trabalham no papel de alquimistas, não de cientistas.
Isso importa? Definitivamente sim. Como Rahimi diz: “Estamos criando sistemas que gerenciam os cuidados com a saúde e atuam como mediadores nos assuntos civis. Nós influenciaremos a eleição. "Gostaria de viver em uma sociedade cujos sistemas são construídos com base em conhecimento verificável, rigoroso e abrangente, e não em alquimia."
Eu também Com base na eletricidade, criamos o que gostamos de chamar de civilização. Mas pelo menos entendemos o porquê e como isso funciona. Se Rahimi estiver certo, no caso da IA, ainda não chegamos perto disso. Então, vamos parar de pensar nisso magicamente.