Precisamos ter medo da inteligência artificial (IA)? Para mim, essa é uma pergunta simples, com uma resposta ainda mais simples: não. Mas nem todos concordam comigo - muitas pessoas, incluindo Stephen Hawking, expressaram preocupação de que o surgimento de poderosos sistemas de IA possa significar o fim da humanidade.
Sua visão sobre a questão de saber se a IA capturará o mundo ou não, obviamente, dependerá de se a IA pode desenvolver um comportamento razoável que seja superior ao comportamento humano - algo chamado "superinteligência". Vejamos a probabilidade desse processo e por que existe tanta preocupação com o futuro da IA.
As pessoas geralmente têm medo do que não entendem. O medo é frequentemente responsabilizado pelo racismo, homofobia e outras fontes de discriminação. Não é de surpreender que se aplique às novas tecnologias - elas geralmente são cercadas por certos enigmas. Alguns avanços tecnológicos parecem completamente irrealistas, superam as expectativas e, em alguns casos, as capacidades humanas.
Não há espírito no carro
Vamos desvendar o mistério das tecnologias de IA mais populares, conhecidas como "aprendizado de máquina". Eles permitem que a máquina aprenda a concluir uma tarefa sem precisar programar instruções específicas. Pode parecer assustador, mas na verdade se resume a estatísticas bastante chatas.
Uma máquina, isto é, um programa ou, mais precisamente, um algoritmo, é projetada para revelar os relacionamentos disponíveis nos dados de entrada. Existem muitos métodos diferentes para alcançar esse efeito. Por exemplo, podemos fornecer à máquina imagens de cartas manuscritas e solicitar que ela reconheça a sequência dessas cartas. Já lhe demos as respostas possíveis - elas podem ser apenas letras do alfabeto. Primeiro, a máquina nomeia aleatoriamente a letra e a corrigimos, dando a resposta correta. Também programamos a máquina para o autoajuste e, da próxima vez que entregarem a carta, é mais provável que ela nos dê a resposta correta. Como resultado, com o tempo, a máquina melhora sua eficiência e "aprende" a reconhecer o alfabeto.
De fato, programamos a máquina para usar os relacionamentos comuns nos dados para atingir um objetivo específico. Por exemplo, todas as variantes da letra "a" parecem estruturalmente semelhantes, mas diferentes de "b", das quais o algoritmo pode se beneficiar. Curiosamente, após a fase de treinamento, a máquina pode aplicar o conhecimento adquirido a novos exemplos de cartas, por exemplo, escritos por uma pessoa cuja letra não havia sido vista antes.
Damos respostas de IANo entanto, as pessoas já são boas em leitura. Talvez um exemplo mais interessante seja o jogador artificial no projeto go, o Google Deepmind, que venceu todos os jogadores humanos. Obviamente, ele não estuda como as pessoas - ele joga sozinho tantas vezes que ninguém joga durante toda a vida. Ele foi programado para vencer e explicou que a vitória depende de suas ações. Ele também foi ensinado as regras do jogo. Ao jogar o mesmo jogo repetidamente, ele pode descobrir a melhor jogada em todas as situações, inventando jogadas que as pessoas nunca fizeram antes.
Toddlers vs robots
Isso faz com que uma IA que jogue seja mais inteligente que os humanos? Definitivamente não. A IA é muito especializada, projetada para um determinado tipo de tarefa e não possui a versatilidade das pessoas. Ao longo dos anos, as pessoas começam a entender o mundo de uma maneira que nenhuma IA conseguiu, e em um futuro próximo, provavelmente, não será capaz.
O fato de a IA ser chamada de "inteligência" deve-se ao fato de ser capaz de aprender. Mas no treinamento, ele não alcança as pessoas. Os pequenos são capazes de aprender apenas assistindo alguém resolver o problema. A IA exige carros de dados e muitas tentativas para obter sucesso em tarefas muito específicas, e é muito difícil generalizar seus dados para tarefas que são muito diferentes daquelas em que ele treinou. Portanto, se as pessoas desenvolverem uma inteligência incrível com bastante rapidez nos primeiros anos de vida, os principais conceitos de aprendizado de máquina não serão muito diferentes do que eram há dez ou vinte anos.
O cérebro de uma criança pequena é incrívelOs sucessos da IA moderna estão menos associados a avanços na tecnologia e são mais dependentes da quantidade simples de dados e poder de computação. É importante notar que mesmo uma quantidade infinita de dados não fornecerá inteligência humana à IA - primeiro precisamos fazer progressos significativos na criação de tecnologias de "inteligência generalizada" - e nem chegamos perto de resolver esse problema.
Em geral, apenas pelo fato de a IA ser capaz de aprender, não se segue que ela repentinamente estudará todos os aspectos da inteligência humana e nos superará. Não existe sequer uma definição simples do que é a inteligência humana e não temos uma compreensão clara de como ela aparece no cérebro. Mas, mesmo que pudéssemos descobrir e criar uma IA que se tornasse mais inteligente, isso não significa que teria mais sucesso.
Pessoalmente, estou mais preocupado com o modo como as pessoas usam a IA. Os algoritmos de aprendizado de máquina são geralmente considerados caixas pretas e poucas tentativas são feitas para entender os detalhes da solução encontrada pelo algoritmo. Esse é um aspecto importante que geralmente é ignorado enquanto estamos mais obcecados com eficiência e menos com compreensão. É importante entender as soluções abertas por esses sistemas, porque poderíamos avaliar se essas são as decisões corretas e se queremos aplicá-las.
Se, por exemplo, treinamos nosso sistema incorretamente, podemos obter uma máquina que aprendeu os relacionamentos, que geralmente não existem. Suponha que desejemos criar uma máquina que avalie os possíveis alunos a serem bem-sucedidos em engenharia. A idéia provavelmente é ruim, mas vamos apenas ao exemplo até o fim. Tradicionalmente, os homens dominam nessa área, o que significa que é provável que sejam tirados exemplos de treinamento de estudantes do sexo masculino. Se não estamos convencidos do equilíbrio dos dados de treinamento, a máquina pode concluir que apenas homens podem ser engenheiros, e é incorreto aplicá-lo a decisões futuras.
Aprendizado de máquina e IA são ferramentas. Eles podem ser usados certo ou errado, como todo o resto. Deveríamos nos preocupar com a maneira como eles são usados, não com os próprios métodos. A ganância e a estupidez de uma pessoa me incomodam muito mais que a inteligência artificial.