Sir Tim Berners-Lee, um dos inventores da WWW e do protocolo de hipertexto, professor do Instituto de Tecnologia de Massachusetts e da Universidade de Southampton, também é consultor do governo britânico. Portanto, ele deve ter uma visão sóbria do mundo e avaliar o que está acontecendo ao redor e o que pode levar a isso.
Falando sobre Inteligência Artificial, muitos especialistas pensam sobre o surgimento de uma forte IA e singularidade tecnológica, mas se falamos com sensatez, então qual é o uso de uma IA forte para as pessoas, por que investir bilhões de dólares em seu desenvolvimento? Os benefícios de ter uma IA forte são nebulosos e os riscos são grandes demais.
É muito mais lógico supor que, a princípio, haverá versões fracas da IA melhores do que as pessoas realizarão tarefas altamente especializadas. Devido a essas versões da IA, as pessoas tentarão obter uma vantagem competitiva sobre outras para o objetivo principal que impulsiona a humanidade - por uma questão de dinheiro
* .
Alguns sinais de um futuro iminente são visíveis hoje. Os programadores mais talentosos e matemáticos brilhantes vão trabalhar onde? Certo, em fundos de investimento. Lá eles criam modelos matemáticos inovadores, novas estratégias de negociação, derivativos engenhosos exóticos de acordo com fórmulas extraordinárias - e buscam esse mesmo
alfa , ou seja, lucro acima do mercado. Quem tem maior inteligência - ele recebe alfa. Os camponeses do meio recebem
beta e os perdedores perdem. O mercado financeiro, livre de todos os tipos de bens tangíveis, intrigas disfarçadas, é uma luta de intelectos em sua forma pura, de acordo com regras claramente estabelecidas. A luta por dinheiro. Essa é a única área de atividade humana no mundo em que um matemático brilhante pode ganhar centenas de milhares de dólares por mês de forma consistente, principalmente se receber uma porcentagem do alfa que trouxe para sua fundação.
Um passo inteligente seria implementar sistemas de tomada de decisão baseados em computador - as versões mais avançadas da IA - principalmente no mundo financeiro. Sobre isso, foi mencionado por Sir Tim Berners Lee em seu
discurso em 10 de abril de 2017 na
Cúpula Global de Inovações Financeiras .
Sistemas de IA fraca da IBM e de outras empresas já estão sendo implementados em bancos e fundos de investimento. O que acontecerá depois? Tim Berners-Lee acredita que o ponto de virada será quando a IA começar a tomar decisões importantes. Por exemplo, avalie os benefícios dos investimentos e decida qual empresa é mais lucrativa para adquirir. Avalie o histórico de crédito das pessoas - e decida a quem conceder um empréstimo hipotecário e a quem é impossível. Os sistemas modernos de computadores já estão próximos de tal funcionalidade.
Tim Berners-Lee diz que o próximo passo lógico no desenvolvimento da IA financeira depois de decidir comprar as empresas mais rentáveis será o gerenciamento das empresas, a criação de participações e a geração de cópias subsidiárias de seu próprio programa para gerenciar essas novas empresas.
Este será um processo natural, porque na competição no mercado, as empresas controladas por IA terão uma vantagem sobre as empresas gerenciadas por pessoas. No final, apenas as empresas controladas por IA que competirão entre si permanecerão no mercado. Será difícil para as pessoas entenderem e garantirem que uma concorrência justa seja observada: “Sim, e como explicar o conceito de honestidade para um computador, em qualquer caso?”, Pergunta Tim Berners-Lee. Aqui surge a questão de observar a ética e a moralidade - regras de comportamento que as próprias pessoas não entendem completamente (e discordam umas das outras), como podemos explicar isso em um computador?
Novamente, há riscos de que uma versão limitada da IA comece a se desenvolver na direção errada. Criado inicialmente para uma tarefa restrita, no final, pode-se considerar que toda a realidade circundante é descrita pelas condições dessa tarefa. Essa opinião de Berners-Lee lembra as preocupações expressas por Elon Musk em
uma entrevista à Vanity Fair:
"Suponha que você tenha criado uma IA auto-aprimorada para colher morangos, e está ficando cada vez melhor escolhendo morangos, e escolhendo cada vez mais e melhorando, e tudo o que ele quer é colher morangos. Então, no final, o mundo inteiro se transformará em campos de morangos. Campos de morangos para sempre.
Em geral, há algo em que pensar. Se o programa puder se auto-aprender, uma IA fraca com uma especialização estreita pode ser ainda mais perigosa do que uma IA forte e completa com autoconsciência normal. Talvez os princípios morais sejam uma qualidade inalienável de qualquer ser racional com inteligência e autoconsciência.
* Na civilização ocidental, a presença de dinheiro ganho legalmente significa a presença de poder; em outras sociedades, esses nem sempre são conceitos idênticos.
Como um pequeno anúncio: um usuário do
ZiingRR nos informou que, no final de maio, a primeira palestra relativamente grande na Rússia sobre o tema segurança da IA (AI Safety, a linguagem do discurso é o inglês) será realizada no HSE na
sala de palestras de TI . Também está prevista a realização de uma palestra semelhante na
Arche .
O ZiingRR promete que um vídeo será publicado nas duas palestras.