Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1Penso que o problema não é que as máquinas substituam uma pessoa em seu local de trabalho, inclusive na esfera intelectual da atividade, e não que os computadores estejam supostamente pegando em armas contra pessoas com ensino superior e uma conta no Twitter. A introdução da IA não é nada rápida, mas muito lenta. Porque Porque este é um ciclo normal de desenvolvimento humano, e simplesmente não percebemos que a destruição que vemos significa a introdução de novas tecnologias que, antes de criar novos empregos, destroem as antigas.
A tecnologia destrói indústrias obsoletas e cria novas, como é o processo de criação, como é o ciclo de desenvolvimento. Se você tentar prolongar a agonia, inserindo tecnologias antigas nesse processo ou criando algumas vantagens para tecnologias desatualizadas, simplesmente desacelerará o processo e o tornará mais doloroso. Isso vai acontecer de qualquer maneira, mas o problema é que estamos "regulando" o processo, criando regras que deliberadamente o desaceleram. Considero isso um problema maior do que aqueles que estamos mais claramente conscientes. Isso é mais um problema psicológico quando as pessoas se perguntam: “como você pode se sentir seguro estando em um veículo não tripulado”?
Examinei a história e soube que, cem anos atrás, um dos sindicatos mais poderosos de Nova York era o sindicato dos elevadores, que reunia 17 mil trabalhadores. A propósito, naquela época já havia uma tecnologia em que você podia simplesmente pressionar um botão - e pronto, mas as pessoas não confiavam nela! É simplesmente horrível - pressione o botão para ligar para o elevador! Você sabe por que essa união "faleceu" e as pessoas começaram a usar os próprios botões? Porque uma vez os levantadores decidiram entrar em greve. Eles entraram em greve e, em seguida, as pessoas que precisavam subir ao topo do Empire State Building se arriscaram a apertar os botões.
Lembre-se do que eles disseram sobre filhos ou netos há 20 a 30 anos, quando chegaram ao volante de um carro: "isso é terrível, basta olhar para as estatísticas, porque os carros são uma das principais causas de morte humana, como eles podem arriscar suas vidas?"
Então, tudo isso é pura psicologia. Praticamente não prestamos atenção em quantas pessoas morrem em acidentes de carro, mas se uma pessoa morre de um veículo não tripulado, esse evento aumenta para o céu. Qualquer falha ou erro das tecnologias de inteligência artificial é imediatamente abordada nas primeiras páginas dos jornais. Mas observe as estatísticas, observe o número de incidentes e você verá quão pequena é essa porcentagem do número total de acidentes. Portanto, a comunidade humana só triunfará se puder avançar sem ficar paralisada por esses medos.
Outra questão surge quando falamos de notícias falsas ou segurança cibernética, esses são tópicos muito politizados, e recebo muitas ligações perguntando como lido com os inimigos da IA. Por exemplo, eu tenho um blog regular e, no meu novo artigo, que será publicado em alguns dias, trata-se de ódio e que a salvação do ódio consiste em conhecimento, em treinamento. Nós apenas precisamos entender que esse problema existia muito antes de todas essas coisas serem inventadas, mas sua importância aumentou graças à Internet, que cobre milhões e bilhões de pessoas.
Eu acho que é o contrário, quando alguém está tentando parar o progresso tentando ilegalizar a IA, e você sabe que não funcionará, porque temos Putin e outros bandidos, onde quer que estejam, que usam nossas próprias tecnologias criadas no mundo livre estão contra nós. Portanto, acredito que deveríamos dar como certo.
A essência do problema reside apenas em nós, e as respostas para as perguntas estão dentro de nós, em nossa própria força e em nossa própria confiança. Argumento que máquinas inteligentes não podem nos tornar "obsoletos". No entanto, é preciso lembrar que existem certas restrições à cooperação entre homem e computador e, em grande parte, esses são apenas rumores que existiam antes. Como sempre, essas são apenas novas oportunidades que destroem o velho mundo e criam um novo, e quanto mais avançarmos, melhor nos encontraremos.
Agora, assemelha-se mais a um movimento no mundo da ficção científica. O paradoxo é que, se olharmos para trás 50-60 anos atrás, veremos que naqueles dias a ficção científica era absolutamente positiva, era uma utopia. No entanto, ocorreu uma transição gradual da utopia para a distopia, de modo que não queremos mais ouvir nada sobre o futuro da humanidade.
Isso não aconteceu em uma noite. Houve um tempo em que as pessoas decidiram que a exploração espacial era muito arriscada. Esse é realmente um grande risco, mas imagine que em 1969, quando os americanos pousaram na Lua, todo o poder computacional da NASA fosse menor que o poder de qualquer dispositivo de computador moderno que caiba no seu bolso. Este dispositivo é mil vezes mais poderoso que um supercomputador que existia 40 anos atrás. Imagine quanto poder de computação você carrega no seu bolso! No entanto, não tenho certeza de que o Apple iPhone 7 tenha o mesmo poder de processamento que o Apollo 7 tinha, ou seja, ele pode produzir o mesmo efeito.
No entanto, as máquinas nos proporcionaram grandes conquistas na exploração espacial ou nos oceanos, e devemos entender que os computadores nos oferecem a oportunidade de correr grandes riscos.
Gostaria de terminar meu discurso com uma nota positiva. Essa imagem positiva não é mostrada neste slide? A foto no canto inferior direito não é "photoshop", na verdade eu me encontrei com o Terminator em 2003.
Ele também adora xadrez desde a infância, mas não o lida especialmente, por isso perdeu muito rapidamente. Portanto, fiquei muito surpreso quando, seis meses depois, ele concorreu ao governador da Califórnia e venceu!
Por que chamo essas fotos de positivas? Porque, embora em todas as séries, exceto a primeira, o velho Arnold esteja sempre do lado dos vencedores e nunca se canse de lutar contra carros novos, é na primeira série que vemos a combinação de que falei - é quando uma pessoa, mais uma máquina antiga e uma interface perfeita derrotam as últimas um carro
Você pode dizer: "Sim, as máquinas são mais fortes que as pessoas, porque podem calcular absolutamente tudo!" No entanto, o ponto não é que eles possam calcular tudo. Por exemplo, no xadrez, é tecnicamente possível falar sobre o infinito matemático do número de movimentos possíveis igual a 10 ^ 45, o que não é difícil de calcular para qualquer computador moderno. No entanto, no jogo não são os cálculos que são importantes, mas o fato de o computador estar à frente da pessoa, porque é sempre guiado pelas regras. E você conhece o efeito dessas regras e sabe por que o computador escolhe a melhor jogada dentre o grande número de jogadas possíveis.
Mas se nos voltarmos para a vida real, não tenho certeza de que um computador sempre possa ser útil. Vejamos a situação mais típica - você tem um computador que monitora a conformidade com o orçamento, está na loja e vai comprar um presente caro. O computador avalia a compra e diz: "Não, você não pode pagar isso porque excede o orçamento". A máquina calculou tudo, mas há uma pequena nuance - seu filho está por perto e esse presente é para ele no aniversário dele. Você vê o quanto isso muda as condições do problema? Isso muda tudo, porque a criança está esperando por esse presente.
Posso começar a adicionar essas pequenas coisas que mudam tudo, mas não acho que elas possam ser incluídas nas condições do problema e obter a solução certa. Temos muitas regras, mas ainda precisamos fazer perguntas porque a situação está mudando. É o que se pode chamar de situação normal, mas se você olhar para esses filmes, poderá dizer que a situação mostrada aqui é mais dramática e extraordinária. Neste slide, você vê uma cena do episódio V Star Wars: O Império Contra-Ataca.
Han Solo dirige a nave através do campo de asteróides, e o pânico do S-3PO relata que a chance de sobreviver nesse campo é de 1: 3122. Han Solo diz a ele: "Nunca me diga quais são as nossas chances!" Isso levanta a questão: quem está mais certo nessa situação?
A técnica representada pelo S-3PO é absolutamente correta, porque a chance de sobrevivência tende a zero. É possível que, do ponto de vista de um robô, ser capturado por tropas imperiais seja uma escolha melhor que uma pessoa nem sequer considera que a morte em um campo de asteróides. Mas se o computador decidir que se render ao império é a melhor opção, podemos assumir que uma pessoa não tem opções. É muito importante que, em ambos os casos, ordinários e extraordinários, tenhamos a oportunidade de tomar a decisão final e, para tomar tal decisão, a liderança humana ainda seja necessária.
Às vezes, isso significa que você precisa se opor às recomendações do computador. O significado da liderança humana não é conhecer as probabilidades, mas fazer perguntas realmente significativas, não apenas hoje ou amanhã, mas em um futuro distante. Esse processo pode ser chamado de "orientação humana" ou "intervenção humana", exposição sem a ajuda de máquinas inteligentes. É assim que nosso curso deve ser neste século.
Às vezes, as pessoas ficam surpresas com o meu otimismo em relação às máquinas inteligentes, dada a minha experiência com elas, mas estou realmente otimista. E tenho certeza de que todos estão igualmente otimistas sobre o futuro da IA. Mas devemos lembrar que nossas tecnologias são agnósticas. Isso não é bom nem ruim, mas pode ser usado tanto para boas ações quanto para más. As máquinas devem se tornar mais inteligentes e mais capazes. E nós, pessoas, devemos fazer o que somente as pessoas podem fazer - sonhar, sonhar ao máximo, e então podemos extrair todas as coisas úteis que essas incríveis novas ferramentas carregam em si mesmas.
Conforme planejado, ainda temos 10 minutos para responder a perguntas.
Pergunta: na sua opinião, é possível criar um sistema de aprendizado de máquina que possa determinar quais movimentos estão mais alinhados com o estilo humano do jogo?
Kasparov: Antes de tudo, não esperamos do computador que ele nos diga a primeira jogada e as 17505 restantes. Acho que devemos confiar no carro como fonte de obter as melhores recomendações para movimentos únicos. A propósito, jogadores de primeira classe usam computadores como um guia para ajudá-los a tomar a posição mais apropriada no jogo. Repito mais uma vez - em 9 de 10 casos a avaliação da situação pelo computador excede em muito a avaliação que uma pessoa é capaz de fazer.
Pergunta: Você concorda que a inteligência real requer liberdade de escolha, liberdade na tomada de decisões, que só pode ser feita por uma pessoa? Afinal, o software Deep Blue e outros programas de computador são escritos por pessoas e, quando você joga Deep Blue, perde não para o computador, mas para os programadores que criaram esse programa. Minha pergunta é a seguinte: existe algum perigo de qualquer tipo de inteligência de máquina, desde que os computadores tenham liberdade de escolha?
Kasparov: aqui tenho que passar da ciência para a filosofia. No que diz respeito ao Deep Blue, tudo está claro - este é o resultado de muito trabalho humano. Na maioria dos casos, mesmo no caso do AlphaGo Demis Hassabis, esses são todos os frutos da inteligência humana. Não sei se os carros podem ter liberdade de escolha, mas acredito que tudo o que fizermos, se soubermos fazê-lo, fará melhor. No entanto, fazendo a maioria das coisas, não sabemos como fazê-las da melhor maneira, por isso geralmente não conseguimos entender o que vai acontecer. Simplificando, temos um objetivo, mas não sabemos o que é, e o papel da máquina é ajudar-nos a atingir esse objetivo. Portanto, se falarmos sobre a livre escolha de computadores, deve ajudar a nos conectar com esse objetivo. Eu acho que para computadores essa é uma perspectiva muito distante.
Pergunta: O que você pensa sobre características humanas como coragem e moralidade, e sobre as decisões que a inteligência artificial pode tomar com base nelas? Por exemplo, o que um carro não tripulado deve fazer - esbarrar em uma criança ou evitar uma colisão com ela, colidir com uma rocha e matar seu passageiro?
Kasparov: é o que as pessoas chamam de "sentimentos", elas não podem ser quantificadas, porque são várias características humanas diferentes. Se estamos falando de coragem, essa característica sempre vai contra as chances de escolher a melhor opção. Coragem, como outros sentimentos humanos, por definição, contradiz a contagem precisa.
Pergunta: Sr. Kasparov, minha pergunta não diz respeito a computadores: o que há no seu balão e posso experimentá-lo?
Kasparov: o que você quer dizer?
Anfitrião: ele pergunta o que está no seu bolso!
Kasparov: no meu bolso? "Capital"! Este não é um anúncio, se você perceber, eu joguei fora.
Pergunta: quem, na sua opinião, se tornará o próximo campeão mundial de xadrez e o jovem chinês Wei Yi terá a chance de derrubar Karelsen do trono do rei do xadrez?
Kasparov: Karelsen é o jogador número 1, ele não é um campeão do mundo, mas simplesmente o melhor jogador de xadrez do mundo, de acordo com a classificação. Este ano ele terá 27 anos, então ainda é jovem, mas não muito jovem pelos padrões modernos. Acho Wei E agora 18 ou 19 anos. Magnus superou jogadores jovens como os americanos Wesley So e Fabiano Keruana e, potencialmente, Wei Yi poderia ser seu adversário. No entanto, para se tornar um campeão mundial, é necessário talento, não é preciso ser jovem e enérgico, basta ter um pouco de sorte. Então, respondendo à pergunta, posso dizer - sim, ele tem a chance de derrotar Magnus Karelsen.
Pergunta: quando você falou sobre algoritmos determinísticos e aprendizado de máquina, mencionou a possibilidade de usar máquinas como ferramentas para complementar nossa inteligência. O que você pode dizer sobre a possibilidade de maximizar recursos antes de criar uma IA poderosa, ou mesmo sobre "colocar" o cérebro humano em um computador?
Kasparov: Não hesito em admitir minha ignorância quando não tenho certeza de que não sou capaz de responder à pergunta corretamente. Eu tento o meu melhor para entender o que é o cérebro humano, se o olharmos separadamente do corpo humano, quais funções ele desempenha. Porque é difícil imaginar como o cérebro se comportará separadamente do corpo. Pode ser possível realizar esse experimento no futuro, mas tenho certeza de que a combinação do cérebro humano, sentimentos e emoções humanas com um computador formará uma "mente" que será muito mais eficaz do que um cérebro extraído e congelado usado como um dispositivo cheio de neurônios.
Pergunta: Existe uma abordagem básica universal para o problema de substituir empregos humanos por computadores?
Kasparov: Penso que esta é uma pergunta muito importante, porque está claro que estamos nos aproximando do momento em que muitas pessoas podem ficar sem trabalho. Este é um paradoxo do progresso tecnológico: por um lado, temos as mais recentes tecnologias que oferecem enormes vantagens competitivas para a geração jovem que lida com esses dispositivos e tecnologias. Por outro lado, avançamos na medicina e na nutrição saudável, o que prolonga a vida humana e dá às pessoas a capacidade de trabalhar por muitos anos. Nesse sentido, a geração dos anos 50, 60 ou 40 não pode competir com a juventude de hoje. Precisamos encontrar uma solução para essa situação paradoxal em que a diferença de gerações é tão grande. A experiência histórica diz que essa lacuna sempre leva a um grande estrondo. Quero dizer a lacuna entre a infraestrutura social existente da sociedade e o progresso tecnológico.
Esse é um problema que os políticos preferem adiar até a próxima eleição. Ninguém quer falar sobre isso, porque é uma questão dolorosa. É muito fácil imprimir dinheiro, esperando que alguém pague por isso em algum momento no futuro. Portanto, existem muitos paradoxos nessa área, por exemplo, o acúmulo de dívidas por fornecer garantias sociais à geração mais velha, na expectativa de que o ônus de pagar essas dívidas caia sobre os ombros da geração mais jovem. Há muitas perguntas para as quais não tenho respostas e muitas perguntas que posso fazer, espero que a IA me ajude com isso.
É muito ruim que há décadas os políticos tentem ignorar os problemas que acabamos de discutir. Eles estão sempre prontos para declarações, sempre têm planos, mas não querem entender a contraproducência de esconder o problema do conflito de tecnologia e sociedade. Obrigado pela atenção!
Obrigado por ficar conosco. Você gosta dos nossos artigos? Deseja ver materiais mais interessantes? Ajude-nos fazendo um pedido ou recomendando a seus amigos, um
desconto de 30% para os usuários da Habr em um análogo exclusivo de servidores básicos que inventamos para você: Toda a verdade sobre o VPS (KVM) E5-2650 v4 (6 núcleos) 10GB DDR4 240GB SSD 1Gbps de US $ 20 ou como dividir o servidor? (as opções estão disponíveis com RAID1 e RAID10, até 24 núcleos e até 40GB DDR4).
Dell R730xd 2 vezes mais barato? Somente temos
2 TVs Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV a partir de US $ 199 na Holanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - a partir de US $ 99! Leia sobre
Como criar um prédio de infraestrutura. classe usando servidores Dell R730xd E5-2650 v4 custando 9.000 euros por um centavo?