Agora, apenas o preguiçoso não fala sobre
inteligência artificial e não escreve. Mas, em nosso tempo, a IA não é a SkyNet do filme Terminator. Até agora, os cientistas estão lidando com uma forma fraca de inteligência artificial. Na maioria dos casos, são redes neurais relativamente complexas projetadas para resolver certos problemas.
Muitas pessoas proeminentes de nosso tempo estão preocupadas com a possibilidade do aparecimento de uma forma forte de IA. Segundo alguns especialistas, um "computador pensante" pode se tornar um oponente implacável de uma pessoa, seu inimigo. Ou o futuro da IA cumprirá alguns de seus objetivos, sendo indiferente aos seres humanos. Nesse caso, a inteligência artificial destruirá cidades ou países inteiros quando essa necessidade surgir. Para mostrar um cenário semelhante para o desenvolvimento da tecnologia, os cientistas de Cambridge
desenvolveram um mod para o jogo "Civilization", sua quinta parte.
Neste apêndice, você pode ver o que pode acontecer no caso de uma forma forte de IA sem medidas de segurança predeterminadas. Os cientistas não desenvolveram subitamente esse mod. Especialistas da Universidade de Cambridge para o Estudo do Risco Existencial (CSER) estão tentando entender o que no mundo moderno pode se tornar um perigo intransponível para os seres humanos em um futuro próximo ou distante.
O grupo foi fundado em 2012 e seu objetivo original era o que faz hoje - estudar o impacto de desastres globais de vários tipos em seres humanos. Somente os problemas que podem potencialmente levar à destruição da humanidade - a civilização em sua forma atual ou em geral todas as pessoas na Terra são considerados. É claro que essas catástrofes podem ser causadas não apenas pela influência da inteligência artificial, mas também pelo agente causador geneticamente modificado de uma doença perigosa, mudança climática e muito mais.
Quanto ao jogo, a adição ao Civilization, segundo os desenvolvedores, é em parte um projeto educacional, em parte um projeto de pesquisa. "O principal que pretendemos é mostrar um cenário possível para o desenvolvimento de informações reais sobre computadores, demonstrar os perigos que essas informações podem representar para nós", diz Shahar Eivin, um dos participantes do projeto.
O jogo também mostra o computador Deep Blue da IBM, que ajuda os jogadores a acelerar a pesquisa de IA.A propósito, a adição substitui um dos cenários de vitória na Civilização, o lançamento de uma nave espacial para a estrela de Alpha Centauri pelo desenvolvimento de uma forte forma de inteligência artificial. Na moda, existem novos edifícios (laboratórios de pesquisa), um novo milagre (o mesmo Deep Blue) e um novo mecanismo, chamado de perigo de IA.
Assim que o jogador
inicia o programa para o estudo da IA, um temporizador aparece, chamado de "risco de IA". Se o cronômetro chegar ao final da contagem regressiva, o jogador recebe uma mensagem de que em algum lugar do mundo uma forma forte de inteligência artificial foi criada e o jogo termina com a derrota do jogador. “Tudo isso é como a vida real. Você pode percorrer um longo caminho no desenvolvimento da civilização, mas perde tudo se gerenciar as tecnologias criadas sem o devido cuidado ”, diz o desenvolvedor.
Para evitar um cenário de desenvolvimento negativo com uma derrota no final, o jogador tem a oportunidade de realizar mais pesquisas científicas no campo da IA. Quanto mais projetos forem realizados, mais lento será o tempo. Para vencer, o jogador precisa desenvolver tecnologias de controle de IA e investir em projetos nos países vizinhos e nas autoridades das grandes cidades. “Se você escolher um cenário de IA, precisará de mais desenvolvimentos de segurança. Investir nessa área nem sempre é uma necessidade óbvia, mas precisa ser feito ”, disse Avin.
Obviamente, “Civilização” não pode ser chamada de uma ferramenta de pesquisa séria, mas a adição torna possível perceber a necessidade de uma abordagem cautelosa para o desenvolvimento da IA, não apenas para jogadores comuns, mas também para cientistas. Os riscos são mostrados com muita clareza. E a situação é bastante realista - o jogador precisa lidar com vizinhos agressivos, estados que conduzem mais ou menos a mesma pesquisa. Se uma das partes obtiver êxito, mas não exercer a devida cautela, a derrota é inevitável.
Na verdade, para enfrentar os perigos globais, é necessária uma interação global. Tudo é mostrado corretamente aqui.