O empresário Ilon Musk, que dirige muitas empresas conhecidas de tecnologia, é conhecido por seu ponto de vista sobre os perigos da inteligência artificial. Claro, ele é famoso não apenas por causa dessa opinião. No entanto, ele se opõe à criação de uma forte forma de IA desde 2014. Então ele declarou publicamente pela primeira vez que a inteligência artificial poderia ser perigosa. Stephen Hawking e muitos outros cientistas, futurologistas e especialistas em TI concordam com ele. Acredita-se que toda a humanidade possa ser vítima da singularidade tecnológica.
O mais perigoso, segundo Mask, é a tendência de criar uma arma "inteligente" autônoma. Segundo o empresário, o risco de surgimento de “robôs assassinos” é muito alto, por isso é necessário tratar esse problema com todo o cuidado possível. "A terceira revolução nos armamentos" já está próxima, os especialistas estão convencidos e os "robôs assassinos" autônomos são uma espécie de caixa de Pandora. Há muito pouco tempo para resolver o problema.
Cerca de uma semana atrás, Musk, junto com 115 especialistas de destaque de vários campos da ciência e tecnologia, assinou
uma carta aberta , cujos autores solicitam à ONU que resolva esse problema o mais rápido possível.
A carta foi assinada na
Conferência Conjunta Internacional sobre Inteligência Artificial (IJCAI 2017) , realizada em Melbourne. A propósito, entre os signatários - e o fundador do DeepMind Mustafa Suleiman, bem como Jerome Monce, chefe da Aldebaran Robotics, que desenvolveu o robô Pepper. Se os chefes das empresas responsáveis pelo progresso tecnológico assinam esta carta, provavelmente vale a pena considerar o problema.
A carta, em particular, afirma que a IA e a robótica estão se desenvolvendo em um ritmo tão rápido que a possibilidade de fazer guerra com armas autônomas, incluindo robôs, está se tornando mais provável. Além disso, isso é uma questão dos próximos anos, e não de décadas, como se pensava anteriormente. Portanto, agora é necessário pensar em como a tecnologia pode afetar o destino da humanidade. E, antes de tudo, os líderes dos estados onde a tecnologia está se desenvolvendo o mais ativamente possível devem pensar sobre isso.
Pode-se acrescentar a isso a ameaça de tais tecnologias caírem nas mãos de terroristas e autocratas que, sem nenhum remorso, enviarão ferramentas mortais contra pessoas comuns. Mesmo que isso possa ser evitado, permanece a ameaça dos sistemas de hackers, e é completamente diferente de zero. Os hackers provaram repetidamente que quase tudo pode ser invadido, não importa quão bem esse "tudo" seja protegido.
Já existem desenvolvimentos de armas mortais operando de modo autônomo ou semi-autônomo. Entre outros, esse é um dispositivo.
A foto é apenas para demonstrar como as armas podem ser equipadas com robôs em futuras guerras. Mas agora os drones já estão voando no céu, capazes de trabalhar no modo automático. E os navios estão equipados com canhões automáticos que rastreiam independentemente uma possível ameaça.
Os governos de vários países não concordam com o ponto de vista de cientistas e tecnólogos por várias razões. O principal - para os estados, armas autônomas - é benéfico. Pode aumentar a eficácia da proteção de fronteira ou reduzir o número de mortes de soldados em caso de conflitos locais ou regionais. Assim, em 2015, o governo do Reino Unido se opôs à proibição de armas letais autônomas. Além disso, o desenvolvimento de armas desse tipo é muito ativo aqui.
Bem, o ponto de vista dos cientistas que se opõem aos "robôs assassinos" autônomos é bem ilustrado pela declaração do fundador do Elemento AI, Joshua Benggio: "Eu assinei uma carta aberta, já que o uso da IA em sistemas de armas autônomos contradiz minha compreensão da ética, o que pode levar a uma escalada muito perigosa, afetam todo o escopo do desenvolvimento da IA. A situação deve ser tomada sob o controle da comunidade internacional, assim como foi feita com outros tipos de armas (biológicas, químicas, nucleares). ”
"A criação de armas autônomas mortais nos permite escalar guerras em proporções sem precedentes que são difíceis de imaginar", dizia a carta. E, provavelmente, os autores da carta estão realmente certos.
