Reflexões sobre a singularidade tecnológica além de, de fato, tentativas de avançar na compreensão dos processos ocultos por trás desse termo - ou seja, reflexões sobre a atitude em relação à singularidade tecnológica - são, de certa forma, um verdadeiro teste de
Kobayashi Maru para pessoas do início do século XXI. que é compreender o que significa a idéia do incognoscível, a idéia de perder o controle e a idéia dessa inevitabilidade na escala de toda a humanidade.
Em teoria, essa é uma prática psicoterapêutica simples: encontrar dentro do ponto em que o reconhecimento consciente das condições do jogo equilibrará a adoção do subconsciente - sem ser responsabilizado por negação, raiva, negociação ou desespero.
E esse teste, que, a julgar pela maioria dos argumentos, as pessoas falham exclusivamente.
E o autor do post “Ser tecnofóbico é inútil, mesmo que a tecnofobia seja justificada”, apesar do título promissor, não parece ser uma exceção quando se trata de barganhar, ou seja, na fase em que as pessoas tentam fazer sentido no seu significado usual desse conceito em circunstâncias que negam a própria possibilidade disso, através da racionalização.
A Arttom negociou a idéia de uma "caixa preta", segundo a qual:
- as pessoas concordam que o incognoscível permanece incognoscível e, até mesmo, em confirmação de sua boa fé, elas também concordam um pouco sem graça coletivamente - o que, no entanto, não faz sentido do ponto de vista dos interesses do incognoscível, o que não tornará o incognoscível;
- em troca, as pessoas obtêm esse incognoscível, qualquer que seja o incognoscível, contido - dentro dessa "caixa preta", que é, no entanto, até certo ponto sob controle, limitado - e, nesse sentido, ainda consciente , e não tão assustador, mas literalmente limitado.
Ou seja, eles também ainda não dominaram este exercício. E isso é muito ruim.
Ou seja, por um lado, essa é uma lição opcional: você pode, com diferentes graus de justificação, nem acreditar no próprio conceito de singularidade tecnológica, que essa é uma verdadeira projeção de processos para o futuro - ou, trivialmente, não saber sobre isso.
Mas as pessoas que conhecem e compartilham essa ideia se colocam em condições de inevitabilidade de uma escolha psicológica e racional, na qual todas as outras opções, exceto a plena aceitação, são piores, porque, no caso de uma mudança real de eventos dessa maneira, serão focos de tensão crescente, focos de crescente pressão emocional, ganhando vantagem sobre a razão, com consequências imprevisíveis, a ponto de que a parte perturbada da humanidade trará um fim catastrófico a toda a civilização, de acordo com o cenário de auto-realização profecias.
E para evitar esse fim absurdo, monty-pintonovskogo, o absurdo pode ser da mesma maneira, aceitando a inevitabilidade do incognoscível, que inclui o incognoscível e se será o fim. (Um pesadelo para neuróticos que acham mais fácil aceitar uma morte garantida do que a perda da ilusão de controle a tal ponto).
Ou seja, o que quer que se diga, Kobayashi Maru.
Para mim, foi eficaz encontrar harmonia imaginando um dos cenários mais assustadores do desenvolvimento de eventos: que as próprias pessoas criem sucessores, substitutos e executores.
Bem, digamos.
- Podemos parar com isso? Não.
- Desacelerar? A própria formulação da questão de desacelerar o processo, cuja velocidade e o ponto final que não temos idéia é absurda.
- Assuma o controle? As pessoas não podem assumir o controle de uma singularidade tecnológica - ou podem assumir o controle de outra coisa sem cobrir a questão da expectativa e a probabilidade de sua ocorrência.
Então, tudo é simples: apreciar a beleza do jogo enquanto ele continua.
No entanto, tendo honestamente passado esse cenário mental até o limiar dos gigantes braços artificiais da Skynet, dei um passo - e, encontrando-me no “outro lado” da singularidade tecnológica, me virei ... e não vi nada por trás. Simplesmente não estava por trás de nenhuma singularidade tecnológica - e não estava à frente e não estava em lugar algum.
Não, prever ou mesmo esperar um certo futuro é uma tarefa ingrata. Outra coisa é assumir o que esperar, provavelmente, não deveria ser. Com uma certa firmeza de julgamento, isso pode se tornar uma ocupação bastante bem-sucedida.
E tenho certeza de que a singularidade tecnológica é pelo menos vagamente reminiscente de toda a variedade de cenários possíveis inventados pelas pessoas desse momento ou de seus análogos - não vale a pena.
Tendo perdido um dos cenários mais delicados, na minha opinião, possíveis, vi seu indecente egocentrismo com clareza que agora não me permite ver isso.
Todo o conceito de singularidade tecnológica não é sobre IA, não é sobre tecnologia, não é sobre singularidade, mas sobre o homem, porque esse ponto imaginário em si é onde a humanidade deveria perder o controle das tecnologias em desenvolvimento.
I. Que horror, humanidade, e portanto não controlando, e nunca controlando milhões de coisas na realidade não hipotética de hoje, cada uma das quais ameaça a morte tanto das pessoas individualmente quanto da civilização como um todo: a partir do conteúdo de seu próprio interior, da microflora de seu próprio intestino, a dinâmica da divisão de nossas próprias células - a pandemia de gonorréia resistente a antibióticos, as mudanças climáticas, a reação em cadeia do anel de fogo vulcânico do Pacífico - pode deixar de controlar nosso fenômeno por outra realidade mais sem ser capaz de avaliar até mesmo o aumento do risco relativo, porque as pessoas nunca vai saber quantos deles de qualquer maneira.
II O argumento sobre a aceleração inimaginável da taxa de aprendizado de máquina também é bastante ridículo, se você pensar sobre isso. Nem direi que o nível moderno da computação já é inatingível e, para a maior parte da humanidade, incompreensível em qualquer caso. Antes dos cálculos, as pessoas viviam na realidade, que consistia em processos incompreensivelmente rápidos, indistinguivelmente pequenos - e simplesmente indistinguíveis, como a maioria das frequências sonoras, como a maioria das radiações e muitos outros processos, coletivamente enormes, como o Universo e os antigos, como o Universo. Todo o barulho que envolve a obtenção de tal velocidade de computação, para a qual as pessoas perderão a capacidade de entender de maneira grosseira como elas ocorrem, nada mais é do que o medo de perder outra ilusão de controle. Suponha que, amanhã, todos os engenheiros, matemáticos e programadores do mundo que tenham uma idéia sobre a construção dos algoritmos computacionais mais complexos existentes sejam mortos pela gonorréia resistente a antibióticos - e ... o que, na segunda-feira, é uma singularidade antes do previsto? As pessoas ainda manterão a capacidade, até certo ponto, de estar cientes do que está acontecendo - as leis da física não terão que mudar, mais ou menos. E as pessoas da mesma forma, em certa medida, nunca tiveram uma idéia completa de nada - por exemplo, sobre processos no nível quântico ou além do horizonte de eventos (em uma singularidade "diferente").
III "Mas ... os robôs vão começar a pensar em algo incompreensível!" Isso complica terrivelmente a realidade, na qual para cada pessoa existem 7 bilhões de outras pessoas - e cada uma delas pensa em algo incompreensível. E não é preciso confiar na previsibilidade humana na realidade, onde um
tumor na cabeça pode ser uma razão completamente possível para ser morto por um marido ou filho . Afinal, as pessoas vivem de alguma forma entre seus assassinos em potencial, que não sabem o que estão pensando - mas já têm medo de robôs. Embora os robôs merecessem o benefício da dúvida aqui - até agora eles não demonstraram tendências manicidas nas menores partes de até mesmo essas manifestações entre as próprias pessoas, eles também contribuem ativamente para reduzir a mortalidade humana. A expectativa de que, por se sentirem muito inteligentes, os robôs se comportem repentinamente como se seu tumor tivesse se formado, é uma projeção óbvia demais.
A ficção está despertando sonhos, e os robôs são personagens de contos de fadas.IV Não é uma parte, nem uma maioria, mas, literalmente, tudo aquilo que as pessoas já imaginaram ser realizadas por robôs - exclusivamente as projeções da sujeira que as pessoas criaram umas com as outras e com todas as outras formas de vida ao longo de sua história conhecida e esquecida .
Eu podia até entender os robôs rebeldes que destroem a humanidade simplesmente de sentimentos insultados causados por uma calúnia tão injusta e selvagem de suas intenções, o escurecimento de sua imagem e intimidação pelo próprio fato de sua existência em princípio - se não fosse também minha projeção.
V. Embora a única explicação razoável para o medo de que robôs, IA e tudo em geral prestem alguma atenção especial às pessoas, se baseie apenas no que as pessoas avaliam a probabilidade disso. Apesar do fato de que as próprias pessoas de alguma forma não expressam particularmente o desejo de reunir e eliminar, se não seus ancestrais, então primos evolucionários - chimpanzés. Embora, novamente, o registro humano na organização de massacres e massacres sem sentido não seja novamente a favor das pessoas - além disso, é seco.
Além disso, hackear outro viés bastante egocêntrico e abafado nesses argumentos é ainda mais fácil: basta mudar o foco especificamente do homo sapiens para qualquer outra amostra de criaturas vivas. Digamos que robôs matem todos os seres humanos - sem dúvida. Você nem precisa perguntar por que - as próprias pessoas sabem.
A questão é diferente: por que os robôs matam apenas humanos? Bobagem sobre o terrível John Connors na direção do atraso, porque concordamos que estamos falando de uma real singularidade tecnológica?
Não é engraçado que uma das opções para refletir um medo muito moderno e tecnológico sobre o futuro seja outra recontagem do mito do Salvador, incluindo motivos reconhecíveis como bater em bebês - um conto de fadas tão antigo que até o remake de Belém pode ser considerado uma adaptação relativamente nova.
Por que os robôs não matam todos os primatas? Ou todos os mamíferos? Ou toda a fauna? Ou toda a vida biológica na Terra? É claro que, de acordo com as condições do problema, não podemos saber o que esses robôs terão em mente, mas podemos fazer outra coisa: tendo ponderado todos os medos existentes de que a humanidade não sobreviverá ao alvorecer da era dos robôs e da inteligência artificial de maneira completamente arbitrária. gosto de cada um, com um coeficiente de probabilidade semelhante - repita a mesma operação, mas já para cães e coiotes. Depois os golfinhos. Então as baratas. E roedores, por precaução.
Permitirei-me assumir que, para muitas pessoas, independentemente do grau de tecnofalecismo, as chances de coiotes e golfinhos sobreviverem ao início do mundo dos robôs e, talvez nem mesmo percebendo que algo mudou, possam parecer maiores do que as chances das próprias pessoas. Mesmo os chimpanzés não parecem um alvo válido para a colheita sangrenta de barris de quatro pernas do Boston Dynamics, torturados por chutes - se você espera algo deles, é mais provável que eles equipem os chimpanzés com armas automáticas, os montem em cavalos e organizem a caça para as pessoas sobreviventes.
É verdade que não surpreende que essa preferência esperada de futuros robôs sedentos de sangue pela corrente sanguínea humana esteja claramente presente na consciência de massa?
Talvez, é claro, os robôs decidam que, por algum motivo, todas as formas de vida não lhes convêm. Mas, novamente, uma mudança de foco dá o "fator humano": faz sentido esperar que, nascendo na Terra, a forma de vida do silício destrua repentinamente toda a biosfera - tanto quanto presumir que, se a raça de robôs nascesse em Marte, eles repintariam imediatamente superfície do planeta vermelho em uma bandeira polonesa gigante.
Estou certo de que a desconstrução desse monumento do egocentrismo humano, não perturbada pela atenção do senso comum, lógica e ceticismo, pode ser continuada e continuada. Mas, para maior clareza, resumirei um pequeno resultado intermediário.
- Não vejo razão razoável para esperar no futuro o início da singularidade tecnológica como um evento especial, que será impossível não notar no fluxo geral de todas as mudanças no mundo real;
- ou como uma mudança significativa na direção do curso da história humana de uma só vez em todos ou na maioria dos aspectos em um determinado momento.
A taxa de mudanças tecnológicas continua a aumentar de uma maneira ou de outra, mas além dos limites dessa dinâmica, não vejo razão para esperar um único momento de um salto qualitativo que não possa ser desperdiçado ou explicado no contexto da tendência geral.
Além disso, essa dinâmica é desigual em diferentes áreas do desenvolvimento tecnológico;
e toda a conversa sobre a singularidade tecnológica no contexto do progresso tecnológico geralmente perde de vista as outras direções do desenvolvimento da civilização humana, incluindo aquelas em que é relativamente atrasada. E o resultado paradoxal do progresso desigual da humanidade em áreas específicas pode ser a “singularidade reversa”, quando mesmo um evento razoavelmente adequado às expectativas não será percebido e interpretado no nível adequado.
O futuro é sempre imprevisível e não pode se tornar imprevisível. Não há razão para esperar saltos na dinâmica de mudanças tão drásticas que sejam perceptíveis no momento de sua ofensiva. E a suposição de que é possível perceber e declarar o início da singularidade pós-factum desvaloriza toda a idéia desse momento como um momento único na história da humanidade, cujo início não pode ser desperdiçado.O mito da singularidade tecnológica
- Até que ponto a idéia de singularidade tecnológica é centrada no ser humano,
- até que ponto é formado pelo folclore, e não pelos futurologistas,
- até que ponto não é científico, mas arquetípico;
- quão poucos traços de lógica existem neste trabalho do inconsciente humano;
- que os detalhes modernos - esses são grãos de areia em uma concha de pérola, mas todo o tecido de conexão é mitológico - sugere a idéia de uma natureza fundamentalmente diferente da idéia da singularidade tecnológica como tal do que geralmente se acredita.
Francamente, a singularidade tecnológica não tem razão para ser chamada de teoria no estrito sentido científico. No entanto, isso se aplica a todas as tentativas de prever o futuro sem exceção. A singularidade tecnológica é muito mais precisa e justa, dada a sua raiz no inconsciente de massa, será determinada pelo mito.
E, nessa capacidade, o mito da singularidade tecnológica tem paralelos perceptíveis com o mito da Segunda Vinda de Jesus Cristo, com o qual eles representam dois casos particulares de uma das principais tramas míticas da famosa história: o mito do fim do mundo.
Foi assim que o inconsciente coletivo deu origem a outra encarnação do mito do fim do mundo no momento atual em um invólucro que acabou rasgado pela fé no progresso tecnológico. Este é um paradoxo sobre o qual quero pôr um fim.
Apoie novas publicações com uma doação no link money.yandex.ru/to/41001178171050 (cartão, veneno) ou através do botão "Enviar dinheiro" abaixo (veneno, PayPal)