Quando eu começava uma conversa sobre redes neurais com uma garrafa de cerveja, as pessoas olhavam para mim o que parecia ser medo; eles ficaram tristes, às vezes com as pálpebras tremendo. Em casos raros, eles estavam ansiosos para se refugiar embaixo da mesa. Porque Essas redes são simples e instintivas, na verdade. Sim, acredite, eles são! Apenas deixe-me provar que isso é verdade!
Suponha que haja duas coisas que eu saiba sobre a garota: ela parece bonita para o meu gosto ou não, e eu tenho muito o que conversar com ela ou não. Verdadeiro e falso serão um e zero, respectivamente. Tomaremos um princípio semelhante para a aparência. A pergunta é: "Por qual garota eu vou me apaixonar e por quê?"
Também podemos pensar de maneira direta e intransigente: “Se ela está bonita e há muito o que conversar, então eu vou me apaixonar. Se nenhum deles é verdade, então eu desisto ” .
Mas e se eu gostar da dama, mas não houver nada para conversar com ela? Ou vice-versa?
Entende-se que, para cada um de nós, uma dessas coisas será de maior importância. Para ser mais preciso, cada critério tem seu próprio grau de importância ou, em outras palavras, seu peso. O critério múltiplo por peso nos dará "impacto na aparência" ou "impacto na conversa", de acordo.
Agora, com a consciência limpa, posso responder à minha própria pergunta:
"Se o impacto do carisma e da capacidade de conversação no valor total valorizar mais do que" apaixonado ", eu irei em frente ..."
Então, se eu colocar mais peso na conversação de uma dama e menos na aparência dela, em uma situação discutível, me apaixonarei por uma pessoa com quem gostaria de conversar. O oposto também é verdadeiro.
Esta regra é um neurônio propriamente dito.
Um neurônio artificial é uma função que transforma múltiplas entradas em uma saída. Ao configurar os pesos dessas entradas e o limiar de excitação, ajustamos a adequação do neurônio. Basicamente, para muitos de nós, a ciência da vida termina nesse nível, mas essa história não é sobre nós, é?
Vamos tirar mais algumas conclusões:
- Caso ambos os pesos sejam baixos, será difícil para mim me apaixonar por alguém.
- Caso ambos os pesos sejam muito altos, eu posso me apaixonar mesmo com um poste de luz.
- Você também pode me fazer amar o poste se diminuir meu limiar de amor. Mas eu imploro para você não fazer isso comigo! Vamos esquecer por enquanto, ok?
Rede neural
Dificilmente podemos encontrar damas claramente agradáveis e explicitamente falantes. Nem todas as amorosas são iguais, não importa quem diga o quê. Por esse motivo, devemos evitar breves e intransigentes "0" e "1" e substituí-los por valores percentuais. Então, é possível dizer "Estou apaixonado" (80%) ou "Esta senhora não é muito faladora" (20%).
Nosso primitivo "neurônio do tudo ou nada" acima não se encaixa no caso. Ele é substituído por um "neurônio sábio" que opera, fornecendo valores de 0 a 1, dependendo dos dados de entrada.
Um "neurônio sábio" pode nos dizer: "Essa senhora é bonita o suficiente, mas não conheço nenhum ponto em comum sobre o qual possamos falar, e é por isso que não gosto tanto dela".
Vamos mais longe. Usaremos esses dois fatos para uma avaliação diferente: como será bom trabalhar (cooperar) com essa garota? Nossas ações serão absolutamente as mesmas - vamos adicionar um neurônio sábio e ajustar pesos para se sentir confortável.
Julgar as meninas com base em dois recursos nos dará um resultado muito difícil. Vamos introduzir mais um critério - dinheiro! Vai variar de zero (absolutamente ruim) a um (filha de Rockefeller). Vamos ver como nossas suposições mudam com o critério monetário introduzido.
Por mim, decidi que, em termos de apelo sexual, o dinheiro não é tão importante, mas seu visual chique definitivamente terá um efeito em mim. Por esse motivo, mantenho o peso do dinheiro baixo, mas positivo.
Em termos de relacionamento comercial, não faz absolutamente nenhuma diferença para mim o quão rica é a garota, então sugiro que o peso do dinheiro seja zero.
É tolice checar uma garota apenas por trabalho ou caso de amor. Vamos considerar o quão agradável poderia ser se decidíssemos viajar com ela:
- O carisma é neutro aqui (o peso é zero ou muito baixo).
- Conversar é bom (peso positivo).
- Em viagens reais, quando o dinheiro acaba repentinamente, é um momento muito emocionante. Por esse motivo, darei ao dinheiro um peso ligeiramente negativo.
Ao transformar todos os três esquemas em um, descobriremos que mudamos para um nível mais criterioso de julgamento: de carisma, notas de dólar e conversação - para admiração, cooperação e conforto ao viajarmos juntos. Observe que esses sinais também podem variar de zero a um. Isso significa que eu posso finalmente adicionar um último "neurônio do tipo tudo ou nada" para que ele responda exatamente à minha pergunta: "devo casar com ela ou não?"
Bem, é claro, nem tudo é tão simples (em termos de mulheres). Vamos apresentar um pouco de drama e realidade ao nosso mundo simples e cor-de-rosa. Primeiro, faremos com que o neurônio "case-or-not" não seja sábio. É da natureza humana hesitar, de um jeito ou de outro. Mais uma coisa, adicionaremos o neurônio "quero filhos dela" e estaremos muito próximos da realidade - o neurônio "mantenha longe dela".
Eu não entendo nada de mulheres, então minha rede primitiva agora se parece com a ilustração na parte superior deste artigo.
As asserções de entrada são chamadas de "camada de entrada", julgamentos finais - "camada de saída", enquanto ocultas no centro há uma "camada oculta". A camada oculta são meus julgamentos e pensamentos inacabados que ninguém conhece. Oculto pode ser várias camadas ou nenhuma delas.
Longe de tudo ou nada
Você se lembra da minha conversa sobre o efeito negativo que o dinheiro tem no meu desejo de viajar com alguém? Bem, eu estava traindo. Para viagens conjuntas a algum lugar, é melhor ter uma pessoa ao seu lado com dinheiro, nem muito nem muito, muito pouco. Para mim, parece mais emocionante.
Ainda assim, aqui tenho uma situação desafiadora:
If I make money weight negative, then the less money the better. If money weight is positive, the more money the better. If money has zero weight, then it does not matter at all.
Portanto, o peso apenas não é suficiente para que eu descubra a situação "não mais nem menos"!
Para contornar isso, vou inventar dois novos neurônios: "dinheiro é muito", "dinheiro é pouco" e alimentarei o fluxo de caixa de minha dama com suas entradas.
Agora eu tenho dois julgamentos: "muito" e "pequeno". Se duas saídas são insignificantes, então eu recebo uma coisa "nem muito nem pouco". Ou seja, na saída, colocaremos mais um neurônio com pesos negativos:
Coisa "nem muito nem pouco": setas em vermelho e azul mostrando relações positivas e negativas, respectivamente.
Em geral, isso significa que os neurônios lembram blocos de um kit de construção. Como um processador é construído a partir de transistores, os neurônios juntos podem formar um cérebro. Por exemplo, o julgamento “rico ou inteligente” pode ser apresentado da seguinte forma:
Coisa “ou-ou”: setas em vermelho e azul mostrando relações positivas e negativas, respectivamente.
Ou assim:
Podemos substituir neurônios “sábios” por “tudo ou nada” e obter um operador lógico XOR. O ponto é não esquecer de ajustar os limiares de excitação.
Diferentemente dos transistores e da lógica intransigente "se - então" de um programador típico, a rede de neurônios é capaz de tomar decisões ponderadas, cujos resultados serão alterados por variações suaves dos parâmetros de entrada. Aqui está a sabedoria!
Gostaria de chamar sua atenção para o fato de que a adição de uma camada que compreende dois neurônios permitiu que o neurônio "nem muito nem menos" produzisse um julgamento mais complexo e equilibrado, passando para o novo nível lógico. É uma transição de “muito” ou “menos” para uma solução de compromisso, para julgamentos mais ponderados do ponto de vista da filosofia. E se adicionarmos novas camadas ocultas? Somos capazes de abraçar essa rede simples com nossa mente, mas e uma rede com 7 camadas? Ainda somos capazes de perceber a profundidade de seus julgamentos? E se cada um deles, incluindo a camada de entrada, tiver cerca de mil neurônios? Do que você acha que será capaz?
Imagine que eu estou fazendo esse casamento e algo de amor cada vez mais complexo para finalmente acabar com essa rede. Em algum lugar por lá, esconde todos os nossos nove neurônios originais, transformando-o em realidade. Por mais que tentássemos, simplesmente não temos chance de entender todas as dependências e a natureza profunda dos julgamentos feitos por essa rede. Para mim, a transição de uma rede 3x3 para 7x1000 pode ser comparada à compreensão da escala de uma galáxia, se não do universo, comparado ao tamanho do meu próprio corpo. Simplificando, não vou conseguir fazer isso. A solução que essa rede forneceria através da reação de qualquer um de seus neurônios não pode ser explicada pela lógica. É o que chamamos de "intuição" na vida cotidiana (pelo menos "um de ... ou um de ..."), que é o desejo inexplicável do sistema ou uma dica que ele está nos dando.
Entretanto, diferentemente do nosso exemplo sintético de uma rede 3x3, em que cada neurônio na camada oculta é suficiente e formalizado com precisão, na rede real isso não é necessariamente verdade. Em uma rede bem projetada, cujo tamanho não é excessivo para a solução de uma tarefa, cada neurônio detectará um determinado atributo, mas isso não significa absolutamente que, em nossa linguagem, possamos encontrar uma palavra ou frase adequada para descrevê-la. . Aplicável ao indivíduo, isso significa que você pode sentir um certo recurso, mas não pode explicá-lo em palavras.
Treinamento
Algumas linhas acima, mencionei uma rede bem projetada, portanto suscetível de provocar sua pergunta não dita: “E como podemos projetar componentes de uma rede para milhares de neurônios? Quantos anos de homem e vidas arruinadas precisamos para conseguir isso? Receio responder a segunda parte. Muito melhor será automatizar os procedimentos de ajuste, forçando a rede a realizar esse trabalho. Esse processo de automação é chamado de treinamento. Para fornecer uma idéia geral, devo voltar à metáfora original de "questão de importância crítica":
Chegamos a este mundo com nossa mente absolutamente clara e inocente, nossa rede de neurônios sendo completamente ignorante sobre as mulheres. Precisamos configurá-lo de maneira uniforme para que a felicidade e a alegria se estabeleçam em nossa casa. Para conseguir isso, precisamos de alguma experiência que possa ser desenvolvida de várias maneiras:
Ter um treinador ao seu lado para fazer o trabalho (para sonhadores e sentimentalistas). Assista novelas de Hollywood e leia romances emocionantes. Pode-se também levar pais e / ou amigos para a coleta de informações. Então, dependendo da quantidade de informações obtidas, é hora de verificar o conhecimento acumulado até o momento. Na falta de sucesso, aborte a tentativa e volte a começar com romances de amor novamente.
Nenhum treinador para ajudá-lo (para experimentadores desesperados). Use o método de tentativa e erro para se casar com uma dúzia ou duas de mulheres. Quando casado, toda vez que coça a cabeça em confusão. Repita até achar que é suficiente e sentir que sabe como isso geralmente acontece.
Nenhum treinador para ajudá-lo, opção 2 (otimistas desesperados escolherão isso). Deixe para lá e faça algo pela vida para encontrar-se casado um dia. Depois disso, reajuste sua rede de acordo com a realidade atual para garantir que tudo lhe convenha.
Logicamente, devo escrever todas as coisas em detalhes, mas tenho medo de que, sem a matemática, exista muita filosofia. Por esse motivo, acredito que é melhor parar aqui. Talvez da próxima vez?
Tudo o que foi dito acima é verdadeiro para redes de neurônios artificiais do tipo "perceptron". Outras redes são semelhantes de acordo com princípios, mas também têm suas próprias peculiaridades.
Desejo que você tenha bons pesos e excelentes amostras para o seu treinamento! E se você ainda não precisa deles, conte a alguém sobre este artigo.
Versão RU