🤦🏼 🚐 📝 Pesquisadores do MIT ensinam redes neurais a raciocinar 🤙🏾 👨🏿‍🤝‍👨🏾 🌪️

Recentemente, redes neurais têm se mostrado excelentemente em muitas aplicações. Eles procuraram padrões nos dados que foram usados para classificação e previsão. Redes neurais com aparente facilidade reconheceram objetos em imagens digitais ou, depois de "ler" uma passagem de texto, resumiram seu tema. No entanto, ninguém poderia dizer por quais transformações os dados de entrada passaram para obter uma ou outra solução. Até os autores das redes possuíam dados de entrada e informações de saída. E se considerarmos os dados visuais, às vezes é possível automatizar experimentos para descobrir a quais componentes das imagens a rede neural responde. E com os sistemas de processamento de texto, o processo é mais complicado. Qual é a dificuldade de entender uma linguagem humana com uma máquina, você pode ler abaixo.

No Laboratório CSAIL de Informática e Inteligência Artificial do Instituto de Tecnologia de Massachusetts, os pesquisadores de redes neurais fizeram o "cérebro virtual" agora fornecer sua lógica além da solução. Eles treinaram dois módulos de uma rede neural ao mesmo tempo. Os dados para o treinamento foram trechos de texto. Os resultados agradaram: o computador pensou, como uma pessoa, em 95% dos casos. E, no entanto, antes de iniciar um novo método de redes neurais em uso ativo, será necessária configuração e refinamento adicionais.

Por que as imagens são mais fáceis de processar do que o texto? Será possível dirigir livremente veículos não tripulados, é possível substituir um médico vivo por uma inteligência programada, dentro da qual existe um número incontável de neurônios? Isso nos aproxima de máquinas conscientes na vida real? Modelos de computador de redes neurais se comportam da mesma maneira que o cérebro humano, mas até agora eles não foram autorizados a tomar decisões que afetam a vida das pessoas. Para mudar isso, os especialistas precisavam de tempo e agora podemos descobrir como a rede neural chega aos valores finais.

Às vezes, no mundo das aplicações reais, as pessoas querem saber por que a máquina fez exatamente essa previsão, e não outra. O principal motivo pelo qual os médicos não confiam nas decisões de IA é a falta de informações sobre o processo de tomada de decisão. Isso também se aplica a outras áreas - onde o custo de uma previsão feita incorretamente é alto. Portanto, todos precisam de evidências e garantias. Provavelmente, tudo é realmente ainda mais amplo: você não apenas pode querer confirmar a correção do modelo de previsão, mas também descobrir como pode influenciar o que está acontecendo através da análise. Como uma pessoa comum pode entender um modelo complexo treinado em algoritmos desconhecidos. Esses algoritmos podem falar sobre a racionalidade de uma solução específica. Em Giktayms já fez uma pergunta sobre o tema. E agora podemos responder positivamente.

Redes neurais - o que?

O nome "redes neurais artificiais" sugere que essas estruturas se comportam aproximadamente como estruturas do cérebro humano. A unidade constituinte dessa rede é um nó de processamento, que, como um neurônio, por si só pode executar operações simples. O poder vem quando muitos nós são combinados em uma grande rede. A maior parte do trabalho desconhecido ocorre em um neurônio. É isso - uma caixa preta. Os dados de entrada e saída podem ser encontrados. Durante o treinamento, as operações executadas por nós individuais mudam constantemente para obter bons resultados em todo o conjunto de exemplos de treinamento. Ao final do processo, o programador de rede não sabe quais nós estão configurados no momento. Mesmo se esses dados estivessem lá, seria difícil entender essas informações de baixo nível para poder traduzi-las para um idioma que as pessoas entendam.

No processo de aprendizado profundo, os dados entram nos nós de entrada da rede, que os transformam e os transmitem aos seguintes nós. A última ação é repetida várias vezes. O processo para quando os valores chegam aos nós de saída da rede. As informações estão correlacionadas com a área de dados na qual o treinamento ocorre. Podem ser objetos na imagem ou no tópico do artigo.

Como o processo se tornou transparente

Para entender como uma rede neural toma decisões, os pesquisadores decidiram treiná-la em dados textuais. No laboratório do instituto, uma equipe de especialistas dividiu a rede criada em duas partes. Um deles pretendia extrair trechos de texto dos dados de treinamento e avaliá-los por tamanho e sequência. Quanto menor a passagem, e a maior parte consiste em linhas de palavras consecutivas, maior a pontuação.

Outras passagens vieram na segunda parte. A segunda parte da rede neural previu o tema da passagem ou tentou classificar o texto. Para o teste, usamos avaliações on-line no site de classificação de cerveja. Uma rede de cientistas tentou classificar as cervejas em uma escala de cinco estrelas, com base em fatores como aroma, sabor, aparência e resenhas escritas. Após o treinamento do sistema, os pesquisadores descobriram que sua rede neural avalia o aroma e a aparência, além de pessoas reais: 95% e 96%, respectivamente. De acordo com uma característica mais subjetiva do gosto, a rede neural “concordou” com as pessoas em 80% dos casos.

Os módulos foram treinados juntos, e o objetivo do treinamento era maximizar a avaliação dos segmentos selecionados e a precisão da previsão ou classificação.

A ilustração mostra um exemplo de uma revisão de cerveja com classificação em duas categorias. Se a primeira sub-rede escolheu essas três frases e a segunda sub-rede as associou às classificações corretas, o sistema usou a mesma coisa para julgamento como pessoa. Os pesquisadores também testaram uma rede neural baseada em um banco de dados de perguntas e respostas gratuitas para tópicos técnicos. A questão era se uma resposta específica já havia sido dada antes.

Os cientistas aplicaram esse método a milhares de resultados de biópsia com uma patologia do câncer de mama. O texto e as figuras foram analisados.

Qual é a dificuldade de uma máquina entender a linguagem humana?

"É difícil responder se você não entender a pergunta." Sarek, o pai de Spock em Star Trek 4: Regresso a Casa.

O processamento de linguagem natural é uma das áreas da inteligência artificial. Nosso ponto de vista e uma ampla gama de conhecimentos sobre o mundo e a compreensão do contexto afetam a maneira como percebemos até as estruturas mais elementares da gramática, conectando palavras em frases e sentenças significativas.

Vou explicar com o exemplo dado no livro de Eric Siegel "Calculating the Future". Por exemplo, frases como Índia, leite, sua. Cada parte semelhante de uma frase pode desempenhar papéis diferentes, dependendo das palavras que aparecem antes e depois da frase. Uma definição específica será baseada no entendimento do que as palavras significam e quais são as coisas reais que elas chamam.

1. "O tempo voa como uma flecha."
2. "A fruta voa como uma banana".

Se alguém não conhece esses quebra-cabeças lingüísticos em inglês, tente traduzir frases de várias maneiras.

O tempo voa como uma flecha.
As moscas do tempo amam algum tipo de flecha.
Meça a velocidade das moscas enquanto mede a velocidade de uma flecha.

A fruta voa como uma banana.
Drosophila amo banana.

A mesma desculpa pode significar coisas diferentes. Especialmente a preposição com.

"Eu comi porrige com frutas." Comi mingau com frutas, que faziam parte do prato.
"Tomei café da manhã com colher." Tomei café da manhã com uma colher, que era uma ferramenta.
"Tomei café da manhã com minha mãe." Tomei café da manhã com minha mãe, que participava da ação.

O uso de redes neurais

Tarefas de classificação. Esta é apenas uma busca por padrões, reconhecimento de rosto.

Tarefas de previsão. Como os usuários se comportarão em algumas situações. Por exemplo, os bancos calculam a probabilidade de reembolso dos empréstimos ao decidir sobre uma concessão. Eles também examinam o custo dos empréstimos para revendê-los para outros bancos no melhor momento. Áreas de aplicação do aprendizado de máquina: segurança, comportamento do consumidor nas lojas, combate ao crime, marketing, é claro, política (eleições), educação, psicologia e gestão de recursos humanos.

Em cada área de assunto, após um exame mais detalhado, é possível encontrar declarações de problemas para redes neurais. Aqui está uma lista de áreas individuais em que a solução desses problemas é de importância prática agora. Eu trago alguns deles.

No campo financeiro, as redes neurais preveem as taxas de câmbio, o custo das matérias-primas (séries temporais), ajudam a realizar negociações automatizadas nas bolsas, prevêem a probabilidade de falência e determinam a segurança das transações com cartões plásticos. Na área médica, eles fazem diagnósticos, processam imagens, monitoram a condição dos pacientes, analisam a eficácia do tratamento prescrito. As redes neurais reconhecem sinais de radar, adaptam a pilotagem de aeronaves danificadas, compactam informações de vídeo, otimizam redes de celular, conversam conosco na forma de assistentes eletrônicos (Cortana, Siri), filtram e bloqueiam spam, ajudam a configurar a publicidade direcionada. Nos processos de produção, eles são capazes de prevenir emergências e controlar a qualidade do produto. Em robótica - eles estabelecem as rotas para o movimento de robôs,manipuladores de controle.

Torna significativamente a vida mais fácil para especialistas em segurança e sistemas de segurança - aqui as redes neurais estão envolvidas na identificação de indivíduos por impressões digitais, vozes, assinaturas e rostos. Para os geólogos, as redes analisam dados sísmicos e buscam minerais usando técnicas associativas.

Como a medicina pode confiar em decisões infundadas da rede neural? Mas, é possível que as decisões tomadas pelo homem, sua mente, misturadas às emoções, possam sempre ser consideradas absolutamente verdadeiras para um caso específico? É claro que existem comissões de médicos, mas elas nem sempre podem ser coletadas. Portanto, em nossa medicina nem sempre baseada em evidências, as pessoas com treinamento específico ainda estão tomando decisões. O fator humano, erro médico contra o provável falso positivo da inteligência artificial. Talvez o fato seja que, no caso da máquina, não exista uma pessoa culpada específica? .. Na natureza do homem - buscar respostas, justificar e justificar decisões diante de seu próprio cérebro. É sempre mais fácil para uma pessoa quando se sabe quem é o culpado.

A mesma coisa na estrada. É imperdoável para uma máquina derrubar uma pessoa, assim como é imperdoável para outra pessoa que quebra as regras para causar danos. A pessoa culpada sempre recebe punição objetiva? Questões de moralidade permanecerão eternas. Provavelmente, não há uma resposta geral. Quando os carros autônomos da BMW ou do Google se tornam rotina nas ruas da cidade, as pessoas assumem o risco da máquina. E, embora em alguns casos a morte seja causada por um computador de motorista, o número total de acidentes e vítimas diminuirá drasticamente graças aos robôs.

Acima de tudo pela ética.redes neurais estão lutando contra empresas que produzem carros com autogoverno. Pergunta: o que o piloto automático deve fazer quando duas crianças jogam uma bola na frente dele no cruzamento. Quem deve ser exposto ao perigo: crianças ou passageiros do carro quebrando conscientemente as regras (!).
Este exemplo se assemelha a uma tarefa ética clássica na qual você é o operador de uma seta de tráfego, em um caminho de um grupo de pessoas e no outro alguém sozinho. A decisão sempre será injusta com a vítima, seus parentes e salvará o resto. Embora as pessoas que sobrevivem a esse preço também possam não estar felizes.

Semelhança evolutiva do cérebro

Existe o conceito de neurodarvinismo. Inclui um mecanismo de auto-carregamento que funciona no feedback entre o ambiente e o cérebro. Mesmo os modelos mais simples de redes neurais de computador, se programados para remover configurações desfavoráveis à existência e reproduzir as benéficas, alcançam níveis surpreendentes de complexidade em pouco tempo. Do que estou falando? Nenhuma estrutura no mundo real foi criada com o objetivo de autodestruição. Qualquer criatura é programada para toda a vida. E redes neurais também. Mesmo assim, em nossa opinião, uma criatura simples como uma mosca de Drosophila tem um sistema complexo de conexões no cérebro . Este é o cérebro dela que você viu na imagem no começo.

Como o cérebro humano trabalha com imagens

Segundo Rita Carter, no livro “How the Brain Works”, as memórias de informação sobre os rostos das pessoas que conhecemos são armazenadas no cérebro como redes neurais especiais (Unidades de Reconhecimento Facial). Quando vemos uma nova imagem, ela é comparada com a nossa experiência, digitalizando o ERL. Se houver algo conectado, esse ERL se tornará ativo e se conectará à última imagem vista. O cérebro se comporta da mesma maneira, seja uma nova imagem vista na rua ou gerada independentemente pela mente humana. Quanto mais a consciência se refere às imagens armazenadas, mais ativas são as redes neurais correspondentes. Redes desnecessárias quebram com o tempo. Isso é o que chamamos de "completamente esquecido".

Consciência

Por que faço analogias com o cérebro humano? Talvez não seja apenas confiar nas redes neurais de computadores? Talvez seja uma questão de compreensão e aceitação. Sim, outra pessoa, como uma criatura que é completamente aceita por nós como “nossa”, diferente de um computador mecânico, explicará e justificará qualquer decisão da maneira que entendermos. E se ele está mentindo? E se ele estiver doente mental? Nuances permanecem em toda parte. Máquinas não têm consciência, o que significa que não há problemas éticos - são sempre mais objetivos e imparciais. Mas os pesquisadores não podem deixá-los apenas em determinadas áreas, como criar a melhor combinação de xadrez, projetar sistemas complexos e, portanto, nós, as pessoas também precisamos nos adaptar. Embora seja difícil. Assim como sentir qualquer linha entre mecânico e emocional. Mas esse é o futurodescrito em romances de ficção científica do passado, que há muito começaram a se tornar nossas vidas diárias.

Assim, mais um passo foi dado em direção à compreensão em um par homem-máquina. Quero citar Roger Penrose, professor de matemática na Universidade de Oxford.

Compreender requer consciência. A ilusão de entendimento vem do processamento abrangente de grandes quantidades de dados. Cálculo e compreensão são coisas complementares.

"Acredito que, para explicar o entendimento, nos voltamos para novos conceitos físicos com um mundo quântico, cuja estrutura matemática é em grande parte desconhecida".

Penrose diz que o entendimento gera um componente específico do tecido cerebral.

"Existem microtúbulos no corpo humano, especialmente muitos nas células nervosas."

O cientista propõe investigar se é possível que os microtúbulos criem estados quânticos estáveis que ligem a atividade celular em todo o cérebro, gerando consciência. A simulação por computador desse estado é impossível.

Pesquisadores do MIT ensinam redes neurais a raciocinar