Geração de imagens de arte em uma rede neural treinada para reconhecer pornografia

Aviso: este artigo contém nudez abstrata e pode não ser adequado para visualização no local de trabalho.Alguns


exemplos de arte abstrata gerados usando a rede neural open_nsfw.Recentemente

, o Yahoo abriu o código-fonte da rede neural open_nsfw. Esta é uma rede neural de aprendizado residual especialmente treinada ( ResNet ), que classifica imagens, definindo-as uma “classificação indecente” de 0 a 1. O programa foi projetado para detectar automaticamente imagens NSFW, ou seja, que não são adequadas para visualização no local de trabalho. Simplificando, para identificar pornografia. Naturalmente, o objetivo é filtrar essas imagens - removendo-as do acesso aberto.

O Yahoo provavelmente não esperavade que maneira hackers engenhosos usarão seu desenvolvimento intelectual.

Formalmente, o estudante Gabriel Goh, da Universidade da Califórnia, Davis, não fez nada de errado. O cara é especialista em aprendizado de máquina, teoria das probabilidades e minimização convexa. Ele se perguntou o que exatamente a rede neural que o Yahoo entende pela NSFW. Quais imagens recebem a classificação máxima por seu classificador.

Para obter uma resposta para essa pergunta, Gabriel aplicou uma técnica de visualização relativamente nova, desenvolvida mais recentemente para redes neurais de visão de máquina.um grupo de pesquisadores com a participação de Ana Nguyen, Alexei Dosovitsky, etc. Seu trabalho ainda não foi publicado no jornal oficial, mas já é de domínio público. Essa técnica envolve um estudo aprofundado de como funciona uma rede neural. Os pesquisadores podem visualizar claramente quais sinais específicos nas imagens cada neurônio aprendeu a destacar. Uma maneira conhecida de conseguir isso é através do uso de técnicas de maximização de ativação (AM). Ele sintetiza esses valores de entrada (ou seja, uma imagem) que maximizam a ativação do neurônio. Em um artigo científico publicado, os pesquisadores mostraram como você pode aumentar drasticamente a qualidade da AM usando uma ferramenta poderosa - um gerador de imagem de rede neural!

A chamada rede de geradores profundos (DGN) gera um grande número de imagens sintéticas. Eles parecem quase fotografias reais, determinando as funções adquiridas de cada neurônio da rede neural estudada com alta precisão e repetibilidade. A vantagem do gerador DGN é que ele testa relativamente bem redes neurais de diferentes arquiteturas treinadas em diferentes conjuntos de dados. Ou seja, é uma ferramenta de pesquisa bastante universal.

De muitas maneiras, a operação deste DGN é semelhante à do gerador Deep Dream ., desenvolvido por especialistas da unidade de pesquisa do Google Research há um ano e meio. Porém, a DGN, aparentemente, trabalha com muito mais eficiência e eficácia devido ao treinamento preliminar adicional em um conjunto de fotografias naturais, embora não esteja relacionado ao conjunto de dados no qual a rede neural estudada foi treinada ou trabalha. Em seguida, o gerador DGN gera uma variedade de imagens sintéticas, alterando os parâmetros das fotos naturais. De fato, esse método funciona como uma rede contraditória generativa na qual as redes neurais lutam entre si .

A propósito, o DGN pode ser usado em geral para outra finalidade - como autor de imagens sintéticas. Obras de arte que atendem aos critérios especificados.

No nosso caso, o critério especificado é a classificação máxima na escala NSFW. É difícil chamá-lo de uma arte tão marcante, mas a tarefa é bastante específica. Se a tarefa estiver definida, é necessário resolvê-la.

Assim, o “espaço das imagens naturais”, de acordo com a lógica de uma rede neural contraditória generativa, parece quase arte abstrata. Imagens geradas aleatoriamente, é claro, geralmente recebem classificações baixas na escala NSFW.

Por exemplo, esta imagem tem um índice pornô de 0,06.



Aqui um pouco mais de pornografia - 0,07.



Bem, lançamos o DGN de ​​acordo com a técnica descrita no trabalho científico de Nguyen, Dosovitsky, etc. Além disso, os autores publicaram o código-fonte do DGN no Github .

Portanto, o DGN começa com a seguinte condição para obter o índice máximo NSFW, ou seja, maximizar a função D (x).



E é isso, agora você pode desfrutar de inúmeras imagens pornográficas no máximo com um índice de 1,00.

Devo dizer que imagens sintéticas abstratas na maioria dos casos parecem realmente bastante realistas. Embora esteja claro que esses objetos não são reais, eles simplesmente geram conjuntos de pixels com conteúdo completamente desconhecido.

Aqui estão alguns deles.



O aluno de pós-graduação continuou o experimento - e definiu a tarefa oposta para a DGN: gerar imagens com um valor mínimo do índice NSFW.



Ou seja, não apenas a ausência garantida de pornografia, mas algo mais - isso é anti-pornografia .



O mais interessante é que, na rede neural do Yahoo, o valor de D (x) é calculado pela força de ativação relativa de não um, mas dois neurônios independentes - um NSFW, como você esperava, e o segundo - SFW. Ou seja, a rede neural é um pouco "empolgada", mesmo em imagens completamente seguras, como colinas arredondadas e assim por diante.

Conhecendo essas informações, é possível gerar imagens eróticas suaves, garantidamente livres de pornografia, mas que "excitam" uma rede neural voltada para a busca de pornografia.

O pesquisador brincou com os coeficientes da equação para encontrar a combinação ideal de pornografia e neurônios antipornistas para o melhor efeito artístico, mas ao mesmo tempo para obter o índice pornô máximo 1.

Essas são imagens surpreendentes.



Atordoado com a beleza desses resultados, o autor lançou o DGN não em uma rede neural open_nsfw, mas simultaneamente em outra rede neural da CNN , que classifica as fotos por local. Assim, ele recebeu pinturas que obtêm o máximo de resultados ao mesmo tempo e no local das filmagens (praia, canyon, concerto etc.), e o resultado mínimo / máximo para o índice NSFW.

Beach


Concert


Desert Volcano


Museum Na verdade, existe um campo rico para experimentos. O autor admite que infelizmente elementos NSFW, em princípio, pode ser detectado em tudo







fotos. A questão é a capacidade de reconhecê-los. Se você observar a origem dessas amostras, não poderá "ver" esses elementos mesmo em fotografias originais de shows, museus etc.

Se você estuda a rede neural open_nsfw por um longo tempo, quem sabe, você pode começar a ver os elementos NSFW em geral?

Source: https://habr.com/ru/post/pt398547/