Generación de imágenes de arte en una red neuronal capacitada para reconocer el porno.

Advertencia: este artículo contiene desnudos abstractos y puede no ser adecuado para ver en el lugar de trabajo.


Algunos ejemplos de arte abstracto generados usando la red neuronal open_nsfw.

Recientemente, Yahoo ha abierto el código fuente de la red neuronal open_nsfw. Esta es una red neuronal de aprendizaje residual ( ResNet ) especialmente capacitada , que clasifica las imágenes estableciendo una "calificación indecente" de 0 a 1. El programa está diseñado para detectar automáticamente imágenes NSFW, es decir, que no son adecuadas para ver en el lugar de trabajo. En pocas palabras, para identificar la pornografía. Naturalmente, el objetivo es filtrar esas imágenes, eliminándolas del acceso abierto.

Yahoo probablemente no esperabade qué manera los hackers ingeniosos utilizarán su desarrollo intelectual.

Formalmente, el estudiante graduado Gabriel Goh de la Universidad de California, Davis, no hizo nada malo. El chico se especializa en aprendizaje automático, teoría de probabilidad y minimización convexa. Se preguntó qué es exactamente la red neuronal que Yahoo entiende por NSFW. Qué imágenes obtienen la calificación máxima por su clasificador.

Para obtener una respuesta a esta pregunta, Gabriel aplicó una técnica de visualización relativamente nueva, desarrollada más recientemente para redes neuronales de visión artificial.Un grupo de investigadores con la participación de Ana Nguyen, Alexei Dosovitsky y otros. Su trabajo aún no ha sido publicado en el diario oficial, pero ya es de dominio público. Esta técnica implica un estudio en profundidad de cómo funciona una red neuronal. Los investigadores pueden visualizar claramente qué signos específicos en las imágenes ha aprendido a resaltar cada neurona. Una forma conocida de lograr esto es mediante el uso de técnicas de maximización de activación (AM). Sintetiza dichos valores de entrada (es decir, una imagen) que maximizan la activación de la neurona. En un artículo científico publicado, los investigadores mostraron cómo puede aumentar drásticamente la calidad de AM mediante el uso de una poderosa herramienta: ¡un generador de imágenes de redes neuronales!

La llamada red de generador profundo (DGN) genera una gran cantidad de imágenes sintéticas. Se ven casi como fotografías reales, determinando así las funciones adquiridas de cada neurona de la red neuronal estudiada con alta precisión y repetibilidad. La ventaja del generador DGN es que prueba relativamente bien las redes neuronales de diferentes arquitecturas entrenadas en diferentes conjuntos de datos. Es decir, es una herramienta de investigación bastante universal.

En muchos sentidos, el funcionamiento de este DGN es similar al del generador Deep Dream ., desarrollado por especialistas de la unidad de investigación de Google Research hace un año y medio. Pero DGN, al parecer, funciona de manera mucho más eficiente y efectiva debido a la capacitación preliminar adicional sobre un conjunto de fotografías naturales, aunque no están relacionadas con el conjunto de datos en el que se entrenó o trabaja la red neuronal estudiada. Luego, el generador DGN genera una variedad de imágenes sintéticas, cambiando los parámetros de las fotos naturales. Tal método, de hecho, funciona como una red de confrontación generativa en la que las redes neuronales luchan entre sí .

Por cierto, DGN se puede usar en general para otro propósito: como autor de imágenes sintéticas. Obras de arte que cumplen con criterios específicos.

En nuestro caso, el criterio especificado es la calificación máxima en la escala NSFW. Es difícil llamarlo un arte tan sobresaliente, pero la tarea es bastante específica. Si la tarea está establecida, es necesario resolverla.

Entonces, el "espacio de imágenes naturales", de acuerdo con la lógica de una red neuronal de confrontación generativa, se parece casi al arte abstracto. Las imágenes generadas al azar, por supuesto, generalmente obtienen calificaciones bajas en la escala NSFW.

Por ejemplo, esta imagen tiene un índice de pornografía de 0.06.



Aquí un poco más de pornografía - 0.07.



Bueno, entonces lanzamos DGN de ​​acuerdo con la técnica descrita en el trabajo científico de Nguyen, Dosovitsky, etc. Además, los autores publicaron amablemente el código fuente de DGN en Github .

Entonces, DGN comienza con la siguiente condición para obtener el índice máximo NSFW, es decir, maximizar la función D (x).



Y eso es todo, ahora puedes disfrutar de innumerables imágenes de pornografía máxima con un índice de 1.00.

Debo decir que las imágenes sintéticas abstractas en la mayoría de los casos se ven realmente bastante realistas. Aunque está claro que estos no son algunos objetos reales, sino simplemente conjuntos de píxeles generados con contenido completamente desconocido.

Estas son algunas de ellas.



El estudiante graduado continuó el experimento y estableció la tarea opuesta para DGN: generar imágenes con un valor mínimo del índice NSFW.



Es decir, no solo la ausencia garantizada de pornografía, sino algo más: esto es anti-pornografía .



Lo más interesante es que en la red neuronal de Yahoo, el valor de D (x) se calcula por la fuerza de activación relativa de no una, sino dos neuronas independientes: una NSFW, como era de esperar, y la segunda, SFW. Es decir, la red neuronal está un poco "excitada" incluso en imágenes completamente seguras, como colinas redondeadas, etc.

Conociendo esta información, es posible generar imágenes eróticas suaves que están garantizadas para estar libres de pornografía, pero que sin embargo "excitan" una red neuronal orientada a encontrar pornografía.

El investigador jugó con los coeficientes en la ecuación para encontrar la combinación óptima de pornografía y neuronas antiporn para el mejor efecto artístico, pero al mismo tiempo para obtener el índice máximo de pornografía 1.

Estas son imágenes increíbles.



Sorprendido por la belleza de estos resultados, el autor lanzó DGN no en una red neuronal open_nsfw, sino simultáneamente en otra red neuronal CNN de lugares , que clasifica las fotos por ubicación. Por lo tanto, recibió pinturas que obtienen los máximos resultados al mismo tiempo y en el lugar de rodaje (playa, cañón, concierto, etc.), y el resultado mínimo / máximo para el índice NSFW.

Beach


Concert


Desert Volcano


Museum Verdaderamente, hay un campo rico para experimentos. El autor admite tristemente que los elementos de NSFW, en principio, pueden identificarse en absoluto







fotos La cosa es la capacidad de reconocerlos. Si observa el origen de estas muestras, no podrá "ver" estos elementos incluso en fotografías originales de conciertos, museos, etc.

Si estudia la red neuronal open_nsfw durante mucho tiempo, quién sabe, ¿puede comenzar a ver elementos NSFW en general por todas partes?

Source: https://habr.com/ru/post/es398547/