Cómo el aprendizaje automático me ha ayudado a comprender algunos aspectos del desarrollo de la primera infancia

Cuando mi primer hijo tenía solo dos años, ya amaba los autos, conocía todas las marcas y modelos (incluso más que yo, gracias a mis amigos), podía reconocerlos por una pequeña parte de la imagen. Todos decían: genio. Aunque notaron la completa inutilidad de este conocimiento. Y el hijo, mientras tanto, se acostó con ellos, los rodó, los arregló exactamente en una fila o un cuadrado.

Chico ama los coches

Cuando tenía 4 años, aprendió a contar, y a los 5 ya podía multiplicar y sumar dentro de 1000. Incluso jugamos Math Workout (el juego es así en Android, me gustaba calcular en el metro después del trabajo), y en algún momento comenzó a comenzar conmigo. haz eso Y en su tiempo libre, contó hasta un millón, que se congeló. Un genio! Dijeron, pero sospechábamos que no era en absoluto.

Por cierto, en el mercado, ayudó mucho a su madre: calculó la cantidad total más rápido que los vendedores en la calculadora.

Además, nunca jugó en la cancha, no se comunicó con sus compañeros, no se llevaba muy bien con los niños y los maestros en el jardín. En general, era un niño pequeño reservado.

La siguiente etapa fue la geografía: tratamos de canalizar el amor por los números en alguna parte y le entregamos a nuestro hijo un viejo atlas soviético. Se sumergió durante un mes, y después de eso comenzó a hacernos preguntas difíciles al estilo de:
- Papá, ¿qué país crees que tiene una gran área: Pakistán o Mozambique?
"Probablemente Mozambique", le respondí.
- ¡Aquí está! El área de Pakistán es de hasta 2.350 km2 ”, respondió alegremente el hijo.

El niño ama la geografía

Al mismo tiempo, no estaba completamente interesado en las personas que viven en estos países, ni en sus idiomas, ni en la ropa, ni en la música popular. Solo números desnudos: área, población, volumen de reservas minerales, etc.

Todos admiraron de nuevo. "Soy inteligente más allá de mis años", dijeron, pero nuevamente estaba preocupado, porque Comprendí que este era un conocimiento completamente inútil, no vinculado a la experiencia de la vida, y que era difícil continuar desarrollando. La mejor aplicación de todo lo que encontré fue una propuesta para calcular cuántos automóviles caben en el estacionamiento, si algún país en particular fue enrollado con asfalto (sin tener en cuenta el terreno montañoso), pero se detuvo rápidamente, porque huele a genocidio.

Curiosamente, el tema de los automóviles en este momento desapareció por completo, el hijo ni siquiera recordaba el nombre de sus automóviles favoritos de su enorme colección, que comenzamos a repartir con pérdida de interés. Y luego comenzó a contar lentamente en su mente y pronto olvidó el área de los países. Al mismo tiempo, comenzó a comunicarse más con sus compañeros, se hizo más contacto. Genius pasó, los amigos dejaron de admirar, el hijo se convirtió en un buen estudiante con una inclinación por las matemáticas y las ciencias exactas.

La repetición: la madre del aprendizaje


Parecería, por qué todo esto. Esto se observa en muchos niños. Sus padres declaran a todos que sus hijos son genios, las abuelas están entusiasmadas y elogian a los niños por su "conocimiento". Y luego los niños simples e inteligentes crecen fuera de ellos, no más brillantes que los amigos del hijo de la madre.

Al estudiar las redes neuronales, me encontré con un fenómeno similar, y me parece que se pueden sacar ciertas conclusiones de esta analogía. No soy biólogo ni neurocientífico. Todo más allá: mis suposiciones sin pretender ser particularmente científico. Estaré encantado de comentar sobre los profesionales.

Cuando estaba tratando de entender cómo mi hijo había aprendido tan abruptamente a contar más rápido que yo (pasó el nivel en Math Workout en 20.4 segundos, mientras que mi récord fue de 21.9), me di cuenta de que no contaba en absoluto. Él memorizó que cuando aparece 55 + 17, debe presionar 72. En 45 + 38 debe hacer clic en 83, y así sucesivamente. Al principio, ciertamente contó, pero el aumento de velocidad ocurrió en el momento en que pudo recordar todas las combinaciones. Y lo suficientemente rápido, comenzó a recordar no inscripciones concretas, sino combinaciones de símbolos. Esto es exactamente lo que se enseña en la escuela, al estudiar la tabla de multiplicar: recuerde la tabla de correspondencia MxN -> P.

Resultó que percibía la mayor parte de la información precisamente como una relación entre la entrada y la salida, y que el algoritmo muy general que usamos para desplazarnos para obtener una respuesta no solo se redujo a un algoritmo altamente especializado muy bien afilado para calcular números de dos dígitos. Hizo algunas tareas excelentes, pero mucho más lento. Es decir lo que parecía súper genial para todos en realidad fue simplemente simulado por una red neuronal bien entrenada para una tarea específica.

Conocimiento extra


¿Por qué algunos niños tienen la capacidad de recordar esto, mientras que otros no?

Imagine el campo de intereses del niño (aquí abordamos el problema cualitativamente, sin ninguna medida). A la izquierda está el campo de intereses de un niño común, y a la derecha está el campo de intereses de un niño "superdotado". Como era de esperar, el interés principal se concentra en áreas a las cuales inclinaciones especiales. Pero en las cosas cotidianas y la comunicación con los compañeros, el enfoque ya no es suficiente. Él considera este conocimiento superfluo.

Intereses de un niño común de 5 añosLos intereses de un niño brillante de 5 años.
Intereses de un niño común de 5 añosLos intereses del niño "brillante" de 5 años


En tales niños, el cerebro analiza y realiza capacitación solo sobre temas seleccionados. A través del entrenamiento, una red neuronal en el cerebro debe aprender a clasificar con éxito los datos entrantes. Pero el cerebro tiene muchas, muchas neuronas. Fuertemente más de lo necesario para el trabajo normal con tareas tan simples. Por lo general, en la vida, los niños resuelven muchos problemas diferentes, pero aquí los mismos recursos se destinan a una gama más limitada de tareas. Y la capacitación en este modo lleva fácilmente a lo que los profesionales de ML llaman sobreajuste. La red, usando una gran cantidad de coeficientes (neuronas), fue entrenada de tal manera que siempre da las respuestas correctas (pero puede dar una completa tontería en los datos de entrada intermedios, pero nadie lo ve). Por lo tanto, el entrenamiento no condujo al hecho de que el cerebro destacó las características principales y las memorizó, sino al hecho de que ajustó muchos coeficientes para producir un resultado preciso en datos ya conocidos (como en la imagen de la derecha). Además, en otros temas, el cerebro aprendió más o menos, con una formación deficiente (como en la imagen de la izquierda).

Aprendizaje automático: underfitting y overfitting

¿Qué es el ajuste y el sobreajuste?
Para aquellos que no están en el tema, les diré muy brevemente. Al entrenar una red neuronal, la tarea es seleccionar una serie de parámetros (coeficientes de ponderación de comunicación entre neuronas) para que la red, respondiendo a los datos de entrenamiento (muestra de entrenamiento), responda de la manera más cercana y precisa posible.

Si hay muy pocos parámetros de este tipo, entonces la red no podrá tener en cuenta los detalles de la muestra, lo que conducirá a una respuesta muy aproximada y promedio que no funciona bien incluso en la muestra de capacitación. Como en la imagen de la izquierda arriba. Esto es poco adecuado.

Con un número adecuado de parámetros, la red dará un buen resultado, "tragando" fuertes desviaciones en los datos de entrenamiento. Dicha red responderá bien no solo al conjunto de entrenamiento, sino también a otros valores intermedios. Como en la imagen central de arriba.

Pero si a la red se le dan demasiados parámetros configurables, está capacitada para reproducir incluso desviaciones y fluctuaciones fuertes (incluidas las causadas por errores), lo que puede conducir a una basura completa al intentar obtener una respuesta a los datos de entrada que no provienen del conjunto de entrenamiento. Como en la imagen de arriba. Esto es demasiado ajustado.

Un simple ejemplo ilustrativo.



Imagine que tiene varios puntos (círculos azules). Debe dibujar una curva suave que le permita predecir la posición de otros puntos. Si tomamos, por ejemplo, un polinomio, entonces para grados pequeños (hasta 3 o 4), nuestra curva suave será bastante precisa (curva azul). En este caso, la curva azul puede no pasar por los puntos de inicio (punto azul).

Sin embargo, si aumenta el número de coeficientes (y, por lo tanto, el grado del polinomio), aumentará la precisión del paso de los puntos azules (o incluso un golpe del 100%), pero el comportamiento entre estos puntos será impredecible (vea cómo fluctúa la curva roja).


Me parece que es la inclinación del niño a un tema específico (fijación) y el total desprecio por los temas restantes lo que lleva al hecho de que durante el entrenamiento se dan demasiados "factores" a estos mismos temas.

Teniendo en cuenta que la red está configurada para datos de entrada específicos y no asignó "características", pero "recordó" estúpidamente los datos de entrada, no se puede utilizar con datos de entrada ligeramente diferentes. La aplicabilidad de dicha red es muy limitada. Con la edad, el horizonte se amplía, el foco se erosiona y ya no hay oportunidad de asignar tantas neuronas a la misma tarea: comienzan a usarse en nuevas tareas que son más necesarias para el niño. La "configuración" de ese colapso de la red sobreajustada, el niño se vuelve "normal", el genio desaparece.

Por supuesto, si un niño tiene una habilidad que es útil en sí misma y puede desarrollarse (por ejemplo, música o deportes), entonces su "genio" puede mantenerse durante mucho tiempo e incluso llevar estas habilidades a un nivel profesional. Pero en la mayoría de los casos esto no funciona, y de las habilidades pasadas y un rastro no permanecerá a la edad de 8-10.

Conclusiones


  • ¿tienes un hijo brillante? pasará;)
  • Los horizontes y el "genio" son cosas relacionadas, y están conectados precisamente a través del mecanismo de aprendizaje.
  • este "genio" visible, lo más probable es que no sea genio en absoluto, sino el efecto de demasiado entrenamiento cerebral en una tarea en particular sin comprenderlo, es solo que todos los recursos se dedicaron a esta tarea
  • Al corregir los intereses estrechos del niño, su genio desaparece
  • si su hijo es "ingenioso" y un poco más reservado que sus compañeros, entonces necesita desarrollar estas mismas habilidades con cuidado, desarrollar activamente sus horizontes al mismo tiempo, y no centrarse en estas habilidades "geniales" pero generalmente inútiles

Source: https://habr.com/ru/post/es424201/


All Articles