Cómo lancé Keras en C ++

No hace mucho tiempo, me enfrenté a la tarea de producción de lanzar un Kesas red neuronal Kesas entrenado usando código C++ nativo. Por extraño que parezca, la solución no era para nada trivial. Como resultado, había una biblioteca privada, dando esa oportunidad. Acerca de cómo es: redes neuronales en cruces limpias y será el breve artículo de hoy.

Para aquellos que no pueden esperar, aquí está el repositorio de github, con una descripción detallada del uso. Bueno, les pregunto a todos los demás debajo del gato ...

Declaración del problema.

En el proceso, necesitaba ejecutar un modelo entrenado en una aplicación C++ (Unreal Engune 4) . Pero aquí está la mala suerte: hoy prácticamente no hay forma de ejecutar el modelo Keras en C ++.

La opción de compra de Python desde C++ no me pareció buena. Otra opción era convertir el modelo Keras en un modelo TensorFlow y luego construir TensoFflow para cruces y llamar a la API TF desde el código C ++.

Este proceso de metamorfosis está bien descrito en este artículo . Pero también surgen dificultades con esto. En primer lugar , TensorFlow está pasando por Bzzel . Y el bisel en sí es una cosa caprichosa y se negó a ensamblar bajo UE4 . En segundo lugar , TF es algo bastante grande y voluminoso , pero quería algo más liviano y productivo. Solo puedo decir que en los espacios abiertos de github se encontró un proyecto a medias , con la funcionalidad que necesitaba. Pero no era compatible con las versiones actuales de Python y Keras . Y los intentos de rehacerlo no tuvieron éxito: la aplicación C ++ se bloqueó con el error Core Dump . Era costumbre escribir mi propia implementación ...

Estamos escribiendo nuestra biblioteca!

Girando la roca más fuerte, arrojando una botella pivasa energía, me senté en el código. El código TensorFlow, los intentos de rehabilitar el código que se encuentra en el código , algunos conocimientos sobre algoritmos y estructuras de datos (gracias a ITMO por sus cursos) y buena música en mis oídos me ayudaron mucho a implementar esta biblioteca. De alguna manera la biblioteca fue escrita en una noche.

Y así conoce: Keras2cpp!

La primera parte de la biblioteca es el módulo Python para guardar el modelo entrenado en su propio formato binario .

No hay nada complicado en esta operación. Acabamos de leer el modelo de Keras y escribimos poco a poco en un archivo: primero , luego la , luego en formato float .

Ahora pasemos a la implementación más deliciosa: C ++.

El usuario tiene 2 entidades tensor y model .

Tensor : redistribuye los datos con los que funciona la red neuronal y es una implementación informática del tensor. Dimensión máxima actualmente admitida en 4 dimensiones. La dimensión de cada dimensión se almacena en std::vector<int> dims_; y el peso de cada elemento tensor está en std::vector<int> data_; . De los métodos disponibles, se pueden distinguir void Print() y Tensor Select(int row) . El resto de las operaciones las puede ver en el código fuente. Después de escribir las matemáticas para los tensores, comencé a implementar modelos.

Modelo : es un conjunto de capas en cada una de las cuales se prescriben operaciones en tensores y una matriz de peso. 2 funciones están disponibles para el usuario virtual bool LoadModel(const std::string& filename); y virtual bool Apply(Tensor* in, Tensor* out); .

Aquí hay un ejemplo de código completo.

python_model.py:

 import numpy as np from keras import Sequential from keras.layers import Dense #create random data test_x = np.random.rand(10, 10).astype('f') test_y = np.random.rand(10).astype('f') model = Sequential([ Dense(1, input_dim=10) ]) model.compile(loss='mse', optimizer='adam') #train model by 1 iteration model.fit(test_x, test_y, epochs=1, verbose=False) #predict data = np.array([[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]]) prediction = model.predict(data) print(prediction) #save model from keras2cpp import export_model export_model(model, 'example.model') 

cpp_mpdel.cc:

 #include "keras_model.h" int main() { // Initialize model. KerasModel model; model.LoadModel("example.model"); // Create a 1D Tensor on length 10 for input data. Tensor in(10); in.data_ = {{0, 1, 2, 3, 4, 5, 6, 7, 8, 9}}; // Run prediction. Tensor out; model.Apply(&in, &out); out.Print(); return 0; } 

Eso es todo lo que pienso. Disfruta usándolo, y voy a ir a mi amado C # y Python para escribir más redes neuronales.

PS

Me gustó escribir esta biblioteca. Cuando escribes todo desde cero, entiendes más, pero cómo funciona ... Planeamos agregar soporte para otras arquitecturas y GPU ...

repositorio github
Fuente