Rocker - controlador rocksdb para Erlang

Introduccion

En Internet, hay mucha información y debate sobre la elección del enfoque sql / nosql, así como las ventajas y desventajas de uno u otro almacenamiento KV. Lo que está leyendo en este momento no es un manual o agitación de rocksdb para usar este repositorio y mi controlador para él. Me gustaría compartir el resultado provisional de la optimización del proceso de desarrollo de NIF para Erlang. Este artículo presenta un controlador viable para rocksdb, desarrollado durante un par de noches.

Entonces, en uno de los proyectos, la tarea surgió del procesamiento confiable de un gran volumen de eventos. Cada evento toma de 50 a 350 bytes, se generan más de 80 millones de eventos por nodo por día. Solo quiero señalar que no se consideran los problemas de tolerancia a fallos de la entrega de mensajes a los nodos. También una de las restricciones de procesamiento es el cambio atómico y consistente del grupo de eventos.

Por lo tanto, los requisitos principales para el conductor son:

1. Fiabilidad
2. Rendimiento
3. Seguridad (en el sentido canónico)
4. Funcionalidad
   
   • Todas las funciones básicas de kv
   • Familias de columnas
   • Transacciones
   • Compresión de datos
   • Soporte de configuración de almacenamiento flexible.
5. Base mínima de código

Resumen de soluciones existentes

• erocksdb es una solución de desarrolladores de leofs. Las ventajas incluyen la aprobación en un proyecto real. Por contra: una base de código obsoleta y falta de transaccionalidad. Este controlador se basa en rocksdb 4.13.
• Rockse tiene una serie de limitaciones, por ejemplo, la falta de opciones de configuración, pero lo más importante, todas las claves y valores deben ser cadenas. Se metió en la revisión solo como un ejemplo de una serie de controladores que implementan uno u otro funcional y limitan otro.
• erlang-rocksdb es un proyecto completo, cuyo desarrollo comenzó en 2014. Al igual que erocksdb se usa en proyectos reales. Tiene una gran base de código en C / C ++ y una amplia funcionalidad. Este controlador es adecuado para la práctica general y el uso en la mayoría de los proyectos.

Después de un análisis rápido de la situación actual con los controladores de erlang para rocksdb, quedó claro que ninguno de ellos cumple completamente con los requisitos del proyecto. Aunque sería posible usar erlang-rocksdb, hubo un par de tardes libres, y después del exitoso desarrollo e implementación del filtro Bloom sobre óxido y curiosidad: ¿es posible implementar todos los requisitos del proyecto actual e implementar la mayoría de las funciones en NIF en un corto período de tiempo?

Rockero

Rocker es un NIF para Erlang, que usa el contenedor Rust para rocksdb. Las características clave son la seguridad, el rendimiento y una base de código mínima. Las claves y los datos se almacenan en forma binaria, lo que no impone restricciones en el formato de almacenamiento. Por el momento, el proyecto es adecuado para su uso en soluciones de terceros.
El código fuente está en el repositorio del proyecto .

Descripción general de la API

Apertura de la base

Trabajar con la base de datos es posible en dos modos:

1. El espacio clave total. En este modo, todas sus llaves se colocarán en un conjunto. Rocksdb le permite configurar de manera flexible las opciones de almacenamiento para las tareas actuales. Dependiendo de ellos, la base de datos se puede abrir de dos maneras:

   
   

   • utilizando un conjunto estándar de opciones

     
     

     rocker:open_default(<<"/project/priv/db_default_path">>) -> {ok, Db}. 

     
     

     El resultado de esta operación será un puntero para trabajar con la base de datos, y la base de datos será bloqueada por cualquier otro intento de abrir. La base de datos se desbloqueará automáticamente inmediatamente después de borrar este puntero.

     
     
   • ya sea configurar opciones para la tarea
     

      {ok, Db} = rocker:open(<<"/project/priv/db_path">>, #{ create_if_missing => true, set_max_open_files => 1000, set_use_fsync => false, set_bytes_per_sync => 8388608, optimize_for_point_lookup => 1024, set_table_cache_num_shard_bits => 6, set_max_write_buffer_number => 32, set_write_buffer_size => 536870912, set_target_file_size_base => 1073741824, set_min_write_buffer_number_to_merge => 4, set_level_zero_stop_writes_trigger => 2000, set_level_zero_slowdown_writes_trigger => 0, set_max_background_compactions => 4, set_max_background_flushes => 4, set_disable_auto_compactions => true, set_compaction_style => universal }). 

   
   
2. Desglose en varios espacios. Las claves se almacenan en las llamadas familias de columnas, y cada familia de columnas puede tener diferentes opciones. Consideremos un ejemplo de abrir una base de datos con opciones estándar para todas las familias de columnas.
   

    {ok, Db} = case rocker:list_cf(BookDbPath) of {ok, CfList} -> rocker:open_cf_default(BookDbPath, CfList); _Else -> CfList = [], rocker:open_default(BookDbPath) end. 

Remoción de base

Para eliminar correctamente la base de datos, debe llamar a rocker:destroy(Path). En este caso, la base no debe usarse.

Recuperación de la base de datos luego de una falla

En el caso de una falla del sistema, la base de datos puede restaurarse usando el método rocker:repair(Path) . Este proceso consta de 4 pasos:

1. búsqueda de archivos
2. restaurar tablas jugando WAL
3. extraer metadatos
4. registro descriptor

Crear una familia de columnas

 Cf = <<"testcf1">>, rocker:create_cf_default(Db, Cf) -> ok. 

Retiro de familia de columna

 Cf = <<"testcf1">>, rocker:drop_cf(Db, Cf) -> ok. 

Operaciones CRUD

Entrada de datos clave

 rocker:put(Db, <<"key">>, <<"value">>) -> ok. 

Obtener datos por clave

 rocker:get(Db, <<"key">>) -> {ok, <<"value">>} | notfound 

Eliminación de datos clave

 rocker:delete(Db, <<"key">>) -> ok. 

Entrada de datos clave en CF

 rocker:put_cf(Db, <<"testcf">>, <<"key">>, <<"value">>) -> ok. 

Recuperación de datos clave dentro de la FQ

 rocker:get_cf(Db, <<"testcf">>, <<"key">>) -> {ok, <<"value">>} | notfound 

Eliminación de llave CF

 rocker:delete_cf(Db, <<"testcf">>, <<"key">>) -> ok 

Iteradores

Como saben, uno de los principios básicos de rocksdb es el almacenamiento ordenado de claves. Esta característica es muy útil en tareas reales. Para usarlo, necesitamos iteradores de datos. Rocksdb tiene varios modos para pasar datos (se pueden encontrar ejemplos de código detallados en las pruebas ):

• Desde el comienzo de la mesa. El rockero es responsable de esto en el iterador {'start'}
• Desde el final de la tabla: {'end'}
• Comenzando desde una clave específica hacia adelante {'from', Key, forward}
• Comenzando desde una tecla específica hacia atrás {'from', Key, reverse}

Vale la pena señalar que estos modos también funcionan para pasar por los datos almacenados en las familias de columnas.

Crea un iterador

 rocker:iterator(Db, {'start'}) -> {ok, Iter}. 

Comprobación de iterador

 rocker:iterator_valid(Iter) -> {ok, true} | {ok, false}. 

Crear un iterador para la FQ

 rocker:iterator_cf(Db, Cf, {'start'}) -> {ok, Iter}. 

Crear un iterador de prefijo

El iterador de prefijo requiere especificar explícitamente la longitud del prefijo al crear la base de datos.

 {ok, Db} = rocker:open(Path, #{ prefix_length => 3 }). 

Un ejemplo de creación de un iterador utilizando el prefijo "aaa":

 {ok, Iter} = rocker:prefix_iterator(Db, <<"aaa">>). 

Crear un iterador de prefijo para CF

Similar al iterador de prefijo anterior, requiere una prefix_length de prefix_length explícita para la familia de columnas

 {ok, Iter} = rocker:prefix_iterator_cf(Db, Cf, <<"aaa">>). 

Obtén el siguiente artículo

El método devuelve la siguiente clave / valor, o bien, si el iterador se completa.

 rocker:next(Iter) -> {ok, <<"key">>, <<"value">>} | ok 

Transacciones

Una ocurrencia bastante común es el requisito de registrar simultáneamente los cambios en un grupo clave. Rocker le permite combinar operaciones CRUD tanto en un conjunto común como en CF.
Este ejemplo ilustra el trabajo con transacciones:

 {ok, 6} = rocker:tx(Db, [ {put, <<"k1">>, <<"v1">>}, {put, <<"k2">>, <<"v2">>}, {delete, <<"k0">>, <<"v0">>}, {put_cf, Cf, <<"k1">>, <<"v1">>}, {put_cf, Cf, <<"k2">>, <<"v2">>}, {delete_cf, Cf, <<"k0">>, <<"v0">>} ]). 

Rendimiento

Puede encontrar una prueba de rendimiento en el conjunto de pruebas. Muestra alrededor de 30k RPS para escribir y 200k RPS para leer en mi máquina. En condiciones reales, puede esperar 15-20k RPS para escritura y aproximadamente 120k RPS para lectura con un tamaño de datos promedio de aproximadamente 1 Kb por clave y el número total de claves es más de mil millones.

Conclusión

El desarrollo y la aplicación de Rocker en nuestro proyecto nos permitió reducir el tiempo de respuesta del sistema, aumentar la confiabilidad y reducir el tiempo de reinicio. Estas ventajas se obtuvieron con costos mínimos de desarrollo e implementación.

Por mi parte, concluí que para los proyectos de Erlang que requieren optimización, el uso de Rust es óptimo. Erlang logra implementar rápida y eficientemente el 95% del código, mientras que Rust reescribe / agrega un inhibidor del 5% sin comprometer la confiabilidad general del sistema.

PD: Existe una experiencia positiva en el desarrollo de NIF para la aritmética de precisión arbitraria en Erlang, que se puede escribir en un artículo separado. Me gustaría aclarar si el tema de NIF sobre Rust es interesante para la comunidad.