Al principio ...
A principios de la década de 2000, los jugadores extranjeros ingresaron al mercado de automatización de las compañías de telecomunicaciones en Rusia. Los sistemas de proveedores occidentales eran muy caros e inaccesibles no solo para el mercado promedio, sino también para la mayoría de las grandes empresas. Las soluciones nacionales en ese momento eran menos avanzadas, pero era un momento en que era necesario adoptar experiencia y crear sistemas que no fueran inferiores a las contrapartes occidentales.
Queríamos ser tan geniales y tecnológicamente avanzados como los proveedores occidentales, pero más universales y asequibles para las empresas medianas, por lo que surgió la idea de crear una nueva empresa que pudiera hacer frente a esta tarea. Se registró en diciembre de 2005. La columna vertebral del equipo consistía en inmigrantes de vendedores de facturación e integradores líderes de ese período.
El primer equipo tenía solo 6 personas. No había una especialización rígida; todos estaban involucrados en tareas relacionadas. Creamos el equipo de implementación, completamos no más de 1-2 proyectos a la vez. Un proyecto en ese momento podría durar un año, tuve que agregar mucha funcionalidad.
Desarrollamos el núcleo del sistema BSS, comenzamos a celebrar contratos con clientes y expandimos la funcionalidad. Nuestra línea de productos ha comenzado a crecer. Luego comenzaron a tratar con componentes OSS para la interacción con equipos de red y sistemas externos.
Arquitectura del servidor del cliente e interfaz web
Inicialmente, confiamos en la arquitectura cliente-servidor y una interfaz web. Antes de eso, tuvimos que introducir la facturación nacional y extranjera, por lo que la comparación fue muy clara. Para comprenderlo, comenzamos el desarrollo de la línea en 2005, y para la mayoría de los competidores el código fue escrito a fines de los 90, esto nos dio una serie de ventajas.
La carga de facturación entre los clientes creció. Llevamos varios años en el mercado y la confianza de nuestros clientes potenciales nos ha llevado a redes cada vez más grandes. Un cliente llegó con un millón de suscriptores y nos pareció que estábamos trabajando lentamente, necesitábamos más rápido. Estábamos comprometidos con la optimización. Los clientes llegaron con 5 millones de suscriptores: la situación se repitió, nuevamente se sentaron para la optimización. El desarrollo fue continuo.
Tenemos un artículo sobre la usabilidad de las interfaces:
“La interfaz para servicios en la nube en el segmento B2B: entre belleza y utilidad” , lea si este tema es interesante.
Centro de datos propio
Iron for Development inicialmente se encontraba en la oficina de la empresa, sin una sala dedicada. 5-7 servidores en la etapa inicial: unidades del sistema ordinarias.
Un año después del inicio del trabajo, comenzamos a restablecer el orden. Los ingenieros del sistema fueron trasladados a una habitación separada y comenzaron a equiparlo. El resultado fue una pequeña sala de servidores de oficina.
La compañía creció, el servidor creció con ella. Había un hardware de servidor normal. Cambiamos de oficina y la sala de servidores se mudó con nosotros. Cada vez, se asignó una habitación en la nueva oficina, equipada con ella, provista de energía, ventilación, organizó un sistema de extinción de incendios, instaló aires acondicionados industriales. En este modo, vivimos durante 7 años.
En 2012 hubo otro movimiento y tuvimos suerte. Entramos en la habitación que el banco solía ocupar y ya había una sala de servidores especialmente equipada allí; esta es la primera vez que no tuvimos que construirla nosotros mismos.
Es importante que nunca almacenemos datos de clientes en el centro de datos de nuestra oficina. Los operadores de telecomunicaciones, nuestros principales clientes, han desarrollado suficientemente sus servicios de TI, tienen sus propios centros de datos y centros de comunicación. Los grandes operadores de telecomunicaciones deben tener tres bucles para los sistemas de información críticos, como la facturación.
Entonces, antes de la "era" de las pruebas SaaS, era bastante fácil llevar a cabo la mayor cantidad de datos reales posible en el circuito de prueba del propio operador. Realizamos pruebas de lanzamiento interno en el centro de datos de nuestra oficina, luego lo incluimos en el bucle de prueba del operador.
Pero a pesar de las capacidades de prueba en el circuito del operador, para nuestro laboratorio local tuvimos que comprar equipos e instalar software lo más cerca posible de lo que nuestros clientes usaban. Lo que es popular entre los operadores de telecomunicaciones, compramos el mismo tipo de equipo para nosotros.
En diferentes momentos, se compraron servidores Supermicro, equipos HP, DELL, recientemente HUAWEY y hierro de fabricantes nacionales. Nos mantenemos dentro de la arquitectura x86, por lo que a veces incluso los proveedores más populares proporcionan algún tipo de equipo de prueba. A veces, según los resultados de la auditoría, compramos bancos de pruebas. Desde el punto de vista de los sistemas operativos del servidor, siempre hemos estado orientados a Linux.
Cambio organizacional
Para 2008, nuestro equipo había crecido, en ese momento el líder del equipo se convirtió en un arquitecto de sistemas, se creó un departamento de ventas, el soporte y la I + D crecieron. Poco a poco, establecimos asociaciones con integradores, también comenzaron a vender / implementar nuestro sistema. Las necesidades de soporte y capacitación de clientes y socios crecieron, y aparecieron nuevas iniciativas e ideas de negocios para expandir la línea de productos.
Ahora somos 70 personas, en el proceso de crecimiento hemos experimentado 3 cambios bastante grandes en la estructura organizativa y varias crisis económicas. La línea de productos que ofrecemos le permite automatizar completamente un operador de telecomunicaciones moderno. Desde 2019, hemos ingresado al mercado internacional y promovemos nuestros productos junto con integradores extranjeros.
Nuevo nicho de mercado 2.0
Hace 5 años, comenzaron a aparecer consultas de pequeñas empresas: "su solución es buena, pero difícil y costosa de entregar". Comenzamos a pensar qué hacer con estas solicitudes. Además, en ese momento, los proyectos basados en SaaS aparecieron en gran número, y decidimos mantenernos al día.
Razonamos de esta manera: si simplifica la solución, elimina algunas de las funciones, facilita el aprendizaje y minimiza el costo de la puesta en marcha, puede venderla de acuerdo con el modelo de suscripción. Esto reduciría la flexibilidad de la solución, pero debido a las economías de escala, se debería reclutar cierto grupo de clientes y recuperar el costo del servicio, para que sea rentable.
Los clientes de SaaS deberían haber sido clientes que no podían pagar nuestra solución Enterprise, licencias, software de servidor y hardware. Sí, y el mercado ya se siente maduro para los productos en la nube, incluso para un componente tan crítico para los operadores como la facturación.
Entonces, podemos decir que en el año 2014-2015 creamos una nueva división y comenzamos a avanzar hacia SaaS, al tiempo que implementamos un proyecto piloto para proporcionar acceso a los servicios de BSS en la nube.
Virtualizamos y transferimos la infraestructura de TI a un centro de datos externo.
En primer lugar, intentamos implementar el servicio en el centro de datos de nuestra oficina, pero después de recibir 2-3 accidentes y quejas en proyectos piloto (a pesar de que la electricidad y las comunicaciones estaban reservadas cualitativamente), nos dimos cuenta de que, por razones que escapan a nuestro control, todavía Podemos garantizar la calidad declarada de SaaS.
Trabajar con bases de combate de clientes y mantenerlas en nuestras instalaciones es una gran responsabilidad para la continuidad del trabajo y la disponibilidad de servicios. La diferencia en los requisitos que establecimos para la confiabilidad de nuestro propio laboratorio, entorno de prueba y servicios internos es muy grande. No puede trabajar y cumplir con los requisitos de SLA frente al cliente si algún constructor interrumpió la óptica cerca del edificio o si hay interrupciones en la electricidad: los empleados del cliente no pueden ingresar al sistema de información, se producen tiempos de inactividad y multas, los riesgos son demasiado altos.
Además, en 2014, la capacidad de nuestro propio centro de datos en la oficina se vuelve insuficiente para nosotros. Se requiere otra inversión de capital en actualizaciones de hardware para realizar pruebas de carga de los sistemas de alto rendimiento incluidos en la línea de productos, llevar a cabo el desarrollo paralelo de varios productos, proporcionar un entorno de prueba para diferentes versiones, mantener el funcionamiento normal de los servicios relacionados: rastreadores de errores, servicio de escritorio, etc.
Primero, nos mudamos a un centro de datos, donde nos prometieron que la certificación de acuerdo con el Nivel III se llevaría a cabo en un futuro próximo, nos dieron una carta de garantía. Por dinero, la oferta fue interesante, y estuvimos de acuerdo.
Alquilamos un lugar en el centro de datos, entregamos nuestros racks y servidores, conectados a la infraestructura. La transferencia se realizó con los servicios detenidos, se advirtió a los clientes con anticipación, se seleccionó el tiempo mínimo de carga y se los transportó rápidamente por la noche. En primer lugar, todos los servicios comerciales fueron llevados al centro de datos para garantizar la máxima confiabilidad para los clientes, y luego parte de su infraestructura interna.
Desafortunadamente, las esperanzas no se cumplieron por completo: durante casi dos años de estar en nuestro primer centro de datos externo, nunca se recibió la certificación para el centro de datos de Nivel III, y tuvimos 4 accidentes en 2 años. Por lo tanto, decidimos cambiar el centro de datos.
Buscamos un moderno centro de datos certificado de Nivel III y reiniciamos el procedimiento de reubicación basado en la experiencia previa. Me gustaron los servicios adicionales del centro de datos para la mudanza: asistencia con vehículos especializados para el transporte de bastidores de servidores, motores, disposición para proporcionar acceso a las salas de máquinas durante el horario de atención. Esta vez, la calidad de los servicios estaba en un buen nivel. Durante varios años de trabajo en este nuevo centro de datos, no hubo accidentes graves, lo que nos hace felices y nos permite proporcionar a los clientes acceso ininterrumpido a nuestras soluciones SaaS.
Una comparación simple sin mirar equipos específicos: las instalaciones de nuestro propio centro de datos en la oficina nos cuestan menos que alquilar la misma cantidad de bastidores en el centro de datos. De hecho, el costo de colocar y alquilar una nube en un centro de datos es más costoso que un centro de datos de oficina “hecho a sí mismo”, pero la confiabilidad lo supera. Ahora los precios relativos en los centros de datos han disminuido debido al aumento de la competencia y el balance de gastos está cambiando gradualmente.
Centro de datos virtual para nuestra facturación SaaS
Después de mudarnos al centro de datos de Nivel III, comenzamos a aumentar la capacidad de nuestro centro de datos virtual a medida que aumentaba el número de clientes corporativos que migraron a la infraestructura virtual y la aparición de nuevos clientes que utilizan nuestra nube para alojar sistemas de facturación y PRM. El costo del centro de datos ha reemplazado completamente la inversión en la infraestructura de TI de capital de nuestro centro de datos de oficina.
Entre los clientes corporativos, el operador más grande de MVNO fue el primero en ingresar a nuestra nube en el nuevo centro de datos. Ahora en nuestro SaaS viven más de 20 empresas con una capacidad base de aproximadamente 500 mil suscriptores.
Desde el punto de vista de probar nuevas ideas de negocio, una nube de centro de datos es muy conveniente: puede aumentar la capacidad durante un par de meses u organizar un entorno virtual separado. Probamos, si no fue así, simplemente redujimos el prototipo del negocio, revertimos los cambios y rechazamos capacidades adicionales. Lo mismo ocurre con las pruebas de estrés: alquilamos grandes capacidades por un corto período de tiempo y nos alegramos. No es necesario incurrir en costos de capital para la compra de equipos.
Actualmente estamos certificados para generar facturación en redes de hasta 25,000,000 números / suscriptores. Implementamos la parte del servidor en el entorno Linux / UNIX en la arquitectura x86. La parte del cliente se puede implementar en cualquier sistema operativo moderno, donde se inician navegadores web populares y modernos. Oracle y PostgreSQL pueden usar bases de datos.
Naturalmente, la carga puede variar mucho según la funcionalidad. En la vida, debe establecer una reserva, concentrarse en las cargas máximas, aumentar la capacidad a medida que los cálculos se vuelven más complicados y aumenta el volumen de datos procesados del equipo. En una situación en la que es posible una fuerte dinámica de cambiar el número de suscriptores hacia arriba (por ejemplo, la adquisición y absorción de otros operadores), la oportunidad de utilizar la flexibilidad de un centro de datos moderno parece ventajosa.
Cómo trabajamos ahora y consejos para pasar a centros de datos externos
Anteriormente, los especialistas de TI elegían la facturación al comprar, ahora los negocios, los vendedores y los vendedores participan más a menudo en esto, y TI se dedica al soporte y mantenimiento, con un control mínimo, para no tirar basura. Y los criterios de selección de especialistas en TI y comercializadores son muy diferentes, incluso en términos de la percepción visual del sistema de información.
La versión actual de nuestra plataforma es 3.2. La primera versión fue en 2005-2006. El segundo es 2006-2014. La tercera, desde 2014. Intentamos no quedar atrapados en la obsolescencia de las soluciones tecnológicas: actualizamos las herramientas de desarrollo y evaluación utilizadas, actualizamos constantemente la interfaz web. En su caso, ampliamos la pila de tecnologías utilizadas. En términos de soluciones, ahora se utilizan Tarantool, PostgreSQL, Hazelcast. Y estamos constantemente buscando nuevas perspectivas. Esto impone una serie de requisitos sobre el equipo utilizado y la posibilidad de una reconfiguración flexible.
Por el momento, podemos recomendar a las grandes empresas que presten atención al esquema híbrido, cuando están involucrados tanto los servidores físicos como la nube de un centro de datos. Por ejemplo, todo lo relacionado con la base de datos se ejecuta en un equipo dedicado específico, y los procesos bien paralelizados y virtualizados se transfieren a la nube del centro de datos.
La geo-reserva es un requisito obligatorio de los grandes operadores. Ahora, para algunos de nuestros clientes, apoyamos trabajar con tres centros de datos en diferentes partes de nuestro gran país. Este enfoque nos permite proporcionar al cliente la máxima tolerancia a fallas del servicio seleccionado por el cliente.
En nuestra opinión, un buen centro de datos moderno difiere del promedio en que puede funcionar con nubes híbridas y una buena capacidad de respuesta técnica. Los ingenieros de un buen centro de datos están listos para descubrir cómo funcionará el software con su nube. Los problemas, por regla general, se manifiestan bajo altas cargas, en nuestra práctica, los equipos conjuntos formados por nuestros especialistas e ingenieros de centros de datos revelaron anomalías interesantes asociadas con el uso de ciertos tipos de equipos y algunas versiones del sistema operativo en la nube.
Sin interacción con los ingenieros del centro de datos, a menudo es muy difícil entender por qué puede haber caídas en el rendimiento o un comportamiento anormal de los productos en una nube determinada.
La variedad de momentos sutiles difíciles de predecir es muy grande. La capacidad de los ingenieros del centro de datos para navegar rápidamente por la situación y ayudar a nuestro equipo a comprender dónde está el problema es un parámetro muy importante para elegir un centro de datos, al menos para una empresa de tecnología como la nuestra. Por lo tanto, cuando se mude a la nube, definitivamente debe probar sus sistemas, observar cómo funciona bajo carga, identificar las diferencias de su funcionamiento en su equipo y comprender las razones, establecer interacción con los especialistas del centro de datos.
Si desea compartir sus historias sobre la transferencia de su infraestructura a un entorno virtual, cuánto le cuesta dinero, qué sistema o requisitos específicos tiene su software / servicios y cómo sobrevivieron a la migración a centros de datos externos, bienvenido a comentar. Siempre es interesante cómo otros resolvieron problemas similares :)