Am Anfang ...
In den frühen 2000er Jahren betraten ausländische Unternehmen den Automatisierungsmarkt von Telekommunikationsunternehmen in Russland. Systeme westlicher Anbieter waren sehr teuer und nicht nur für den Durchschnittsmarkt, sondern auch für die meisten großen Unternehmen unzugänglich. Inländische Lösungen waren zu dieser Zeit weniger weit fortgeschritten, aber es war eine Zeit, in der Erfahrungen gesammelt und Systeme geschaffen werden mussten, die den westlichen nicht unterlegen waren.
Wir wollten so cool und technologisch fortschrittlich sein wie westliche Anbieter, aber universeller und erschwinglicher für mittelständische Unternehmen. Daher kam die Idee auf, ein neues Unternehmen zu gründen, das diese Aufgabe bewältigen kann. Es wurde im Dezember 2005 registriert. Das Rückgrat des Teams bestand aus Einwanderern von Rechnungsstellern und führenden Integratoren dieser Zeit.
Die erste Mannschaft hatte nur 6 Leute. Es gab keine starre Spezialisierung, alle waren mit verwandten Aufgaben beschäftigt. Wir haben das Implementierungsteam verstärkt und nicht mehr als 1-2 Projekte gleichzeitig abgeschlossen. Ein Projekt zu dieser Zeit konnte ein Jahr dauern, ich musste viele Funktionen hinzufügen.
Wir haben den Kern des BSS-Systems entwickelt, Verträge mit Kunden abgeschlossen und die Funktionalität erweitert. Unsere Produktlinie hat begonnen zu wachsen. Dann beschäftigten sie sich mit OSS-Komponenten für die Interaktion mit Netzwerkgeräten und externen Systemen.
Client-Server-Architektur und Webinterface
Zunächst setzten wir auf eine Client-Server-Architektur und ein Webinterface. Zuvor mussten in- und ausländische Abrechnungen eingeführt werden, sodass der Vergleich sehr klar war. Zum besseren Verständnis haben wir 2005 mit der Entwicklung der Linie begonnen, und für die meisten Mitbewerber wurde der Code Ende der 90er Jahre geschrieben. Dies brachte uns eine Reihe von Vorteilen.
Die Belastung der Abrechnung bei den Kunden nahm zu. Wir sind seit mehreren Jahren auf dem Markt und das Vertrauen unserer potenziellen Kunden hat uns zu immer größeren Netzwerken geführt. Ein Kunde kam mit einer Million Abonnenten und es schien uns, dass wir langsam arbeiteten, wir brauchten schneller. Wir haben uns mit Optimierung beschäftigt. Kunden kamen mit 5 Millionen Abonnenten - die Situation wiederholte sich, sie setzten sich erneut zur Optimierung. Die Entwicklung war kontinuierlich.
Wir haben einen Artikel über die Benutzerfreundlichkeit von Schnittstellen -
"Die Schnittstelle für Cloud-Dienste im B2B-Segment: zwischen Schönheit und Nutzen" - gelesen, wenn dieses Thema interessant ist.
Eigenes Rechenzentrum
Eisen für die Entwicklung stand anfangs im Büro der Firma, ohne einen eigenen Raum. 5-7 Server in der Anfangsphase - normale Systemeinheiten.
Ein Jahr nach Arbeitsbeginn begannen wir, die Ordnung wiederherzustellen. Die Systemingenieure wurden in einen separaten Raum verlegt und begannen mit der Ausstattung. Das Ergebnis war ein kleiner Büro-Serverraum.
Die Firma wuchs, der Server wuchs mit. Es gab eine normale Serverhardware. Wir haben das Büro gewechselt und der Serverraum ist mitgezogen. In dem neuen Büro wurde jedes Mal ein Raum zugewiesen, mit Strom versorgt, belüftet, eine Feuerlöschanlage organisiert, Industrieklimageräte installiert. In diesem Modus lebten wir 7 Jahre.
2012 gab es einen weiteren Umzug und wir hatten Glück. Wir fuhren in den Raum, den die Bank früher besetzte, und es gab dort bereits einen speziell ausgestatteten Serverraum - dies war das erste Mal, dass wir ihn nicht selbst bauen mussten.
Es ist wichtig, dass wir niemals Kundendaten in unserem Bürodatenzentrum speichern. Telekommunikationsbetreiber, unsere Hauptkunden, haben ihre IT-Services ausreichend ausgebaut, verfügen über eigene Rechenzentren und Kommunikationszentren. Große Telekommunikationsbetreiber müssen drei Schleifen für kritische Informationssysteme wie die Abrechnung haben.
Vor der „Ära“ des SaaS-Testens war es also ziemlich einfach, auf der Teststrecke des Betreibers selbst so realitätsnahe Daten wie möglich zu erfassen. Wir haben interne Release-Tests in unserem Office-Rechenzentrum durchgeführt und diese dann auf die Testschleife des Betreibers übertragen.
Trotz der Testmöglichkeiten im Bedienerkreis mussten wir für unser lokales Labor Geräte kaufen und Software so nah wie möglich an dem installieren, was von unseren Kunden verwendet wurde. Was bei Telekommunikationsbetreibern beliebt ist, kaufen wir die gleiche Art von Ausrüstung für uns.
Zu verschiedenen Zeiten wurden Supermicro-Server, HP, DELL-Geräte gekauft, vor kurzem HUAWEY und Eisen von einheimischen Herstellern. Wir bleiben in der x86-Architektur, sodass manchmal sogar die beliebtesten Anbieter selbst eine Art Testgerät bereitstellten. Aufgrund der Ergebnisse des Audits haben wir manchmal Prüfstände aufgekauft. Aus Sicht der Server-Betriebssysteme waren wir immer Linux-orientiert.
Organisatorische Veränderung
Bis 2008 war unser Team gewachsen, in diesem Moment entwickelte sich der Teamleiter zu einem Systemarchitekten, eine Verkaufsabteilung wurde gegründet, Support und F & E nahmen zu. Nach und nach gründeten wir Partnerschaften mit Integratoren und sie begannen auch, unser System zu verkaufen / zu implementieren. Der Bedarf an Unterstützung und Schulung von Kunden und Partnern wuchs, und neue Geschäftsinitiativen und Ideen zur Erweiterung der Produktlinie traten auf.
Mittlerweile sind wir 70 Personen, und im Laufe des Heranwachsens haben sich 3 ziemlich große Veränderungen in der Organisationsstruktur und mehrere Wirtschaftskrisen ergeben. Mit unserer Produktlinie können Sie einen modernen Telekommunikationsbetreiber vollständig automatisieren. Seit 2019 sind wir auf dem internationalen Markt und fördern unsere Produkte zusammen mit ausländischen Integratoren.
Neue Marktnische 2.0
Vor 5 Jahren tauchten Anfragen von kleinen Unternehmen auf: „Ihre Lösung ist gut, aber schwierig und teuer zu liefern.“ Wir begannen zu überlegen, was wir mit diesen Anfragen anfangen sollten. Außerdem tauchten zu dieser Zeit SaaS-basierte Projekte in großer Zahl auf, und wir beschlossen, Schritt zu halten.
Wir haben folgende Überlegungen angestellt: Wenn Sie die Lösung vereinfachen, einige Funktionen entfernen, das Erlernen vereinfachen und die Kosten für die Inbetriebnahme minimieren, können Sie sie gemäß dem Abonnementmodell verkaufen. Dies würde die Flexibilität der Lösung verringern. Aufgrund der Größenvorteile sollte jedoch ein bestimmter Kundenpool rekrutiert werden, um die Kosten für den Service zu decken und ihn kostengünstig zu gestalten.
Kunden von SaaS sollten Kunden sein, die sich unsere Enterprise-Lösung, Lizenzen dafür, Serversoftware und -hardware nicht leisten konnten. Ja, und der Markt fühlt sich bereits reif für Cloud-Produkte, selbst für eine so wichtige Komponente für Betreiber wie die Abrechnung.
Wir können also sagen, dass wir im Jahr 2014-2015 eine neue Abteilung gegründet und begonnen haben, auf SaaS umzusteigen, während gleichzeitig ein Pilotprojekt durchgeführt wurde, um den Zugang zu BSS-Diensten in der Cloud zu ermöglichen.
Wir virtualisieren und übertragen die IT-Infrastruktur in ein externes Rechenzentrum
Zunächst haben wir versucht, den Dienst in unserem Bürodatenzentrum bereitzustellen, aber nachdem wir 2-3 Unfälle und Beschwerden in Pilotprojekten erhalten haben (obwohl Strom und Kommunikation qualitativ reserviert waren), haben wir festgestellt, dass wir dies aus Gründen tun, die außerhalb unserer Kontrolle liegen Wir können die erklärte Qualität von SaaS sicherstellen.
Die Arbeit mit Kundenstützpunkten und deren Wartung in unseren Einrichtungen ist eine hohe Verantwortung für die Kontinuität der Arbeit und die Verfügbarkeit von Diensten. Der Unterschied in den Anforderungen, die wir an die Zuverlässigkeit unseres eigenen Labors, unserer Testumgebung und unserer internen Services stellten, ist sehr groß. Sie können nicht vor dem Kunden arbeiten und die SLA-Anforderungen erfüllen, wenn einige Bauherren die Optik in der Nähe des Gebäudes unterbrochen haben oder die Stromversorgung unterbrochen ist - die Mitarbeiter des Kunden können das Informationssystem nicht betreten, Ausfallzeiten und Bußgelder treten auf, die Risiken sind zu hoch.
Außerdem reicht die Kapazität unseres eigenen Rechenzentrums im Büro für uns 2014 nicht mehr aus. Weitere Investitionen sind in Hardware-Upgrades erforderlich, um Auslastungstests für in der Produktlinie enthaltene Hochleistungssysteme durchzuführen, mehrere Produkte parallel zu entwickeln, eine Testumgebung für verschiedene Releases bereitzustellen und den normalen Betrieb zugehöriger Dienste zu unterstützen - Bugtracker, Desk-Service usw.
Zunächst zogen wir in ein Rechenzentrum, in dem uns versprochen wurde, dass die Zertifizierung nach Tier III in naher Zukunft erfolgen würde. Sie gaben uns eine Garantieerklärung. Für Geld war das Angebot interessant und wir waren uns einig.
Wir mieteten einen Platz im Rechenzentrum, lieferten unsere Racks und Server, die mit der Infrastruktur verbunden waren. Die Übergabe wurde mit angehaltenen Diensten durchgeführt, die Kunden wurden im Voraus gewarnt, der Zeitpunkt der Mindestlast wurde ausgewählt und nachts umgehend transportiert. Zuallererst wurden alle kommerziellen Dienste in das Rechenzentrum gebracht, um maximale Zuverlässigkeit für die Kunden zu gewährleisten, und dann Teil ihrer internen Infrastruktur.
Leider wurden die Hoffnungen nicht vollständig erfüllt - fast zwei Jahre lang befanden wir uns in unserem ersten externen Rechenzentrum, und die Zertifizierung für das Tier III-Rechenzentrum wurde nicht erhalten. Innerhalb von zwei Jahren ereigneten sich vier Unfälle. Aus diesem Grund haben wir uns entschlossen, das Rechenzentrum zu wechseln.
Wir suchten nach einem modernen Tier III-zertifizierten Rechenzentrum und haben das Umsiedlungsverfahren basierend auf früheren Erfahrungen neu gestartet. Ich mochte die zusätzlichen Dienste des Rechenzentrums für den Umzug - Unterstützung mit Spezialfahrzeugen für den Transport von Servergestellen, Umzügen und die Bereitschaft, den Zugang zu den Maschinenräumen außerhalb der Geschäftszeiten zu ermöglichen. Diesmal war die Qualität der Dienstleistungen auf einem guten Niveau. Während der mehrjährigen Arbeit in diesem neuen Rechenzentrum gab es keine schwerwiegenden Unfälle, was uns glücklich macht und es uns ermöglicht, Kunden ununterbrochen Zugang zu unseren SaaS-Lösungen zu verschaffen.
Ein einfacher Vergleich ohne Blick auf bestimmte Geräte - Räumlichkeiten für unser eigenes Rechenzentrum im Büro haben uns weniger gekostet als die gleiche Anzahl an Racks im Rechenzentrum zu mieten. Tatsächlich sind die Kosten für das Platzieren und Mieten einer Cloud in einem Rechenzentrum teurer als bei einem selbst erstellten Bürodatenzentrum, die Zuverlässigkeit überwiegt jedoch. Jetzt sind die relativen Preise in Rechenzentren aufgrund des zunehmenden Wettbewerbs gesunken, und das Ausgabengleichgewicht verschiebt sich allmählich.
Virtuelles Rechenzentrum für unsere SaaS-Abrechnung
Nach dem Umzug in das Tier III-Rechenzentrum haben wir begonnen, die Kapazität unseres virtuellen Rechenzentrums zu erhöhen, da die Anzahl der Unternehmenskunden, die auf die virtuelle Infrastruktur migriert sind, und das Aufkommen neuer Kunden, die unsere Cloud zum Hosten von Abrechnungs- und PRM-Systemen verwenden, zunahmen. Die Kosten für das Rechenzentrum haben die Investition in die IT-Infrastruktur unseres Bürodatenzentrums vollständig ersetzt.
Unter den Unternehmenskunden war der größte MVNO-Betreiber der erste, der im neuen Rechenzentrum in unsere Cloud gelangt ist. Derzeit leben in unserem SaaS mehr als 20 Unternehmen mit einer Basiskapazität von ca. 500.000 Abonnenten.
Aus der Sicht des Testens neuer Geschäftsideen ist eine Rechenzentrums-Cloud sehr praktisch - Sie können die Kapazität für ein paar Monate erhöhen oder eine separate virtuelle Umgebung organisieren. Wenn dies nicht der Fall war, haben wir den Geschäfts-Prototyp einfach gekürzt, die Änderungen rückgängig gemacht und zusätzliche Kapazitäten abgelehnt. Dasselbe gilt für Stresstests: Wir mieten kurzfristig große Kapazitäten und freuen uns. Für den Kauf von Geräten fallen keine Kapitalkosten an.
Wir sind derzeit für den Aufbau von Abrechnungen in Netzen mit bis zu 25.000.000 Nummern / Abonnenten zertifiziert. Wir stellen den Serverteil in einer Linux / UNIX-Umgebung auf einer x86-Architektur bereit. Der Client-Teil kann auf jedem modernen Betriebssystem bereitgestellt werden, auf dem moderne, beliebte Webbrowser gestartet werden. Datenbanken können von Oracle und PostgreSQL verwendet werden.
Natürlich kann die Belastung je nach Funktionalität stark variieren. Im Leben müssen Sie eine Reserve anlegen, sich auf Spitzenlasten konzentrieren, die Kapazität erhöhen, wenn die Berechnungen komplizierter werden und das Volumen der verarbeiteten Daten von Geräten zunimmt. In einer Situation, in der eine starke Dynamik der Änderung der Teilnehmerzahl nach oben (z. B. die Akquisition und Absorption anderer Betreiber) möglich ist, bietet sich die Möglichkeit, die Flexibilität eines modernen Rechenzentrums zu nutzen.
So arbeiten wir jetzt und beraten Sie beim Umzug in externe Rechenzentren
Früher entschieden sich IT-Spezialisten beim Kauf für die Fakturierung, jetzt sind Unternehmen, Vermarkter und Verkäufer häufiger daran beteiligt, und die IT kümmert sich mit minimaler Kontrolle um Support und Wartung, um keinen Müll zu werfen. Und die Auswahlkriterien von IT-Spezialisten und Vermarktern sind sehr unterschiedlich, auch in Bezug auf die visuelle Wahrnehmung des Informationssystems.
Die aktuelle Version unserer Plattform ist 3.2. Die erste Version war in 2005-2006. Der zweite ist 2006-2014. Die dritte - seit 2014. Wir versuchen, nicht in der Veralterung technologischer Lösungen gefangen zu sein - wir aktualisieren die verwendeten Entwicklungs- und Evaluierungswerkzeuge und aktualisieren ständig das Webinterface. Gegebenenfalls erweitern wir den Stapel der verwendeten Technologien. In Bezug auf Lösungen werden jetzt Tarantool, PostgreSQL, Hazelcast verwendet. Und wir suchen ständig nach neuen Perspektiven. Dies stellt eine Reihe von Anforderungen an die verwendeten Geräte und die Möglichkeit einer flexiblen Rekonfiguration.
Derzeit können wir großen Unternehmen empfehlen, auf das Hybridschema zu achten, wenn sowohl physische Server als auch eine Rechenzentrums-Cloud beteiligt sind. Beispielsweise läuft alles, was mit der Datenbank zu tun hat, auf bestimmten dedizierten Geräten, und gut parallelisierte und virtualisierte Prozesse werden in die Cloud des Rechenzentrums übertragen.
Eine geografische Reservierung ist für große Betreiber obligatorisch. Für einige unserer Kunden unterstützen wir jetzt die Arbeit mit drei Rechenzentren in verschiedenen Teilen unseres großen Landes. Dieser Ansatz ermöglicht es uns, dem Kunden eine maximale Fehlertoleranz für den vom Kunden ausgewählten Service zu bieten.
Unserer Meinung nach unterscheidet sich ein gutes modernes Rechenzentrum von einem durchschnittlichen Rechenzentrum darin, dass es mit Hybrid-Clouds und guter technischer Reaktionsfähigkeit arbeiten kann. Ingenieure eines guten Rechenzentrums sind bereit, herauszufinden, wie die Software mit ihrer Cloud funktioniert. Probleme manifestieren sich in der Regel unter hoher Belastung. In unserer Praxis haben gemeinsame Teams aus Spezialisten und Rechenzentrumsingenieuren interessante Anomalien im Zusammenhang mit der Verwendung bestimmter Gerätetypen und einiger Betriebssystemversionen in der Cloud aufgedeckt.
Ohne die Interaktion mit Rechenzentrumsingenieuren ist es oft sehr schwierig zu verstehen, warum in einer bestimmten Cloud Leistungseinbußen oder ein abnormales Verhalten von Produkten auftreten können.
Die Vielfalt schwer vorhergesagter subtiler Momente ist sehr groß. Die Fähigkeit von Rechenzentrumsingenieuren, sich schnell in der Situation zurechtzufinden und unserem Team zu helfen, zu verstehen, wo das Problem liegt, ist ein sehr wichtiger Parameter für die Auswahl eines Rechenzentrums, zumindest für ein Technologieunternehmen wie unseres. Wenn Sie auf die Cloud umsteigen, müssen Sie auf jeden Fall Ihre Systeme testen, die Funktionsweise unter Last beobachten, Unterschiede in der Funktionsweise Ihrer Geräte feststellen und die Gründe dafür verstehen sowie eine Interaktion mit Spezialisten für Rechenzentren herstellen.
Wenn Sie Ihre Geschichten über den Transfer Ihrer Infrastruktur in eine virtuelle Umgebung teilen möchten, wie viel Geld Sie dafür kosten, welches System oder welche spezifischen Anforderungen Ihre Software / Services haben und wie sie die Migration zu externen Rechenzentren überstanden haben, können Sie dies gerne kommentieren. Es ist immer wieder interessant, wie andere ähnliche Probleme gelöst haben :)