Masalah transportasi utama di St. Petersburg adalah jembatan. Pada malam hari, mereka harus melarikan diri dari kedai tanpa selesai minum bir. Ya, atau bayar taksi dua kali lebih banyak dari biasanya. Di pagi hari - hati-hati menghitung waktu sehingga segera setelah jembatan diturunkan, Anda telah berhasil sampai ke stasiun dengan luwak yang cekatan. Kami tidak menganggap opsi "menghabiskan malam di suatu tempat di tengah, di sebelah stasiun kereta api" sebagai ideologis berbahaya.
... "Peregrine Falcon", berangkat pukul 5:30, ditemukan oleh orang-orang yang membenci burung hantu. Tidak, tentu saja, sangat nyaman berada di Moskow pada pukul sembilan pagi, dan Peter sangat cantik selama malam-malam putih, tetapi pada jam setengah empat, ketika saya naik taksi, saya ingin memutar kepala saya 270 derajat ke lark yang diciptakan oleh kereta pagi ini.

"Semua pusat data yang baik sama," saya pikir ketika saya menemukan bahwa orang-orang dari DataLine mengundang kami untuk mengunjungi.
Ternyata, setiap pusat data baik (atau buruk) sedikit dengan caranya sendiri, terutama ketika Anda mendapatkan gundukan, mengumpulkan semua garu di daerah tersebut dan belajar pelajaran dari pengalaman kaya Anda sendiri (dan, sedikit, alien). Di sini kita (sebagai bagian dari lima linkmeup terkemuka dan teman dan simpatisan yang bergabung dengan mereka) dan memutuskan untuk memeriksa seberapa baik (atau tidak demikian) pusat data OST dan NORD.
Setelah berhasil bekerja sedikit di jalan (mungkin ada iklan untuk satu operator seluler, tetapi tidak - cakupannya masih buruk dan tetap ada), kami diturunkan di stasiun Leningrad. Yah, setidaknya tidak di bawah Gazmanov.
Kami memulai tur kami dari pusat data "hijau muda" dengan OST - "satu" yang "terbakar" belum lama ini. Mengapa dalam tanda kutip - setelah. Sementara itu, kita berdiri, merokok, menunggu yang terlambat. Kami memotret kantor RT di lingkungan itu. Ada banyak cerita lucu dengan lingkungan ini - mulai dengan meletakkan aspal dan lukisan segar trotoar berbatasan sebelum kedatangan Orang Tinggi, dan diakhiri dengan diskon di kafe-kafe di sekitarnya, yang dibuat orang Dalayn karena kesamaan lencana.

Corong propaganda totaliter

Mode ketat pusat data (akses)
Kartu pas, aturan perilaku, penggiling daging di pintu masuk - hampir sama dengan yang kami lihat saat bertamasya ke Linxdatacenter . Pernahkah Anda melihat banyak kedai kopi di pusat data? Kami, sekarang, kenal pasangan sekarang. Karyawan dan pelanggan di lencana memiliki setoran "kopi", yang secara teratur diisi ulang. sehingga Anda dapat memanjakan diri dengan kopi dengan jumlah yang wajar. Kami, sebagai tamu terkasih, juga diperlakukan.
Saya tidak bisa mengatakan hal buruk tentang kopi - biasanya untuk kedai kopi "berjejaring", tetapi lokasinya secara tidak sengaja menawan, dan interiornya berada dalam tradisi modern terbaik.

Interior kedai kopi lokal

Di foto pusat data NORD
Tur dimulai di kantor. Selain grafiti yang dikenal di seluruh Runet dan gamut putih dan hijau muda, ada segala macam hal lucu. Ini adalah alat peraga yang tersisa dari pertunjukan teater perusahaan (dapatkah Anda membayangkan direktur teknis dari jaringan pusat data yang bermain dalam drama itu? Dan kita secara pribadi mengenalnya.).

Dan kebenarannya

Foto-foto dari pertunjukan
Pusat data (atau lebih tepatnya, empat pusat data) terletak di kompleks bangunan industri yang dibangun kembali pada abad sebelumnya (kemudian pabrik Citroen, dan pada zaman Uni Soviet pabrik Hydrodrive), sehingga di satu sisi terdapat industri yang keras, logam balok, atmosfer loteng dan artefak industri dari era yang berbeda, yang masih ditemukan selama berbagai karya. Di sisi lain, zona bertekanan pusat data harus diintegrasikan ke dalam struktur yang ada, dan secara berkala berkompromi dengan kenyataan. Namun, saya tidak akan mengatakan bahwa kompromi ini mempengaruhi kualitas - tetapi orang-orang mungkin harus berkeringat selama desain. Meski begitu, menurut rumor, Metro-2 lewat di suatu tempat di dekatnya, tetapi ini tidak akurat.

Selain teater, ada juga museum. Pameran, temuan arkeologis alami
Beberapa kata tentang api . Ya, bangunan (atau lebih tepatnya atap) benar-benar terbakar. Unit eksternal sistem pendingin dan jalur dingin rusak. Di suatu tempat kabel terbakar dan pendingin udara dibiarkan tanpa listrik. Suatu jaringan pipa freon meledak. Namun, terlepas dari ini, zona tekanan menahan ton air mengalir ke mereka, peralatan selamat. Mereka mengembalikannya di bawah kendali "markas besar" dalam pribadi pimpinan puncak seluruh dunia - mereka mencabut semua pipa tembaga di Moskow dan sekitarnya (mereka membawanya bahkan pada malam hari ke BMW X5) dan semua pemasang yang sadar. Peralatan penting dari pusat data yang terkena dampak (dipengaruhi oleh kurangnya dingin, bukan dari api!) Dengan cepat dipindahkan ke kamar lain, sehingga sudah jam lima pagi mereka tidak hanya mengangkat semua layanan mereka, tetapi juga pelanggan mereka.
Kami secara pribadi memeriksa ruangan yang “paling menderita” - kecuali bau terbakar dan mengganti ubin lantai yang ditinggikan, itu sama sekali tidak mengingatkan api (kecuali rak peralatan "sementara" dibawa ke ruang data lain, dan yang tersisa di sana).

Bilah status
Berjalan di sepanjang koridor, kita melihat layar sentuh dengan sesuatu yang sangat mirip dengan sirkuit ruang pusat data. Ini adalah bilah status. Mereka terjebak di koridor secara berurutan, dan mereka memungkinkan insinyur di tempat untuk dengan cepat menemukan, misalnya, AC yang tepat, well, mereka hanya melaporkan status saat ini.
Pemantauan dibangun di atas Nagios (sekarang ada beberapa cluster independen) dan mencakup semua pusat data (baik OST dan NORD). Selain itu, ada aplikasi untuk Android dan iOS (untuk pelanggan dan karyawan), dan halaman status langsung di situs.
Pada layar, saya melihat PUE tinggi luar biasa - tidak di mana-mana di Rusia itu dianggap dipertimbangkan, tetapi masih 1,90 agak banyak. Jawabannya murni ekonomis - pada 2012-2013, rak di pusat data berbeda seperti kue panas, sehingga tidak ada waktu untuk sentimen dan efisiensi energi. Kami menempatkan apa yang ada di pasaran, lakukan secepat mungkin dan jangan pedulikan PUE ini sama sekali, karena mengapa? Bahkan pada tahap desain, 80-90% rak dibeli, tetapi undang-undang di Federasi Rusia tentang efisiensi energi tidak ingin tahu apa-apa. Meskipun ada komisi di Amsterdam, Kondraty sudah cukup dari angka-angka itu.
Bukan masalah pribadi. Hanya sebuah bisnis.

Fitur lain adalah pelabelan ruang data. Di setiap situs, ruang data, selain kode alfanumerik “resmi”, memiliki nama samaran “manusia” dari alfabet angkatan laut (Alpha Bravo-Charlie Delta ...). Untuk beberapa alasan, semua pelanggan menyukai Whiskey Hall.

Tidak ada hal sepele dalam layanan pelanggan

"Pagar" semacam itu dibuat untuk beberapa pelanggan. Kami tidak diizinkan memotret di ruang mashroom, begitu juga foto DataLine ©
Pelanggan DataLine adalah perusahaan yang sangat besar dan dihormati, mereka benar-benar tidak suka ketika memotret peralatan mereka. Apalagi jika nama (atau logo) klien ditulis langsung di konter dalam huruf besar. Mereka tidak suka - dan hanya itu. Karena itu, kami menembak dinding yang sudah terkenal dengan prasasti yang berbeda, dan insinyurnya. Insinyur tidak dapat difoto semua atau di mana-mana, tetapi kami mencoba. Karena ada klien besar dan dihormati di antara pelanggan, mereka memiliki permintaan khusus - rak khusus (atau bahkan semacam penyimpanan uber dari beberapa rak vendor), pagar mereka, ACS mereka, pengawasan video mereka dan kelompok reaksi cepat dengan senapan serbu . Secara umum, salah satu aturan DataLine yang tidak diucapkan (dan vokal) adalah untuk menjaga klien dan membuatnya merasa baik. Mulai dari rompi dan workstation yang dilengkapi dengan akses dan pengisian internet, dan diakhiri dengan berbagai acara untuk pelanggan. Yang terakhir juga sangat berguna di sisi lain, bahwa orang yang sama, pindah dari perusahaan ke perusahaan, membawa mereka ke DataLine. Hanya karena semuanya nyaman, nyaman dan dapat diandalkan di sini. Business DataLine - bukan hanya pengiriman ruang rak. Ini juga awan yang disertifikasi secara bersamaan oleh 152- dan PCI-DSS (kami akan membuat podcast tentang itu, ikuti pengumuman), dan menyediakan konektivitas (serat Anda di antara situs dan dari masing-masing ke M9, cincin optik Anda sendiri) kota, dan seterusnya hingga mil terakhir ke kantor klien).

M - motivasi
Ngomong-ngomong, tentang prasasti - ide datang tidak hanya dari karyawan, tetapi juga dari mitra dan pelanggan, setelah itu Anda dapat memilih yang paling sukses di halaman DataLine resmi di FB. Nah, Anda bisa menawarkan ide Anda di sana.

Bertemu tentang Elbe

Cross (foto disediakan oleh DataLine)
Kami berhenti di Ruang Meet-Me-, di mana operator berada. Dalam MMR (ada tiga pasang dari mereka di OST, sesuai dengan jumlah input optik utama, untuk aktif dan pasif) koneksi dari semua ruang data berkurang. Di kayu salib, semuanya membosankan dan rapi. Tetapi di mana aktivitas operator berada, Anda mengingat tahun-tahun dan foto-foto terbaik dari beberapa BM18: mie kawat dan berbagai peralatan (DLink, Extreme, Juniper, Mikrotik ... dan seterusnya ke ASR9k). Ada lebih dari lima puluh operator, jadi semuanya berwarna-warni. Dari MMR, optik dan tembaga menyimpang di sepanjang aula. Setidaknya ada dua trek untuk masing-masing (opsi dimungkinkan), sehingga Anda tidak perlu khawatir tentang keandalan koneksi. MMR disebut "Elba", yang sangat halus.

IBM Power n-nada?
Temuan lainnya adalah IBM P-series, yang belum pernah dinyalakan, dan telah berdiri di salah satu koridor selama beberapa tahun. Sebuah mobil (bersama dengan perpustakaan tape dan penyimpanan) dipesan oleh salah satu pelanggan, tetapi "tidak berguna", jadi itu disajikan ke pusat data. Sejak itu sangat berharga.
Baik, mungkin, menjadi orang kaya dan menghasilkan hadiah seperti itu, bukan? (Atau mungkin mereka tidak memberikannya, tetapi lupa. Atau mereka kehilangan kartunya. Tapi itu sudah lama)

Ini adalah pria tampan yang berdiri di NORD-4
Kami pergi ke pusat energi - tiga (atau bahkan empat) DGU untuk setiap pusat data (saya ingat, di OST ada empat). Mesin diesel mencapai daya penuh dalam 30-40 detik dan menghasilkan 1900kVA. N + 1 redundansi, sinkronisasi, dan lainnya disertakan. Waktu terlama yang dihabiskan untuk mesin diesel di OST adalah 12 jam. di NORD - 2,5 hari (setelah semua, penyimpanan 85 ton bukan untuk Anda khukh-mukhras).
Tentu saja, ada kontrak dengan berbagai perusahaan bahan bakar untuk pasokan bahan bakar. Beralih ke diesel terjadi secara teratur, sehingga bahan bakar diproduksi dan kontrak diperiksa. Ngomong-ngomong, menurut rekan-rekannya, di NORD ketika menguji generator diesel, yang biasanya memakan waktu lebih dari satu jam, rumput berhasil berubah menjadi hijau bahkan di musim dingin di tempat udara panas dari mesin diesel dipancarkan.
Setelah gigitan singkat pergi ke tempat NORD di kedai kopi yang akrab. Ini juga bukan satu pusat data, tetapi empat bangunan independen di wilayah yang sama. Masing-masing memiliki input listrik sendiri, mesin diesel sendiri dan pendinginnya sendiri. NORD-1 dan NORD-2 diaudit oleh Uptime Institute M&O. Yang paling segar (dan pusat data DataLine terbaik) adalah NORD-4, jadi kami pergi ke sana.
Dengan besar, tampaknya, jumlah pusat data di Moskow, masih ada kekurangan. Tidak, tentu saja, satu atau dua rak akan dikirimkan kepada Anda tanpa masalah. Bahkan dua puluh akan diberikan. Lebih banyak pertanyaan (dan klien DataLine dengan kebutuhan seperti itu belum memiliki satu atau dua). Secara khusus, ada tempat (sejauh ini) di NORD-4, karena satu irisan besar telah pindah ke pusat data yang baru dibangun sendiri, tetapi di tempat lain mungkin tidak begitu beruntung. Namun demikian, sekarang desain NORD-5 dalam ayunan penuh, yang mereka janjikan akan diluncurkan pada awal 2020.
Tetapi kembali ke tur kami. Karena kami bepergian dengan mobil, kami diluncurkan ke gateway, di mana penembak mesin membawa kami ke tempat kejadian jumlah mobil kami diperiksa dengan aplikasi, dan semua penumpang diminta untuk keluar untuk mendapatkan pass (tentu saja, sesuai dengan paspor). Untuk B adalah keamanan.
NORD-4 adalah kebanggaan perusahaan dan kompilasi pengalaman bertahun-tahun dalam pembangunan dan pengoperasian pusat data, ia memiliki sertifikat Tier III Uptime Institute untuk proyek desain dan Fasilitas (mis., Pusat data yang dibangun), serta Keberlanjutan Operasional - orang-orang mendekati masalah ini sebanyak mungkin secara bertanggung jawab. Di dalam - empat zona hermetis independen, dua ruang di dalam satu bangunan. Masing-masing memiliki pusat pendinginan (DGU, ruang baterai) energi sendiri dan sistem pemadam kebakaran. Input umum - optik (ada dua dari mereka per bangunan) dan MMR.


Modding insinyur yang sehat
Di pintu masuk ke pusat data, sebuah kedai kopi yang kita kenal sedang menunggu kita (well, mengapa tidak?). Kami naik ke pusat pemantauan. Sekarang ada dua yang utama - di OST dan NORD-4 (di NORD-1,2,3 giliran tugas mereka juga duduk). Dari masing-masing pusat Anda dapat menonton kedua situs, jadi bahkan di sini redundansi n +1 disediakan. Di dinding video - kita sudah tahu dasbor di kisaran warna kapur (tentu saja, ada lebih banyak parameter di atasnya daripada pada tampilan status). Kami berkomunikasi sedikit untuk pemantauan - tidak ada prometheus mewah dan grafan, hanya nagios, hanya hardcore dan visualisasi buatan sendiri. Selama sepuluh tahun (namun, bahkan lebih) penggunaan, banyak pemeriksaan dan skrip khusus telah ditulis, jadi beralih ke sesuatu yang lain tampak seperti petualangan itu. Sekitar sebulan sekali, perusahaan lain muncul yang menawarkan untuk "dengan cepat dan tanpa rasa sakit" menyelesaikan semua masalah, tetapi sejauh ini tidak bertambah. Omong-omong, dinding video juga bekerja pada solusi rakitan sendiri, yang ternyata beberapa kali lebih murah daripada analog komersial.

PKS lokal
Saat Anda merancang, membangun, dan mengoperasikan pusat data selama bertahun-tahun, Anda tidak begitu takut melakukan sesuatu sendiri, daripada membeli yang sudah jadi. DataLine, misalnya, tidak ragu untuk mengatakan bahwa mereka, hanya dengan mengorbankan skala, menginjak jumlah maksimum garu, dan setiap pusat data baru adalah putra kesalahan dan pengalaman yang sulit, yang telah berlangsung selama lebih dari sepuluh tahun. Tentu saja, setiap pusat data baru memiliki pengetahuannya sendiri, dan, berjalan di sepanjang NORD, Anda mendapati diri Anda berpikir sesekali, orang hanya mengambilnya dan melakukannya dengan baik. Bukan demi, bukan demi peringkat dan sertifikat - proses rekayasa yang biasa, ketika pada setiap iterasi Anda tumbuh di atas diri Anda dan menjadi lebih baik dan lebih baik. Seorang pengamat dari luar akan mengatakan bahwa itu membosankan dan konservatif, tetapi klien, sebaliknya, mendukung stabilitas seperti itu dengan uangnya sendiri. Dan untuk melakukannya dengan baik, sama sekali tidak perlu membeli sistem teknik atau perangkat lunak untuk banyak, banyak uang (meskipun tanpa itu, kadang-kadang, dengan cara apa pun). Lebih sering memutuskan pengalaman, pengetahuan dan pengetahuan teknik.
Misalnya, gedung NORD-4 memiliki 3,5 lantai. Tiga pertama penuh, dengan langit-langit 4,5 meter, di mana aula berada. Dan yang terakhir adalah teknis, dengan ketinggian hanya 1,8 meter, dan diberikan murni di bawah sistem pendingin. Karena lantai bersifat teknis, persyaratan untuknya jauh lebih rendah, yang memungkinkan untuk menyederhanakan proyek dan menghemat uang.

Lihat pusat data segitiga

Max memiliki kungfu khusus untuk tidak jatuh cinta pada gambar
Kami menyelesaikan tur di atas atap - ia menawarkan pemandangan CHPP terdekat dan kawasan perumahan, serta bangunan NORD lainnya. Dua di antaranya berbentuk segitiga. Pada kesempatan ini, kolega bahkan tertawa bahwa "DataLine bodoh, untuk beberapa alasan mereka membangun pusat data segitiga" Untuk meletakkan rak di sana segitiga dan server segitiga. Tetapi tidak ada apa-apa - mereka membangun dan berhasil beroperasi, tetapi pada saat yang sama mereka secara efisien menggunakan wilayah yang ada (yang harus saya katakan di Moskow, tidak gratis). Fakta mengejutkan lainnya (bagi saya) adalah bahwa sebagian besar klien komersial ingin berada di Moskow. Sebuah situs untuk setengah ratus kilometer di sepanjang jalan raya Minsk (bahkan jika ada semua kapasitas dan komunikasi yang diperlukan) sudah tidak menarik bagi siapa pun. Jadi semuanya terletak di non-karet.

Menara pendingin bukan lagi pusat data, tetapi CHP
Tentang ini perjalanan kami selanjutnya berakhir.
Setelah masih ada diskusi yang panjang dan produktif tentang rencana bersama dan podcast masa depan (saya harap Anda tidak perlu menunggu lama), jadi tetaplah selaras untuk hal-hal yang lebih menarik segera.
Nah, DataLine mengundang mereka yang ingin melihat semuanya dengan mata kepala sendiri dalam tur. Benar-benar gratis, tetapi dengan janji temu. Mereka yang menamai kata kode "linkmeup" adalah nilai tambah dalam karma.
Tetap disini!