Sistem pendingin di pusat data Selectel

Ikhtisar: Sistem pendingin di pusat data Selectel

Harga kompetitif untuk layanan selalu menjadi "raja argumen" bagi pelanggan saat memilih pusat data. Dan apa harga ini terdiri dari? Yang pertama terlintas dalam pikiran adalah biaya peralatan TI dan listrik, tetapi bagian yang signifikan dalam struktur harga terdiri dari biaya server pendingin, sistem penyimpanan (SHD) dan perangkat jaringan. Sebagai contoh, server dengan beberapa prosesor memancarkan hingga 600 W atau lebih energi panas, yang harus dihilangkan secara efektif, dan udara dingin harus dipasok ke lubang ventilasi server.

Dalam artikel ini, kami akan memperkenalkan Anda dengan teknologi kontrol iklim di pusat data Selectel dan memberi tahu Anda bagaimana produk baru di daerah ini mengurangi biaya pengoperasian pusat data, dan secara tidak langsung, jumlah dalam akun pelanggan kami.

3 pasar layanan - 3 persyaratan pendinginan


Di pasar layanan pusat data, diperkirakan secara kasar, ada tiga segmen utama. Ini, pertama, colocation, kemudian infrastruktur IaaS - dedicated server plus cloud storage, dan segmen ketiga - cloud server (VPC, VPS, VMware Cloud), termasuk cloud publik, pribadi, dan hybrid.

Diagram Pasar Layanan Layanan Data


Tidak peduli betapa mengejutkannya hal itu, tetapi pelanggan dari masing-masing segmen memiliki persyaratan yang berbeda untuk sistem iklim. Pelanggan yang paling menuntut adalah menempatkan peralatan mereka sendiri (colocation) di pusat data. Di antara mereka ada banyak manajer TI dengan praktik bertahun-tahun dan gagasan konservatif tentang suhu yang seharusnya ada di ruang server. 10-15 tahun yang lalu, persyaratan untuk menyediakan + 18 ° C di koridor yang dingin sangat penting. Tetapi server dan penyimpanan modern bekerja dengan stabil hingga suhu + 27 ° C.

Omong-omong, kisaran suhu udara spesifik untuk ruang server pusat data agak ketat diatur oleh rekomendasi ASHRAE (Masyarakat Insinyur Pemanasan, Pendinginan, dan Pendingin Udara Amerika), yang dipandu di seluruh dunia, termasuk Rusia. Kisaran suhu yang disarankan berubah seiring waktu, di suatu tempat di awal 2000-an itu benar-benar 16-20 ° C, kemudian 18-22 ° C, dan hari ini suhu udara yang disarankan untuk server pendingin sudah 20-27 ° C.

Kirill Malevanov, Selectel CTO "Selectel di pusat datanya berusaha mempertahankan suhu udara di dekat batas bawah kisaran yang direkomendasikan menurut ASHRAE, rata-rata, sekitar 23 ° C," kata Kirill Malevanov, Direktur Teknis Selectel untuk artikel itu.

Manakah dari ini dapat disimpulkan untuk bisnis pusat data? Pendinginan yang mahal dengan AC harus digunakan terutama untuk ruang server yang dialokasikan untuk layanan colocation. Dengan demikian, untuk ruang server untuk layanan IaaS, dan bahkan lebih lagi untuk server cloud, Anda dapat menggunakan peralatan yang memaksimalkan penggunaan pendinginan karena lingkungan - hingga hanya meniup server dengan udara tempel.

Pada saat yang sama, karena Selectel memiliki beberapa pusat data, dan di berbagai daerah, ada kebebasan bermanuver. Dengan kata lain, dimungkinkan untuk mempertimbangkan persyaratan pendinginan di segmen layanan yang dipilih bahkan pada tahap desain, pembangunan pusat data dan pemilihan peralatan iklim. Dan kemudian dalam proses operasi, untuk memodernisasi sistem iklim, dengan mempertimbangkan pengurangan TCO ketika menyediakan layanan ini.

Apa itu PUE?


Ukuran utama efisiensi pusat data adalah rasio efektivitas penggunaan daya (PUE) yang digunakan dalam industri pusat data sejak 2007. Apa koefisien ini:
Formula PUE

Dengan kata lain, semakin dekat PUE ke 1, semakin sempurna adalah pusat data. Namun, tidak mungkin untuk mencapai nilai 1,0 pada prinsipnya, karena ini sesuai dengan tingkat efisiensi energi mesin gerak abadi. Omong-omong, definisi lengkap dari istilah PUE dapat ditemukan dalam dokumen PUE, A Comprehensive Examination of the Metric (PDF) .
Dalam praktiknya, nilai PUE antara 1,10 dan 1,15 dianggap sangat baik. Misalnya, menurut publikasi, untuk pusat data Google, nilai PUE rata-rata untuk semua pusat data di berbagai wilayah dan pada waktu yang berbeda dalam setahun adalah 1,12.
Selanjutnya, kita akan melihat lebih dekat pada sistem pendingin di pusat data Selectel yang dipilih.

"Bunga 1" - Freon


Pusat data Tsvetochnaya 1 pertama dioperasikan pada tahun 2008, ketika layanan colocation dominan di pasar. Selain itu, ini adalah pusat kota St Petersburg - situasi dengan ruang bebas kemudian agak dibatasi. Dengan demikian, di pusat data "Bunga 1", AC klasik industri untuk pusat data Freon dipasang, yang beroperasi hingga saat ini.
Prinsip pengoperasian AC seperti itu didasarkan pada transisi freon ke berbagai keadaan agregasi. Udara dingin di bawah lantai terangkat disuplai ke apa yang disebut "koridor dingin" dengan peralatan komputasi, dan udara panas masuk ke ruang server (ke "koridor panas"), dari tempat itu kembali tersedot ke penukar panas AC, didinginkan dan dimasukkan kembali ke server dan sistem penyimpanan.

Pendinginan pusat data dengan AC
Pendinginan pusat data dengan AC

Efisiensi AC klasik menyisakan banyak yang diinginkan, dan karenanya koefisien efisiensi energi untuk pusat data Flower 1 cukup tinggi menurut standar modern, PUE = 1,7. Tetapi mengingat layanan colocation disediakan di sini, sangat mungkin untuk menghadapi situasi ini sampai saat modernisasi radikal seluruh pusat data.

Pemeriksaan AC di pusat data Bunga 1
Pemeriksaan pendingin udara di pusat data "Bunga 1"

"Dubrovka 1", "Berzarina 1", "Flower 2" - pendingin


Teknologi pendinginan berikutnya di Selectel diuji pada tahun 2010, ketika pusat data Dubrovka 1 dibangun di desa Dubrovka di Wilayah Leningrad. Di dalamnya, untuk pertama kalinya dalam praktik perusahaan, sistem pendingin chiller diterapkan.
Perbedaan antara sistem pendingin dan pendingin udara freon adalah bahwa larutan glikol yang tidak beku bersirkulasi di dalam pipa antara unit dalam dan luar, yang tetap cair setiap saat dan tidak masuk ke kondisi gas. Solusi dipompa melalui AC di ruang server, di mana dipanaskan oleh radiator panas dari AC dan dari mana dipompa ke penukar panas eksternal eksternal, yang disebut chiller.
Dalam pendingin, larutan glikol didinginkan menggunakan udara eksternal dan unit kondensasi tambahan. Kemudian, solusi glikol yang sudah didinginkan kembali dimasukkan ke dalam AC di dalam ruang server pusat data. Dalam hal ini, pendinginan peralatan komputasi terjadi sesuai dengan skema tradisional - udara dingin disuplai dari bawah melalui lantai yang ditinggikan ke "koridor dingin", dan udara panas pergi ke ruang bersama dan selanjutnya ke penukar panas.
Pendingin Pusat Data
Pendingin Pusat Data

Skema dengan koridor dingin dan panas memberikan penghematan energi hingga 5%, sehingga sangat penting untuk mengisolasi kolam udara dingin dan panas (koridor dan penyimpanan udara).
Efisiensi energi dari sirkuit chiller lebih tinggi dibandingkan dengan AC, dan ini disebabkan oleh fakta bahwa kompresor eksternal dan unit kondensor chiller hanya diaktifkan pada suhu sekitar di atas + 12 ° C, dan kipas unit outdoor dihidupkan secara bertahap, ketika suhu pendingin glikol meningkat. Ini sangat mirip dengan cara kerja sistem pendingin mesin mobil konvensional.
Menurut skema chiller, Selectel membangun pendinginan dari tiga pusat data - Dubrovka 1 (2010), Berzarina 1 (2011) dan Flower 2 (2015). Dalam kasus pusat data Tsvetochnaya 2, pengalaman operasi mengakumulasikan lebih dari 5 tahun operasi dari pusat data Dubrovka 1 mengenai banyak nuansa pemeliharaan dipertimbangkan. Ternyata, terlepas dari kesederhanaan luar dari prinsip operasi, sistem chiller agak berubah-ubah dalam operasi dan membutuhkan pemeliharaan yang cermat dan kepatuhan terhadap peraturan. Anda dapat membaca lebih lanjut tentang pengoperasian sistem pendingin di pusat data Berzarina 1 di artikel blog perusahaan kami .

Koridor dingin di pusat data Flower 2
Koridor dingin di pusat data Flower Center 2

"Dubrovka 3", "Berzarina 2" - pendinginan gratis


Langkah selanjutnya dalam meningkatkan efisiensi energi sistem pendingin diambil di Selectel dalam transisi ke skema pendinginan langsung. Prinsip operasi freecooling langsung klasik adalah penolakan penukar panas, dan pendinginan peralatan komputasi terjadi karena bertiup dengan udara luar.
Udara tempel melewati saringan, tempat dibersihkan dari debu, dan kemudian memasuki ruang mesin. Di musim dingin, sesuai kebutuhan, udara dingin pra-diencerkan dengan udara hangat dari server di ruang pencampuran untuk menjaga suhu konstan untuk peralatan bertiup.

Freecooling langsung dengan aftercooling tanpa lantai yang terangkat
Freecooling langsung dengan aftercooling tanpa lantai yang terangkat

Seperti disebutkan di atas, server modern dan sistem penyimpanan beroperasi andal pada suhu di koridor dingin hingga + 27 ° C. Mengingat iklim Wilayah Leningrad, di mana suhu harian rata-rata jangka panjang bahkan pada bulan Juli adalah + 20 ° C, solusi seperti itu tampaknya cukup bisa diterapkan. Namun, mengingat catatan suhu + 37,8 ° C, yang dicatat di Wilayah Leningrad pada 2010, tidak mungkin untuk hanya bergantung pada belas kasihan alam. Ngomong-ngomong, "musim panas tahun 2018" menegaskan kebenaran perhitungan ini.
Karenanya, pusat data Dubrovka 3, yang ditugaskan pada 2013, menggunakan freecooling langsung dengan unit pendingin tambahan (ABHM, mesin pendingin serapan) jika terjadi panas di musim panas. Udara tempel melewati filter dan kemudian melewati penukar panas ABXM. Di koridor ruang server yang dingin, udara disuplai di bawah lantai yang ditinggikan.

Pendinginan pusat data sesuai dengan skema freecooling dengan lantai terangkat
Pendinginan pusat data sesuai dengan skema freecooling dengan lantai terangkat

Seperti yang ditunjukkan oleh pengalaman operasi, solusi seperti itu bekerja tanpa menyalakan ABCM ke suhu sekitar + 21 ° C, yang secara praktis berarti bahwa ABCM hanya beroperasi di bulan-bulan musim panas. Dengan demikian, ini adalah solusi yang cukup hemat energi dengan PUE ~ 1,25.
Keuntungan penting dari ABCHM adalah keamanan lingkungan, karena bekerja pada air biasa tanpa menggunakan freon. Di antara kelemahan ABXM adalah penukar panas eksternal raksasa, tetapi mengingat penempatan pusat data Dubrovka 3 di hampir bidang yang bersih, ini tidak memainkan peran khusus dalam hal ukuran area untuk peralatan ABXM.

Sistem pendingin dari data center Dubrovka 3 dengan ABHM
Sistem pendingin dari pusat data "Dubrovka 3" dengan ABHM

Sejak 2013, sistem freecooling langsung dengan aftercooling telah menunjukkan efisiensi tinggi dan akan diimplementasikan kembali dalam pembangunan pusat data Berzarina 2 di Moskow. Namun, karena ruang yang terbatas, unit setelah pendinginan akan diimplementasikan menggunakan sistem adiabatik.

Beberapa kata tentang reservasi


Secara tradisional, sistem pendingin di pusat data Tier III dicadangkan sesuai dengan skema setidaknya N +1. Ini berarti bahwa harus selalu ada setidaknya satu unit pendingin dalam stok, yang dioperasikan ketika terjadi kecelakaan atau perbaikan (pemeliharaan terjadwal) dari salah satu sistem yang terlibat. Jadi, di data center Dubrovka 1, 4 mesin ventilasi digunakan untuk freecooling ketika ada kebutuhan untuk 3, dan di pusat data Dubrovka 3, tiga mesin ABHM, yang salah satu dimatikan dan dalam siaga, siap untuk diluncurkan.
Omong-omong, Selectel di pusat datanya berupaya untuk memperketat persyaratan redundansi N +1 sebanyak mungkin, dan tidak memiliki satu tetapi dua sistem pendingin yang berlebihan dalam stok. Misalnya, di pusat data "Bunga 1" dan "Bunga 2", masing-masing ada 2 pendingin udara cadangan dan pendingin.

AC di ruang server pusat data Flower 1
Pendingin udara di ruang server pusat data Flower Center 1 (di tengah)

"Berzarina 2" - segera beroperasi


Pada bulan November 2018, sebuah pusat data Berzarina 2 baru dioperasikan di Moskow, di mana untuk pertama kalinya dalam praktik perusahaan skema pendinginan gratis dengan pendinginan setelah menggunakan sistem adiabatik akan diterapkan. Jika udara luar terlalu panas - dan suhu di Moskow pada musim panas sering melebihi 23 ° C - maka sistem pendingin adiabatik akan menyala.

Freecooling dengan sistem adiabatik pasca-pendinginan di pusat data Berzarin 2
Freecooling dengan sistem adiabatik pasca-pendinginan di pusat data "Berzarina 2"

Teknologi pendinginan adiabatik didasarkan pada atomisasi air dalam bentuk tetesan kecil di jalur aliran udara, yang memungkinkan pendinginan udara dengan menguapkan air. Saat menggunakan pelembap tipe semprot, biaya energi untuk proses pendinginan itu sendiri kecil, dibandingkan dengan sistem pendingin lainnya. Struktur seluler kompleks penghalang yang dapat dibasahi di jalan udara yang dipasok tidak memungkinkan mikrodroplet air untuk masuk lebih jauh ke dalam saluran pusat data. Pada saat yang sama, tingkat kelembaban tetap dalam nilai yang dapat diterima untuk peralatan IT.

Skema sistem adiabatik Berzarin 2

Sistem adiabatik

“Ada banyak solusi menarik untuk sistem pendingin di dunia yang menghemat energi. Namun, tidak mungkin untuk mencoba semua produk baru - Anda perlu mendapatkan pembiayaan, melaksanakan desain, kemudian menyelesaikan pembelian peralatan, persiapan dan commissioning peralatan. Tahapan pengiriman, pemasangan, penyesuaian, dan pengoperasian adalah semua prosedur yang sangat panjang. Oleh karena itu, sistem iklim setelah mulai bekerja setidaknya selama satu dekade dan jarang dimodernisasi secara radikal dalam proses pengoperasian pusat data yang sudah dibangun. Dan produk-produk baru yang menarik sudah datang ke pusat data baru, di mana mereka akan bertahan 10-15 tahun mereka, ”diringkas Kirill Malevanov, direktur teknis Selectel.

Source: https://habr.com/ru/post/id428413/


All Articles