Pengujian Beban Cadangan & Replikasi Veeam

Pada musim semi tahun 2018, Selectel meluncurkan layanan cadangan berbasis VMware Cloud melalui Veeam® Backup & Replication ™ (selanjutnya disebut VBR). Kami mendekati proyek secara menyeluruh, merencanakan dan melakukan daftar pekerjaan berikut:

• Menjelajahi Dokumentasi Produk Veeam dan Praktik Terbaik
• Merancang Arsitektur VBR Penyedia Layanan
• Menyebarkan Infrastruktur VBR
• Menguji solusi, menentukan pengaturan optimal dan mode operasi
• Meluncurkan solusi dalam operasi industri (komersial)

Ternyata - tidak sia-sia. Layanannya stabil, pelanggan dapat membuat cadangan mesin virtual mereka, dan kami memiliki keahlian tertentu yang ingin kami bagikan.

Pada artikel ini kami ingin berbicara tentang hasil pengujian beban VBR untuk dua mode operasi proxy cadangan yang paling populer, dengan mempertimbangkan variasi dalam jumlah tugas paralel.

Di sini Anda dapat melihat:

• Deskripsi infrastruktur produksi Selectel yang digunakan untuk pengujian
• Fitur proxy cadangan (proxy cadangan) dalam berbagai mode transportasi
• Deskripsi program pengujian dan pengaturan komponen VBR untuk implementasinya
• Indikator kuantitatif, perbandingan dan kesimpulannya

Uji Konfigurasi Infrastruktur

Sumber Infrastruktur

Sebagai platform untuk menguji kinerja VBR, dibuatlah salah satu kluster produksi Cloud publik berdasarkan VMware .

• Konfigurasi perangkat keras dari host di kluster ini:
• Intel® Xeon® Gold Processors 6140
• Intel® DC NVMe P4600 dan P3520
• 4 port 10GbE per host

Cluster ini didasarkan pada solusi berikut:

• Jaringan fisik - Pabrik Ethernet pada sakelar Brocade VDX, arsitektur Leaf-Spine (port 10GbE - penghubung penghuni, uplink 40GbE ke Spine)
• Lingkungan Virtualisasi - VMware vSphere® 6.5
• Penyimpanan VM - VMware vSAN ™ 6.6 (All-Flash vSAN Cluster)
• Virtualisasi Jaringan - VMware NSX® 6.4

Kinerja platform pengujian lebih dari cukup dan tidak diragukan. Tentu saja, untuk kinerja kecepatan tinggi, semua ini harus dikonfigurasi dengan benar, tetapi karena ini adalah produksi, dengan pelanggan yang bersemangat dan puas, Anda dapat yakin bahwa semuanya baik-baik saja dalam hal ini.

Bersama dengan Cloud berbasis VMware, Selectel meluncurkan layanan untuk cadangannya pada platform VBR. Pelanggan menerima portal web swalayan di mana mereka dapat membuat cadangan dan memulihkan vApp dan VM dari VDC (pusat data virtual) mereka.

Klien memiliki akses ke portal ini (Veeam® Enterprise Manager Self-service portal) dengan hak yang sama dengan vCloud Director® (vCD). Ini dimungkinkan karena integrasi Veeam® Backup Enterprise Manager (EM) dan vCD, sementara setiap klien, ketika terhubung ke EM, dibatasi oleh sumber daya VDC-nya, tidak akan melihat VM lain.

Klien tidak perlu menggunakan VBR sendiri dan infrastruktur cadangan terkait, yang melibatkan biaya komputasi dan sumber daya jaringan, penyimpanan, lisensi Veeam dan MS, dan administrasi. Itu panjang, mahal dan rumit. Selectel menyediakan kemampuan dasar VBR sebagai layanan BaaS (Backup-as-a-Service): langsung, sederhana, mudah, ekonomis.

Untuk menyediakan layanan ini, Selectel mengerahkan infrastruktur penyedia VBR yang mencakup semua kluster vSphere dan VDC klien VMware cloud, termasuk kluster tempat pengujian ini dilakukan. Dengan demikian, hasil pengujian akan memungkinkan kami untuk menilai kecepatan maksimum yang dengannya pelanggan dapat membuat cadangan VM mereka.

Uji VMs

Untuk menguji kinerja cadangan, 6 VM identik dikerahkan di kluster vSphere dalam konfigurasi berikut:

• OS Windows Server 2016, 2 vCPU, 4GB RAM
• 200GB vDisk

Disk hampir penuh - 193GB. Selain file OS, folder dengan distribusi berbagai OS dan DBMS dengan kapasitas 60GB dibuat di dalamnya (data unik). Pada drive yang sama, 3 salinan folder ini dibuat - total 180GB data non-sistem.

Tidak ada aplikasi yang diinstal pada VM ini, hanya OS "bersih" dan data "dingin". Tanpa beban, komputasi atau jaringan, dimulai. Untuk tes ini, ini tidak diperlukan.

DRS diaktifkan di kluster vSphere, jadi VM uji secara otomatis didistribusikan secara optimal di host VMware ESXi ™ untuk penyeimbangan beban.

Proxy cadangan

VM dengan proksi cadangan dikerahkan secara langsung di kluster vSphere yang dijelaskan di atas (infrastruktur sumber, selanjutnya disebut kluster vSphere), ini adalah kondisi yang diperlukan untuk pengujian dalam mode Peralatan Virtual.

Konfigurasi VM:

• 8 vCPU
• RAM 8GB
• 40 GB vDisk
• 10GbE vNIC vmxnet3
• OS Windows Server 2016

Parameter "Max concurrent task" untuk proxy cadangan di tingkat VBR diatur ke 6. Ini berarti bahwa proxy cadangan dapat secara bersamaan (secara paralel) memproses hingga 6 tugas cadangan. Satu tugas adalah cadangan dari satu disk VM virtual.

Repositori cadangan

Server fisik bertindak sebagai repositori cadangan VBR bertindak sebagai antarmuka penyimpanan cadangan. Konfigurasi Server:

• CPU E5-1650v3
• RAM 32GB
• 2 port 10GbE

Backend penyimpanan - CephFS cluster dengan cache NVMe.

Repositori cadangan dan node Ceph berkomunikasi melalui jaringan 10GbE, masing-masing terhubung ke switch dengan dua port.

Penjelasan rinci tentang konfigurasi cluster Ceph berada di luar cakupan artikel ini. Perhatikan bahwa untuk keandalan dan toleransi kesalahan, data di dalamnya disimpan dalam tiga salinan. Kinerja cluster tidak memuaskan dan diletakkan dengan margin, hasil tes menunjukkan bahwa tidak satupun dari mereka penyimpanan cadangan adalah hambatan.

Parameter "Batasi tugas serentak maksimum" untuk repositori cadangan di level VBR diatur ke 6. Ini berarti repositori cadangan akan dapat secara bersamaan memproses (hingga 6) tugas cadangan.

Jaringan cadangan

Jaringan fisik infrastruktur yang dijelaskan di atas dibatasi oleh bandwidth 10 Gbit / detik, sakelar dan port 10GbE digunakan di mana-mana. Ini berlaku tidak hanya untuk vSAN, tetapi juga untuk antarmuka manajemen host ESXi.

Untuk meng-host proxy cadangan di tingkat VMware NSX, subnet khusus telah dibuat dengan sakelar logisnya sendiri. Untuk konektivitasnya dengan fisika dan perutean, NSX-edge, ukuran X-besar, telah digunakan.

Ke depan, menurut hasil pengujian, jelas bahwa jaringan dapat menahan beban hingga 8 Gb / s. Ini adalah bandwidth yang sangat solid, yang cukup pada tahap ini, jika perlu, dapat ditingkatkan.

Diagram interaksi komponen

Proxy cadangan dan VM uji disebarkan dalam kluster VMware vSAN yang sama. Setelah memulai pekerjaan cadangan (pekerjaan cadangan), tergantung pada mode transportasi yang dipilih, fitur-fitur yang dibahas di bawah ini, proxy cadangan:

• Mengambil data dari VM cadangan melalui vSAN (HotAdd) atau jaringan kontrol (NBD)
• Transfer memproses data ke repositori cadangan pada subnet yang dialokasikan untuk tujuan ini

Mode Transport Proxy Cadangan

Proxy cadangan adalah komponen infrastruktur VBR yang secara langsung melakukan pemrosesan pekerjaan cadangan. Ini mengekstrak data dari VM, memprosesnya (kompres, deduplicate, mengenkripsi) dan mengirimkannya ke repositori, di mana ia disimpan ke file cadangan.

Proxy cadangan memungkinkan Anda bekerja dalam tiga mode transportasi:

• Akses penyimpanan langsung
• Alat virtual
• Jaringan

Cloud berbasis VMware Selectel menggunakan vSAN sebagai penyimpanan, dalam konfigurasi ini akses penyimpanan langsung tidak didukung, oleh karena itu mode ini tidak dipertimbangkan dan belum diuji. Dua mode yang tersisa bekerja sangat baik pada masing-masing kluster vSphere kami. Mari kita bahas lebih rinci.

Mode alat virtual (HotAdd)

Alat virtual adalah mode yang disarankan saat menggunakan proxy cadangan sebagai VM. Host ESXi tempat proxy cadangan digunakan harus memiliki akses ke semua Datastore cluster vSphere yang menyimpan VM cadangan. Inti dari mode ini adalah bahwa proxy me-mount disk VM cadangan (VMware SCSI HotAdd) dan mengambil data dari mereka seolah-olah itu miliknya sendiri. Ekstraksi data terjadi dengan Datastore melalui jaringan penyimpanan.

Dalam kasus kami, VM proksi cadangan harus terletak di salah satu host ESXi dari kluster vSAN, yang kami cadangkan. Ekstraksi data terjadi melalui vSAN. Dengan demikian, untuk bekerja dalam mode alat Virtual, setidaknya satu proksi cadangan harus digunakan di setiap kluster vSAN. Perluas sepasang proksi cadangan (misalnya, dalam kluster manajemen) dan mencadangkan semua kluster vSAN dengan mereka akan gagal.

Pro	Cons
Cepat, sebagai aturan, jauh lebih cepat daripada NBD, terutama dalam kasus cadangan penuh atau peningkatan besar. Hanya akses penyimpanan langsung yang lebih rendah kecepatannya.	Operasi pemasangan disk (HotAdd) ke proxy dapat memakan waktu hingga 2 menit per disk. Dengan cadangan tambahan potongan kecil data, NBD bisa lebih cepat.
Membuang jaringan penyimpanan. Tidak memuat antarmuka manajemen dan hypervisor.	Proxy VM mengkonsumsi sebagian dari sumber daya host. Terkadang mungkin ada masalah dengan menghapus foto.

Mode Jaringan (NBD)

Ini adalah mode paling sederhana dan paling universal, cocok untuk proksi cadangan fisik dan virtual. Ekstraksi data, tidak seperti dua mode sebelumnya, tidak terjadi melalui jaringan penyimpanan. Proxy cadangan mengambil data VM dengan menyambungkan ke antarmuka manajemen host ESXi di mana mereka berjalan.

Pendekatan ini memiliki kelemahan sebagai berikut:

• Seringkali antarmuka manajemen ESXi tidak bergantung pada uplink tercepat, sebagai aturan, ini adalah 1GbE
• Bahkan jika antarmuka manajemen akan memiliki port 10GbE, ESXi tidak akan menyerahkan seluruh proxy band proxy - itu secara artifisial membatasi dan mengalokasikan hanya beberapa bagian dari bandwidth antarmuka untuk cadangan

Pro	Cons
Sederhana dan serbaguna. Proxy dapat berupa fisik dan virtual.	Sebagai aturan, ini jauh lebih lambat daripada HotAdd, terutama pada volume cadangan yang besar dan sejumlah kecil tugas paralel.
Mulai cepat, tidak ada penundaan pada pemasangan drive. Tidak ada masalah dengan snapshot.	Membuat beban (kecil) pada antarmuka manajemen dan hypervisor.

Pada saat yang sama, banyak sumber mengklaim bahwa NBD sangat lambat pada 1GbE, tetapi pada 10GbE bisa sangat cepat. Kami pasti akan memeriksa ini.

Program pengujian

Pada infrastruktur yang dijelaskan di atas, perlu untuk membuat cadangan VM uji dan mencatat indikator berikut:

• Beban CPU,%
• Konsumsi RAM, GB
• Beban Jaringan, Gbps
• Kinerja cadangan, MB / s
• Waktu cadangan, mm: dd

Indikator harus diperbaiki untuk cadangan satu VM uji dan untuk cadangan paralel dua, empat dan enam VM uji.

Indikator harus direkam untuk mode operasi Virtual appliance dan cadangan jaringan. Setiap kali pencadangan penuh harus dilakukan, tidak ada peningkatan.

Dengan demikian, perlu untuk membuat 4 pekerjaan cadangan:

• Untuk satu uji VM
• Untuk dua VM uji
• Selama empat VM uji
• Selama enam VM uji

Sebagai bagian dari pengujian, perlu:

1. Menjalankan semua tugas secara berurutan dalam satu mode
2. Hapus cadangan yang dibuat sehingga tidak ada peningkatan
3. Ulangi berjalan dalam mode kedua, setiap kali memperbaiki indikator

Dalam pengaturan setiap tugas, Anda harus secara manual memilih proxy cadangan yang disiapkan untuk pengujian, karena itu bukan satu-satunya di infrastruktur VBR umum, dan secara default proxy tersebut dipilih secara otomatis.

Mode proxy cadangan default juga dipilih secara otomatis. Oleh karena itu, dalam pengaturan proxy cadangan, sebelum setiap kali dijalankan, secara manual mengatur mode transportasi yang diinginkan.

Indikator yang paling menarik adalah kecepatan rata-rata atau kinerja cadangan. Itu bisa dilihat pada hasil pekerjaan di konsol VBR. Ini juga akan menampilkan runtime cadangan.

Selain itu, Anda perlu mengevaluasi beban pada proksi cadangan di setiap tes. Kemacetan CPU, memori, dan jaringan dapat dipantau menggunakan alat OS tamu (Windows 2016) dan di tingkat VMware.

Pada proksi cadangan dan repositori cadangan, parameter untuk jumlah maksimum tugas simultan diatur ke 6. Ini berarti bahwa selama pengujian, semua VM di setiap tugas akan diproses secara paralel, tidak ada dari mereka akan menunggu dalam antrian, kinerja akan maksimal.

Veeam® merekomendasikan bahwa jumlah tugas paralel tidak boleh melebihi jumlah inti prosesor pada proksi dan repositori. Jumlah RAM yang disarankan pada repositori adalah 2 GB per inti, total 12 GB. Konfigurasi infrastruktur menunjukkan bahwa semua rekomendasi diikuti.

Kecepatan dan memuat cadangan dalam mode Peralatan Virtual (Hot Add)

Cadangkan 1 VM

Cadangkan 2 VM

Cadangkan 4 VM

Cadangkan 6 VM

Kecepatan Cadangan dan Mode Jaringan Muat (NBD)

Cadangkan 1 VM

Cadangkan 2 VM

Cadangkan 4 VM

Cadangkan 6 VM

Perbandingan kinerja dan beban dalam Virtual Appliance (HotAdd) dan Mode Jaringan (NBD)

Jumlah VM	Kecepatan - HotAdd, MB / s	Kecepatan - NBD, MB / s	HotAdd / NBD
1	709	192	3.69
2	816	269	3.03
4	885	446	1.98
6	888	517	1.72

Jumlah VM	Beban CPU - HotAdd,%	Beban CPU - NBD,%	HotAdd / NBD
1	55-95	18-24	3.06-3.96
2	70-100	25-33	2.8-3.03
4	100	45-55	1.82-2.22
6	100	50-70	1.43-2

Jumlah VM	Unduh RAM - HotAdd, GB	Pemuatan RAM - NBD, GB	HotAdd / NBD
1	2-2,2	1.9-2.1	1,05
2	2.3-2.5	2.2-2.4	1,04-1,05
4	3-3.5	2.8-3.5	1-1.07
6	4-4,2	3,5-4	1.14-1.05

Jumlah VM	Unduhan Jaringan - HotAdd, Gb / s	Unduh Jaringan - NBD, Gb / s	HotAdd / NBD
1	4.7-6.4	1.2-1.8	3.56-3.92
2	5-7.7	1.5-2.5	3.08-3.33
4	5-8,2	2.8-4.5	1.79-1.82
6	5-8,2	3,5-5	1.43-1.64

Hasil Tes

Indikator kinerja cadangan yang diperoleh sebagai hasil pengujian dengan tegas mengonfirmasi fakta bahwa mode peralatan Virtual jauh lebih unggul dalam kecepatan dibandingkan dengan mode Jaringan, terutama dalam sejumlah kecil tugas paralel.

Biarkan saya mengingatkan Anda bahwa tes untuk kedua mode dijalankan dalam kondisi yang benar-benar identik pada platform yang sama. Bandwidth jaringan juga sama - antarmuka kontrol di mana proxy mengumpulkan data dalam mode NBD memberikan 10 Gbit / s, seperti jaringan vSAN untuk mode HotAdd, kami tidak menetapkan batas bandwidth.

Jelas, ESXi benar-benar memperlambat Veeam® dan memberikannya hanya bagian dari band dalam mode Jaringan, karenanya perbedaan dalam kecepatan cadangan. Namun, dengan peningkatan jumlah utas - tugas cadangan simultan - mode Jaringan secara signifikan mengurangi jaminan simpanan.

Kita melihat bahwa dalam mode Virtual appliance, sudah pada 4 VM, proxy cadangan bersandar pada prosesor, itu tidak dapat bekerja lebih cepat, untuk 6 VM kecepatan cadangan tidak banyak berubah. Pada saat yang sama, kecepatan cadangan 1-2 VMs dalam mode ini sedikit tertinggal, kemampuan proxy cadangan dan platform digunakan secara maksimal bahkan pada sejumlah kecil utas.

Dalam mode Jaringan, sebaliknya, ada peningkatan produktivitas yang signifikan dengan peningkatan jumlah tugas simultan. Pada saat yang sama, beban pada prosesor proksi cadangan secara signifikan lebih rendah daripada dalam mode HotAdd, bahkan pada 6 utas tidak melebihi 70%.

Konsumsi memori proksi cadangan kecil dan kira-kira sama di kedua mode.

Beban pada jaringan proxy cadangan berkorelasi dengan kecepatan cadangan, melebihi ~ 10-17%. Rupanya proxy mengambil data dari sumber VM sedikit lebih cepat daripada mengunggah ke repositori, karena mereka perlu diproses.

Sangat menarik untuk mengamati garis Muat dalam gambar dengan hasil pelaksanaan pekerjaan. Ini menunjukkan tingkat beban pada berbagai elemen infrastruktur cadangan: sumber, proksi, jaringan, repositori.

Dalam mode Virtual appliance, kita melihat bahwa kinerja cadangan terletak pada proxy dan jaringan, mereka selalu kira-kira sama bebannya. Sumber dan repositori bukanlah hambatan.

Dalam mode Jaringan, bottleneck selalu menjadi sumber, bahkan untuk aliran tunggal. Dapat dilihat bahwa infrastruktur lainnya dapat memberi lebih, tetapi ESXi tidak memberikannya.

Ringkasan

Pengujian mengkonfirmasi bahwa proksi cadangan dalam mode transportasi yang dipelajari dalam praktik berperilaku tepat seperti yang disarankan teori.

Perangkat lunak Veeam® telah terbukti sangat layak:

• Dalam mode HotAdd, semua kemampuan infrastruktur digunakan secara efektif dan sepenuhnya.
• Dalam mode NBD, kinerja diharapkan lebih sederhana, tetapi ini bukan masalah Veeam®, tetapi fitur tumpukan jaringan ESXi

Kami mendapat indikator kinerja dan beban nyata, yang sangat berguna untuk memilih mode operasi optimal dan penskalaan sistem selanjutnya.

Saat ini, kami cukup senang dengan kinerja cadangan yang ada, kami memahami cara meningkatkannya dengan benar ketika kebutuhan seperti itu muncul.