Pada bulan Juni-Juli, hampir dua lusin perusahaan berpaling kepada kami yang tertarik pada kemampuan GPU virtual. "Grafik" Cloud4Y sudah digunakan oleh salah satu anak perusahaan Sberbank terbesar, tetapi secara umum layanan ini tidak terlalu populer. Jadi, kegiatan seperti itu sangat menyenangkan kami. Melihat meningkatnya minat dalam teknologi, kami memutuskan untuk berbicara lebih banyak tentang vGPU. "Danau data" diperoleh sebagai hasil dari eksperimen dan penelitian ilmiah, Deep Learning dan bidang kerja lainnya dengan AI, pemodelan objek besar dan kompleks - semua ini membutuhkan perangkat keras berkinerja tinggi. Nah, jika itu dan memungkinkan Anda untuk dengan cepat menyelesaikan masalah saat ini. Itu hanya karena meningkatnya kompleksitas tugas komputasi (terutama untuk analisis bisnis, rendering, algoritma dan kerangka kerja DL), kapasitas perangkat keras desktop dan bahkan server CPU menjadi semakin tidak berguna.
Solusinya ditemukan dalam penggunaan komputasi GPU. Teknologi akselerasi grafik ini memungkinkan pembagian sumber daya satu GPU antara beberapa komputer virtual. GPU awalnya dirancang untuk bekerja dengan grafis, karena terdiri dari ribuan inti kecil yang digunakan untuk pemrosesan tugas paralel yang efisien. Pada saat yang sama, bagian dari perhitungan paling intensif sumber daya dilakukan pada GPU, CPU menangani sisanya.
Komputasi GPU ditemukan oleh
Nvidia pada tahun 2007. Saat ini teknologi ini telah mencapai tingkat yang baru dan digunakan di pusat data perusahaan terbesar dan laboratorium ilmiah. Namun, pendekatan tradisional memiliki satu kelemahan signifikan: pembelian peralatan fisik sangat mahal. Dan jika Anda mengingat kecepatan keusangan dari "besi", itu menjadi lebih sedih.
Masalahnya dirancang untuk memecahkan teknologi prosesor grafis virtual: vGPU. Dengan itu, pengguna dapat meluncurkan aplikasi berat dari jarak jauh seperti AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualisasi dengan cepat memperoleh pangsa pasarnya. Lagi pula, apa yang tidak disukai ilmuwan data Rusia pada komputasi cepat pada kartu video NVidia Tesla?
Perlu dicatat di sini bahwa sebelum kedatangan vGPU, metode percepatan pemrosesan grafis lain digunakan: Virtual Shared Graphics Acceleration (vSGA) dan Virtual Dedicated Graphics Acceleration (vDGA). Solusi vGPU menggabungkan yang terbaik dari kedua teknologi. Seperti dalam kasus vSGA, di lingkungan vGPU, GPU dan RAM seharusnya dibagi antara beberapa desktop virtual, tetapi setiap VM mentransmisikan perintah langsung ke GPU, seperti halnya dengan vDGA.
Mengapa saya perlu vGPU
Cloud computing menggunakan vGPU memungkinkan perusahaan untuk mengatasi tugas-tugas yang sebelumnya tidak mungkin diselesaikan. Atau mungkin, tetapi membutuhkan sejumlah sumber daya yang tidak realistis. 1 server GPU modern dapat menggantikan hingga 100 CPU konvensional. Ada
tokoh-tokoh lain yang
bahkan lebih mengesankan . Ini bukan lelucon: solusi Nvidia memproses petabyte data beberapa kali lebih cepat dari server CPU klasik. Dan Google Cloud yang sama menawarkan mesin virtual dengan GPU yang mengeluarkan hingga 960 teraflops.
Banyak profesional membutuhkan perangkat canggih yang dapat melakukan komputasi paralel. Arsitek dan insinyur menggunakan teknologi vGPU dalam sistem desain (misalnya, Autodesk yang sama). Desainer bekerja dengan konten foto dan video digital (Photoshop, CorelDraw).
Mesin virtual dengan GPU juga diperlukan oleh fasilitas medis yang mengumpulkan dan menganalisis data pasien dan penyakit. Bekerja dengan GPU dan
Yandex .
Pikirkan semuanya? Bagaimanapun caranya. Teknologi ini digunakan untuk secara otomatis
memeriksa keakuratan gambar satelit , dan untuk
meramalkan epidemi ,
studi meteorologi , pemodelan
siklus matahari dan
intelijen bisnis . Ada juga
artikel keren
tentang pemodelan di
Unity3D oleh
ThisIsZolden .
Untuk semua ini, solusi berdasarkan vGPU belum menerima distribusi luas di dunia. Jadi, pada tahun 2018, NetApp melakukan
survei di antara perusahaan yang menggunakan GPU dalam pekerjaan mereka. Hasilnya menunjukkan bahwa 60% organisasi masih bekerja pada infrastruktur TI mereka sendiri. "Cloud" hanya digunakan oleh 23%. Di Rusia, penetrasi teknologi cloud computing kurang penting. Namun berkat solusi perangkat keras dan perangkat lunak baru, jumlah perusahaan yang menggunakan mesin virtual dengan GPU terus meningkat.
Solusi VGPU
Banyak perusahaan yang terlibat dalam pengembangan teknologi virtualisasi untuk akselerator grafis, tetapi ada beberapa pemimpin di antara mereka.
Sebagai salah satu pengembang solusi cloud yang paling disegani,
VMware menawarkan perusahaan hypervisor
ESXi , di mana kecepatan GPU virtual sebanding dengan implementasi bare metal. Dalam pembaruan terbaru, pengembang mematikan penyeimbang beban vMotion dan menambahkan dukungan untuk teknologi DirectPath I / O, yang menghubungkan driver CUDA ke VM dengan melewati hypervisor dan mempercepat transfer data.
Nvidia juga berusaha memenuhi harapan pasar, dan untuk ini dirilis platform opensource
Rapids . Solusi ini menggabungkan beberapa perpustakaan untuk bekerja dengan arsitektur CUDA, yang menyederhanakan bekerja dengan data selama pelatihan jaringan saraf dan memungkinkan Anda untuk mengotomatisasi pekerjaan dengan kode Python. Menggunakan Rapids dengan algoritma pembelajaran mesin XGBoost memberikan peningkatan kinerja 50 kali lipat dibandingkan sistem berbasis CPU.
AMD memiliki teknologinya sendiri. Platform ini disebut
ROCm . Ini menggunakan teknologi SR-IOV, yang berbagi kemampuan perangkat keras dari perangkat fisik antara beberapa mesin virtual. Sumber daya satu akselerator dapat dibagi antara enam belas pengguna, mempertahankan kinerja yang sama untuk masing-masing pengguna. Ini mempercepat transfer data antara cloud CPU dan GPU. Dialek C ++ khusus yang disebut HIP juga digunakan, yang menyederhanakan implementasi operasi matematika pada GPU.
Intel sedang membangun teknologinya berdasarkan hypervisor lintas platform
Citrix XenServer 7, yang menerima sertifikat kesesuaian FSTEC pada tahun 2017. Solusi ini menggabungkan kerja driver GPU standar dan mesin virtual. Artinya, "virtualka" dapat
mendukung pengoperasian aplikasi berat pada perangkat sejumlah besar (beberapa ratus) pengguna.
Prospek pasar
Analis independen memperkirakan bahwa penjualan solusi HPC akan mencapai $ 45 miliar pada tahun 2022. Pengembang platform juga mengharapkan peningkatan permintaan untuk sistem berkinerja tinggi. Harapan ini diperkuat oleh popularitas Big Data dan kebutuhan yang sering timbul untuk memproses sejumlah besar data.
Selain itu, peningkatan permintaan vGPU dapat merangsang pengembangan teknologi hibrida yang menggabungkan GPU dan CPU dalam satu perangkat. Dalam solusi terintegrasi seperti itu, dua jenis core menggunakan cache yang umum, yang mempercepat transfer data antara grafis dan prosesor tradisional.
Hibrida secara mendasar mengubah pendekatan untuk virtualisasi dan distribusi sumber daya virtual dalam pusat data. Dan solusi open source seperti ROCm dan Rapids memungkinkan operator pusat data untuk menggunakan sumber daya komputasi secara lebih efisien, meningkatkan kinerja peralatan.
Ada pendapat lain. Misalnya, GPU virtual itu akan diganti oleh chip optik dengan koding data foton. Solusi semacam itu sudah ada dan digunakan untuk pembelajaran mesin. Selain itu, mereka tampaknya lebih
produktif daripada GPU biasa. Namun teknologinya masih lembab.
Kesimpulan apa yang bisa dibuat? Terlepas dari kemungkinan munculnya analog, vGPU adalah area yang cukup menjanjikan yang dapat memecahkan sejumlah besar masalah. Tapi itu tidak cocok untuk semua orang. Jadi, Anda dapat menempatkan koma di tajuk sendiri.
PSBerlangganan saluran Telegram kami agar tidak ketinggalan artikel lain! Kami menulis tidak lebih dari dua kali seminggu dan hanya untuk bisnis.