5.8 मिलियन IOPS: इतने सारे क्यों?

हाय हमर! बिग डेटा और मशीन लर्निंग के लिए डेटासेट तेजी से बढ़ रहे हैं और इसे संसाधित करने की आवश्यकता है। उच्च प्रदर्शन कम्प्यूटिंग (एचपीसी) में अभी तक एक और नवीन तकनीक पर हमारी पोस्ट, सुपरकंप्यूटिंग 2019 में किंग्स्टन के बूथ पर प्रदर्शित हुई। यह ग्राफिक प्रोसेसर (GPU) और GPUDirect स्टोरेज बस तकनीक वाले सर्वरों में Hi-End स्टोरेज सिस्टम (SHD) का उपयोग है। भंडारण और जीपीयू के बीच प्रत्यक्ष डेटा विनिमय के लिए धन्यवाद, सीपीयू को दरकिनार करते हुए, GPU त्वरक में डेटा लोडिंग परिमाण के एक क्रम से तेज होता है, इसलिए बिग डेटा एप्लिकेशन अधिकतम प्रदर्शन पर चलते हैं जो GPU प्रदान करता है। बदले में, एचपीसी-सिस्टम के डेवलपर्स उच्चतम इनपुट / आउटपुट स्पीड के साथ भंडारण के क्षेत्र में उपलब्धियों में रुचि रखते हैं - जैसे कि किंग्स्टन द्वारा जारी किए गए।

डेटा लोडिंग के आगे GPU का प्रदर्शन

2007 में सामान्य प्रयोजन के अनुप्रयोगों के विकास के लिए एक GPU आधारित हार्डवेयर और सॉफ्टवेयर समानांतर कंप्यूटिंग आर्किटेक्चर CUDA के निर्माण के बाद से, GPUs की हार्डवेयर क्षमताएं खुद अविश्वसनीय रूप से बढ़ी हैं। आज, एचपीसी अनुप्रयोगों जैसे बिग डेटा, मशीन लर्निंग, और डीप लर्निंग के क्षेत्र में जीपीयू का तेजी से उपयोग किया जाता है।

ध्यान दें कि शर्तों की समानता के बावजूद, अंतिम दो एल्गोरिदमिक रूप से भिन्न कार्य हैं। एमएल संरचित डेटा के आधार पर एक कंप्यूटर सिखाता है, और डीएल एक तंत्रिका नेटवर्क से प्रतिक्रिया के आधार पर एक कंप्यूटर सिखाता है। एक उदाहरण जो मतभेदों को समझने में मदद करता है वह काफी सरल है। मान लीजिए कि एक कंप्यूटर को बिल्लियों और कुत्तों की तस्वीरों को अलग करना चाहिए जो भंडारण से लोड किए गए हैं। एमएल के लिए, आपको कई टैग के साथ छवियों का एक सेट प्रस्तुत करना चाहिए, जिनमें से प्रत्येक जानवर की एक विशेष विशेषता को परिभाषित करता है। डीएल के लिए, यह बहुत बड़ी संख्या में छवियों को अपलोड करने के लिए पर्याप्त है, लेकिन सिर्फ एक टैग के साथ "यह एक बिल्ली है" या "यह एक कुत्ता है"। डीएल बहुत छोटे बच्चों को कैसे पढ़ाया जाता है, इसके बारे में बताया गया है - उन्हें बस किताबों और जीवन में कुत्तों और बिल्लियों की तस्वीरें दिखाई जाती हैं (सबसे अधिक बार, बिना विस्तृत अंतर बताए), और बच्चे का मस्तिष्क तुलनात्मक रूप से चित्रों की एक निश्चित महत्वपूर्ण संख्या के बाद जानवर के प्रकार को निर्धारित करना शुरू करता है ( अनुमान के अनुसार, हम शुरुआती बचपन के सभी समय के लिए एक सौ या दो छापों के बारे में बात कर रहे हैं)। डीएल एल्गोरिदम अभी तक इतने परिपूर्ण नहीं हैं: तंत्रिका नेटवर्क की छवियों की परिभाषा पर सफलतापूर्वक काम करने के लिए, GPU में लाखों छवियों को सबमिट करना और संसाधित करना आवश्यक है।

परिचय का परिणाम: जीपीयू के आधार पर, आप बिग डेटा, एमएल और डीएल के क्षेत्र में एचपीसी-एप्लिकेशन का निर्माण कर सकते हैं, लेकिन एक समस्या है - डेटा सेट इतने बड़े हैं कि स्टोरेज सिस्टम से जीपीयू तक डेटा डाउनलोड करने में लगने वाला समय एप्लिकेशन के समग्र प्रदर्शन को कम करना शुरू कर देता है। दूसरे शब्दों में, अन्य सबसिस्टम से डेटा के धीमे इनपुट / आउटपुट के कारण फास्ट जीपीयू अंडरलोड रहता है। GPU के इनपुट / आउटपुट स्पीड और बस में CPU / SHD का अंतर परिमाण का एक क्रम हो सकता है।

GPUDirect संग्रहण तकनीक कैसे काम करती है?

इनपुट / आउटपुट प्रक्रिया सीपीयू द्वारा नियंत्रित की जाती है, साथ ही बाद के प्रसंस्करण के लिए भंडारण से डेटा को GPUs में लोड करने की प्रक्रिया। इसने प्रौद्योगिकी के लिए एक अनुरोध को प्रेरित किया जो एक दूसरे के साथ त्वरित बातचीत के लिए GPU और NVMe ड्राइव के बीच सीधी पहुंच प्रदान करेगा। इस तरह की पहली तकनीक को NVIDIA द्वारा प्रस्तावित किया गया था और इसे GPUDirect Storage कहा जाता था। वास्तव में, यह GPUDirect RDMA (रिमोट डायरेक्ट मेमोरी एड्रेस) तकनीक का एक रूपांतर है जिसे उन्होंने पहले विकसित किया था।


जेन्सन हुआंग, एनवीआईडीआईए के सीईओ, एससी -19 में GPUDirect RDMA की भिन्नता के रूप में GPUDirect स्टोरेज का परिचय देते हैं। स्रोत: एनवीआईडीआईए

GPUDirect RDMA और GPUDirect Storage के बीच का अंतर उन उपकरणों में है जिनके बीच संबोधित किया जाता है। GPUDirect RDMA तकनीक डेटा को नेटवर्क इंटरफ़ेस इनपुट कार्ड (NIC) और GPU मेमोरी के बीच सीधे ले जाने के लिए आश्वस्त है, और GPUDirect Storage स्थानीय या दूरस्थ भंडारण, जैसे कि NVMe या NVMe फॉर फैब्रिक (NVMe-oF) और GPU मेमोरी के बीच एक सीधा डेटा ट्रांसफर पथ प्रदान करता है।

दोनों विकल्प, GPUDirect RDMA और GPUDirect स्टोरेज, CPU मेमोरी में बफर के माध्यम से अनावश्यक डेटा मूवमेंट से बचते हैं और डायरेक्ट मेमोरी एक्सेस (DMA) तंत्र को नेटवर्क कार्ड या स्टोरेज से सीधे या GPU मेमोरी से डेटा ट्रांसफर करने की अनुमति देते हैं - यह सब सेंट्रल पर लोड किए बिना होता है। प्रोसेसर। GPUDirect संग्रहण के लिए, संग्रहण स्थान कोई मायने नहीं रखता है: यह GPU इकाई के अंदर NVME डिस्क हो सकता है, रैक के अंदर, या NVMe-oF के रूप में एक नेटवर्क के माध्यम से जुड़ा हो सकता है।


GPUDirect संग्रहण ऑपरेशन योजना। स्रोत: एनवीआईडीआईए

एनवीएमई हाय-एंड स्टोरेज एचपीसी एप्लीकेशन मार्केट में आवश्यक है

यह समझते हुए कि GPUDirect Storage के आगमन के साथ, बड़े ग्राहकों की रुचि GPU बैंडविड्थ के अनुरूप इनपुट / आउटपुट स्पीड के साथ स्टोरेज सिस्टम की पेशकश की जाएगी, किंग्स्टन ने एक डेमो सिस्टम दिखाया जिसमें NVMe डिस्क पर आधारित स्टोरेज सिस्टम और SC-19 पर GPU के साथ एक यूनिट है। जो प्रति सेकंड हजारों उपग्रह चित्रों का विश्लेषण करता था। हमने पहले ही सुपर कंप्यूटर की प्रदर्शनी से एक रिपोर्ट में 10 ड्राइव DC1000M U.2 NVMe के आधार पर इस तरह के भंडारण के बारे में लिखा था।


10 ड्राइव पर आधारित भंडारण DC1000M U.2 NVMe ग्राफिक्स त्वरक के साथ सर्वर को पर्याप्त रूप से पूरक करता है। स्रोत: किंग्स्टन

इस तरह की भंडारण प्रणाली को रैक इकाई 1U या अधिक के रूप में लागू किया जाता है और DC1000M U.2 NVMe डिस्क की संख्या के आधार पर बढ़ाया जा सकता है, जहां प्रत्येक की क्षमता 3.84-7.68 टीबी है। DC1000M डेटा केंद्रों के लिए किंग्स्टन ड्राइव लाइन में U.2 फॉर्म फैक्टर में पहला NVMe SSD मॉडल है। इसकी एक धीरज रेटिंग (DWPD, ड्राइव प्रति दिन लिखती है) है, जो आपको गारंटीकृत ड्राइव जीवन के लिए दिन में एक बार पूर्ण क्षमता पर डेटा को अधिलेखित करने की अनुमति देती है।

उबंटू ऑपरेटिंग सिस्टम 18.04.3 LTS, लिनक्स कर्नेल 5.0.0-31-जेनेरिक पर fio v3.13 परीक्षण में, प्रदर्शनी भंडारण मॉडल ने 23.8 -b / s के निरंतर बैंडविड्थ के साथ 5.8 मिलियन IOPS की एक सतत पढ़ें गति दिखाई।

किंग्स्टन के SSD व्यापार प्रबंधक एरियल पेरेज़ ने नई भंडारण प्रणालियों का वर्णन इस प्रकार किया है: “हम पारंपरिक रूप से भंडारण से जुड़े डेटा ट्रांसफर बाधाओं में से कई को संबोधित करने के लिए U.2 NVMe SSDs के साथ अगली पीढ़ी के सर्वर उपलब्ध कराने के लिए तैयार हैं। NVMe SSDs और हमारे प्रीमियम सर्वर प्रीमियर DRAM का संयोजन किंग्स्टन को उद्योग के सबसे व्यापक एंड-टू-एंड डेटा प्रोसेसर प्रदाताओं में से एक बनाता है। "


Gfio v3.13 परीक्षण ने DC1000M U.2 NVMe ड्राइव पर डेमो स्टोरेज के लिए 23.8 Gb / s की बैंडविड्थ दिखाई। स्रोत: किंग्स्टन

GPC अप्रत्यक्ष संग्रहण तकनीक या इसी तरह के उपयोग करने वाले HPC अनुप्रयोगों के लिए एक विशिष्ट प्रणाली कैसी दिखेगी? यह एक रैक के भीतर कार्यात्मक ब्लॉकों के भौतिक पृथक्करण के साथ एक वास्तुकला है: रैम के लिए एक या दो इकाइयां, GPU और CPU कंप्यूटिंग नोड्स के लिए कुछ अधिक, और भंडारण के लिए एक या अधिक इकाइयां।

जीपीयूडायरेक्ट स्टोरेज की घोषणा और अन्य जीपीयू विक्रेताओं में इसी तरह की तकनीकों के संभावित उद्भव के साथ, किंग्स्टन उच्च प्रदर्शन कंप्यूटिंग में उपयोग के लिए डिज़ाइन किए गए भंडारण प्रणालियों की मांग को बढ़ाता है। मार्कर स्टोरेज सिस्टम से डेटा पढ़ने की गति होगी, जो GPU के साथ कंप्यूटिंग यूनिट के प्रवेश द्वार पर 40- या 100-Gbit नेटवर्क कार्ड की बैंडविड्थ के साथ तुलनीय होगा। इस प्रकार, एक्सटर्नल से बाहरी एनवीएमई सहित अल्ट्रा-फास्ट स्टोरेज सिस्टम एचपीसी-अनुप्रयोगों के लिए मुख्यधारा बन जाएंगे। विज्ञान और वित्तीय गणनाओं के अलावा, वे कई अन्य व्यावहारिक क्षेत्रों में आवेदन पाएंगे, जैसे कि वाहनों पर मेगालोपोलिस सेफ सिटी या निगरानी केंद्रों पर सुरक्षा प्रणालियां, जहां प्रति सेकंड लाखों एचडी छवियों की मान्यता और पहचान की गति की आवश्यकता है, "शीर्ष का बाजार स्थान सैन

किंग्स्टन उत्पादों के बारे में अतिरिक्त जानकारी कंपनी की आधिकारिक वेबसाइट पर देखी जा सकती है।