Huawei के कार्यान्वयन में डेटा केंद्र के अंदर RDMA

जब एआई फैब्रिक तकनीक का उपयोग करके रिमोट डायरेक्ट मेमोरी एक्सेस का आयोजन किया जाता है और यह InfiniBand और शुद्ध ईथरनेट-आधारित RDMA से अलग कैसे होता है, तो Huawei किस दृष्टिकोण के बारे में बताता है।



वितरित कंप्यूटिंग का उपयोग विभिन्न प्रकार के उद्योगों में किया जाता है। ये वैज्ञानिक अनुसंधान, और तकनीकी विकास जैसे चेहरा पहचान या ऑटोपायलट मान्यता उपकरण, और उद्योग हैं। सामान्य तौर पर, डेटा विश्लेषण अधिक से अधिक एप्लिकेशन ढूंढ रहा है, और हम विश्वास के साथ कह सकते हैं कि निकट भविष्य में यह लोकप्रियता नहीं खोएगा। वास्तव में, अब हम क्लाउड कंप्यूटिंग के युग से एक संक्रमण का सामना कर रहे हैं, जहां सबसे महत्वपूर्ण कारक अनुप्रयोग थे और सेवाओं की तैनाती की गति, डेटा मुद्रीकरण के युग तक, कृत्रिम बुद्धिमत्ता एल्गोरिदम के उपयोग सहित। हमारे आंतरिक आंकड़ों के अनुसार ( GIV रिपोर्ट 2025: अनफॉल्डिंग द इंडस्ट्री ब्लूप्रिंट ऑफ़ ए इंटेलिजेंट वर्ल्ड ), 2025 तक, 86% कंपनियां अपने काम में एआई का उपयोग करेंगी। उनमें से कई इस क्षेत्र को गतिविधियों के आधुनिकीकरण के लिए मुख्य मानते हैं और संभवतः, भविष्य में व्यापार निर्णय लेने के लिए मूल उपकरण। और इसका मतलब है कि इन कंपनियों में से प्रत्येक को कच्चे डेटा के प्रसंस्करण की आवश्यकता होगी - वितरित क्लस्टर के माध्यम से सबसे अधिक संभावना है।

वास्तुकला का विकास

वितरित कंप्यूटिंग की बढ़ती लोकप्रियता के साथ, व्यक्तिगत डेटा सेंटर मशीनों के बीच आदान-प्रदान किए गए यातायात की मात्रा बढ़ जाती है। परंपरागत रूप से, जब नेटवर्क पर चर्चा की जाती है, तो इंटरनेट पर डेटा सेंटर और अंतिम उपयोगकर्ताओं के बीच यातायात के विकास पर ध्यान केंद्रित किया जाता है, और यह वास्तव में बढ़ रहा है। लेकिन वितरित प्रणालियों के भीतर क्षैतिज ट्रैफ़िक में वृद्धि उन सभी चीज़ों से अधिक है जो उपयोगकर्ता उत्पन्न करते हैं। फेसबुक के मुताबिक, एक साल से भी कम समय में उनके आंतरिक सिस्टम के बीच ट्रैफिक दोगुना हो जाता है।



इस ट्रैफ़िक से निपटने के प्रयास में, आप क्लस्टर बढ़ा सकते हैं, लेकिन आप इसे अनिश्चित काल तक नहीं कर सकते। इसलिए, क्लस्टर पर कंप्यूटिंग लोड की वृद्धि की भविष्यवाणी करते हुए, इन वितरित नेटवर्क के अंदर बाधाओं को खोजने और समाप्त करने के लिए, प्रसंस्करण क्षमता को बढ़ाना आवश्यक है - सबसे पहले।

यदि पहले इन प्रणालियों में से प्रत्येक के संसाधन अलग-अलग वितरित सिस्टम के "कमजोर लिंक" थे, जबकि लगातार विकसित हो रहे डेटा ट्रांसमिशन नेटवर्क ने जरूरतों को भी पीछे छोड़ दिया, आज यह नेटवर्क संचार है जो समस्या का मुख्य स्रोत है। परिचित टीसीपी / आईपी प्रोटोकॉल स्टैक और ट्री टोपोलॉजी अब असाइन किए गए कार्यों के अनुरूप नहीं हैं। इसलिए, अधिक से अधिक डेटा केंद्र केंद्रीकृत एक को छोड़ रहे हैं और एक नए सीएलओएस आर्किटेक्चर की ओर बढ़ रहे हैं जो अधिक बैंडविड्थ और बेहतर क्लस्टर स्केलेबिलिटी प्रदान करता है, उदाहरण के लिए, फेसबुक ने कई साल पहले किया था।



उसी समय, प्रक्रिया को एक अलग स्तर पर अनुकूलित करना आवश्यक है - दो अलग-अलग प्रणालियों के इंटरैक्शन के स्तर पर। इस लेख में, हम बात करना चाहते हैं कि Huawei ऐ फैब्रिक डेटा सेंटर क्या अनुकूलन उपकरण प्रदान करता है। यह हमारी स्वामित्व तकनीक है जो नोड्स के बीच डेटा के आदान-प्रदान को तेज करती है।

नेटवर्किंग में परिवर्तन

Huawei ऐ फैब्रिक का मुख्य "ट्रिक" आरडीएमए (रिमोट डायरेक्ट मेमोरी एक्सेस) को लागू करके क्लस्टर के भीतर सिस्टम के बीच डेटा पैकेट को स्थानांतरित करते समय ओवरहेड को कम करना है - क्लस्टर में सिस्टम की मेमोरी तक सीधी पहुंच।

आरडीएमए - ट्रांसमिशन देरी को कम करने का एक तरीका

आरडीएमए कोई नया विचार नहीं है। प्रौद्योगिकी मेमोरी और नेटवर्क इंटरफेस के बीच प्रत्यक्ष डेटा विनिमय प्रदान करती है, विलंबता को कम करती है और बफ़र्स को डेटा की अनावश्यक नकल को समाप्त करती है। इसकी जड़ें कॉम्पैक, इंटेल और माइक्रोसॉफ्ट द्वारा 1990 के दशक में वापस चली गईं।

एक पैकेट को एक सिस्टम से दूसरे सिस्टम में भेजने में तीन तरह की देरी होती है:

• प्रोसेसर प्रसंस्करण के कारण आवश्यक है, उदाहरण के लिए, ओएस में डेटा बफर करने और चेक रकम की गणना करने के लिए;
  
• बसों और डेटा ट्रांसमिशन चैनलों के कारण (बैंडविड्थ में वृद्धि करना तकनीकी रूप से असंभव है);
  
• नेटवर्क उपकरण के कारण।
  

इस श्रृंखला में नुकसान को कम करने के लिए, 1990 के दशक की शुरुआत में, इंटरेक्टिंग सिस्टम की स्मृति तक सीधी पहुंच का उपयोग करने का प्रस्ताव था - वर्चुअल इंटरफ़ेस आर्किटेक्चर का एक सार मॉडल। इसका मुख्य विचार यह है कि दो इंटरेस्टिंग सिस्टम पर चलने वाले एप्लिकेशन पूरी तरह से अपनी स्थानीय मेमोरी को भरते हैं और ओएस को प्रभावित किए बिना डेटा ट्रांसफर के लिए पी 2 पी कनेक्शन स्थापित करते हैं। इस तरह, पैकेट ट्रांसमिशन देरी को काफी कम किया जा सकता है। इसके अलावा, चूंकि वीआईए मॉडल ने इंटरमीडिएट बफ़र्स में प्रेषित डेटा को लागू नहीं किया था, इसने कॉपी ऑपरेशन के लिए आवश्यक संसाधनों को बचाया।



अमूर्त मॉडल के बारे में, VIA RDMA, एक तकनीक के रूप में, इष्टतम संसाधन उपयोग की दिशा में आगे बढ़ा है। विशेष रूप से, यह कनेक्शन स्थापित करने के लिए बफर को भरने के लिए इंतजार नहीं करता है और एक साथ कई कंप्यूटरों को कनेक्शन की अनुमति देता है। इसके कारण, प्रौद्योगिकी प्रोसेसर पर लोड को कम करते हुए, 1 एमएस तक ट्रांसमिशन देरी को कम कर सकती है।

InfiniBand बनाम ईथरनेट

बाजार पर दो मुख्य RDMA कार्यान्वयन - मालिकाना InfiniBand परिवहन प्रोटोकॉल और "शुद्ध" ईथरनेट-आधारित RDMA, दुर्भाग्य से कमियों के बिना नहीं हैं।

InfiniBand ट्रांसपोर्ट प्रोटोकॉल में बिल्ट-इन पैकेट डिलीवरी कंट्रोल मैकेनिज्म (डेटा लॉस प्रोटेक्शन) है, लेकिन यह विशिष्ट उपकरणों द्वारा समर्थित है और ईथरनेट के साथ संगत नहीं है। वास्तव में, इस प्रोटोकॉल का उपयोग उपकरण के एक आपूर्तिकर्ता पर डेटा सेंटर को बंद कर देता है, जो कुछ जोखिम उठाता है और सेवा के संदर्भ में कठिनाइयों का वादा करता है (चूंकि InfiniBand का एक छोटा बाजार हिस्सा है, इसलिए विशेषज्ञों को ढूंढना इतना आसान नहीं होगा)। ठीक है, ज़ाहिर है, प्रोटोकॉल को लागू करते समय, आप मौजूदा आईपी-नेटवर्क उपकरण का उपयोग नहीं कर सकते।

ईथरनेट पर RDMA आपको नेटवर्क पर मौजूदा उपकरणों का उपयोग करने की अनुमति देता है, ईथरनेट नेटवर्क का समर्थन करता है, जिसका अर्थ है कि सेवा विशेषज्ञों को ढूंढना आसान होगा। Infiniband की तुलना में, यह बुनियादी ढांचे के स्वामित्व की लागत को काफी कम करता है और इसकी तैनाती को सरल करता है।
इथरनेट पर RDMA को व्यापक रूप से अपनाने से रोकने वाली एकमात्र गंभीर खामी पैकेट के नुकसान से सुरक्षा की कमी है, जो पूरे नेटवर्क की बैंडविड्थ को सीमित करता है। पैकेट हानि को कम करने या नेटवर्क की भीड़ को रोकने के लिए तीसरे पक्ष के तंत्र का उपयोग किया जाना चाहिए। हम इस तरह से चले गए, नए टूल - हुआवेई ऐ फैब्रिक में अपने फायदे को बनाए रखते हुए ईथरनेट पर आरडीएमए के नुकसान की भरपाई के लिए अपने स्वयं के बुद्धिमान एल्गोरिदम की पेशकश की।

हुआवेई AI फैब्रिक - इसका तरीका

एआई फैब्रिक ईथरनेट पर आरडीएमए को लागू करता है, अपने स्वयं के बुद्धिमान नेटवर्क कंजेशन मैनेजमेंट एल्गोरिदम द्वारा पूरक है, जो आरडीएमए धाराओं के लिए शून्य पैकेट हानि, उच्च नेटवर्क बैंडविड्थ और कम संचरण देरी प्रदान करता है।

Huawei ऐ फैब्रिक खुले मानकों पर बनाया गया है और विभिन्न उपकरणों की एक श्रृंखला का समर्थन करता है, जो कार्यान्वयन प्रक्रिया का अनुकूलन करता है। हालांकि, कुछ अतिरिक्त उपकरण - खुले मानकों पर ऐड-ऑन, डेटा एक्सचेंज की दक्षता बढ़ाने की अनुमति देते हैं, जिसे हम बाद के प्रकाशनों में चर्चा करेंगे - केवल Huawei द्वारा निर्मित उपकरणों के लिए उपलब्ध हैं। क्लाउडबाइन श्रृंखला स्विच जो समाधान का समर्थन करते हैं, में एक एकीकृत चिप होती है जो ट्रैफ़िक विशेषताओं का विश्लेषण करती है और नेटवर्क मापदंडों को गतिशील रूप से समायोजित करती है, जिससे स्विच बफर के अधिक कुशल उपयोग की अनुमति मिलती है। एकत्रित विशेषताओं का उपयोग भविष्य के ट्रैफ़िक पैटर्न की भविष्यवाणी करने के लिए भी किया जाता है।

यह किसके लिए उपयोगी है?

हुआवेई ऐ फैब्रिक आपको दो स्तरों पर लाभ प्राप्त करने की अनुमति देता है।
एक ओर, समाधान डेटा सेंटर आर्किटेक्चर को अनुकूलित करने की अनुमति देता है - नोड्स की संख्या को कम करना (संसाधनों के अधिक इष्टतम उपयोग के कारण), अलग-अलग सबनेट में पारंपरिक पृथक्करण के बिना एक परिवर्तित वातावरण बनाना, जो भागों में बनाए रखना मुश्किल और महंगा है। उपकरण का उपयोग करते हुए, आपको डोमेन नियंत्रक में प्रत्येक प्रकार की सेवा के लिए अलग-अलग सबनेट का चयन करने की आवश्यकता नहीं है (अपने स्वयं के नेटवर्क की आवश्यकताओं के साथ)। आप एक एकल वातावरण बना सकते हैं जो सभी सेवाएँ प्रदान करता है।



दूसरी ओर, एआई फैब्रिक आपको वितरित कंप्यूटिंग की गति को बढ़ाने की अनुमति देता है, खासकर जहां आपको अक्सर रिमोट सिस्टम की मेमोरी तक पहुंचने की आवश्यकता होती है। उदाहरण के लिए, किसी भी क्षेत्र में AI की शुरूआत का अर्थ एल्गोरिथम सीखने की अवधि है, जिसमें लाखों ऑपरेशन शामिल हो सकते हैं, इसलिए इस तरह के प्रत्येक ऑपरेशन में देरी से लाभ प्रक्रिया का एक गंभीर त्वरण होगा।

एक विशेष उपकरण, जैसे कि हुआवेई ऐ फैब्रिक को पेश करने का प्रभाव, एक डेटा सेंटर में छह या अधिक स्विच के साथ ध्यान देने योग्य होगा। लेकिन बड़ा डेटा सेंटर, उच्च लाभ - संसाधनों के इष्टतम उपयोग के कारण, ऐ फैब्रिक के साथ समान पैमाने का क्लस्टर उच्च प्रदर्शन प्रदान करेगा। उदाहरण के लिए, 384 नोड्स का क्लस्टर 512 नोड्स के "नियमित" क्लस्टर का प्रदर्शन प्राप्त कर सकता है। इसके अलावा, समाधान के बुनियादी ढांचे के भीतर भौतिक स्विच की संख्या पर कोई प्रतिबंध नहीं है। हजारों हो सकते हैं (यदि आप भूल जाते हैं कि परियोजनाएं आमतौर पर प्रशासनिक डोमेन के आकार तक सीमित हैं)।