AERODISK vAIR वास्तुकला या राष्ट्रीय क्लस्टर भवन की विशेषताएं

हैलो, ख़बरोवचन! हम आपको रूसी हाइपरकॉन्वर्ड सिस्टम AERODISK vAIR से परिचित कराना जारी रखते हैं। यह लेख इस प्रणाली की वास्तुकला पर ध्यान केंद्रित करेगा। पिछले लेख में, हमने अपनी ARDFS फाइल सिस्टम को अलग कर लिया, और इस लेख में हम सभी मुख्य सॉफ्टवेयर घटकों के माध्यम से जायेंगे जो vAIR और उनके कार्यों को बनाते हैं।

हम भंडारण से लेकर प्रबंधन तक - नीचे से वास्तुकला का वर्णन शुरू करते हैं।

ARDFS + रफ़ल क्लस्टर ड्राइवर फ़ाइल सिस्टम

VAIR का आधार वितरित फाइल सिस्टम ARDFS है, जो सभी क्लस्टर नोड्स के स्थानीय डिस्क को एक तार्किक पूल में जोड़ता है, जिसके आधार पर 4MB वर्चुअल ब्लॉक से एक या किसी अन्य गलती सहिष्णुता योजना (प्रतिकृति कारक या Erasing कोडिंग) के साथ वर्चुअल डिस्क का निर्माण होता है। एआरडीएफएस के काम का अधिक विस्तृत विवरण पिछले लेख में दिया गया है ।

रफ़ल क्लस्टर ड्राइवर एक आंतरिक एआरडीएफएस सेवा है जो फ़ाइल सिस्टम मेटाडेटा के वितरित और विश्वसनीय भंडारण की समस्या को हल करती है।

ARDFS मेटाडेटा पारंपरिक रूप से दो वर्गों में विभाजित है।

• सूचनाएं - भंडारण वस्तुओं के साथ संचालन के बारे में जानकारी और स्वयं वस्तुओं के बारे में जानकारी;
• सेवा की जानकारी - भंडारण नोड्स के लिए ताले और कॉन्फ़िगरेशन जानकारी सेट करना।

इस डेटा को वितरित करने के लिए RCD सेवा का उपयोग किया जाता है। यह स्वचालित रूप से एक नेता की भूमिका के साथ एक नोड प्रदान करता है जिसका कार्य नोड्स में मेटाडेटा प्राप्त करना और प्रसारित करना है। एक नेता इस जानकारी का एकमात्र सच्चा स्रोत है। इसके अलावा, नेता दिल की धड़कन का आयोजन करता है, अर्थात सभी संग्रहण नोड्स की उपलब्धता की जांच करता है (इसका वर्चुअल मशीनों की उपलब्धता से कोई संबंध नहीं है, आरसीडी भंडारण के लिए एक सेवा है)।

यदि किसी भी कारण से नेता एक से अधिक सेकंड के लिए साधारण नोड्स के लिए अनुपलब्ध हो गया है, तो यह साधारण नोड नेता के पुन: चुनाव का आयोजन करता है, अन्य साधारण नोड्स से नेता की उपलब्धता का अनुरोध करता है। यदि कोरम होता है, तो नेता को फिर से चुना जाता है। पूर्व नेता "जाग" के बाद, वह स्वचालित रूप से एक साधारण नोड बन जाता है, क्योंकि नया नेता उसे उपयुक्त टीम भेजता है।

आरसीडी का तर्क ही नया नहीं है। कई तृतीय-पक्ष और वाणिज्यिक और निशुल्क समाधान भी इस तर्क द्वारा निर्देशित होते हैं, लेकिन ये समाधान हमें पसंद नहीं हैं (जैसे कि मौजूदा ओपन-सोर्स एफएस), क्योंकि वे काफी भारी हैं, और हमारे सरल कार्यों के लिए उन्हें अनुकूलित करना बहुत मुश्किल है, इसलिए हमने सिर्फ अपना लिखा है आरसीडी सेवा।
ऐसा लग सकता है कि नेता एक "संकीर्ण गर्दन" है जो सैकड़ों समूहों द्वारा बड़े समूहों में काम को धीमा कर सकता है, लेकिन ऐसा नहीं है। वर्णित प्रक्रिया लगभग तुरंत होती है और "वजन" बहुत कम होती है क्योंकि हमने इसे स्वयं लिखा था और केवल सबसे आवश्यक कार्य शामिल थे। इसके अलावा, यह पूरी तरह से स्वचालित रूप से होता है, केवल संदेशों को लॉग में छोड़कर।

मास्टरियो - मल्टीथ्रेडेड I / O प्रबंधन सेवा

एक बार जब वर्चुअल डिस्क के साथ ARDFS पूल का आयोजन किया जाता है, तो इसका उपयोग I / O के लिए किया जा सकता है। इस बिंदु पर, विशेष रूप से हाइपरकॉन्वर्ड सिस्टम के लिए सवाल उठता है, अर्थात्: IO के लिए हम कितने सिस्टम संसाधन (CPU / RAM) दान कर सकते हैं?

शास्त्रीय भंडारण प्रणालियों में, यह प्रश्न इतना तीव्र नहीं है, क्योंकि भंडारण कार्य केवल डेटा को संग्रहीत करने के लिए है (और अधिकांश सिस्टम भंडारण संसाधनों को IO के तहत सुरक्षित रूप से दिया जा सकता है), और भंडारण के अतिरिक्त हाइपरकेन्जेर्वेशन कार्यों में वर्चुअल मशीन का निष्पादन भी शामिल है। तदनुसार, जीसीएस को मुख्य रूप से आभासी मशीनों के लिए सीपीयू और रैम संसाधनों के उपयोग की आवश्यकता होती है। खैर, मैं / हे के बारे में क्या?

इस समस्या को हल करने के लिए, vAIR I / O प्रबंधन सेवा का उपयोग करता है: MasterIO। सेवा का कार्य सरल है - "सब कुछ ले लो और साझा करें" यह I / O के लिए सिस्टम संसाधनों की nth संख्या लेने की गारंटी है और, उनसे शुरू करके, I / O थ्रेड्स की nth संख्या शुरू करें।

प्रारंभ में, हम IO के लिए संसाधन आवंटित करने के लिए एक "बहुत स्मार्ट" तंत्र प्रदान करना चाहते थे। उदाहरण के लिए, यदि भंडारण पर कोई भार नहीं है, तो सिस्टम संसाधनों का उपयोग वर्चुअल मशीनों के लिए किया जा सकता है, और यदि लोड दिखाई देता है, तो ये संसाधन पूर्व निर्धारित सीमा के भीतर वर्चुअल मशीनों से "नरम" हटा दिए जाते हैं। लेकिन यह प्रयास आंशिक विफलता में समाप्त हो गया। परीक्षणों से पता चला कि अगर भार धीरे-धीरे बढ़ाया जाता है, तो सब कुछ ठीक है, संसाधनों को (संभव हटाने के लिए चिह्नित) धीरे-धीरे वीएम से आई / ओ के पक्ष में वापस ले लिया जाता है। लेकिन स्टोरेज लोड के तेज फटने से वर्चुअल मशीन से संसाधनों की निकासी "नरम" नहीं होती है, और परिणामस्वरूप, प्रोसेसर पर कतारें जमा होती हैं और परिणामस्वरूप, और भेड़िये भूखे हैं और भेड़ें मर चुकी हैं और virtualka लटका, और कोई IOPS नहीं हैं।

शायद भविष्य में हम इस समस्या पर लौट आएंगे, लेकिन अब हमने अच्छे पुराने दादा के हाथों में आईओ के लिए संसाधनों को जारी करने को लागू किया है।

आकार देने के आंकड़ों के आधार पर, व्यवस्थापक मास्टरियो सेवा के लिए सीपीयू कोर और रैम की एनटी संख्या आवंटित करता है। इन संसाधनों को एकाधिकार आवंटित किया जाता है, अर्थात उन्हें VM की आवश्यकताओं के लिए किसी भी तरह से उपयोग नहीं किया जा सकता जब तक कि व्यवस्थापक इसकी अनुमति नहीं देता। संसाधन समान रूप से आवंटित किए जाते हैं, अर्थात सिस्टम संसाधनों की समान मात्रा क्लस्टर के प्रत्येक नोड से ली गई है। सबसे पहले, प्रोसेसर संसाधन मास्टरियो के लिए रुचि रखते हैं (रैम कम महत्वपूर्ण है), खासकर अगर हम इरेज़र कोडिंग का उपयोग करते हैं।

यदि साइज़िंग में कोई गलती हुई है, और हमने मास्टरियो को बहुत सारे संसाधन दिए हैं, तो इन संसाधनों को वीएम संसाधन पूल में वापस लाकर स्थिति को आसानी से हल किया जा सकता है। यदि संसाधन निष्क्रिय हैं, तो वे वीएम संसाधन पूल में लगभग तुरंत लौट आएंगे, लेकिन अगर इन संसाधनों का निपटान किया जाता है, तो आपको मास्टरियो को नरम रूप से जारी करने के लिए थोड़ी देर इंतजार करना होगा।

रिवर्स स्थिति अधिक जटिल है। अगर हमें मास्टरियो के लिए कोर की संख्या बढ़ाने की आवश्यकता है, और वे वर्चुअल के साथ व्यस्त हैं, तो हमें वर्चुअल के साथ "बातचीत" करना होगा, अर्थात, हैंडल के साथ उनका चयन करें, क्योंकि स्वचालित रूप से लोड के तीव्र फटने की स्थिति में, यह ऑपरेशन वीएम फ्रीज और अन्य मैट्रिक व्यवहार से भरा होता है।

तदनुसार, आईओ हाइपरकॉन्वर्ड सिस्टम (न केवल हमारा) के प्रदर्शन को आकार देने के लिए बहुत अधिक ध्यान देने की आवश्यकता है। थोड़ा बाद के लेखों में हम इस मुद्दे पर अधिक विस्तार से विचार करने का वादा करते हैं।

हाइपरविजर

हाइपरवाइजर Aist vAIR में वर्चुअल मशीन चलाने के लिए जिम्मेदार है। यह हाइपरविजर समय-परीक्षणित केवीएम हाइपरवाइजर पर आधारित है। सिद्धांत रूप में, केवीएम के काम के बारे में काफी कुछ लिखा गया है, इसलिए इसे पेंट करने की कोई विशेष आवश्यकता नहीं है, बस यह इंगित करें कि केवीएम के सभी मानक कार्य सारस में संग्रहीत हैं और ठीक काम करते हैं।

इसलिए, यहां हम मानक केवीएम से मुख्य अंतर का वर्णन करेंगे, जिसे हमने सारस में लागू किया था। सारस प्रणाली का हिस्सा है (पहले से स्थापित हाइपरविजर) और इसे वेब-जीयूआई (रूसी और अंग्रेजी संस्करण) और एसएसएच (जाहिर है, केवल अंग्रेजी) के माध्यम से वीएआईआर कॉमन कंसोल से नियंत्रित किया जाता है।

इसके अलावा, हाइपरविजर कॉन्फ़िगरेशन वितरित कॉन्फ़िगरबीडी डेटाबेस (इसके बारे में थोड़ी देर बाद) में संग्रहीत किया जाता है, जो नियंत्रण का एक भी बिंदु है। यही है, आप क्लस्टर में किसी भी नोड से कनेक्ट कर सकते हैं और एक अलग प्रबंधन सर्वर की आवश्यकता के बिना सभी का प्रबंधन कर सकते हैं।

मानक केवीएम कार्यक्षमता के लिए एक महत्वपूर्ण अतिरिक्त है हा मॉड्यूल हमने विकसित किया है। यह उच्च उपलब्धता वाली आभासी मशीनों के क्लस्टर का सबसे सरल कार्यान्वयन है, जो आपको नोड विफलता की स्थिति में किसी अन्य क्लस्टर नोड पर वर्चुअल मशीन को स्वचालित रूप से पुनरारंभ करने की अनुमति देता है।

एक अन्य उपयोगी विशेषता वर्चुअल मशीनों (वीडीआई वातावरण के लिए प्रासंगिक) की बड़े पैमाने पर तैनाती है, जो नोड्स के बीच अपने स्वचालित वितरण के साथ आभासी मशीनों की तैनाती को स्वचालित करेगा जो उन पर लोड के आधार पर होता है।

नोड्स के बीच वीएम वितरण स्वचालित लोड संतुलन (अला DRS) के लिए आधार है। यह फ़ंक्शन वर्तमान रिलीज़ में अभी तक उपलब्ध नहीं है, लेकिन हम सक्रिय रूप से इस पर काम कर रहे हैं और यह निश्चित रूप से अगले अपडेट में से एक में दिखाई देगा।

VMware ESXi हाइपरवाइज़र वैकल्पिक रूप से समर्थित है, वर्तमान में इसे iSCSI प्रोटोकॉल का उपयोग करके लागू किया गया है, और NFS समर्थन भविष्य में भी योजनाबद्ध है।

वर्चुअल स्विच

स्विच के सॉफ्टवेयर कार्यान्वयन के लिए, एक अलग घटक प्रदान किया जाता है - फ्रैक्टल। जैसा कि हमारे अन्य घटकों में, हम सरल से जटिल तक जाते हैं, इसलिए पहले संस्करण में सरल स्विचिंग को लागू किया जाता है, जबकि राउटिंग और फायरवॉलिंग को तीसरे पक्ष के उपकरणों के लिए दिया जाता है। ऑपरेशन का सिद्धांत मानक है। सर्वर का भौतिक इंटरफ़ेस एक पुल द्वारा फ्रैक्टल ऑब्जेक्ट से जुड़ा हुआ है - बंदरगाहों का एक समूह। बंदरगाहों का एक समूह, बदले में, क्लस्टर में वांछित आभासी मशीनों के साथ। वीएलएएन का संगठन समर्थित है, और अगले रिलीज में से एक में वीएक्सएलएएन समर्थन जोड़ा जाएगा। सभी निर्मित स्विच डिफ़ॉल्ट रूप से वितरित किए जाते हैं, अर्थात्। क्लस्टर के सभी नोड्स पर वितरित किया जाता है, ताकि वीएम से कनेक्ट करने के लिए कौन सी वर्चुअल मशीन लोकेशन नोड पर निर्भर न हो, यह केवल प्रशासक के निर्णय का विषय है।

निगरानी और आंकड़े

निगरानी और सांख्यिकी (काम शीर्षक मोनिका) के लिए जिम्मेदार घटक, वास्तव में, इंजन भंडारण प्रणाली से पुन: डिज़ाइन किया गया क्लोन है। एक समय में, उन्होंने खुद को अच्छी तरह से सुझाया और हमने इसे आसान ट्यूनिंग के साथ vAIR के साथ उपयोग करने का फैसला किया। अन्य सभी घटकों की तरह, मोनिका को एक ही समय में क्लस्टर के सभी नोड्स पर निष्पादित और संग्रहीत किया जाता है।

मोनिका की मुश्किल जिम्मेदारियों को इस प्रकार रेखांकित किया जा सकता है:

डेटा संग्रह:

• हार्डवेयर सेंसरों से (जो कि IPMI को आयरन दे सकता है);
• vAIR तार्किक वस्तुओं (ARDFS, स्टॉर्क, फ्रैक्टल, मास्टरियो और अन्य वस्तुओं) से।

एक वितरित डेटाबेस में डेटा एकत्र करना;

के रूप में डेटा की व्याख्या:

• लॉग;
• अधिसूचना;
• कार्यक्रम।

SMTP (ईमेल अलर्ट भेजना) और SNMP (थर्ड-पार्टी मॉनिटरिंग सिस्टम के साथ सहभागिता) प्रोटोकॉल के माध्यम से थर्ड-पार्टी सिस्टम के साथ बाहरी इंटरैक्शन।

वितरित कॉन्फ़िगरेशन बेस

पिछले पैराग्राफ में, यह उल्लेख किया गया था कि एक ही समय में क्लस्टर के सभी नोड्स पर कई डेटा संग्रहीत किए जाते हैं। इस स्टोरेज मेथड को व्यवस्थित करने के लिए, एक विशेष वितरित कॉन्फीडबैंक डेटाबेस प्रदान किया जाता है। जैसा कि नाम का अर्थ है, डेटाबेस सभी क्लस्टर ऑब्जेक्ट्स के कॉन्फ़िगरेशन को संग्रहीत करता है: हाइपरविजर, वर्चुअल मशीन, हा मॉड्यूल, स्विच, फाइल सिस्टम (एफएस मेटाडेटा डेटाबेस के साथ भ्रमित नहीं होना चाहिए, यह एक और डेटाबेस है), साथ ही साथ आंकड़े भी। यह डेटा सभी नोड्स पर सिंक्रोनाइज़ किया जाता है और इस डेटा की स्थिरता vAIR के स्थिर संचालन के लिए एक शर्त है।

एक महत्वपूर्ण बिंदु: यद्यपि कॉन्फ़िगरडीबी की कार्यप्रणाली vAIR ऑपरेशन के लिए महत्वपूर्ण है, इसकी विफलता, हालांकि यह क्लस्टर को रोक देगा, ARDFS में संग्रहीत डेटा की स्थिरता को प्रभावित नहीं करता है, जो कि हमारी राय में संपूर्ण रूप से समाधान की विश्वसनीयता के लिए एक प्लस है।

कॉन्फ़िगीडी भी प्रबंधन का एक एकल बिंदु है, इसलिए आप आईपी पते द्वारा क्लस्टर के किसी भी नोड पर जा सकते हैं और क्लस्टर के सभी नोड्स को पूरी तरह से प्रबंधित कर सकते हैं, जो काफी सुविधाजनक है।

इसके अलावा, बाहरी सिस्टम तक पहुँचने के लिए, कॉन्फ़िगडी एक आरामदायक एपीआई प्रदान करता है जिसके माध्यम से आप तीसरे पक्ष के सिस्टम के साथ एकीकरण को कॉन्फ़िगर कर सकते हैं। उदाहरण के लिए, हमने हाल ही में वीडीआई और सूचना सुरक्षा के क्षेत्र में कई रूसी समाधानों के साथ पायलट एकीकरण किया है। जब परियोजनाएं पूरी हो जाएंगी, तो हमें यहां तकनीकी विवरण लिखने में खुशी होगी।

पूरी तस्वीर

नतीजतन, हमारे पास सिस्टम आर्किटेक्चर के दो संस्करण हैं।

पहले - मुख्य मामले में - हमारे केवीएम-आधारित ऐस्ट हाइपरवाइजर और फ्रैक्टल सॉफ्टवेयर स्विच का उपयोग किया जाता है।

परिदृश्य 1. सच

दूसरे में - वैकल्पिक विकल्प - जब आप ESXi हाइपरविजर का उपयोग करना चाहते हैं, तो योजना कुछ जटिल है। ESXi का उपयोग करने के लिए, इसे क्लस्टर के स्थानीय ड्राइव पर मानक तरीके से स्थापित किया जाना चाहिए। इसके बाद, प्रत्येक ESXi नोड पर, vAIR MasterVM वर्चुअल मशीन स्थापित की जाती है, जिसमें VMware वर्चुअल मशीन के रूप में चलाने के लिए एक विशेष vAIR वितरण होता है।

ईएसएक्सआई मास्टरवीएम को सीधे अग्रेषित करके सभी मुफ्त स्थानीय डिस्क देता है। MasterVM के अंदर, ये डिस्क पहले से ही ARDFS में मानक रूप से स्वरूपित हैं और ESSC में समर्पित इंटरफेस के माध्यम से iSCSI प्रोटोकॉल (और भविष्य में NFS भी होगा) का उपयोग करके बाहर (या बल्कि, ESXi को) डिलीवर किए जाते हैं। तदनुसार, इस मामले में वर्चुअल मशीन और सॉफ्टवेयर नेटवर्क ईएसएक्सआई द्वारा प्रदान किए जाते हैं।

परिदृश्य 2. ईएसएक्सआई

इसलिए, हमने vAIR वास्तुकला के सभी मुख्य घटकों और उनके कार्यों को अलग कर दिया है। अगले लेख में हम निकट भविष्य के लिए पहले से ही लागू कार्यक्षमता और योजनाओं के बारे में बात करेंगे।

हम टिप्पणियों और सुझावों की प्रतीक्षा कर रहे हैं।