सर्वरों पर आभासी मशीनों की नियुक्ति का अनुकूलन

कुछ समय पहले, मेरे एक सहयोगी ने कहा कि डीसी में जगह बाहर चल रही है, सर्वर कहीं नहीं है, और लोड बढ़ रहा है और यह स्पष्ट नहीं है कि क्या करना है, और आपको संभवतः सभी उपलब्ध सर्वरों को और अधिक शक्तिशाली में बदलना होगा।

उस समय मैं इष्टतम शेड्यूल को संकलित करने के कार्य में लगा हुआ था, और मैंने सोचा - लेकिन क्या होगा यदि हम डीसी में सर्वर उपयोग को बढ़ाने के लिए अनुकूलन एल्गोरिदम लागू करते हैं? यहाँ से वह प्रोजेक्ट जिसके बारे में मैं लिखना चाहता हूँ पैदा हुआ था।

उन्नत उपयोगकर्ताओं के लिए, मैं तुरंत कहता हूं कि इस लेख में हम बिन पैकिंग के बारे में बात करेंगे, और बाकी जो लोग सीखना चाहते हैं कि अपेक्षाकृत सरल गणनाओं का उपयोग करके 30% तक सर्वर संसाधनों को कैसे बचाया जाए, बिल्ली का स्वागत है।

तो, हमारे पास लगभग 100 सर्वरों के साथ एक डीसी है, जो लगभग 7,000 आभासी मशीनों की मेजबानी करता है। आभासी मशीनों के अंदर क्या है - हम नहीं जानते हैं और पता नहीं होना चाहिए। वर्चुअल मशीनों को सर्वर पर रखना आवश्यक है ताकि एसएलए प्रदर्शन किया जा सके और साथ ही सर्वर की न्यूनतम संख्या का उपयोग किया जा सके।

हम जानते हैं:

• सर्वर सूची
• प्रत्येक सर्वर (CPU समय, CPU कोर, RAM, डिस्क, डिस्क io, नेटवर्क io) पर संसाधनों की मात्रा।
• वर्चुअल मशीन सूची (VM)
• प्रत्येक वर्चुअल मशीन (CPU समय, CPU कोर, RAM, डिस्क, डिस्क io, नेटवर्क io) द्वारा खपत संसाधनों की मात्रा।
• सर्वर पर होस्ट सिस्टम द्वारा संसाधन की खपत।

हमें सर्वरों के बीच वर्चुअल मशीनों को वितरित करने की आवश्यकता है ताकि प्रत्येक सर्वर पर प्रत्येक संसाधन के लिए संसाधन की उपलब्ध मात्रा से अधिक न हो, और साथ ही साथ सर्वरों की न्यूनतम संख्या का उपयोग करें।

वैज्ञानिक साहित्य में इस कार्य को बिन पैकिंग समस्या कहा जाता है (यह रूसी में कैसे होगा?)। सरल शब्दों में, यह एक कार्य है कि कैसे छोटे बक्से को मनमाने आकार के बड़े बक्से में ढाल दिया जाए और साथ ही साथ बड़ी संख्या में न्यूनतम बक्से का उपयोग किया जाए। गणित में प्रसिद्ध समस्या, एनपी-पूर्ण, केवल संपूर्ण खोज द्वारा हल की गई है, जिसकी लागत संयुक्त रूप से बढ़ रही है।

नीचे दी गई तस्वीर एक आयामी मामले के लिए बिन पैकिंग एल्गोरिदम का सार दर्शाती है:


अंजीर। 1. बिन पैकिंग समस्या का चित्रण, गैर-इष्टतम प्लेसमेंट

पहले आंकड़े में, वस्तुओं को किसी तरह बास्केट के बीच वितरित किया जाता है और उन्हें रखने के लिए 3 बास्केट का उपयोग किया जाता है।


अंजीर। 2. बिन पैकिंग समस्या का चित्रण, इष्टतम प्लेसमेंट

दूसरी तस्वीर इष्टतम वितरण दिखाती है, जिसके लिए आपको केवल 2 बास्केट की आवश्यकता होती है।

बिन पैकिंग एल्गोरिदम का मानक सूत्रीकरण भी मानता है कि सभी बास्केट समान हैं। हमारे सर्वर समान नहीं हैं, क्योंकि वे अलग-अलग समय पर खरीदे गए थे और उनका कॉन्फ़िगरेशन अलग है - प्रोसेसर कोर, मेमोरी, डिस्क, विभिन्न प्रोसेसर पावर की अलग-अलग संख्या।

हेराटॉस्टिक, जेनेटिक एल्गोरिदम, मोंटे-कार्लो ट्री सर्च और डीप न्यूरल नेटवर्क का उपयोग करके एक उप-अपनाने वाला समाधान प्राप्त किया जा सकता है। हम बेस्टफिट ह्यूरिस्टिक एल्गोरिथ्म पर बसे, जो कि इष्टतम एक की तुलना में 1.7 गुना अधिक नहीं, साथ ही आनुवंशिक एल्गोरिथ्म के कुछ बदलाव पर एक समाधान में परिवर्तित होता है। नीचे मैं उनके आवेदन के परिणाम दूंगा।

लेकिन पहले, आइए चर्चा करें कि समय-भिन्न मैट्रिक्स के साथ क्या करना है, जैसे कि सीपीयू उपयोग, डिस्क io, नेटवर्क io। सबसे आसान तरीका है कि वेरिएबल मीट्रिक को कंटीन्यू के साथ बदलें। लेकिन इस स्थिरांक का मूल्य कैसे चुनें? हमने कुछ विशेषता अवधि के लिए मीट्रिक का अधिकतम मूल्य लिया (पहले मूल्यों के आउटलाइनिंग को सुचारू किया)। सप्ताह हमारे मामले में एक विशिष्ट अवधि बन गया, क्योंकि लोड में मुख्य मौसमी कार्य दिवसों और दिनों की छुट्टी के साथ जुड़ा हुआ था।

इस मॉडल में, प्रत्येक वर्चुअल मशीन को अधिकतम उपभोग किए गए संसाधन मूल्य के आकार की एक संसाधन पट्टी आवंटित की जाती है, और प्रत्येक वीएम को कॉन्स्टेंट अधिकतम सीपीयू उपयोग, रैम, डिस्क, अधिकतम डिस्क io, अधिकतम नेटवर्क io द्वारा वर्णित किया जाता है।

अगला, हम इष्टतम पैकिंग की गणना के लिए एल्गोरिथ्म का उपयोग करते हैं और वीएम भौतिक सर्वर के स्थान का नक्शा प्राप्त करते हैं।

अभ्यास से पता चलता है कि यदि आप सर्वर पर प्रत्येक संसाधनों के लिए एक निश्चित मार्जिन नहीं छोड़ते हैं, तो जब वीएम को घनी आवंटित किया जाता है, तो सर्वर ओवरलोड हो जाता है। इसलिए, CPU उपयोग के लिए, हम 30% का मार्जिन छोड़ते हैं, RAM 20% के लिए, डिस्क io - 20% के लिए, नेटवर्क io - 20% के लिए, इन सीमाओं को आनुभविक रूप से चुना जाता है।

हमारे पास कई प्रकार के डिस्क (तेज एसएसडी और धीमी गति से सस्ते एचडीडी) हैं, प्रत्येक प्रकार की डिस्क के लिए हम डिस्क और डिस्क आईओ मेट्रिक्स को अलग से लेते हैं, इसलिए अंतिम मॉडल कुछ अधिक जटिल हो जाता है और अधिक आयाम होते हैं।

VM प्लेसमेंट को अनुकूलित करने का परिणाम आरेख में दिखाया गया है:


अंजीर। 3. सर्वरों पर वीएम के प्लेसमेंट के अनुकूलन का परिणाम है

क्षैतिज - उन सर्वरों की संख्या जिन्हें ऑप्टिमाइज़ किया गया है, वर्टिकल - बेस्टफ़िट हेयुरिस्टिक्स के लिए और जेनेटिक एल्गोरिथम के लिए मुक्त सर्वरों की संख्या।

आरेख से क्या निष्कर्ष निकाला जा सकता है?

1. वर्तमान कार्यों के लिए, आप 20-30% कम सर्वर का उपयोग कर सकते हैं।
2. जितने अधिक सर्वर आप एक समय में ऑप्टिमाइज़ करते हैं, उतना ही आप% में जीतते हैं, सर्वर 40 और उससे अधिक की संख्या के साथ, संतृप्ति होती है।
3. आनुवांशिक एल्गोरिथ्म हेयरिस्टिक बेस्टफिट से थोड़ा बेहतर है। यदि हम अपने परिणामों में और सुधार करना चाहते हैं, तो हम इस दिशा में खुदाई करेंगे।

व्यवहार में क्या अन्य समस्याएं सामने आई हैं?

1. यदि आप 7,000 वर्चुअल मशीनों के साथ लगभग 100 सर्वर को हिला देना चाहते हैं, तो माइग्रेशन की मात्रा बहुत महत्वपूर्ण होगी, जैसे कि पूरा विचार अवास्तविक होगा। लेकिन यदि आप क्रम में 20-40 सर्वरों के समूहों के साथ काम करते हैं, तो आपको जो प्रभाव मिलेगा, वह लगभग समान है, लेकिन पलायन की संख्या कई गुना कम होगी। और आप अपने डीसी को भागों में अनुकूलित कर सकते हैं।
2. यदि आपको लाइव माइग्रेशन करना चाहिए, तो आप ऐसी स्थिति का सामना कर सकते हैं जहां माइग्रेशन समाप्त नहीं हो सकता है। इसका मतलब यह है कि वीएम के अंदर डिस्क और / या मेमोरी में परिवर्तन की स्थिति के लिए एक गहन लेखन होता है, और पुराने और नए प्रतिकृतियों के बीच वीएम राज्यों में तब तक सिंक्रनाइज़ करने का समय नहीं होता है जब तक कि पुरानी प्रतिकृति की स्थिति नहीं बदल जाती है। इस मामले में, आपको ऐसी वीएम मशीनों को पूर्वनिर्धारित करने और गैर-चलती के रूप में चिह्नित करने की आवश्यकता है। बदले में, यह अनुकूलन एल्गोरिदम के संशोधन की आवश्यकता है। क्या प्रसन्नता है कि कुल लाभ व्यावहारिक रूप से ऐसी मशीनों की संख्या से स्वतंत्र है, अगर वीएम की कुल संख्या का 10-15% से अधिक नहीं है।

VM प्लेसमेंट को अनुकूलित करने के बाद सर्वर लोड कैसे बदलता है?

ठीक है, हमने VM प्लेसमेंट को अनुकूलित किया है। हो सकता है कि भार में वृद्धि के संबंध में परिणामस्वरूप नया राज्य बहुत नाजुक हो? शायद सर्वर सीमा तक चल रहे हैं और लोड में कोई वृद्धि उन्हें मार देगी?

हमने अनुकूलन से पहले और 1 सप्ताह की अवधि के बाद सर्वर संसाधन उपयोग की तुलना की। क्या हुआ चित्र 2 में दिखाया गया है:


अंजीर। 4. VM आवंटन को अनुकूलित करने के बाद सीपीयू लोड में परिवर्तन

CPU उपयोग के अनुसार: औसत CPU उपयोग 10% से बढ़कर केवल 18% हो गया है। यानी हमारे पास CPU प्रदर्शन का एक तिगुना मार्जिन है, जबकि सर्वर तथाकथित "ग्रीन" ज़ोन में बने रहेंगे।

सॉफ्टवेयर में यह कैसे किया गया था?

हम 30 सेकंड की आवृत्ति के साथ Yandex.ClickHouse में आवश्यक मेट्रिक्स इकट्ठा करते हैं (हमने इन्फ्लक्सडीबी की कोशिश की, लेकिन हमारे डेटा वॉल्यूम पर एकत्रीकरण के साथ प्रश्नों को भी धीरे-धीरे निष्पादित किया जाता है)। वहां से, इष्टतम राज्य की गणना करने का कार्य मैट्रिक्स पढ़ता है, उनसे अधिकतम खपत की गणना करता है, और एक गणना कार्य उत्पन्न करता है जिसे कतार में रखा जाता है। जैसे ही गणना कार्य पूरा होता है, परीक्षण यह सत्यापित करने के लिए चलाया जाता है कि परिणाम निर्दिष्ट सीमाओं से आगे नहीं जाता है।

किसी ने पहले से ही यह किया है?

हमारे पास ज्ञात से, समान एल्गोरिदम VMware vSphere और Nutanix के अंदर हैं और OpenStack (ओपनस्टैक वॉचर प्रोजेक्ट) के अंदर दिखाई देते हैं।

क्या यह और भी बेहतर करना संभव है?

हाँ आप कर सकते हैं। अगले लेख में मैं आपको बताऊंगा कि कैसे एसएलए का उल्लंघन किए बिना भी वर्चुअल मशीन को पैक किया जाए, और इसके लिए न्यूरॉन्स की आवश्यकता क्यों है।