👚 🤱🏽 👧🏻 कुबेरनेट्स में ऑटोसालिंग के तीन स्तर: उन्हें प्रभावी ढंग से कैसे उपयोग किया जाए ☕️ ⬛️ Ⓜ️

कुबेरनेट्स को पूरी तरह से मास्टर करने के लिए, आपको क्लस्टर संसाधनों को स्केल करने के विभिन्न तरीकों को जानना होगा: सिस्टम के डेवलपर्स के अनुसार, यह कुबेरनेट्स के मुख्य कार्यों में से एक है। हमने क्षैतिज और ऊर्ध्वाधर ऑटोस्कोलिंग और क्लस्टर के आकार परिवर्तन के तंत्र की एक उच्च-स्तरीय समीक्षा तैयार की है, साथ ही साथ उन्हें प्रभावी ढंग से कैसे उपयोग किया जाए, इस पर सिफारिशें भी की हैं।

Kubernetes Autoscaling 101: क्लस्टर ऑटोस्कोलर, क्षैतिज ऑटोस्कोलर, और वर्टिकल पॉड ऑटोकैसलर के एक लेख को एक टीम द्वारा अनुवादित किया गया , जिसने मेलबर्न के साथ Kubernetes aaS में ऑटोस्कोलिंग को लागू किया।

स्केलिंग के बारे में सोचना क्यों महत्वपूर्ण है

कुबेरनेट्स एक संसाधन प्रबंधन और ऑर्केस्ट्रेशन उपकरण है। बेशक, शांत तैनाती, निगरानी और फली प्रबंधन कार्यों के साथ टिंकर करना अच्छा है (फली मॉड्यूल कंटेनरों का एक समूह है जो अनुरोध के जवाब में लॉन्च किया जाता है)।

हालाँकि, आपको ऐसे मुद्दों के बारे में सोचना चाहिए:

मॉड्यूल और एप्लिकेशन को कैसे स्केल करें?
कंटेनरों को कैसे चालू और कुशल रखा जाए?
उपयोगकर्ताओं से कोड और वर्कलोड में निरंतर परिवर्तन का जवाब कैसे दें?

संसाधनों और प्रदर्शन को संतुलित करने के लिए कुबेरनेट्स समूहों को कॉन्फ़िगर करना चुनौतीपूर्ण हो सकता है, इसके लिए कुबेरनेट्स इंटर्नल के विशेषज्ञ ज्ञान की आवश्यकता होती है। आपके आवेदन या सेवाओं पर काम का बोझ दिन भर या एक घंटे में उतार-चढ़ाव हो सकता है, इसलिए संतुलन एक निरंतर प्रक्रिया के रूप में सबसे अच्छा प्रतिनिधित्व करता है।

कुबेरनेट्स ऑटोस्केल स्तर

प्रभावी ऑटोसैसलिंग के लिए दो स्तरों के बीच समन्वय की आवश्यकता होती है:

फली का स्तर क्षैतिज (क्षैतिज पॉड ऑटोस्कोलर, एचपीए) और ऊर्ध्वाधर ऑटो-स्केलिंग (वर्टिकल पॉड ऑटोस्कोलर, वीपीए) सहित। यह आपके कंटेनरों के लिए उपलब्ध संसाधनों को बढ़ा रहा है।
क्लस्टर स्तर, जिसे क्लस्टर ऑटोस्कोलर (CA) प्रणाली द्वारा नियंत्रित किया जाता है, क्लस्टर के भीतर नोड्स की संख्या को बढ़ाता या घटाता है।

क्षैतिज ऑटो स्केल मॉड्यूल (HPA)

जैसा कि नाम से पता चलता है, एचपीए पॉड प्रतिकृतियों की संख्या को मापता है। प्रतिकृतियों की संख्या को बदलने के लिए एक ट्रिगर के रूप में, अधिकांश डेप्स सीपीयू और मेमोरी लोड का उपयोग करते हैं। हालांकि, आप कस्टम मेट्रिक्स , उनके संयोजन या यहां तक कि बाहरी मैट्रिक्स के आधार पर सिस्टम को स्केल कर सकते हैं ।

उच्च स्तरीय HPA वर्कफ़्लो:

HPA लगातार 30 सेकंड के डिफ़ॉल्ट अंतराल के साथ स्थापना के दौरान निर्दिष्ट मीट्रिक मूल्यों की जांच करता है।
HPA मॉड्यूल की संख्या बढ़ाने की कोशिश करता है यदि निर्दिष्ट सीमा तक पहुँच जाता है।
HPA परिनियोजन / प्रतिकृति नियंत्रक के भीतर प्रतिकृतियों की संख्या को अद्यतन करता है।
तैनाती / प्रतिकृति नियंत्रक तब सभी आवश्यक ऐड-ऑन मॉड्यूल को तैनात करता है।

मैट्रिक्स थ्रेशोल्ड पहुंचने पर HPA मॉड्यूल परिनियोजन प्रक्रिया शुरू करता है

एचपीए का उपयोग करते समय, निम्नलिखित पर विचार करें:

डिफ़ॉल्ट HPA सत्यापन अंतराल 30 सेकंड है। यह नियंत्रक प्रबंधक में क्षैतिज-पॉड-ऑटोस्कोलर-सिंक-अवधि ध्वज के साथ सेट किया गया है।
डिफ़ॉल्ट सापेक्ष त्रुटि 10% है।
मॉड्यूल की संख्या में अंतिम वृद्धि के बाद, एचपीए को उम्मीद है कि तीन मिनट के भीतर मैट्रिक्स स्थिर हो जाएगा। यह अंतराल क्षैतिज-पॉड-ऑटोस्कोलर-अपस्केल-देरी ध्वज द्वारा निर्धारित किया गया है।
मॉड्यूल की संख्या में अंतिम कमी के बाद, एचपीए पांच मिनट के लिए स्थिर होने की उम्मीद करता है। यह अंतराल क्षैतिज-पॉड-ऑटोस्कोलर-डाउनस्केल-देरी ध्वज द्वारा निर्धारित किया गया है।
एचपीए तैनाती वस्तुओं के साथ सबसे अच्छा काम करता है, न कि प्रतिकृति नियंत्रक। क्षैतिज ऑटोसालिंग रोलिंग अपडेट के साथ संगत नहीं है, जो सीधे प्रतिकृति नियंत्रकों में हेरफेर करता है। तैनाती करते समय, प्रतिकृतियों की संख्या सीधे तैनाती वस्तुओं पर निर्भर करती है।

फली के ऊर्ध्वाधर आटोस्केलिंग

वर्टिकल ऑटो स्केल (VPA) मौजूदा (या कम) प्रोसेसर या मेमोरी टाइम को मौजूदा पॉड्स में आवंटित करता है। यह फली के साथ या बिना स्टेटफुल स्टेटलेस के लिए उपयुक्त है, लेकिन यह मुख्य रूप से स्टेटफुल सेवाओं के लिए है। हालाँकि, यदि आप मूल रूप से आवंटित संसाधनों की मात्रा को स्वचालित रूप से समायोजित करने की आवश्यकता है, तो आप स्टेटलेस मॉड्यूल के लिए VPA लागू कर सकते हैं।

VPA OOM इवेंट्स (मेमोरी से बाहर, मेमोरी से बाहर) का भी जवाब देता है। प्रोसेसर समय और मेमोरी साइज को बदलने के लिए पॉड रिस्टार्ट की आवश्यकता होती है। पुन: प्रारंभ करते समय, VPA न्यूनतम संख्या में मॉड्यूल की गारंटी के लिए पॉड्स वितरण बजट (PDB ) का सम्मान करता है।

आप प्रत्येक मॉड्यूल के लिए न्यूनतम और अधिकतम संसाधन सेट कर सकते हैं। तो, आप आवंटित मेमोरी की अधिकतम राशि को 8 जीबी तक सीमित कर सकते हैं। यह उपयोगी है अगर वर्तमान नोड्स प्रति कंटेनर 8 जीबी से अधिक मेमोरी आवंटित नहीं कर सकते हैं। विस्तृत विनिर्देशों और ऑपरेटिंग तंत्र आधिकारिक वीपीए विकी में वर्णित हैं।

इसके अलावा, VPA के पास एक दिलचस्प अनुशंसा फ़ंक्शन (VPA अनुशंसाकर्ता) है। यह एक ऐतिहासिक एल्गोरिदम को ध्यान में रखते हुए ऐतिहासिक एल्गोरिदम के आधार पर मेमोरी और प्रोसेसर समय के नए मूल्यों की पेशकश करने के लिए सभी मॉड्यूल के संसाधन उपयोग और ओओएम घटनाओं को ट्रैक करता है। एक एपीआई भी है जो पॉड डिस्क्रिप्टर लेता है और प्रस्तावित संसाधन मान लौटाता है।

यह ध्यान देने योग्य है कि वीपीए अनुशंसाकर्ता संसाधनों की "सीमा" की निगरानी नहीं करता है। यह मॉड्यूल को नोड्स के भीतर संसाधनों पर एकाधिकार करने का कारण बन सकता है। मेमोरी या प्रोसेसर समय की भारी बर्बादी से बचने के लिए नामस्थान स्तर पर एक सीमा मूल्य निर्धारित करना बेहतर है।

VPA की उच्च-स्तरीय योजना:

वीपीए 10 सेकंड के डिफ़ॉल्ट अंतराल के साथ स्थापना के दौरान निर्दिष्ट मीट्रिक मूल्यों की लगातार जांच करता है।
यदि निर्दिष्ट सीमा तक पहुँच जाता है, तो VPA संसाधनों की आवंटित राशि को बदलने का प्रयास करता है।
वीपीए तैनाती / प्रतिकृति नियंत्रक के भीतर संसाधनों की मात्रा को अद्यतन करता है।
जब आप मॉड्यूल को पुनरारंभ करते हैं, तो सभी नए संसाधन बनाए गए इंस्टेंस पर लागू होते हैं।

VPA संसाधनों की आवश्यक मात्रा जोड़ता है

VPA का उपयोग करते समय निम्नलिखित बिंदुओं पर विचार करें:

स्केलिंग के लिए फली का एक अनिवार्य पुनरारंभ आवश्यक है। परिवर्तन करने के बाद अस्थिर संचालन से बचने के लिए यह आवश्यक है। विश्वसनीयता के लिए, मॉड्यूल नए आवंटित संसाधनों के आधार पर नोड्स के बीच फिर से शुरू और वितरित किए जाते हैं।
VPA और HPA अभी तक एक दूसरे के साथ संगत नहीं हैं और एक ही पॉड पर काम नहीं कर सकते हैं। यदि आप एक ही क्लस्टर में दोनों स्केलिंग तंत्र का उपयोग करते हैं, तो सुनिश्चित करें कि सेटिंग्स उन्हें एक ही ऑब्जेक्ट पर सक्रिय करने की अनुमति नहीं देंगी।
वीपीए केवल अतीत और वर्तमान उपयोग के आधार पर संसाधनों के लिए कंटेनर अनुरोधों को कॉन्फ़िगर करता है। यह संसाधनों के उपयोग पर सीमा निर्धारित नहीं करता है। अनुप्रयोगों के गलत संचालन के साथ समस्याएं हो सकती हैं जो अधिक से अधिक संसाधनों को जब्त करना शुरू कर देंगी, इससे कुबेरनेट्स इस पॉड को बंद कर देंगे।
VPA अभी भी विकास के प्रारंभिक चरण में है। तैयार रहें कि निकट भविष्य में सिस्टम कुछ परिवर्तनों से गुजर सकता है। आप ज्ञात सीमाओं और विकास योजनाओं के बारे में पढ़ सकते हैं। इसलिए, VPA और HPA के संयुक्त कार्य को लागू करने की योजना, साथ ही साथ उनके लिए एक ऊर्ध्वाधर ऑटो-स्केलिंग नीति के साथ मॉड्यूल की तैनाती (उदाहरण के लिए, एक विशेष लेबल 'VPA की आवश्यकता है)।

कुबेरनेट्स क्लस्टर ऑटो-स्केलिंग

क्लस्टर ऑटोस्कोलर (सीए) फली की प्रतीक्षा के आधार पर नोड्स की संख्या में परिवर्तन करता है। सिस्टम लंबित मॉड्यूल के लिए समय-समय पर जांच करता है - और क्लस्टर साइज़ बढ़ाता है यदि अधिक संसाधनों की आवश्यकता होती है और यदि क्लस्टर स्थापित सीमाओं से अधिक नहीं होता है। सीए क्लाउड सेवा प्रदाता के साथ बातचीत करता है, इससे अतिरिक्त नोड्स का अनुरोध करता है, या निष्क्रिय लोगों को मुक्त करता है। सार्वजनिक रूप से उपलब्ध CA का पहला संस्करण Kubernetes 1.8 में पेश किया गया था।

उच्च स्तरीय संचालन योजना CA:

CA 10 सेकंड के डिफ़ॉल्ट अंतराल के साथ स्टैंडबाय राज्य में मॉड्यूल की जांच करता है।
यदि एक या कई मॉड्यूल अपने वितरण के लिए क्लस्टर में उपलब्ध अपर्याप्त संसाधनों के कारण स्टैंडबाय स्थिति में हैं, तो यह एक या कई अतिरिक्त नोड्स तैयार करने का प्रयास करता है।
जब क्लाउड सेवा प्रदाता आवश्यक नोड आवंटित करता है, तो यह क्लस्टर से जुड़ता है और पॉड मॉड्यूल की सेवा के लिए तैयार होता है।
कुबेरनेट्स शेड्यूलर एक नए होस्ट के लिए लंबित मॉड्यूल वितरित करता है। यदि इसके बाद भी कुछ मॉड्यूल स्टैंडबाय स्थिति में रहते हैं, तो प्रक्रिया दोहराई जाती है और क्लस्टर में नए नोड जोड़े जाते हैं।

क्लाउड में क्लस्टर नोड्स का स्वचालित आवंटन

CA का उपयोग करते समय निम्नलिखित पर विचार करें:

सीए यह सुनिश्चित करता है कि क्लस्टर में सभी मॉड्यूल को चलाने के लिए एक जगह है, चाहे प्रोसेसर लोड हो। इसके अलावा, वह यह सुनिश्चित करने की कोशिश करता है कि क्लस्टर में कोई अनावश्यक नोड्स नहीं हैं।
सीए लगभग 30 सेकंड के बाद स्केलिंग की आवश्यकता को पंजीकृत करता है।
नोड अनावश्यक होने के बाद, सिस्टम को स्केल करने से 10 मिनट पहले CA डिफ़ॉल्ट रूप से प्रतीक्षा करता है।
ऑटोस्केल प्रणाली में विस्तारकों की अवधारणा है। ये नोड्स के एक समूह को चुनने के लिए अलग-अलग रणनीतियाँ हैं जिनमें नए जोड़े जाएंगे।
जिम्मेदारी से विकल्प क्लस्टर-autoscaler.kubernetes.io/safe-to-evict (true) का उपयोग करें। यदि आप कई पॉड्स स्थापित करते हैं, या यदि उनमें से कई सभी नोड्स में बिखरे हुए हैं, तो आप क्लस्टर को कम करने की क्षमता खो देंगे।
पॉड्स को हटाने से रोकने के लिए PodDisruptionBudgets का उपयोग करें, क्योंकि आपके आवेदन का कोई हिस्सा पूरी तरह से विफल हो सकता है।

कैसे कुबेरनेट्स ऑटोस्केल सिस्टम बातचीत करते हैं

पूर्ण सामंजस्य के लिए, ऑटो-स्केलिंग को पॉड स्तर (HPA / VPA) और क्लस्टर स्तर पर दोनों पर लागू किया जाना चाहिए। वे अपेक्षाकृत एक-दूसरे के साथ बातचीत करते हैं:

एचपीए या वीपीए पॉड प्रतिकृतियां या मौजूदा पॉड्स के लिए आवंटित संसाधनों को अपडेट करता है।
यदि नियोजित स्केलिंग के लिए पर्याप्त नोड नहीं हैं, तो CA निष्क्रिय अवस्था में फली की उपस्थिति को नोटिस करता है।
CA नए नोड्स आवंटित करता है।
नए नोड्स को मॉड्यूल वितरित किए जाते हैं।

कुबेरनेट्स सहयोगी स्केलिंग प्रणाली

सामान्य कुबेरनेट्स आटोस्केलिंग त्रुटियां

कई विशिष्ट समस्याएं हैं जो ऑटोसालिंग को लागू करने की कोशिश करते समय मुठभेड़ करती हैं।

एचपीए और वीपीए मेट्रिक्स और कुछ ऐतिहासिक डेटा पर निर्भर हैं। यदि अपर्याप्त संसाधन आवंटित किए जाते हैं, तो मॉड्यूल ढह जाएंगे और मैट्रिक्स उत्पन्न करने में सक्षम नहीं होंगे। इस मामले में, ऑटोसालिंग कभी नहीं होगा।

स्केलिंग ऑपरेशन स्वयं समय संवेदनशील है। हम चाहते हैं कि मॉड्यूल और क्लस्टर जल्दी से बड़े पैमाने पर हों - इससे पहले कि उपयोगकर्ता किसी भी समस्या या विफलता को नोटिस करें। इसलिए, फली और क्लस्टर के औसत स्केलिंग समय को ध्यान में रखा जाना चाहिए।

आदर्श परिदृश्य - 4 मिनट:

30 सेकंड लक्ष्य मीट्रिक अपडेट: 30-60 सेकंड।
30 सेकंड एचपीए मीट्रिक मूल्यों की जांच करता है: 30 सेकंड।
2 सेकंड से भी कम। पॉड मॉड्यूल बनाए जाते हैं और स्टैंडबाय स्थिति में जाते हैं: 1 सेकंड।
2 सेकंड से भी कम। CA लंबित मॉड्यूल देखता है और नोड्स तैयार करने के लिए कॉल भेजता है: 1 सेकंड।
3 मिनट क्लाउड प्रदाता नोड्स आवंटित करता है। K8s तैयार होने तक इंतजार करता है: 10 मिनट तक (कई कारकों पर निर्भर करता है)।

सबसे खराब (अधिक यथार्थवादी) परिदृश्य - 12 मिनट:

30 सेकंड लक्ष्य मीट्रिक अपडेट।
30 सेकंड एचपीए मीट्रिक मूल्यों को मान्य करता है।
2 सेकंड से भी कम। पॉड मॉड्यूल बनाए जाते हैं और स्टैंडबाय स्थिति में जाते हैं।
2 सेकंड से भी कम। CA लंबित मॉड्यूल देखता है और नोड्स तैयार करने के लिए कॉल भेजता है।
10 मिनट क्लाउड प्रदाता नोड्स आवंटित करता है। K8s तैयार होने तक प्रतीक्षा करता है। प्रतीक्षा समय कई कारकों पर निर्भर करता है, जैसे कि आपूर्तिकर्ता की देरी, ओएस की देरी, सहायक उपकरण का काम।

हमारे सीए के साथ क्लाउड प्रदाता स्केलिंग तंत्र को भ्रमित न करें। उत्तरार्द्ध कुबेरनेट्स क्लस्टर के अंदर काम करता है, जबकि क्लाउड प्रदाता तंत्र नोड आवंटन के आधार पर काम करता है। वह नहीं जानता कि आपके पॉड्स या एप्लिकेशन के साथ क्या हो रहा है। ये सिस्टम समानांतर में काम करते हैं।

कुबेरनेट्स में स्केलिंग का प्रबंधन कैसे करें

कुबेरनेट्स एक संसाधन प्रबंधन और ऑर्केस्ट्रेशन उपकरण है। क्लस्टर पॉड और संसाधन प्रबंधन संचालन कुबेरनेट्स के विकास में एक महत्वपूर्ण मील का पत्थर है।
एचपीए और वीपीए के लिए पॉड स्केलेबिलिटी लॉजिक सीखें।
सीए का उपयोग केवल तभी किया जाना चाहिए जब आप अपने पॉड्स और कंटेनरों की जरूरतों को अच्छी तरह से समझते हैं।
इष्टतम क्लस्टर कॉन्फ़िगरेशन के लिए, आपको यह समझने की आवश्यकता है कि विभिन्न स्केलिंग सिस्टम एक साथ कैसे काम करते हैं।
स्केलिंग समय का मूल्यांकन करते समय, सबसे खराब और सर्वोत्तम परिदृश्यों को ध्यान में रखें।

कुबेरनेट्स में ऑटोसालिंग के तीन स्तर: उन्हें प्रभावी ढंग से कैसे उपयोग किया जाए