कैसे CPU प्रबंधक कुबेरनेट में काम करता है

लगभग। ट्रांस। : यह लेख आधिकारिक कुबेरनेट्स ब्लॉग पर प्रकाशित किया गया था और दो इंटेल कर्मचारियों द्वारा लिखा गया था जो सीधे सीपीयू प्रबंधक के विकास में शामिल हैं, कुबेरनेट्स में एक नई सुविधा है जिसे हमने रिलीज 1.8 समीक्षा में लिखा था। फिलहाल (यानी, K8s 1.11 के लिए), इस सुविधा में बीटा स्थिति है, और नोट में इसके उद्देश्य के बारे में अधिक पढ़ें।

प्रकाशन CPU प्रबंधक के बारे में बात करता है, कुबेरनेट्स में एक बीटा सुविधा। सीपीयू प्रबंधक आपको क्यूबलेट में वर्कलोड को बेहतर तरीके से वितरित करने की अनुमति देता है, अर्थात। Kubernetes होस्ट एजेंट पर, एक विशिष्ट चूल्हा के कंटेनरों को समर्पित CPUs असाइन करके।

बहुत अच्छा लगता है! लेकिन क्या सीपीयू मैनेजर मेरी मदद करेगा?

कार्यभार पर निर्भर करता है। कुबेरनेट्स क्लस्टर में एकमात्र गणना नोड कई चूल्हा चला सकता है, और उनमें से कुछ ऐसे लोड चला सकते हैं जो सीपीयू की खपत में सक्रिय हैं। इस परिदृश्य में, नोड इस नोड पर उपलब्ध प्रक्रिया संसाधनों के लिए प्रतिस्पर्धा कर सकते हैं। जब यह प्रतियोगिता आगे बढ़ती है, तो कार्यभार अन्य सीपीयू में बदल सकता है, यह इस बात पर निर्भर करता है कि क्या यह योजना के तहत उपलब्ध था और कौन से सीपीयू उपलब्ध थे। इसके अलावा, ऐसे मामले भी हो सकते हैं जहां कार्यभार संदर्भ स्विच के प्रति संवेदनशील है। इन सभी परिदृश्यों में, कार्यभार प्रदर्शन प्रभावित हो सकता है।

यदि आपका कार्यभार ऐसे परिदृश्यों के प्रति संवेदनशील है, तो आप सीपीयू प्रबंधक को लोड के लिए विशिष्ट सीपीयू आवंटित करके बेहतर प्रदर्शन अलगाव प्रदान करने में सक्षम कर सकते हैं।

सीपीयू प्रबंधक निम्नलिखित सुविधाओं के साथ भार में मदद कर सकता है:

• सीपीयू थ्रॉटलिंग प्रभाव के प्रति संवेदनशील
• संदर्भ स्विच के प्रति संवेदनशील;
• प्रोसेसर कैश याद आती है;
• प्रोसेसर संसाधनों को विभाजित करने से लाभ (जैसे, डेटा कैश और निर्देश);
• प्रोसेसर सॉकेट्स के बीच मेमोरी-सेंसिटिव मेमोरी (लेखकों के दिमाग में क्या है, इसका एक विस्तृत विवरण यूनिक्स स्टैक - लगभग अनुवाद पर दिया गया है । ) ;
• हाइपरथ्रेड्स CPU के समान भौतिक कोर से या उसके लिए संवेदनशील हैं।

ठीक है! इसका उपयोग कैसे करें?

CPU प्रबंधक का उपयोग करना आसान है। सबसे पहले, क्लस्टर के कंप्यूट नोड्स पर चल रहे क्यूबलेट में स्टेटिक पॉलिसी का उपयोग करके इसे सक्षम करें । फिर चूल्हा के लिए गारंटीड क्वालिटी ऑफ़ सर्विस (QoS) क्लास को कॉन्फ़िगर करें। उन कंटेनरों के लिए सीपीयू कोर (जैसे 1000m या 4000m 1000m ) के पूर्णांक संख्या का अनुरोध करें जिन्हें समर्पित कोर की आवश्यकता है। पिछली विधि के तहत बनाएँ (उदाहरण के लिए, kubectl create -f pod.yaml ) ... और kubectl create -f pod.yaml - सीपीयू प्रबंधक प्रत्येक सीपीयू कोर को उनकी सीपीयू जरूरतों के अनुसार समर्पित प्रोसेसर कोर सौंपेगा।

 apiVersion: v1 kind: Pod metadata: name: exclusive-2 spec: containers: - image: quay.io/connordoyle/cpuset-visualizer name: exclusive-2 resources: # Pod is in the Guaranteed QoS class because requests == limits requests: # CPU request is an integer cpu: 2 memory: "256M" limits: cpu: 2 memory: "256M" 

2 समर्पित सीपीयू का अनुरोध करने वाले चूल्हा की विशिष्टता।

CPU प्रबंधक कैसे काम करता है?

हम अधिकांश लिनक्स वितरण में उपलब्ध तीन प्रकार के सीपीयू संसाधन नियंत्रण पर विचार करते हैं, जो कुबेरनेट्स और इस प्रकाशन के उद्देश्यों के लिए प्रासंगिक होगा। पहले दो सीएफएस शेयर हैं (सिस्टम में सीपीयू समय का मेरा भारित "ईमानदार" हिस्सा क्या है) और सीएफएस कोटा (अवधि के लिए मेरे लिए आवंटित अधिकतम सीपीयू समय क्या है)। सीपीयू प्रबंधक एक तीसरे का भी उपयोग करता है, जिसे सीपीयू आत्मीयता कहा जाता है (जिस पर तार्किक सीपीयू की मुझे गणना करने की अनुमति है)।

डिफ़ॉल्ट रूप से, कुबेरनेट क्लस्टर नोड पर चलने वाले सभी पॉड और कंटेनर किसी भी उपलब्ध सिस्टम कर्नेल पर चल सकते हैं। आवंटित किए गए शेयरों और कोटा की कुल संख्या कुबेरनेट्स और सिस्टम डेमॉन के लिए आरक्षित सीपीयू संसाधनों द्वारा सीमित है। हालांकि, उपयोग किए गए सीपीयू समय की सीमा को सीपीयू में सीमा पर विनिर्देशन का उपयोग करके निर्धारित किया जा सकता है। कुबेरनेट्स सीएफएस कोटा का उपयोग चूल्हा कंटेनरों पर सीपीयू सीमा को लागू करने के लिए करता है।

जब आप CPU प्रबंधक को एक स्थिर नीति के साथ सक्षम करते हैं, तो यह CPU के एक समर्पित पूल का प्रबंधन करता है। प्रारंभ में, इस पूल में गणना नोड का संपूर्ण सीपीयू होता है। जब क्यूबलेट चूल्हा में समर्पित प्रोसेसर कोर की गारंटीकृत संख्या के साथ एक कंटेनर बनाता है, तो इस कंटेनर को सौंपे गए सीपीयू को उसके जीवनकाल के लिए आवंटित किया जाता है और साझा पूल से हटा दिया जाता है। शेष कंटेनरों से भार इन समर्पित कोर से दूसरों को स्थानांतरित किया जाता है।

समर्पित सीपीयू ( बर्स्टेबल , बेस्टएफ़ोर्ट, और गैर-पूर्णांक सीपीयू के साथ गारंटीकृत ) के बिना सभी कंटेनर साझा पूल में छोड़ी गई गुठली पर चलते हैं। जब समर्पित सीपीयू के साथ एक कंटेनर काम करना बंद कर देता है, तो इसकी गुठली साझा पूल में लौट आती है।

अधिक जानकारी के लिए, कृपया ...

ऊपर दिया गया आरेख सीपीयू प्रबंधक की शारीरिक रचना को दर्शाता है। यह CPU रन को बदलने के लिए कंटेनर रनटाइम इंटरफ़ेस (CRI) से UpdateContainerResources विधि का उपयोग करता है, जिस पर कंटेनर चलते हैं। प्रबंधक समय-समय पर प्रत्येक चल रहे कंटेनर के लिए सीपीयू संसाधनों की वर्तमान स्थिति के साथ cgroupfs से मेल खाता है।

सीपीयू प्रबंधक सीपीयू कोर के आवंटन पर निर्णय लेने के लिए नीतियों का उपयोग करता है। दो नीतियां लागू की गई हैं: कोई नहीं और स्टेटिक । डिफ़ॉल्ट रूप से, Kubernetes संस्करण 1.10 से शुरू होकर, यह किसी भी नीति के साथ सक्षम नहीं है ।

स्टेटिक पॉलिसी गारंटीकृत QoS वर्ग को सीपीयू-आवंटित पॉड कंटेनर प्रदान करती है, जो कि पूर्ण संख्या में कोर का अनुरोध करती है। स्टेटिक नीति सीपीयू को सर्वोत्तम सामयिक तरीके से और निम्नलिखित क्रम में नामित करने का प्रयास करती है:

• सभी CPU को एक प्रोसेसर सॉकेट में असाइन करें, यदि उपलब्ध हो और कंटेनर को कम से कम पूरे CPU सॉकेट की मात्रा में CPU की आवश्यकता हो।
• यदि उपलब्ध हो, तो एक भौतिक सीपीयू कोर के सभी तार्किक सीपीयू (हाइपरथ्रेड्स) को असाइन करें, और कंटेनर को कम से कम पूरे कोर के सीपीयू की आवश्यकता होती है।
• एकल सॉकेट से सीपीयू के लिए प्राथमिकता के साथ किसी भी उपलब्ध तार्किक सीपीयू को असाइन करें।

सीपीयू प्रबंधक गणना अलगाव में कैसे सुधार करता है?

CPU प्रबंधक में स्थिर नीति सक्षम होने से, कार्यभार निम्नलिखित कारणों में से एक के लिए बेहतर प्रदर्शन कर सकता है:

• समर्पित सीपीयू को एक वर्कलोड के साथ एक कंटेनर को सौंपा जा सकता है, लेकिन अन्य कंटेनरों को नहीं। ये (अन्य) कंटेनर समान CPU संसाधनों का उपयोग नहीं करते हैं। नतीजतन, हम एक "हमलावर" (सीपीयू की मांग प्रक्रियाओं - एक्सएक्सएक्स। ट्रांसलेशन ) या आसन्न कार्यभार की उपस्थिति के मामलों में अलगाव के कारण बेहतर प्रदर्शन की उम्मीद करते हैं ।
• वर्कलोड द्वारा उपयोग किए जाने वाले संसाधनों के लिए कम प्रतिस्पर्धा है, क्योंकि हम सीपीयू को वर्कलोड द्वारा ही विभाजित कर सकते हैं। इन संसाधनों में न केवल सीपीयू, बल्कि पदानुक्रम और मेमोरी बैंडविड्थ को भी शामिल किया जा सकता है। यह समग्र कार्यभार प्रदर्शन में सुधार करता है।
• सीपीयू प्रबंधक सीपीयू को एक टोपोलॉजिकल ऑर्डर में उपलब्ध सर्वोत्तम विकल्पों के आधार पर असाइन करता है। यदि पूरा सॉकेट फ्री है, तो वह अपने सभी सीपीयू को वर्कलोड पर असाइन करेगा। यह सॉकेट्स के बीच ट्रैफ़िक की कमी के कारण वर्कलोड के प्रदर्शन में सुधार करता है।
• गारंटीकृत क्यूओएस के साथ फली में कंटेनर सीएफएस कोटा सीमा के अधीन हैं। वर्कलोड के अचानक फटने की संभावना है और उनके आवंटित अवधि के अंत से पहले उनके कोटे से अधिक की योजना बनाई जा सकती है, जिसके परिणामस्वरूप वे थ्रोट हो जाते हैं। इस समय शामिल सीपीयू में दोनों महत्वपूर्ण और बहुत उपयोगी काम नहीं हो सकते हैं। हालांकि, ऐसे कंटेनर सीएफएस थ्रॉटलिंग के अधीन नहीं होंगे जब कोटा सीपीयू एक समर्पित सीपीयू आवंटन नीति द्वारा पूरक होता है।

ठीक है! क्या आपके पास कोई परिणाम है?

क्यूबलेट में सीपीयू प्रबंधक को शामिल करने के द्वारा प्रदान किए गए प्रदर्शन में सुधार और अलगाव को देखने के लिए, हमने दो सॉकेट (Intel Xeon CPU E5-2680 v3) और हाइपरथ्रेडिंग सक्षम के साथ एक गणना नोड पर प्रयोग किए। नोड में 48 तार्किक सीपीयू (24 भौतिक कोर, हाइपरथ्रेडिंग के साथ प्रत्येक) होते हैं। सीपीयू प्रबंधक के प्रदर्शन और तीन अलग-अलग परिदृश्यों में बेंचमार्क और वास्तविक जीवन वर्कलोड द्वारा कब्जा किए गए अलगाव लाभ नीचे दिखाए गए हैं।

चार्ट की व्याख्या कैसे करें?

प्रत्येक परिदृश्य के लिए, ग्राफ़ को दिखाया जाता है ( स्पैन डायग्राम्स , बॉक्स प्लॉट्स) बेंचमार्क या सीपीयू मैनेजर के साथ वास्तविक लोड शुरू करते समय सामान्यीकृत निष्पादन समय और इसकी परिवर्तनशीलता को दिखाता है। रनिंग का समय सबसे अच्छा प्रदर्शन करने वाले लॉन्च के लिए सामान्यीकृत होता है (वाई-अक्ष पर 1.00 सबसे अच्छा स्टार्टअप समय का प्रतिनिधित्व करता है: ग्राफ का मूल्य जितना कम हो, उतना बेहतर)। ग्राफ पर भूखंड की ऊंचाई प्रदर्शन में परिवर्तनशीलता को दर्शाती है। उदाहरण के लिए, यदि साइट एक पंक्ति है, तो इन लॉन्चों के प्रदर्शन में कोई भिन्नता नहीं है। इन क्षेत्रों में स्वयं, मध्य रेखा मध्यिका है, शीर्ष 75 वें परसेंटाइल है, और नीचे 25 वीं परसेंटाइल है। कथानक की ऊँचाई (यानी, 75 वें और 25 वें प्रतिशत के बीच का अंतर) को अंतरक्षेत्रीय सीमा (IQR) के रूप में परिभाषित किया गया है। "मूंछें" इस अंतराल के बाहर डेटा दिखाती हैं, और अंक आउटलेर्स दिखाते हैं। उत्सर्जन को किसी भी डेटा के रूप में परिभाषित किया जाता है जो IQR से 1.5 गुना भिन्न होता है - संबंधित चतुर्थक से कम या अधिक। प्रत्येक प्रयोग 10 बार किया गया।

आक्रामक सुरक्षा

हमने PARSEC (वर्कलोड्स - "पीड़ित") के एक सेट से छह बेंचमार्क'ओव का शुभारंभ किया। [] पीड़ितों के वर्कलोड के बारे में और अधिक पढ़ा जा सकता है, उदाहरण के लिए, लगभग - ट्रांस। ] सीपीयू लोड करने वाले कंटेनर ("आक्रामक" वर्कलोड) के बगल में सीपीयू प्रबंधक चालू और बंद है।

23 सीपीयू ध्वज - --cpus 48 के साथ अनुरोध करने वाले बर्स्टेबल क्यूओएस वर्ग के तहत आक्रामक कंटेनर लॉन्च किया गया है । बेंचमार्क को गारंटी QoS वर्ग के साथ पॉड्स के रूप में चलाया जाता है , जिसमें एक पूर्ण सॉकेट (यानी इस सिस्टम पर 24 सीपीयू) से सीपीयू के एक सेट की आवश्यकता होती है। नीचे दिए गए रेखांकन पॉड हमलावर के बगल में बेंचमार्क के साथ सामान्यीकृत पॉड स्टार्ट टाइम दिखाते हैं, सीपीयू मैनेजर स्टैटिक पॉलिसी और इसके बिना। सभी परीक्षण मामलों में, आप बेहतर प्रदर्शन और कम सक्षम कार्यक्षमता को नीति सक्षम के साथ देख सकते हैं।

आसन्न भार के लिए इन्सुलेशन

यह दर्शाता है कि सीपीयू प्रबंधक कई सह-स्थित कार्यभार के लिए कितना उपयोगी हो सकता है। नीचे दिए गए अवधि आरेख गारंटीड (गुजरात) और बर्स्टेबल (बू) ​​क्यूओएस वर्गों के लिए लॉन्च किए गए PARSEC सेट ( ब्लैकचोल्स और कैननेल ) से दो बेंचमार्क के प्रदर्शन को दर्शाते हैं, जो स्टेटिक पॉलिसी चालू और बंद हैं।

ऊपरी बाएँ ग्राफ़ से क्लॉकवाइज़ के बाद, हम बू क्यूओएस (ऊपरी बाएँ), केएनएल फॉर बू क्यूएस (ऊपरी दाएं), केएनएल फॉर गु क्यूओएस (निचले दाएं) और ब्लैक क्यूओल्स फॉर गु क्यूओएस (निचले बाएं) के लिए ब्लैकशोल्स के प्रदर्शन को देखते हैं । प्रत्येक चार्ट पर, वे Gu QoS के लिए Canneal (ऊपरी बाएं), Blackscholes for Gu QoS (ऊपरी दाएं), Blackscholes for Bu QoS (निचला दाएं) और Caneal for Bu QoS (निचले बाएं) के लिए एक साथ (दक्षिणावर्त फिर से) स्थित होते हैं। क्रमशः। उदाहरण के लिए, Bu-blackscholes-Gu-canneal graph (ऊपरी बाएं), Bu QoS के साथ चलने वाले Blackscholes के लिए प्रदर्शन दिखाता है और Gu QoS वर्ग के साथ Canneal के बगल में स्थित होता है। प्रत्येक मामले में, कक्षा के साथ गु QoS को एक पूर्ण सॉकेट कोर (यानी 24 सीपीयू) की आवश्यकता होती है, और कक्षा बू क्यूओएस - 23 सीपीयू के साथ।

सभी परीक्षणों में आसन्न वर्कलोड के लिए प्रदर्शन में बेहतर प्रदर्शन और कम भिन्नता है। उदाहरण के लिए, Bu-blackscholes-Gu-canneal (ऊपरी बाएं) और Gu-canneal-Bu-blackscholes (निचले दाएं) देखें। वे सीपीयू प्रबंधक के साथ और बंद चल रहे ब्लैकशोल्स और कैनाल दोनों के प्रदर्शन को दिखाते हैं। इस मामले में, Canneal को CPU प्रबंधक से अधिक समर्पित कोर प्राप्त होते हैं, क्योंकि यह Gu QoS वर्ग से संबंधित है और CPU कोर की पूर्णांक संख्या का अनुरोध करता है। हालांकि, ब्लैकशोल्स को सीपीयू का एक समर्पित सेट भी मिलता है, क्योंकि यह साझा पूल में एकमात्र कार्यभार है। परिणामस्वरूप, CPU प्रबंधक का उपयोग करते समय Blackscholes और Canneal दोनों लोड अलगाव का लाभ उठाते हैं।

फ्रीस्टैंडिंग लोड के लिए इन्सुलेशन

यह दर्शाता है कि वास्तविक जीवन से स्टैंड-अलोन वर्कलोड के लिए सीपीयू प्रबंधक कितना उपयोगी हो सकता है। हमने आधिकारिक TensorFlow मॉडल से दो भार लिए: चौड़े और गहरे और ResNet । उनके लिए विशिष्ट डेटा सेट का उपयोग किया जाता है (क्रमशः और CIFAR10,)। दोनों मामलों में, चूल्हा ( चौड़ा और गहरा , रेसनेट ) को 24 सीपीयू की आवश्यकता होती है, जो एक पूर्ण सॉकेट से मेल खाती है। जैसा कि रेखांकन में दिखाया गया है, दोनों स्थितियों में सीपीयू प्रबंधक बेहतर अलगाव प्रदान करता है।

प्रतिबंध

उपयोगकर्ता सॉकेट के बीच ट्रैफ़िक से बचने के लिए एक्सलेटर या उच्च-प्रदर्शन नेटवर्क कार्ड जैसे बाहरी डिवाइस से कनेक्ट होने वाली बस के करीब एक सॉकेट पर सीपीयू आवंटित करना चाह सकते हैं। इस प्रकार का कॉन्फ़िगरेशन अभी तक CPU प्रबंधक में समर्थित नहीं है। चूंकि सीपीयू प्रबंधक सॉकेट या भौतिक कोर से संबंधित सीपीयू का सर्वोत्तम संभव आवंटन प्रदान करता है, यह चरम मामलों के प्रति संवेदनशील है और विखंडन का कारण बन सकता है। सीपीयू प्रबंधक isolcpus लिनक्स कर्नेल के बूट पैरामीटर को ध्यान में नहीं isolcpus , हालांकि यह कुछ मामलों के लिए एक लोकप्रिय अभ्यास के रूप में उपयोग किया जाता है (इस पैरामीटर के बारे में अधिक जानकारी के लिए, उदाहरण के लिए, यहां देखें - लगभग अनुवाद। ) ।

अनुवादक से पी.एस.

हमारे ब्लॉग में भी पढ़ें:

• "कुबेरनेट्स में क्या होता है जब कुबेटेल रन शुरू होता है?": भाग 1 और भाग 2 ;
• " कुबेरनेट्स अनुसूचक वास्तव में कैसे काम करता है?" ";
• कुबेरनेट्स: द लाइफ ऑफ द हार्ट ;
• " CRI-O - कुबेरनेट्स में कंटेनरों को लॉन्च करने के लिए डॉकर का विकल्प ";
• " छोटी परियोजनाओं में कुबेरनेट्स के साथ हमारा अनुभव " (वीडियो रिपोर्ट, जिसमें कुबेरनेट्स के तकनीकी उपकरण का परिचय शामिल है);
• " एक सस्ती सेवा के रूप में कुबेरनेट्स के साथ बुनियादी ढांचा ।"