🧑🏿‍🤝‍🧑🏿 ☣️ 👖 कुबेरनेट्स-एडवेंचर डेलीमोशन: मेघों में बुनियादी ढांचे का निर्माण + ऑन-प्रिमाइसेस 🏻 🚣🏽 👨‍❤️‍👨

लगभग। ट्रांस। : Dailymotion दुनिया की सबसे बड़ी वीडियो होस्टिंग सेवाओं में से एक है और इसलिए एक उल्लेखनीय कुबेरनेट उपयोगकर्ता है। इस लेख में, सिस्टम वास्तुकार डेविड डोन्चेज़ ने K8 के आधार पर कंपनी के लिए एक उत्पादन मंच बनाने के परिणामों को साझा किया, जो GKE में क्लाउड इंस्टॉलेशन के साथ शुरू हुआ और एक हाइब्रिड समाधान के रूप में समाप्त हुआ, जिसने बेहतर प्रतिक्रिया समय प्राप्त करने और बुनियादी ढांचे की लागत को बचाने की अनुमति दी।

जब तीन साल पहले कोर डेलीमोशन एपीआई के पुनर्निर्माण का निर्णय लिया गया था, तो हम अनुप्रयोगों को होस्ट करने और विकास और उत्पादन प्रक्रियाओं को आसान बनाने के लिए एक अधिक कुशल तरीका विकसित करना चाहते थे। इस उद्देश्य के लिए, हमने कंटेनर ऑर्केस्ट्रेशन प्लेटफॉर्म का उपयोग करने का फैसला किया और स्वाभाविक रूप से कुबेरनेट्स को चुना।

अपने खुद के कुबेरनेट्स-आधारित प्लेटफ़ॉर्म बनाने लायक क्यों है?

Google क्लाउड का उपयोग करते हुए उत्पादन-स्तर एपीआई जितनी जल्दी हो सके

2016 की गर्मी

तीन साल पहले, विवेन्डी ने Dailymotion को खरीदने के बाद, हमारी इंजीनियरिंग टीमों ने एक वैश्विक लक्ष्य पर ध्यान केंद्रित किया: एक पूरी तरह से नया Dailymotion उत्पाद बनाने के लिए।

कंटेनर, ऑर्केस्ट्रेशन समाधान और हमारे पिछले अनुभव के विश्लेषण के आधार पर, हमने सुनिश्चित किया कि कुबेरनेट्स सही विकल्प है। कुछ डेवलपर्स के पास पहले से ही मूल अवधारणाओं का एक विचार था और यह जानता था कि इसका उपयोग कैसे किया जाए, जो कि बुनियादी ढाँचे में परिवर्तन के लिए बहुत बड़ा लाभ था।

बुनियादी ढांचे के दृष्टिकोण से, नए प्रकार के क्लाउड-देशी अनुप्रयोगों की मेजबानी के लिए एक शक्तिशाली और लचीली प्रणाली की आवश्यकता थी। हमने अपनी यात्रा की शुरुआत में सबसे भरोसेमंद स्थानीय मंच को शांति से बनाने के लिए क्लाउड में रहने का विकल्प चुना। उन्होंने Google कुबेरनेट इंजन का उपयोग करके अपने अनुप्रयोगों को तैनात करने का निर्णय लिया, हालांकि वे जानते थे कि जितनी जल्दी या बाद में हम अपने स्वयं के डेटा केंद्रों पर स्विच करेंगे और एक हाइब्रिड रणनीति लागू करेंगे।

GKE क्यों चुनें?

हमने यह चुनाव मुख्य रूप से तकनीकी कारणों से किया है। इसके अलावा, कंपनी के व्यवसाय की जरूरतों को पूरा करने के लिए बुनियादी ढाँचा प्रदान करना आवश्यक था। हमारे पास कुछ एप्लिकेशन आवश्यकताएं थीं, जैसे भौगोलिक वितरण, स्केलेबिलिटी और दोष सहिष्णुता।

Dailymotion में GKE क्लस्टर

चूंकि Dailymotion दुनिया भर में उपलब्ध एक वीडियो प्लेटफ़ॉर्म है, हम वास्तव में विलंबता को कम करके सेवा की गुणवत्ता में सुधार करना चाहते थे। पहले, हमारी एपीआई केवल पेरिस में उपलब्ध थी, जो कि इष्टतम नहीं थी। मैं न केवल यूरोप, बल्कि एशिया और संयुक्त राज्य अमेरिका में भी अनुप्रयोगों की मेजबानी करना चाहता था।

देरी की इस संवेदनशीलता का मतलब था कि हमें प्लेटफॉर्म के नेटवर्क आर्किटेक्चर पर गंभीरता से काम करना होगा। जबकि अधिकांश क्लाउड सेवाओं ने उन्हें प्रत्येक क्षेत्र में अपना नेटवर्क बनाने के लिए मजबूर किया और फिर उन्हें एक वीपीएन या एक निश्चित प्रबंधित सेवा के माध्यम से कनेक्ट किया, Google क्लाउड ने सभी Google क्षेत्रों को कवर करते हुए एक पूरी तरह से एकीकृत एकीकृत नेटवर्क बनाना संभव बना दिया। यह ऑपरेशन और सिस्टम दक्षता के मामले में एक बड़ा प्लस है।

इसके अलावा, Google क्लाउड से नेटवर्क सेवाएं और लोड बैलेंसर्स एक उत्कृष्ट कार्य करते हैं। वे आपको प्रत्येक क्षेत्र से मनमाने ढंग से सार्वजनिक आईपी पते का उपयोग करने की अनुमति देते हैं, और अद्भुत बीजीपी प्रोटोकॉल बाकी (यानी निकटतम क्लस्टर में उपयोगकर्ताओं को पुनर्निर्देशित करता है) का ख्याल रखता है। जाहिर है, विफलता की स्थिति में, ट्रैफ़िक किसी भी मानव हस्तक्षेप के बिना स्वचालित रूप से दूसरे क्षेत्र में जाएगा।

Google लोड संतुलन की निगरानी

हमारा मंच सक्रिय रूप से ग्राफिक्स प्रोसेसर का भी उपयोग करता है। Google क्लाउड उन्हें कुबेरनेट क्लस्टर में सीधे उपयोग करने के लिए बेहद कुशल बनाता है।

उस समय, बुनियादी ढांचा टीम मुख्य रूप से भौतिक सर्वर पर तैनात पुराने स्टैक पर केंद्रित थी। यही कारण है कि एक प्रबंधित सेवा (कुबेरनेट्स मास्टर घटकों सहित) के उपयोग ने हमारी आवश्यकताओं को पूरा किया और हमें स्थानीय समूहों के साथ काम करने पर टीमों को प्रशिक्षित करने की अनुमति दी।

नतीजतन, हम काम शुरू होने के 6 महीने बाद ही Google क्लाउड इंफ्रास्ट्रक्चर पर प्रोडक्शन ट्रैफिक स्वीकार करना शुरू कर पाए।

हालांकि, कई लाभों के बावजूद, क्लाउड प्रदाता के साथ काम करना कुछ निश्चित लागतों के साथ जुड़ा हुआ है, जो लोड के आधार पर बढ़ सकता है। यही कारण है कि हमने भविष्य में परिसर में उन्हें लागू करने की उम्मीद करते हुए, प्रत्येक उपयोग की गई प्रबंधित सेवा का सावधानीपूर्वक विश्लेषण किया। वास्तव में, स्थानीय समूहों की शुरूआत 2016 के अंत में शुरू हुई थी और उसी समय एक संकर रणनीति शुरू की गई थी।

Dailymotion स्थानीय कंटेनर आर्केस्ट्रा प्लेटफार्म का शुभारंभ

गिर 2016

ऐसी स्थितियों में जब उत्पादन के लिए पूरा स्टैक तैयार था, और एपीआई पर काम जारी था, क्षेत्रीय समूहों पर ध्यान केंद्रित करने का समय था।

उस समय, उपयोगकर्ताओं ने हर महीने 3 बिलियन से अधिक वीडियो देखे। बेशक, हम सालों से अपना खुद का ब्रांचेड कंटेंट डिलीवरी नेटवर्क चला रहे हैं। हम इस परिस्थिति का लाभ उठाना चाहते थे और मौजूदा डेटा केंद्रों में कुबेरनेट्स समूहों को तैनात करना चाहते थे।

Dailymotion बुनियादी ढांचे में छह डेटा केंद्रों में 2.5 हजार से अधिक सर्वर थे। सभी को Saltstack का उपयोग करके कॉन्फ़िगर किया गया है। हमने मास्टर और वर्कर नोड बनाने के लिए सभी आवश्यक व्यंजनों को तैयार करना शुरू कर दिया, साथ ही साथ एक आदि क्लस्टर भी।

नेटवर्क भाग

हमारा नेटवर्क पूरी तरह से नियमित है। प्रत्येक सर्वर Exabgp का उपयोग कर नेटवर्क पर अपने IP की घोषणा करता है। हमने कई नेटवर्क प्लग-इन की तुलना की और कैलिको सभी जरूरतों को पूरा करने वाला एकमात्र था (एल 3 स्तर पर उपयोग किए गए दृष्टिकोण के कारण)। यह मौजूदा नेटवर्क इन्फ्रास्ट्रक्चर मॉडल में पूरी तरह से फिट बैठता है।

चूँकि मैं सभी उपलब्ध अवसंरचना तत्वों का उपयोग करना चाहता था, इसलिए सबसे पहले, हमें अपने घरेलू-नेटवर्क नेटवर्क उपयोगिता (सभी सर्वरों पर उपयोग किया गया) से निपटना था: कुबेरनेट्स नोड्स वाले नेटवर्क पर आईपी एड्रेस रेंज की घोषणा करने के लिए इसका उपयोग करें। हमने कैलिको को पॉड्स के लिए आईपी पते आवंटित करने की अनुमति दी, लेकिन इसका उपयोग नहीं किया और अभी भी नेटवर्क उपकरणों पर बीजीपी सत्रों के लिए इसका उपयोग नहीं करते हैं। वास्तव में, राउटिंग को एक्सबग द्वारा नियंत्रित किया जाता है, जो कैलिको द्वारा उपयोग किए जाने वाले सबनेट की घोषणा करता है। यह हमें आंतरिक नेटवर्क (और विशेष रूप से लोड बैलेंसरों से) से किसी भी फली तक पहुंचने की अनुमति देता है।

हम कैसे आवागमन को प्रबंधित करते हैं

वांछित सेवा के लिए आने वाले अनुरोधों को पुनर्निर्देशित करने के लिए, कुबेरनेट्स इनग्रेस संसाधनों के साथ एकीकरण के कारण इनग्रेड कंट्रोलर का उपयोग करने का निर्णय लिया गया था।

तीन साल पहले, नेग्नेक्स-इंग्रेस-कंट्रोलर सबसे परिपक्व नियंत्रक था: नग्नेक्स लंबे समय तक इस्तेमाल किया गया था और इसकी स्थिरता और प्रदर्शन के लिए जाना जाता था।

हमारे सिस्टम में, हमने 10-गीगाबिट ब्लेड सर्वर को समर्पित करने के लिए नियंत्रकों को रखने का फैसला किया। प्रत्येक नियंत्रक संबंधित क्लस्टर के क्यूब-एपिसेवर के समापन बिंदु से जुड़ा था। सार्वजनिक या निजी आईपी पते की घोषणा करने के लिए इन सर्वरों पर Exabgp का भी उपयोग किया गया था। हमारे नेटवर्क की टोपोलॉजी हमें एनजीपीओआर जैसी सेवा का उपयोग किए बिना सभी ट्रैफिक को सीधे पॉड्स तक लाने के लिए इन नियंत्रकों से बीजीपी का उपयोग करने की अनुमति देती है। यह दृष्टिकोण नोड्स के बीच क्षैतिज यातायात से बचने में मदद करता है और दक्षता में सुधार करता है।

इंटरनेट से पॉड्स तक यातायात की आवाजाही

अब जब आप हमारे हाइब्रिड प्लेटफ़ॉर्म का पता लगा लेंगे, तो आप ट्रैफ़िक माइग्रेशन की प्रक्रिया में शामिल हो सकते हैं।

Google क्लाउड से Dailymotion बुनियादी ढांचे के लिए यातायात का पलायन

फॉल 2018

बनाने, परीक्षण और कॉन्फ़िगर करने के लगभग दो वर्षों के बाद, हमें अंत में एक पूर्ण कुबेरनेट्स स्टैक मिला, जो कुछ ट्रैफ़िक प्राप्त करने के लिए तैयार था।

वर्तमान रूटिंग रणनीति काफी सरल है, लेकिन आवश्यकताओं को काफी संतुष्ट करती है। सार्वजनिक IP (Google क्लाउड और Dailymotion में) के अलावा AWS रूट 53 का उपयोग नीतियों को सेट करने और उपयोगकर्ताओं को हमारी पसंद के क्लस्टर में पुनर्निर्देशित करने के लिए किया जाता है।

उदाहरण रूटिंग नीति मार्ग 53 का उपयोग करना

Google क्लाउड के साथ, यह आसान है, क्योंकि हम सभी समूहों के लिए एक ही आईपी का उपयोग करते हैं, और उपयोगकर्ता को निकटतम GKE क्लस्टर में पुनर्निर्देशित किया जाता है। हमारे क्लस्टर के लिए तकनीक अलग है क्योंकि उनके आईपी अलग हैं।

प्रवास के दौरान, हमने संबंधित समूहों से क्षेत्रीय अनुरोधों को पुनर्निर्देशित करने की मांग की और इस दृष्टिकोण के लाभों का मूल्यांकन किया।

चूंकि हमारे GKE क्लस्टर कस्टम मेट्रिक्स का उपयोग करके स्वचालित रूप से स्केल करने के लिए कॉन्फ़िगर किए गए हैं, वे आने वाले ट्रैफ़िक के आधार पर क्षमता में वृद्धि / कमी करते हैं।

सामान्य मोड में, सभी क्षेत्रीय ट्रैफ़िक को स्थानीय क्लस्टर में रूट किया जाता है, और जीकेए समस्याओं के मामले में रिजर्व के रूप में कार्य करता है (रूट 53 द्वारा स्वास्थ्य-जांच की जाती है)।

...

भविष्य में, हम एक स्वायत्त हाइब्रिड रणनीति प्राप्त करने के लिए रूटिंग नीतियों को पूरी तरह से स्वचालित करना चाहते हैं जो उपयोगकर्ता की पहुंच में लगातार सुधार करती है। प्लसस के लिए: क्लाउड की लागत काफी कम हो गई थी और यहां तक कि एपीआई की प्रतिक्रिया समय को कम करने में भी कामयाब रही। हम परिणामस्वरूप क्लाउड प्लेटफ़ॉर्म पर भरोसा करते हैं और यदि आवश्यक हो तो इसके लिए अधिक ट्रैफ़िक पुनर्निर्देशित करने के लिए तैयार हैं।

अनुवादक से पी.एस.

कुबेरनेट्स के बारे में एक और हालिया डेलीमोशन प्रकाशन में भी आपकी दिलचस्पी हो सकती है। यह कई कुबेरनेट समूहों में हेल्म अनुप्रयोगों को तैनात करने के लिए समर्पित है और लगभग एक महीने पहले प्रकाशित किया गया था।

हमारे ब्लॉग में भी पढ़ें:

कुबेरनेट्स-एडवेंचर डेलीमोशन: मेघों में बुनियादी ढांचे का निर्माण + ऑन-प्रिमाइसेस