एडब्ल्यूएस एलेस्टिक्स खोज: मौलिक रूप से दोषपूर्ण उत्पाद

निक मूल्य अनुवाद

मैं वर्तमान में एक बड़े लॉगिंग प्रोजेक्ट पर काम कर रहा हूं जिसे मूल रूप से AWS एलिस्टिक्स खोज का उपयोग करके लागू किया गया था। कई वर्षों तक एलिस्टिक्स की बड़े पैमाने पर रीढ़ की हड्डी के समूहों के साथ काम करने के बाद, मैं एडब्ल्यूएस कार्यान्वयन की गुणवत्ता से पूरी तरह से अभिभूत हूं और समझ नहीं पा रहा हूं कि उन्होंने इसे ठीक क्यों नहीं किया या कम से कम इसमें सुधार किया।

सारांश

एलिटिक्स खोज उन डेटा को विभिन्न अनुक्रमितों में संग्रहीत करती है जिन्हें आप स्पष्ट रूप से बनाते हैं या जिन्हें डेटा भेजे जाने के बाद स्वचालित रूप से बनाया जा सकता है। प्रत्येक अनुक्रमणिका में प्रविष्टियाँ एक निश्चित संख्या में शार्क में विभाजित होती हैं, जो तब आपके क्लस्टर में नोड्स के बीच संतुलित होती हैं (यदि संभव हो तो समान रूप से यदि आपके शार्क की संख्या नोड की संख्या से समान रूप से विभाजित नहीं है)। ElasticSearch में दो मुख्य प्रकार की शार्क होती हैं: मूल शार्क और प्रतिकृति शार्क। प्रतिकृति शार्क एक नोड विफलता की स्थिति में दोष सहिष्णुता प्रदान करते हैं, और उपयोगकर्ता प्रत्येक सूचकांक के लिए प्रतिकृति शार्क की संख्या को अलग से निर्दिष्ट कर सकते हैं।

मानक Elasticsearch का काम

इलास्टिसर्च - यह लोचदार है। कभी-कभी यह बहुत बारीक हो सकता है, लेकिन, सामान्य तौर पर, आप क्लस्टर में नोड्स जोड़ सकते हैं या उन्हें हटा सकते हैं। और अगर एक नोड को हटाने के मामले में प्रतिकृतियों की एक उपयुक्त संख्या है, तो एलिस्टिक्सखोज शार्क को वितरित करेगा और यहां तक ​​कि क्लस्टर में नोड्स पर लोड को संतुलित करेगा। यह आमतौर पर काम करता है।

महंगे प्रश्नों की पूर्ति कभी-कभी नोड्स और इस तरह की गिरावट का कारण बन सकती है, लेकिन बड़ी संख्या में सेटिंग्स काम को बनाए रखने में मदद करती हैं। पर्याप्त संख्या में प्रतिकृति के साथ, यदि नोड गिरता है, तो यह पूरे काम को प्रभावित नहीं करता है।

मानक इलास्टिक्स खोज में कई ऐड-ऑन भी उपलब्ध हैं, जिसमें एक्स-पैक, ऑडिट फीचर्स, ग्रेन्युलर एसीएल, मॉनिटरिंग और अलर्ट शामिल हैं। अधिकांश एक्स-पैक हाल ही में स्वतंत्र हो गए, शायद नई स्प्लंक लाइसेंस नीति के जवाब में।

अमेज़ॅन इलास्टिक्स खोज कार्य

हमेशा की तरह, अमेज़ॅन ने एलियटसर्च के भाग के लिए ओपन सोर्स कोड लिया, एक कठिन कांटा बनाया और इसे अपनी सेवा के रूप में बेचना शुरू कर दिया, धीरे-धीरे अपने स्वयं के कार्यों के संस्करणों को पेश किया जो कि कई वर्षों से एक ही तरह से या किसी अन्य तरह से एलिजाबेथ के मुख्य संस्करण में उपलब्ध हैं।
अमेज़ॅन उत्पाद में कई चीजों का अभाव है, जैसे: आरबीएसी और ऑडिट, जो हमारे लिए विशेष रूप से समस्याग्रस्त है, क्योंकि हम विभिन्न टीमों से लॉग स्वीकार करते हैं और उन्हें एक दूसरे से अलग करना चाहेंगे। फिलहाल, जिस किसी भी उपयोगकर्ता के पास एलीटेसर्च की पहुंच है, उसके पास सभी एक्सेस अधिकार हैं और गलती से किसी और के डेटा को हटा सकते हैं, जिस तरह से उन्हें नोड्स पर दोहराया जाता है उसे बदल दें और गलत इंडेक्सिंग टेम्पलेट जोड़कर डेटा प्राप्त करना पूरी तरह से बंद कर दें।

यह निराशाजनक है, लेकिन सेवा के साथ यह सबसे बड़ी समस्या नहीं है। रीबैलेंसिंग शार्क - एलीस्टेकर्च की केंद्रीय अवधारणा - एडब्ल्यूएस कार्यान्वयन में काम नहीं करती है, जो एलिटिक्स खोज में लगभग सब कुछ अच्छा करती है।

आमतौर पर, जब डेटा नोड्स में जोड़ा जाता है, तो कोई अन्य की तुलना में अधिक भर सकता है। यह अपेक्षित है क्योंकि इस बात की कोई गारंटी नहीं है कि लोड किए गए रिकॉर्ड एक ही आकार के होंगे या कि क्लस्टर की सभी नोड्स पर शार्प की संख्या हमेशा समान रूप से वितरित की जाएगी। यह महत्वपूर्ण नहीं है, क्योंकि एलियस्टिक्स खोज नोड्स के बीच शार्क को असंतुलित कर सकती है, और यदि एक नोड वास्तव में भरा हुआ है, तो अन्य नोड्स ख़ुशी से भरे के बजाय डेटा प्राप्त करना शुरू कर देंगे।

यह अमेज़न पर समर्थित नहीं है। कुछ नोड्स दूसरों की तुलना में तेजी से (बहुत) भर सकते हैं।

इसके अलावा, अमेज़ॅन में, यदि आपके इलास्टिक्सखोज क्लस्टर में एक नोड में पर्याप्त खाली स्थान नहीं है, तो पूरा क्लस्टर डेटा प्राप्त करना बंद कर देता है , यह पूरी तरह से बंद हो जाता है। अमेज़ॅन का समाधान उपयोगकर्ताओं को अपने अनुक्रमण टेम्पलेट्स में समय-समय पर कई प्रकार के बदलावों के दुःस्वप्न के माध्यम से जाने देना है, और फिर पहले से बनाए गए डेटा को नए सूचकांक में फिर से जोड़ना, पिछले अनुक्रमितों को हटाना और यदि आवश्यक हो, तो पिछले संरचना में डेटा को उल्टा करना। यह पूरी तरह से बेमानी है, और आवश्यकता है, बड़ी कम्प्यूटेशनल लागतों के अलावा, डाउनलोड किए गए डेटा की एक अनुत्तरित प्रतिलिपि को विश्लेषण किए गए रिकॉर्ड के साथ सहेजा जाना चाहिए, क्योंकि पुन: अनुक्रमण के लिए एक अनुत्तरित प्रति की आवश्यकता होगी। और, निश्चित रूप से, यह AWS पर "सामान्य" कार्य के लिए आवश्यक मेमोरी की मात्रा को दोगुना कर देता है।

"ओह! मैंने पूरे क्लस्टर को अक्सर पर्याप्त रूप से नहीं देखा, और नोड भरा हुआ था! क्या करना है? ”

आपके पास दो विकल्प हैं। सबसे पहले, क्लस्टर को वापस लाने के लिए आवश्यक डेटा को हटा दें, और फिर इस आशा के साथ फिर से शुरू करें कि कुछ भी नहीं गिर जाएगा। क्या आपके पास जो आप हटाना चाहते हैं उसका बैकअप है?

दूसरा विकल्प क्लस्टर में अधिक नोड्स जोड़ना या मौजूदा लोगों को बड़े उदाहरण के आकार का आकार देना है।

लेकिन रुको, मैं नोड्स को कैसे जोड़ूं या परिवर्तन करूं अगर शार्क को पुन: असंतुलित नहीं किया जा सकता है?

अमेज़ॅन का समाधान एक नीली-हरी तैनाती है। वे एक पूरे नए क्लस्टर को स्पिन करते हैं, पिछले क्लस्टर की संपूर्ण सामग्री को एक नए में कॉपी करते हैं, और फिर पुराने क्लस्टर को स्विच और नष्ट कर देते हैं।

इस तरह के आकार देने वाले कार्यों में बड़े समूहों के लिए दिन लग सकते हैं, जैसा कि आप कल्पना कर सकते हैं, कई ट्रिलियन रिकॉर्डों की नकल करने में कुछ समय लग सकता है। यह मौजूदा क्लस्टर (शायद पहले से ही क्षमता से अधिक) पर एक पागल भार बनाता है और वास्तव में क्लस्टर को विफल करने का कारण बन सकता है। मैंने AWS में 30 से अधिक समूहों पर कई समान संचालन किए और केवल एक बार मैंने स्वचालित मोड में एक सफल समापन का निरीक्षण किया।

इसलिए, आपने अपने क्लस्टर का आकार बदलने की कोशिश की, और कार्य पूरा नहीं हुआ। अब क्या

अमेज़न बातचीत

क्लस्टर को आकार देने का आपका कार्य बाधित हो गया था (उस सेवा के लिए जिसे आपने संभवतः इस तरह के लेख से निपटने के लिए नहीं चुना था), इसलिए आप सर्वोच्च प्राथमिकता के साथ AWS तकनीकी सहायता के लिए टिकट खोलते हैं। बेशक, वे आपके शार्क की राशि या आकार के बारे में शिकायत करेंगे और कृपया "सर्वोत्तम प्रथाओं" के लिए एक लिंक जोड़ देंगे जो आपने पहले ही 500 बार पढ़ चुके हैं। और फिर आप इसके ठीक होने का इंतजार करते हैं। और रुको। और रुको। पिछली बार मैंने क्लस्टर का आकार बदलने की कोशिश की थी, और इसे अवरुद्ध कर दिया गया था, जिसके कारण गंभीर खराबी हो गई थी, इसने सब कुछ ऑनलाइन वापस करने के लिए SEVEN DAYS लिया। उन्होंने कुछ दिनों में ही क्लस्टर को बहाल कर दिया, लेकिन जब सब कुछ बंद हो गया, तो यह स्पष्ट है कि जिन नोड्स पर किबाना चल रही है, उनका मुख्य क्लस्टर से संपर्क टूट गया है। AWS सपोर्ट ने एक और चार दिन बिताए जब किबाना काम कर रहा था तो आश्चर्यचकित रहकर कुछ ठीक करने की कोशिश कर रहा था। उन्हें यह भी नहीं पता था कि क्या उन्होंने समस्या को ठीक किया है, और मुझे यह जांचना होगा कि क्या उन्होंने अपने स्वयं के सिस्टम के बीच संचार बहाल किया था। तब से मैंने डेटा को हटाने के अलावा कुछ भी करना बंद कर दिया है अगर नोड भरा हुआ है।

AWS पर हमारे संगठन की लागत बहुत बड़ी है। यह हमें विभिन्न क्षेत्रों में अपने विशेषज्ञों के साथ समय-समय पर मिलने, कार्यान्वयन रणनीतियों पर चर्चा करने और विभिन्न तकनीकी मुद्दों से निपटने का अवसर देता है। हमने एलीस्टेकर्च के एक प्रतिनिधि के साथ एक नियुक्ति की, जिसके दौरान मैंने एलिटिक्स खोज की मूल बातें बताते हुए और उनके उत्पाद के क्वैरक्स ... का वर्णन करते हुए अधिकांश बैठक बिताई। विशेषज्ञ पूरे सदमे में था कि नोड भर जाने पर सब कुछ ढह जाता है। यदि भेजे गए विशेषज्ञ को अपने उत्पाद की मूल बातें नहीं पता हैं, तो यह आश्चर्यजनक नहीं है कि उत्पादन क्लस्टर को फिर से शुरू करने के लिए समर्थन टीम को सात दिनों की आवश्यकता है।

विचार अंत में

लॉगिंग प्रोजेक्ट में, जिसे मैंने पूरा किया था, वास्तुशिल्प त्रुटियों और कमजोर डिजाइन निर्णयों का एक हिस्सा है जो हम वर्तमान में काम कर रहे हैं। और निश्चित रूप से, मुझे उम्मीद है कि एडब्ल्यूएस इलास्टिक्स की खोज मूल उत्पाद से अलग होगी। हालाँकि, AWS एलियटेसर्च में, इतने सारे मूलभूत कार्य अक्षम हैं या गायब हैं कि यह लगभग सभी समस्याओं का सामना करता है जो हमारे सामने आती हैं।

आसान उपयोग और छोटे समूहों के लिए, AWS एलियस्टेक खोज काफी अच्छा काम करता है, लेकिन पेटाबाइट आकार के समूहों के लिए, यह एक अंतहीन दुःस्वप्न था।

मैं बहुत उत्सुक हूं कि अमेज़ॅन की एलीस्टैचर्च के कार्यान्वयन से शार्क संतुलन नहीं बना सकते हैं; यह काफी मौलिक Elasticsearch कार्यक्षमता है। मुख्य इलास्टिक्स खोज की तुलना में सीमाओं के साथ भी, यह निश्चित रूप से बड़े समूहों के लिए एक स्वीकार्य उत्पाद होगा यदि यह ठीक से काम करता है। मुझे यह समझ में नहीं आ रहा है कि अमेज़न कुछ टूटा हुआ क्यों पेश कर रहा है, और उन्होंने दो साल से अधिक समय में स्थिति को फिर से क्यों नहीं बनाया है।

जैसा कि अन्य लोगों ने सुझाव दिया है, और यह उचित प्रतीत होता है, यह व्यवहार AWS कार्यान्वयन का संकेत है, जिसे एक विशाल मल्टी-टेनेंट क्लस्टर के रूप में डिज़ाइन किया गया है, यह अंतिम उपयोगकर्ताओं के लिए एक स्टैंड-अलोन क्लस्टर की तरह दिखने के लिए अलगाव प्रदान करने की कोशिश कर रहा है। यहां तक ​​कि आराम और एन्क्रिप्टेड डेटा ट्रांसफर पर एन्क्रिप्टेड डेटा जैसे विकल्पों के साथ, यह प्रशंसनीय लगता है। या शायद उनके उपकरण और विन्यास बहुत पहले की वास्तुकला की विरासत हैं।

और, जैसा कि मेरे दोस्त ने टिप्पणी की, यह काफी मज़ेदार है कि वे तब भी इसे "फ्लेक्सिबल" कहते हैं, जब आप एक नया कताई किए बिना और अपने सभी डेटा को स्थानांतरित किए बिना अपने क्लस्टर से नोड्स को जोड़ या हटा नहीं सकते हैं।

फुटनोट: जब मैंने यह पाठ लिखा था, तो मैंने दो साल पहले एक पोस्ट इसी तरह के कई दावों के साथ पाया: read.acloud.guru/things-you-should-know-before-use-awss-elasticsearch-service-7cd70c9afb4f