प्रोमेथियस के लिए एक डेटा वेयरहाउस चुनना: थानोस बनाम विक्टोरियामेट्रिक्स

सभी को नमस्कार। नीचे बिग मॉनिटरिंग मीटअप 4 के साथ रिपोर्ट का एक प्रतिलेख है।

प्रोमेथियस विभिन्न प्रणालियों और सेवाओं के लिए एक निगरानी प्रणाली है, जिसके साथ सिस्टम व्यवस्थापक सिस्टम के वर्तमान मापदंडों के बारे में जानकारी एकत्र कर सकते हैं और सिस्टम के संचालन में विचलन की सूचनाएं प्राप्त करने के लिए अलर्ट कॉन्फ़िगर कर सकते हैं।

रिपोर्ट थानोस और विक्टोरियामेट्रिक्स की तुलना करेगी, प्रोमेथियस मेट्रिक्स के दीर्घकालिक भंडारण के लिए परियोजनाएं।

सबसे पहले, मैं प्रोमेथियस के बारे में बात करूंगा। यह एक निगरानी प्रणाली है जो दिए गए लक्ष्यों से मैट्रिक्स एकत्र करता है और उन्हें स्थानीय भंडारण में बचाता है। प्रोमेथियस दूरस्थ रिपॉजिटरी में मैट्रिक्स लिख सकता है, अलर्ट और रिकॉर्डिंग नियम उत्पन्न कर सकता है।

प्रोमेथियस सीमाएँ:

• इसमें वैश्विक क्वेरी दृश्य नहीं है। यह तब है जब आपके पास प्रोमेथियस के कई स्वतंत्र उदाहरण हैं। वे मेट्रिक्स इकट्ठा करते हैं। और आप प्रोमेथियस के विभिन्न उदाहरणों से एकत्र किए गए इन सभी मीट्रिक के शीर्ष पर एक अनुरोध करना चाहते हैं। प्रोमेथियस इसकी अनुमति नहीं देता है।
• प्रोमेथियस के साथ, प्रदर्शन केवल एक सर्वर तक सीमित है। प्रोमेथियस स्वचालित रूप से कई सर्वरों को स्केल नहीं कर सकता है। आप केवल एकाधिक प्रोमेथियस के बीच अपने लक्ष्यों को मैन्युअल रूप से विभाजित कर सकते हैं।
• प्रोमेथियस में मेट्रिक्स की मात्रा केवल एक ही सर्वर के लिए सीमित है, क्योंकि यह कई सर्वरों के लिए स्वचालित रूप से स्केल नहीं कर सकता है।
• प्रोमेथियस में, डेटा सुरक्षा को व्यवस्थित करना इतना आसान नहीं है।

इन समस्याओं / चुनौतियों का समाधान?

समाधान हैं:

• Thanos
• VictoriaMetrics
• उबेर एम 3
• कॉर्टेक्स

ये सभी दूरस्थ संग्रहण समाधान प्रोमेथियस द्वारा एकत्र किए गए हैं। वे विभिन्न तरीकों से पिछली स्लाइड से रिमोट स्टोरेज की समस्या को हल करते हैं। इस प्रस्तुति में, मैं केवल पहले दो समाधानों के बारे में बात करूंगा: थानोस और विक्टोरियामेट्रिक्स ।

पहली बार, थानोस के बारे में जानकारी इस लिंक पर दिखाई दी। इसमें थानोस की वास्तुकला और यह कैसे काम करता है, इसका वर्णन किया गया है।

थानोस वह डेटा लेता है जिसे प्रोमेथियस ने स्थानीय डिस्क में सहेजा है और इसे एस 3 में कॉपी करता है, जीसीएस या किसी अन्य ऑब्जेक्ट स्टोरेज के लिए।

इस तरह, थानोस एक वैश्विक क्वेरी दृश्य प्रदान करता है। आप प्रोमेथियस के कई उदाहरणों से ऑब्जेक्ट स्टोरेज में संग्रहीत डेटा का अनुरोध कर सकते हैं।

थानोस PromQL और प्रोमेथियस क्वेरी एपीआई का समर्थन करता है ।

थानोस डेटा को स्टोर करने के लिए प्रोमेथियस कोड का उपयोग करता है।

थानोस को डेवलपर्स द्वारा प्रोमेथियस के रूप में विकसित किया जा रहा है।

VictoriaMetrics के बारे में। यहां वह लिंक है जहां हमने पहली बार विक्टोरियामेट्रिक्स के बारे में बात की थी।

विक्टोरियामेट्रिक्स प्रोमेथियस द्वारा समर्थित रिमोट राइट एपीआई प्रोटोकॉल के माध्यम से कई प्रोमेथियस से डेटा प्राप्त करता है।

VictoriaMetrics एक वैश्विक क्वेरी दृश्य प्रदान करता है, क्योंकि Prometheus के कई उदाहरण एक VictoriaMetrics को डेटा लिख ​​सकते हैं। तदनुसार, आप इस सभी डेटा के लिए अनुरोध कर सकते हैं।

VictoriaMetrics भी थानोस, प्रोमसेल और प्रोमेथियस क्वेरी एपीआई की तरह समर्थन करता है।

थानोस के विपरीत, विक्टोरियामेट्रिक्स स्रोत कोड खरोंच से लिखा गया है और गति और संसाधनों के लिए अनुकूलित है।

VictoriaMetrics, Thanos के विपरीत, दोनों लंबवत और क्षैतिज रूप से तराजू। एक एकल-नोड संस्करण है जो लंबवत रूप से तराजू है। आप एक प्रोसेसर और 1 जीबी मेमोरी के साथ शुरू कर सकते हैं और धीरे-धीरे सैकड़ों प्रोसेसर और 1 टीबी मेमोरी बढ़ा सकते हैं। VictoriaMetrics इन सभी संसाधनों का उपयोग कर सकता है। सिंगल-कोर सिस्टम की तुलना में इसका प्रदर्शन लगभग 100 गुना बढ़ जाएगा।

थानोस का इतिहास नवंबर 2017 में शुरू हुआ, जब पहली सार्वजनिक प्रतिबद्धता दिखाई दी। इससे पहले, थानोस को अनुचित तरीके से विकसित किया गया था।

जून 2019 में, एक ऐतिहासिक रिलीज़ 0.5.0 थी, जिसमें गॉसिप प्रोटोकॉल को हटा दिया गया था । उन्हें थानोस से हटा दिया गया क्योंकि उन्होंने अपना सर्वश्रेष्ठ प्रदर्शन नहीं किया था। अक्सर थानोस क्लस्टर सही तरीके से काम नहीं करता था, गपशप प्रोटोकॉल के कारण गलत तरीके से इससे जुड़े नोड्स। इसलिए, उन्होंने इसे वहां से हटाने का फैसला किया। मुझे लगता है कि यह सही फैसला है।

इसके अलावा जून 2019 में, उन्होंने क्लाउड नेटिव कम्प्यूटिंग फाउंडेशन को आवेदन संख्या 256 भेजा।

और कुछ महीनों के बाद, थानोस क्लाउड नेटिव कम्प्यूटिंग फाउंडेशन में शामिल हो गया, जिसमें प्रोमेथियस, कुबेरनेट्स और अन्य लोकप्रिय परियोजनाएं शामिल हैं।

जनवरी 2018 में, विक्टोरियामेट्रिक्स का विकास शुरू हुआ।

सितंबर 2018 में, मैंने पहली बार सार्वजनिक रूप से विक्टोरियामेट्रिक्स का उल्लेख किया।

दिसंबर 2018 में, एकल-नोड संस्करण प्रकाशित किया गया था।

मई 2019 में , एकल-नोड और क्लस्टर संस्करण दोनों के स्रोत प्रकाशित किए गए थे ।

जून 2019 में, थानोस की तरह, हमने 255 नंबर पर सीएनसीएफ फाउंडेशन के लिए आवेदन किया। हमने थानोस के आवेदन करने से एक दिन पहले आवेदन किया।

लेकिन, दुर्भाग्य से, हमें अभी भी वहां स्वीकार नहीं किया गया है। समुदाय से मदद चाहिए।

सबसे महत्वपूर्ण स्लाइड पर विचार करें जो थानोस और विक्टोरियामेट्रिक्स की वास्तुकला को दर्शाता है।

शुरुआत थानोस से करते हैं। पीले घटक प्रोमेथियस घटक हैं। बाकी सब चीजें थानोस के घटक हैं। सबसे महत्वपूर्ण घटक से शुरू करते हैं। थानोस सिडकार एक घटक है जो प्रत्येक प्रोमेथियस के बगल में स्थापित है। वह S3 या किसी अन्य ऑब्जेक्ट संग्रहण में स्थानीय संग्रहण से प्रोमेथियस डेटा लोड करने के लिए प्रतिबद्ध है।

थानोस स्टोर गेटवे के रूप में एक ऐसा घटक भी है, जो थानोस क्वेरी से आने वाले अनुरोधों पर ऑब्जेक्ट स्टोरेज से इस डेटा को पढ़ सकता है। थानोस क्वेरी प्रॉमक्यूएल और प्रोमेथियस एपीआई को लागू करती है। यानी बाहर से यह एक प्रोमेथियस जैसा दिखता है। यह PromQL प्रश्नों को स्वीकार करता है, उन्हें थानोस स्टोर गेटवे पर भेजता है, थानोस स्टोर गेटवे ऑब्जेक्ट स्टोरेज से आवश्यक डेटा को पुनः प्राप्त करता है, उसे वापस भेजता है।

लेकिन हमने थानोस सिडेकर कार्यान्वयन की ख़ासियत के कारण पिछले दो घंटों के बिना ऑब्जेक्ट स्टोरेज में डेटा संग्रहीत किया है, जो पिछले दो घंटों को ऑब्जेक्ट स्टोरेज एस 3 पर अपलोड नहीं कर सकता है, क्योंकि इन दो घंटों के लिए प्रोमेथियस ने अभी तक स्थानीय भंडारण में फाइलें नहीं बनाई हैं।

उन्होंने इसके आसपास आने का फैसला कैसे किया? थानोस क्वेरी, थानोस स्टोर गेटवे के अनुरोधों के अलावा, प्रोमेथियस के बगल में स्थित हर थानोस सिडकार के समानांतर अनुरोध भेजता है।

और थानोस सीडेकर, बदले में, प्रोमेथियस में आगे के अनुरोधों का अनुरोध करता है, और पिछले दो घंटों के लिए डेटा प्राप्त करता है।

इन घटकों के अलावा, एक वैकल्पिक घटक भी है जिसके बिना थानोस को अच्छा महसूस नहीं होगा। यह थानोस कॉम्पैक्ट है, जो थानोस सीडेकर द्वारा यहां अपलोड की गई बड़ी फाइलों में ऑब्जेक्ट स्टोरेज पर छोटी फाइलों को मर्ज करता है। थानोस सिडकार दो घंटे में वहां डेटा फाइलें अपलोड करता है। ये फ़ाइलें, यदि आप उन्हें बड़ी फ़ाइलों में विलय नहीं करते हैं, तो उनकी संख्या बहुत बढ़ सकती है। जितनी अधिक फाइलें, थानोस स्टोर गेटवे के लिए उतनी ही अधिक मेमोरी की आवश्यकता होती है, नेटवर्क, मेटाडेटा पर डेटा स्थानांतरित करने के लिए अधिक संसाधनों की आवश्यकता होती है। थानोस स्टोर गेटवे अक्षम होता जा रहा है। इसलिए, आपको निश्चित रूप से थानोस कॉम्पैक्ट को चलाना चाहिए, जो छोटी फ़ाइलों को बड़े लोगों में विलय करता है ताकि थानोस स्टोर गेटवे पर ऐसी कम फाइलें हों और ओवरहेड को कम किया जा सके।

थानोस शासक के रूप में एक ऐसा घटक भी है। यह प्रोमेथियस अलर्ट नियमों का पालन करता है और डेटा स्टोरेज टू ऑब्जेक्ट स्टोरेज को लिखने के लिए प्रोमेथियस रिकॉर्डिंग नियमों की गणना कर सकता है। लेकिन यह घटक अनुशंसित नहीं है, क्योंकि वह अधूरा डेटा वापस करने के लिए इच्छुक है ।

थानोस के लिए यह एक सरल योजना है।

अब VictoriaMetrics स्कीमा के साथ तुलना करें।

VictoriaMetrics के 2 संस्करण हैं: एकल-नोड और क्लस्टर संस्करण। एकल-नोड एकल कंप्यूटर पर चलता है। एकल-नोड में ये घटक नहीं होते हैं, बस एक द्विआधारी। स्लाइड पर यह बाइनरी इस वर्ग की तरह दिखता है। वर्ग के अंदर जो भी है वह सिंगल-नोड संस्करण के लिए बाइनरी फ़ाइल की सामग्री है। आपको उसके बारे में जानने की जरूरत नहीं है। बस बाइनरी शुरू करें - और सब कुछ हमारे लिए काम करता है।

क्लस्टर संस्करण अधिक जटिल है। इसके अंदर तीन अलग-अलग घटक हैं: vmselect, vminsert और vmstorage। उनके नाम से यह स्पष्ट होना चाहिए कि उनमें से प्रत्येक क्या करता है। सम्मिलित करें घटक विभिन्न स्वरूपों में डेटा को स्वीकार करता है: प्रोमेथियस रिमोट राइट एपीआई, इन्फ्लक्स लाइन प्रोटोकॉल, ग्रेफाइट प्रोटोकॉल, और ओपनटीएसडीबी प्रोटोकॉल से। सम्मिलित घटक उन्हें स्वीकार करता है, उन्हें पार्स करता है और उन्हें मौजूदा भंडारण घटकों के बीच वितरित करता है, जहां डेटा पहले से संग्रहीत है। घटक का चयन करें, बदले में, PromQL प्रश्नों को स्वीकार करता है। यह PromQL और साथ ही Prometheus querying API को लागू करता है, और इसे Grafana या अन्य Prometheus API क्लाइंट में Prometheus के प्रतिस्थापन के रूप में उपयोग किया जा सकता है। चयन करें एक प्रॉमल अनुरोध स्वीकार करता है, इसे पार्स करता है, स्टोरेज नोड से इस अनुरोध को निष्पादित करने के लिए आवश्यक डेटा पढ़ता है, इस डेटा को संसाधित करता है और प्रतिक्रिया देता है।

थानोस और विक्टोरियामेट्रिक्स को स्थापित करने की कठिनाई की तुलना करें।

शुरुआत थानोस से करते हैं। इससे पहले कि आप थानोस के साथ काम करना शुरू करें, आपको ऑब्जेक्ट स्टोरेज में एक बाल्टी बनाने की जरूरत है, जैसे कि एस 3 या जीसीएस, ताकि थानोस सिडकार वहां डेटा लिख ​​सके।

फिर प्रत्येक प्रोमेथियस के लिए आपको थानोस सिडकार को स्थापित करने की आवश्यकता है। इससे पहले, आपको प्रोमेथियस में डेटा संघनन को अक्षम करने के लिए याद रखना होगा। समय-समय पर डेटा संघनन प्रोमिथियस स्थानीय भंडारण में डेटा को संपीड़ित करता है ताकि संसाधन की खपत कम हो सके।

जब आप थानोस सीडेकर को अपने प्रोमेथियस में स्थापित करते हैं, तो आपको इस डेटा संघनन को अक्षम करना होगा, क्योंकि डेटा कंपोज़िशन चालू होने पर थानोस सिडकार सामान्य रूप से काम करने में सक्षम नहीं है। इसका अर्थ है कि आपका प्रोमेथियस दो घंटे के ब्लॉक में डेटा को सहेजना शुरू कर देता है और इन ब्लॉकों को बड़े लोगों में विलय करना बंद कर देता है। तदनुसार, यदि आप पिछले दो घंटों से अधिक समय के लिए अनुरोध करते हैं, तो वे उतनी कुशलता से काम नहीं करेंगे, जितना डेटा संकलन सक्षम होने पर कर सकते हैं।

इसलिए, थानोस ने बड़ी मात्रा में छोटे ब्लॉकों के इस ओवरहेड को कम करने के लिए स्थानीय भंडारण में डेटा प्रतिधारण समय को 6-8 घंटे तक कम करने की सिफारिश की है।

थानोस सिडकर को स्थापित करने के बाद, आपको प्रत्येक वस्तु संग्रहण बाल्टी के लिए दो घटक स्थापित करने होंगे। ये थानोस कॉम्पेक्टर और थानोस स्टोर गेटवे हैं।

उसके बाद, आपको थानोस क्वेरी को स्थापित करने और इसे कॉन्फ़िगर करने की आवश्यकता है ताकि यह जानता हो कि आपके पास सभी थानोस स्टोर गेटवे से कैसे जुड़ें, और यह भी जानता है कि सभी थानोस सिडकार से कैसे कनेक्ट किया जाए।

कोई छोटी समस्या हो सकती है।

आपको इन घटकों के लिए थानोस क्वेरी से एक विश्वसनीय और सुरक्षित कनेक्शन को कॉन्फ़िगर करने की आवश्यकता है। और यदि आपके प्रोमेथियस अलग-अलग डेटा केंद्रों में या अलग-अलग वीपीसी में स्थित हैं, तो उनके लिए बाहरी कनेक्शन निषिद्ध हैं। लेकिन काम करने के लिए थानोस क्वेरी के लिए, आपको किसी तरह वहां कनेक्शन को कॉन्फ़िगर करने की आवश्यकता है, और आपको एक रास्ता बनाना होगा।

यदि आपके पास इस तरह के बहुत सारे डेटा सेंटर हैं, तो, तदनुसार, पूरे सिस्टम की विश्वसनीयता कम हो जाती है। चूंकि थानोस क्वेरी को लगातार अलग-अलग डेटा केंद्रों में स्थित सभी थानोस सिडकार से जुड़ा रहना चाहिए। हर आने वाले अनुरोध के साथ, वह सभी थानोस सीडेकर के अनुरोधों को अग्रेषित करेगा। यदि कनेक्शन बाधित है, तो आप या तो डेटा का अधूरा सेट प्राप्त करेंगे, या आपको जवाब मिलेगा "क्लस्टर काम नहीं कर रहा है।"

VictoriaMetrics में, चीजें थोड़ी आसान हैं। एकल-नोड संस्करण के लिए, यह केवल एक बाइनरी और सब कुछ काम करने के लिए पर्याप्त है।

क्लस्टर किए गए संस्करण में, उपरोक्त सभी तीन प्रकार के घटकों को आपकी किसी भी मात्रा में चलाने के लिए पर्याप्त है, या कुबेरनेट्स में घटकों के प्रक्षेपण को स्वचालित करने के लिए पतवार चार्ट का उपयोग करें। हम अभी भी कुबेरनेट्स ऑपरेटर बनाने की योजना बना रहे हैं। हेलम चार्ट कुछ मामलों को कवर नहीं करता है, और आपको अपना पैर शूट करने की अनुमति देता है। उदाहरण के लिए, यह आपको स्टोरेज नोड की संख्या को कम करने की अनुमति देता है, जिससे डेटा हानि होगी।

आपके द्वारा एक बाइनरी या क्लस्टर संस्करण लॉन्च करने के बाद, आपको बस दूरस्थ लेखन यूआरएल के लिए सेटिंग को प्रोमेथियस कॉन्फ़िगरेशन में जोड़ने की आवश्यकता है ताकि वह स्थानीय भंडारण और दूरस्थ भंडारण के समानांतर में डेटा लिखना शुरू कर दे। जैसा कि आपने देखा, इस कॉन्फ़िगरेशन को थानोस कॉन्फ़िगरेशन की तुलना में अधिक मज़बूती से काम करना चाहिए। हमें VictoriaMetrics को सभी Prometheus से कनेक्ट करने की आवश्यकता नहीं है, क्योंकि Prometheus खुद VictoriaMetrics से कनेक्ट होता है और डेटा संचारित करता है।

थानोस और विक्टोरियामेट्रिक एस्कॉर्ट्स पर विचार करें।

थानोस को सिडकर पर नजर रखने की जरूरत है ताकि वह वस्तु भंडारण में डेटा लोड करना बंद न करे। लोडिंग त्रुटियों के कारण वे इस डेटा लोडिंग को रोक सकते हैं, उदाहरण के लिए, ऑब्जेक्ट स्टोरेज के साथ आपका नेटवर्क कनेक्शन अस्थायी रूप से डिस्कनेक्ट हो गया है, या ऑब्जेक्ट स्टोरेज अस्थायी रूप से अनुपलब्ध है। थानोस सीडेकर इस समय यह नोटिस करेंगे, एक त्रुटि की रिपोर्ट करेंगे, गिर सकते हैं और फिर काम करना बंद कर देंगे। यदि आप इसकी निगरानी नहीं करते हैं, तो आपका डेटा अब ऑब्जेक्ट संग्रहण में स्थानांतरित नहीं किया जाएगा। यदि प्रतिधारण समय गुजरता है (6-8 घंटे की सिफारिश की गई है), तो आप डेटा खो देंगे जो ऑब्जेक्ट स्टोरेज में नहीं गिरा।

सीडोस के साथ दौड़ के कारण थानोस कॉम्पेक्टर काम करना बंद कर सकते हैं। कॉम्पेक्टर ऑब्जेक्ट स्टोरेज से डेटा लेते हैं और उन्हें डेटा के बड़े हिस्से में विलय करते हैं। चूँकि कम्पेक्टरों को सिडकर के साथ सिंक्रनाइज़ नहीं किया जाता है, ऐसा हो सकता है: सिडकार ने अभी तक ब्लॉक लिखना नहीं छोड़ा है, कॉम्पेक्टर तय करता है कि यह ब्लॉक पूरी तरह से रिकॉर्ड है। कम्पेक्टर इसे पढ़ने लगता है। यह ब्लॉक को अपनी संपूर्णता में नहीं पढ़ता है और काम करना बंद कर देता है। यहां देखें विवरण

स्टोर गेटवे कॉम्पैक्ट और सिडेकर के बीच दौड़ के कारण असंगत डेटा दे सकता है। यह एक ही बात है, क्योंकि स्टोर गेटवे कॉम्पैक्टर्स और सिडकर के साथ किसी भी तरह से सिंक में नहीं है। तदनुसार, एक रेस की स्थिति तब हो सकती है जब स्टोर गेटवे डेटा का हिस्सा नहीं देखता है या अतिरिक्त डेटा देखता है।

थानोस में क्वेरी घटक आंशिक परिणामों के लिए डिफॉल्ट करता है अगर कुछ सिडकर या स्टोर गेटवे वर्तमान में उपलब्ध नहीं हैं। आपको डेटा का एक हिस्सा प्राप्त होगा, और यह भी नहीं पता होगा कि सभी डेटा प्राप्त नहीं हुआ था। यह डिफ़ॉल्ट रूप से इस तरह काम करता है। इसी तरह की स्थिति में, विक्टोरियामेट्रिक्स चिह्नित डेटा को आंशिक रूप में लौटाता है।

थानोस के विपरीत, विक्टोरियामेट्रिक्स शायद ही कभी डेटा खो देता है। यहां तक ​​कि अगर प्रोमेथियस से विक्टोरियामेट्रिक्स से कनेक्शन बाधित हो जाता है, तो यह कोई समस्या नहीं है, क्योंकि प्रोमेथियस, राइट अहेड लॉग में आने वाले नए डेटा रिकॉर्ड करना जारी रखता है, जो आकार में 2 घंटे है। यदि आप दो घंटे के भीतर VictoriaMetrics को फिर से कनेक्ट करते हैं, तो डेटा खो नहीं जाएगा। प्रोमेथियस VictoriaMetrics से फिर से कनेक्ट होने के बाद डेटा जोड़ सकते हैं ।

थानोस के विपरीत, जो केवल दो घंटे के बाद ऑब्जेक्ट स्टोरेज के लिए डेटा लिखता है, प्रोमेथियस स्वचालित रूप से रिमोट राइट प्रोटोकॉल के माध्यम से डेटा को दूरस्थ स्टोरेज, जैसे कि विक्टोरियामेट्रिक्स, को दोहराता है। आप प्रोमेथियस में स्थानीय भंडारण खोने से डरते नहीं हैं। यदि उसने अचानक स्थानीय भंडारण खो दिया है, तो सबसे खराब स्थिति में आप डेटा के अंतिम सेकंड को खो देंगे जिसमें दूरस्थ भंडारण के लिए लिखने का समय नहीं था।

Kubernetes स्वचालित रूप से थानोस के विपरीत क्लस्टर का प्रबंधन करता है। सभी थानोस घटकों को विक्टोरियामेट्रिक्स क्लस्टर घटकों के विपरीत एक एकल कुबेरनेट क्लस्टर में डालना मुश्किल है।

VictoriaMetrics के नए संस्करण में एक बहुत ही सरल उन्नयन है। बस विक्टोरियामेट्रिक्स को रोकें, बायनेरिज़ को अपडेट करें और चलाएं। जब SIGINT सिग्नल के माध्यम से रुकते हैं, तो सभी VictoriaMetrics बायनेरिज़ एक शोर्टफुल शटडाउन बनाते हैं। वे आवश्यक डेटा को सही ढंग से सहेजते हैं, आने वाले कनेक्शनों को सही ढंग से बंद करते हैं ताकि कुछ भी न खोएं। इसलिए, अपग्रेड करते समय आपको कुछ भी नहीं खोना होगा।

किसी क्लस्टर का विस्तार करने के लिए VictoriaMetrics के पास बहुत सरल तरीका है। बस आवश्यक घटक जोड़ें और काम करना जारी रखें।

थानोस और विक्टोरिया मेट्रिक्स में नुकसान के बारे में।

थानोस में निम्नलिखित नुकसान हैं। प्रोमेथियस को पिछले दो घंटों के लिए डेटा स्टोर करना चाहिए। यदि वे खो गए हैं, तो आप उन्हें पूरी तरह से खो देंगे, क्योंकि वे अभी तक ऑब्जेक्ट स्टोरेज में रजिस्टर करने में कामयाब नहीं हुए हैं, जैसे कि एस 3।

स्टोर गेटवे घटक और कॉम्पैक्ट कम्पोनेंट को बड़े ऑब्जेक्ट स्टोरेज के साथ काम करने के लिए बहुत सी मेमोरी की आवश्यकता हो सकती है यदि कई छोटी फाइलें वहां संग्रहीत की जाती हैं। बड़ी संख्या और फ़ाइलों की मात्रा, अधिक स्टोर गेटवे और कॉम्पैक्ट मेमोरी को मेटा-जानकारी संग्रहीत करने के लिए आवश्यक है। थानोस में स्टोर गेटवे के बारे में बहुत सारे मुद्दे हैं और औसत दर्ज आंकड़ों के साथ कॉम्पेक्टर को छोड़ना है ।

थानोस को यह कहा जाता है कि यह आपके प्रोमेथियस की मात्रा से अनिश्चित काल तक बढ़ सकता है। यह वास्तव में सच नहीं है। चूंकि सभी अनुरोध क्वेरी घटक के माध्यम से जाते हैं, जो एक साथ सभी स्टोर गेटवे घटकों और सभी सिडकर घटकों को सर्वेक्षण करना चाहिए, वहां से डेटा खींचते हैं और फिर उन्हें प्रीप्रोसेस करते हैं। जाहिर है, क्वेरी की गति सबसे कमजोर कमजोर लिंक, सबसे धीमी स्टोर गेटवे, या सबसे धीमी सिडकार द्वारा सीमित है।

ये घटक असमान रूप से लोड हो सकते हैं। उदाहरण के लिए, आपके पास एक प्रोमेथियस है जो प्रति सेकंड लाखों मीट्रिक एकत्र करता है। और प्रोमेथियस है, जो प्रति सेकंड हजारों मैट्रिक्स एकत्र करता है। प्रोमेथियस, जो प्रति सेकंड लाखों मीट्रिक एकत्र करता है, सर्वर को लोड करता है जो बहुत अधिक चलता है। तदनुसार, सीडकर वहां धीमा है। सामान्य तौर पर, सब कुछ धीरे-धीरे वहां काम करता है। और क्वेरी घटक वहाँ से डेटा को बहुत धीरे-धीरे खींचेगा। तदनुसार, आपके संपूर्ण क्लस्टर का प्रदर्शन इस धीमे सिडकर द्वारा सीमित हो जाएगा।

डिफ़ॉल्ट रूप से, थानोस आंशिक डेटा लौटाता है अगर कुछ सिडकर और स्टोर गेटवे अनुपलब्ध हैं। उदाहरण के लिए, यदि आपके पास सिडकार दुनिया भर में विभिन्न डेटा केंद्रों में बिखरे हुए हैं, तो घटकों के एक वियोग और अनुपलब्धता की संभावना बहुत बढ़ जाती है। तदनुसार, ज्यादातर मामलों में आपको आंशिक डेटा प्राप्त होगा, भले ही इसे जाने बिना।

VictoriaMetrics में भी नुकसान हैं। पहला नुकसान एक विकल्प है जो विक्टोरियामेट्रिक्स कैश के लिए उपयोग की जाने वाली रैम की मात्रा को सीमित करता है। डिफ़ॉल्ट रूप से, यह उस मशीन पर 60% रैम के बराबर है जहां विक्टोरियामीटर चल रहा है, या कुबेरनेट्स में विक्टोरियामेट्रिक्स पॉड रैम का 60% है।

यदि आप इस मान को गलत तरीके से बदलते हैं, तो आप VictoriaMetrics के प्रदर्शन को बर्बाद कर सकते हैं। उदाहरण के लिए, यदि आप मूल्य बहुत कम निर्धारित करते हैं, तो डेटा अब विक्टोरियामेट्रिक्स कैश में फिट नहीं हो सकता है। इस वजह से, उसे अतिरिक्त काम करना होगा और प्रोसेसर को डिस्क के साथ लोड करना होगा। यदि आप इस विकल्प को बहुत बड़ा बनाते हैं, तो यह बढ़ जाता है, सबसे पहले, संभावना है कि VictoriaMetrics मेमोरी त्रुटि से दुर्घटनाग्रस्त हो जाएगा, और दूसरी बात, इससे ऑपरेटिंग सिस्टम में बहुत कम परिचालन मेमोरी शेष होगी फ़ाइल कैश के लिए मेमोरी। और VictoriaMetrics प्रदर्शन के लिए एक फ़ाइल कैश पर निर्भर करता है। यदि यह पर्याप्त नहीं है, तो डिस्क पर लोड बहुत बढ़ सकता है। इसलिए, एक टिप: पैरामीटर को तब तक न बदलें जब तक कि बिल्कुल आवश्यक न हो।

दूसरा विकल्प। यह अवधारण है - डिफ़ॉल्ट रूप से 1 महीने के लिए सेट की गई अवधि। यह वह समय है जब विक्टोरियामेट्रिक्स डेटा स्टोर करता है। इस अवधि के बाद VictoriaMetrics डेटा को हटा देता है।

कई इस पैरामीटर के बिना विक्टोरियामीटर चलाते हैं, वे एक महीने के लिए डेटा रिकॉर्ड करते हैं। और फिर वे पूछते हैं: पिछले महीने के लिए डेटा क्यों गायब हो गया? क्योंकि अवधारण 1 वर्ष डिफ़ॉल्ट रूप से होता है। इसलिए, आपको सही अवधारण अवधारण को जानने और सेट करने की आवश्यकता है।

.

Thanos , downsampling: 5- , . issue github, issues, downsampling, , , .

Thanos Prometheus HA pairs. Prometheus' target' Thanos Object Storage. Thanos , VictoriaMetrics.

Thanos alert , Thanos. production .

Thanos , Thanos Prometheus — . Thanos Prometheus . Thanos Prometheus .

VictoriaMetrics — MetricsQL. VictoriaMetrics PromQL, big monitoring metup.

VictoriaMetrics . VictoriaMetrics Prometheus, Influx, OpenTSDB Graphite.

VictoriaMetrics Thanos Prometheus.

, 2-5 Prometheus Thanos.

VictoriaMetrics — .

.

Thanos , object storage, .

object storage, ($10 ). object storage, , AWS — . , $10 $230 1. , Thanos .

Thanos Compact, Store Gateway, Query , , .

VictoriaMetrics . GCE HDD , $40 1. VictoriaMetrics HDD , SSD, . VictoriaMetrics HDD.

विक्टोरियामेट्रिक्स को घटकों के लिए सर्वर की आवश्यकता होती है: या तो एकल-नोड या क्लस्टर घटकों के लिए, जो कि थानोस घटकों के विपरीत, बहुत कम सीपीयू, रैम की आवश्यकता होती है - यह तदनुसार सस्ता होगा।

कार्यान्वयन के उदाहरण हैं।

थानोस का कार्यान्वयन उदाहरण गीतालाब है। Gitlab पूरी तरह से थानोस द्वारा संचालित है। लेकिन इतना सहज नहीं है। यदि आप उनके मुद्दों को देखते हैं , तो आप देख सकते हैं कि उन्हें थानोस के साथ लगातार कुछ प्रकार की परिचालन समस्याएं हैं : स्टोर गेटवे या क्वेरी घटकों के लिए पर्याप्त मेमोरी नहीं है। उन्हें लगातार मेमोरी की मात्रा बढ़ानी होती है।

इस वजह से, इन समस्याओं को हल करने की लागत बढ़ जाती है।

दूसरा कार्यान्वयन, जो अधिक सफल हो सकता है, वह है इम्प्रूबल कंपनी, जिसने थानोस को विकसित करना शुरू किया। उन्होंने थानोस का स्रोत प्रकाशित किया। बेहतर करने वाली एक कंपनी है जो गेम इंजन विकसित करती है।

VictoriaMetrics कार्यान्वयन के सार्वजनिक उदाहरण हैं:

• wix.com साइट बिल्डर
• एडिडास ने विक्टोरियामेट्रिक्स का परिचय दिया और यहां तक ​​कि नवीनतम प्रोमो 2019 में एक प्रस्तुति दी
• ट्रैफिकस्टार - विज्ञापन नेटवर्क
• Seznam.cz एक लोकप्रिय चेक खोज इंजन है।

और फिर कंपनी के नाम पर गया, जिसका नाम अब मैं नहीं रख सकता। वे सहमत नहीं थे।

• एक प्रमुख खेल डेवलपर। उनसे बड़ा सुधारक।
• एक प्रमुख ग्राफिक सॉफ्टवेयर डेवलपर।
• बड़े रूसी बैंक।
• यूरोपीय टर्बाइनों के यूरोपीय निर्माता जिन्होंने विक्टोरियामीटर का सफलतापूर्वक परीक्षण किया है। यह निर्माता प्रति सेकंड 50 सैंपल की गति से विंड टर्बाइन से डेटा की निगरानी के लिए विक्टोरियामीटर को लागू करता है। प्रत्येक पवन टरबाइन में कई सौ सेंसर होते हैं। उनके पास कई सौ पवन टर्बाइन हैं।
• रूसी एयरलाइंस जो विक्टोरियामीटर को पेश करना चाहती हैं, लेकिन अभी भी नहीं कर सकती हैं। हम उनके साथ कॉन्ट्रैक्ट स्टेज पर हैं।

निष्कर्ष।

विक्टोरियामेट्रिक्स और थानोस समान समस्याओं को हल करते हैं, लेकिन विभिन्न तरीकों से:

• वैश्विक क्वेरी दृश्य
• क्षैतिज स्केलिंग
• मनमाना प्रतिधारण

आपका धन्यवाद

हम आपके टेलीग्राम चैनल पर आपका इंतजार कर रहे हैं।