हमने कैसे पेट्रोनी पर एक विश्वसनीय पोस्टग्रैसक्यूएल क्लस्टर बनाया

आज, सेवाओं की उच्च उपलब्धता की आवश्यकता हमेशा और हर जगह होती है, न केवल बड़ी महंगी परियोजनाओं में। अस्थायी रूप से अनुपलब्ध साइटें संदेश के साथ "क्षमा करें, रखरखाव किया जा रहा है" अभी भी होता है, लेकिन आमतौर पर एक कृपालु मुस्कान का कारण बनता है। बादलों में इस जीवन को जोड़ें, जब एक अतिरिक्त सर्वर शुरू करने के लिए आपको एपीआई के लिए केवल एक कॉल की आवश्यकता होती है, और आपको "लोहा" ऑपरेशन के बारे में सोचने की ज़रूरत नहीं है। और अब कोई बहाना नहीं है कि क्लस्टर तकनीकों और अतिरेक का उपयोग करके महत्वपूर्ण प्रणाली को मज़बूती से क्यों नहीं बनाया गया।

हम आपको बताएंगे कि हमने अपनी सेवाओं में डेटाबेस की विश्वसनीयता सुनिश्चित करने के लिए किन उपायों पर विचार किया और हम क्या करने आए। प्लस दूरगामी निष्कर्ष के साथ एक डेमो।

उच्च उपलब्धता वास्तुकला में विरासत

विभिन्न ओपनसोर्स-प्रणालियों के विकास के संदर्भ में यह और भी बेहतर रूप से देखा जाता है। मांग बढ़ने पर पुराने समाधान उच्च उपलब्धता वाली तकनीकों को जोड़ने के लिए मजबूर हुए। और उनकी गुणवत्ता अलग थी। अगली पीढ़ी के समाधान उनकी वास्तुकला के मूल में उच्च उपलब्धता रखते हैं। उदाहरण के लिए, MongoDB मुख्य उपयोग मामले के रूप में क्लस्टर को तैनात करता है। क्लस्टर क्षैतिज रूप से तराजू है, जो इस DBMS का एक मजबूत प्रतिस्पर्धी लाभ है।

वापस PostgreSQL के लिए। यह सबसे पुरानी लोकप्रिय ओपनसोर्स परियोजनाओं में से एक है, जिसकी पहली रिलीज पिछली शताब्दी के 95 वें वर्ष में हुई थी। लंबे समय तक, प्रोजेक्ट टीम उच्च उपलब्धता को एक कार्य के रूप में नहीं मानती थी जिसे सिस्टम द्वारा संबोधित करने की आवश्यकता होती है। इसलिए, डेटा प्रतियां बनाने के लिए प्रतिकृति तकनीक 2006 में केवल 8.2 संस्करण में एकीकृत हो गई, लेकिन इसे दायर किया गया (लॉग शिपिंग)। 2010 में, स्ट्रीमिंग प्रतिकृति संस्करण 9.0 में दिखाई दी, और यह विभिन्न प्रकार के क्लस्टर बनाने का आधार है। यह, वास्तव में, उन लोगों के लिए बहुत आश्चर्य की बात है जो एंटरप्राइज SQL या आधुनिक NoSQL के बाद PostgreSQL को जानते हैं - समुदाय से मानक समाधान केवल सिंक्रोनस या अतुल्यकालिक प्रतिकृति के साथ मास्टर-प्रतिकृति का एक जोड़ा है। उसी समय, विज़ार्ड को मैन्युअल रूप से नाली में स्विच किया जाता है, और क्लाइंट को स्विच करने का मुद्दा भी स्वतंत्र रूप से हल किया जाना प्रस्तावित है।

हमने विश्वसनीय PostgreSQL बनाने का फैसला किया और इसके लिए हमने क्या चुना

हालाँकि, PostgreSQL इतनी लोकप्रिय नहीं होती अगर बड़ी संख्या में ऐसी परियोजनाएँ और उपकरण नहीं होते जो एक दोष-सहिष्णु समाधान का निर्माण करने में मदद करते जिन्हें लगातार ध्यान देने की आवश्यकता नहीं होती। DBaaS के लॉन्च के बाद से, एसिंक्रोनस प्रतिकृति के साथ एकल PostgreSQL सर्वर और मास्टर प्रतिकृति जोड़े Mail.ru Cloud Solutions (MCS) में उपलब्ध हैं।

स्वाभाविक रूप से, हम हर किसी के जीवन को आसान बनाना चाहते थे और पोस्टग्रेक्यूएल इंस्टॉलेशन उपलब्ध कराना चाहते थे, जो कि अत्यधिक सुलभ सेवाओं के लिए आधार के रूप में काम कर सके, जिन्हें स्विच बनाने के लिए आपको रात में लगातार निगरानी और जागरण नहीं करना होगा। इस खंड में पुराने सिद्ध समाधान और नई उपयोगिताओं की एक पीढ़ी है जो नवीनतम विकास का उपयोग करते हैं।

आज, उच्च उपलब्धता की समस्या अतिरेक पर आराम नहीं करती है (यह बिना कहे चली जाती है), लेकिन आम सहमति पर - एक नेता (नेता चुनाव) चुनने के लिए एक एल्गोरिथ्म। ज्यादातर अक्सर, बड़ी दुर्घटनाएं सर्वर की कमी के कारण नहीं होती हैं, लेकिन आम सहमति के साथ समस्याओं के कारण: एक नया नेता नहीं निकला, दो नेता अलग-अलग डेटा केंद्रों में दिखाई दिए, आदि। जीथब MySQL क्लस्टर पर एक उदाहरण एक दुर्घटना है - उन्होंने एक विस्तृत पोस्टमार्टम लिखा।

इस मामले में गणितीय आधार बहुत गंभीर है। एक ओर, एक कैप प्रमेय है , जो हा समाधानों के निर्माण की संभावना पर सैद्धांतिक प्रतिबंध लगाता है, और दूसरी तरफ, गणितीय रूप से पैक्सोस और रफ जैसे गणितीय रूप से सर्वसम्मति से निर्धारित निर्धारण एल्गोरिदम है। इस आधार पर, काफी लोकप्रिय डीसीएस (विकेंद्रीकृत सर्वसम्मति प्रणाली) हैं - ज़ुकीपर, कॉर्ड, कंसुल। इसलिए, यदि निर्णय लेने की प्रणाली स्वतंत्र रूप से लिखे गए अपने स्वयं के कुछ एल्गोरिथ्म पर काम करती है, तो आपको इसके बारे में बेहद सावधानी बरतनी चाहिए। बड़ी संख्या में प्रणालियों का विश्लेषण करने के बाद, हम पेत्रोनी पर बसे - एक ओपनसोर्स सिस्टम, जो मुख्य रूप से ज़ालैंडो द्वारा विकसित किया गया है।

एक गीतात्मक विषयांतर के रूप में, मैं कहता हूं कि हमने मल्टी-मास्टर समाधानों पर भी विचार किया, अर्थात्, ऐसे क्लस्टर जिन्हें रिकॉर्डिंग में क्षैतिज रूप से बढ़ाया जा सकता है। हालांकि, दो मुख्य कारणों के लिए, उन्होंने ऐसा कोई क्लस्टर नहीं बनाने का फैसला किया। सबसे पहले, ऐसे समाधानों में उच्च जटिलता होती है और, तदनुसार, अधिक कमजोरियां। सभी मामलों के लिए एक स्थिर निर्णय लेना कठिन होगा। दूसरे, इस मामले में, PostgreSQL शुद्ध (देशी) होना बंद कर देता है, कुछ फ़ंक्शन उपलब्ध नहीं होंगे, कुछ अनुप्रयोगों को काम करते समय छिपे हुए कीड़े का अनुभव हो सकता है।

Patroni

तो पेट्रोनी कैसे काम करती है? डेवलपर्स ने पहिया को सुदृढ़ नहीं किया और आधार के रूप में सिद्ध डीसीएस समाधानों में से एक का उपयोग करने का सुझाव दिया। कॉन्फ़िगरेशन के सिंक्रनाइज़ेशन, एक नेता और कोरम के विकल्प के साथ सभी मुद्दे उसे दिए गए हैं। हमने इसके लिए etcd को चुना है।

इसके अलावा, पेट्रोनी PostgreSQL और प्रतिकृति सेटिंग्स, साथ ही स्विचओवर और फेलओवर (यानी, नियमित और गैर-मानक स्विचिंग विज़ार्ड) पर आदेशों के निष्पादन के सभी सेटिंग्स के सही आवेदन के साथ संबंधित है। विशेष रूप से, MCS क्लाउड में, आप विज़ार्ड, सिंक्रोनस प्रतिकृति और एक या अधिक अतुल्यकालिक प्रतिकृतियों से एक क्लस्टर बना सकते हैं। एक तुल्यकालिक प्रतिकृति की उपस्थिति कम से कम 2 सर्वरों पर डेटा की सुरक्षा सुनिश्चित करती है, और यह प्रतिकृति मुख्य "मास्टर के लिए" होगी।

चूंकि etcd को एक ही सर्वर पर तैनात किया जाता है, इसलिए यह अनुशंसा की जाती है कि इष्टतम कोरम मान के लिए सर्वर की संख्या 3 या 5 हो। इस तरह के क्लस्टर को पढ़ने के लिए क्षैतिज रूप से बढ़ाया जाता है (मैंने ऊपर लिखने के लिए स्केलिंग के बारे में लिखा था)। फिर भी, यह ध्यान में रखना चाहिए कि अतुल्यकालिक प्रतिकृतियां पिछड़ रही हैं, खासकर उच्च भार पर।

ऐसे रीड स्टैंडबाय प्रतिकृतियों का उपयोग रिपोर्टिंग या विश्लेषणात्मक कार्यों और मास्टर सर्वर को लोड करने के लिए उचित है।

यदि आप स्वयं ऐसा क्लस्टर बनाना चाहते हैं, तो आपको इसकी आवश्यकता होगी:

• 3 या अधिक सर्वर तैयार करें, उनके बीच आईपी एड्रेसिंग और फ़ायरवॉल नियमों को कॉन्फ़िगर करें;
  
• सेवाओं के लिए पैकेज स्थापित करें etcd, Patroni, PostgreSQL;
  
• कॉन्फ़िगर क्लस्टर आदि;
  
• PostgreSQL के साथ काम करने के लिए संरक्षक सेवा को कॉन्फ़िगर करें।
  

यही है, कुल मिलाकर, आपको एक दर्जन कॉन्फ़िगरेशन फ़ाइलों को सही ढंग से बनाने और कहीं भी गलती नहीं करने की आवश्यकता है। उदाहरण के लिए, निश्चित रूप से यह कॉन्फ़िगरेशन प्रबंधन उपकरण जैसे कि Ansible का उपयोग करने लायक है। हालाँकि, अभी भी बहुत अधिक उपलब्ध टीसीपी बैलेंसर नहीं है। इसे करना एक अलग काम है।

उन लोगों के लिए जिन्हें एक तैयार किए गए क्लस्टर की आवश्यकता होती है, लेकिन इन सब के साथ छेड़छाड़ नहीं करना चाहते हैं, हमने अपने जीवन को आसान बनाने की कोशिश की और हमारे क्लाउड में पेट्रोनी पर तैयार क्लस्टर बनाया, इसे मुफ्त में परीक्षण किया जा सकता है। क्लस्टर के अलावा, हमने किया:

• टीसीपी बैलेंसर विभिन्न बंदरगाहों पर, यह हमेशा वर्तमान मास्टर, तुल्यकालिक या अतुल्यकालिक प्रतिकृति की ओर इशारा करता है;
  
• सक्रिय Patroni विज़ार्ड स्विच करने के लिए API।
  

उन्हें MCS क्लाउड एपीआई और वेब कंसोल दोनों के माध्यम से जोड़ा जा सकता है।

डेमो

MCS क्लाउड में PostgreSQL क्लस्टर की क्षमताओं का परीक्षण करने के लिए, आइए देखें कि DBMS के साथ समस्याओं के मामले में एक लाइव एप्लिकेशन कैसे व्यवहार करता है।

निम्नलिखित एक एप्लिकेशन के लिए कोड है जो कृत्रिम घटनाओं को लॉग करेगा और इसे स्क्रीन पर रिपोर्ट करेगा। त्रुटियों के मामले में, यह इसे रिपोर्ट करेगा और एक चक्र में अपना काम जारी रखेगा जब तक कि हम इसे Ctrl + C के संयोजन के साथ रोक नहीं देते।

from __future__ import print_function from datetime import datetime from random import randint from time import sleep import psycopg2 def main(): try: connection = psycopg2.connect(user = "admin", password = "P@ssw0rd", host = "89.208.87.38", port = "5432", database = "myproddb") cursor = connection.cursor() cursor.execute("SELECT version();") record = cursor.fetchone() print("Connection opened to", record[0]) cursor.execute( "INSERT INTO log VALUES ({});".format(randint(1, 10000))) connection.commit() cursor.execute("SELECT COUNT(event_id) from log;") record = cursor.fetchone() print("Logged a value, overall count: {}".format(record[0])) except Exception as error: print ("Error while connecting to PostgreSQL", error) finally: if connection: cursor.close() connection.close() print("Connection closed") if __name__ == '__main__': try: while True: try: print(datetime.now()) main() sleep(3) except Exception as e: print("Caught error:\n", e) sleep(1) except KeyboardInterrupt: print("exit") 

एक एप्लिकेशन को काम करने के लिए PostgreSQL की जरूरत है। API का उपयोग करके MCS क्लाउड में क्लस्टर बनाएं। एक नियमित टर्मिनल में, जहां OS_TOKEN चर में एपीआई तक पहुंचने के लिए एक टोकन होता है (आप इसे ओपनस्टैक टोकन इश्यू कमांड के साथ प्राप्त कर सकते हैं), हम कमांड टाइप करते हैं:

एक क्लस्टर बनाएँ:

 cat <<EF > pgc10.json {"cluster":{"name":"postgres10","allow_remote_access":true,"datastore":{"type":"postgresql","version":"10"},"databases":[{"name":"myproddb"}],"users":[{"databases":[{"name":"myproddb"}],"name":"admin","password":"P@ssw0rd"}],"instances":[{"key_name":"shared","availability_zone":"DP1","flavorRef":"d659fa16-c7fb-42cf-8a5e-9bcbe80a7538","nics":[{"net-id":"b91eafed-12b1-4a46-b000-3984c7e01599"}],"volume":{"size":50,"type":"DP1"}},{"key_name":"shared","availability_zone":"DP1","flavorRef":"d659fa16-c7fb-42cf-8a5e-9bcbe80a7538","nics":[{"net-id":"b91eafed-12b1-4a46-b000-3984c7e01599"}],"volume":{"size":50,"type":"DP1"}},{"key_name":"shared","availability_zone":"DP1","flavorRef":"d659fa16-c7fb-42cf-8a5e-9bcbe80a7538","nics":[{"net-id":"b91eafed-12b1-4a46-b000-3984c7e01599"}],"volume":{"size":50,"type":"DP1"}}]}} EOF curl -s -H "X-Auth-Token: $OS_TOKEN" \ -H 'Accept: application/json' \ -H 'Content-Type: application/json' \ -d @pgc10.json https://infra.mail.ru:8779/v1.0/ce2a41bbd1434013b85bdf0ba07c770f/clusters 

जब क्लस्टर सक्रिय स्थिति में प्रवेश करता है, तो सभी फ़ील्ड वर्तमान मान प्राप्त करेंगे - क्लस्टर तैयार है।

GUI में:



आइए कनेक्ट करने और तालिका बनाने का प्रयास करें:

 psql -h 89.208.87.38 -U admin -d myproddb Password for user admin: psql (11.1, server 10.7) Type "help" for help. myproddb=> CREATE TABLE log (event_id integer NOT NULL); CREATE TABLE myproddb=> INSERT INTO log VALUES (1),(2),(3); INSERT 0 3 myproddb=> SELECT * FROM log; event_id ---------- 1 2 3 (3 rows) myproddb=> 

एप्लिकेशन में, हम PostgreSQL से कनेक्ट करने के लिए वर्तमान सेटिंग्स का संकेत देते हैं। हम टीसीपी-बैलेंसर के पते को निर्दिष्ट करेंगे, जिससे विज़ार्ड के पते पर मैन्युअल स्विचिंग की आवश्यकता समाप्त हो जाएगी। इसे चलाएं। जैसा कि आप देख सकते हैं, घटनाओं को डेटाबेस में सफलतापूर्वक लॉग इन किया गया है।

अनुसूचित मास्टर स्विच

अब हम विज़ार्ड के नियोजित स्विचिंग के दौरान हमारे आवेदन के संचालन का परीक्षण करेंगे:



हम आवेदन देख रहे हैं। हम देखते हैं कि एप्लिकेशन वास्तव में बाधित है, लेकिन इसमें केवल कुछ सेकंड लगते हैं, इस विशेष मामले में, अधिकतम 9।

कार गिर गई

अब एक आभासी मशीन, वर्तमान मास्टर के पतन का अनुकरण करने की कोशिश करते हैं। होराइजन इंटरफेस के माध्यम से केवल वर्चुअल मशीन को बंद करना संभव होगा, केवल यह एक नियमित शटडाउन होगा। इस तरह के स्विच को पेट्रोनी सहित सभी सेवाओं द्वारा संसाधित किया जाएगा।

हमें अप्रत्याशित बंद की जरूरत है। इसलिए, मैंने अपने प्रशासकों को परीक्षण के उद्देश्यों के लिए वर्चुअल मशीन - वर्तमान मास्टर - को असामान्य तरीके से बंद करने के लिए कहा।



उसी समय, हमारे आवेदन ने काम करना जारी रखा। स्वाभाविक रूप से, मास्टर का ऐसा आपातकालीन स्विच किसी का ध्यान नहीं जा सकता।

 2019-03-29 10:45:56.071234 Connection opened to PostgreSQL 10.7 on x86_64-pc-linux-gnu, compiled by gcc (GCC) 4.8.5 20150623 (Red Hat 4.8.5-36), 64-bit Logged a value, overall count: 453 Connection closed 2019-03-29 10:45:59.205463 Connection opened to PostgreSQL 10.7 on x86_64-pc-linux-gnu, compiled by gcc (GCC) 4.8.5 20150623 (Red Hat 4.8.5-36), 64-bit Logged a value, overall count: 454 Connection closed 2019-03-29 10:46:02.661440 Error while connecting to PostgreSQL server closed the connection unexpectedly This probably means the server terminated abnormally before or while processing the request. Caught error: local variable 'connection' referenced before assignment ……………………………………………………….. -  -   2019-03-29 10:46:30.930445 Error while connecting to PostgreSQL server closed the connection unexpectedly This probably means the server terminated abnormally before or while processing the request. Caught error: local variable 'connection' referenced before assignment 2019-03-29 10:46:31.954399 Connection opened to PostgreSQL 10.7 on x86_64-pc-linux-gnu, compiled by gcc (GCC) 4.8.5 20150623 (Red Hat 4.8.5-36), 64-bit Logged a value, overall count: 455 Connection closed 2019-03-29 10:46:35.409800 Connection opened to PostgreSQL 10.7 on x86_64-pc-linux-gnu, compiled by gcc (GCC) 4.8.5 20150623 (Red Hat 4.8.5-36), 64-bit Logged a value, overall count: 456 Connection closed ^Cexit 

जैसा कि आप देख सकते हैं, एप्लिकेशन 30 सेकंड से कम समय में अपना काम जारी रखने में सक्षम था। हां, कुछ निश्चित सेवा उपयोगकर्ताओं के पास समस्याओं को नोटिस करने का समय होगा। हालाँकि, यह एक गंभीर सर्वर विफलता है, ऐसा अक्सर नहीं होता है। उसी समय, व्यक्ति (प्रशासक) शायद ही कभी जल्दी से प्रतिक्रिया करने में कामयाब रहा होगा, जब तक कि वह एक स्विचिंग स्क्रिप्ट के साथ तैयार कंसोल में नहीं बैठा था।

निष्कर्ष

मुझे ऐसा लगता है कि इस तरह के क्लस्टर प्रशासकों के लिए एक जबरदस्त लाभ प्रदान करते हैं। वास्तव में, डेटाबेस सर्वर के गंभीर ब्रेकडाउन और विफलताएं आवेदन के लिए ध्यान देने योग्य नहीं होंगी और, तदनुसार, उपयोगकर्ता के लिए। आपको जल्दबाज़ी में कुछ सुधारना नहीं होगा और अस्थायी कॉन्फ़िगरेशन, सर्वर आदि पर स्विच करना होगा। और यदि आप इस समाधान का उपयोग क्लाउड में तैयार सेवा के रूप में करते हैं, तो आपको इसे तैयार करने में समय बर्बाद करने की आवश्यकता नहीं होगी। कुछ और दिलचस्प करना संभव होगा।