डाउन द रैबिट होल: ए स्टोरी ऑफ़ वन वार्निश लोड एरर - भाग 1

पिछले 20 मिनटों के लिए कीबोर्ड के बटन से टकराने के बाद, जैसे वह अपने जीवन के लिए टाइप कर रहा था, घोस्टिनुशांका उसकी आँखों में एक अर्ध-पागल नज़र और एक धूर्त मुस्कान के साथ मेरे पास जाता है, “यार, मुझे लगता है कि मुझे मिल गया।

इसे देखिए ”- जैसा कि वह स्क्रीन पर मौजूद पात्रों में से एक को इंगित करता है -“ मैंने अपनी लाल टोपी पर शर्त लगाई है कि अगर हमने जो जोड़ा है वह आपको यहाँ भेजा है ”- जैसा कि वह कोड में किसी अन्य स्थान की ओर इशारा करता है -“ वहाँ होगा अब कोई त्रुटि नहीं है। ”
थोड़ा हैरान और थका हुआ मुझे लगता है कि हम कुछ समय के लिए बाहर की गई sed अभिव्यक्ति को संशोधित करते हैं, फ़ाइल को सहेजते हैं और systemctl varnish reload । त्रुटि संदेश गया ...

"उन ईमेलों का मैंने उम्मीदवार के साथ आदान-प्रदान किया है," मेरी सहकर्मी जारी है, क्योंकि उनकी मुस्कान एक विस्तृत और वास्तविक मुस्कराहट में बदल जाती है, "यह अचानक मुझे लगा कि यह बहुत ही सटीक समस्या है!"

यह सब कैसे शुरू हुआ

यह लेख बैश, awk और systemd के साथ कुछ परिचितता मानता है। वार्निश का कुछ ज्ञान फायदेमंद है, लेकिन आवश्यक नहीं है।
उदाहरण के स्निपेट्स में टाइमस्टैम्प को फिर से तैयार किया गया है।
भूतिनभूषण के साथ सह-लेखक।

सूरज दीवार के आकार की खिड़कियों के माध्यम से एक और गर्म शरद ऋतु की सुबह चमकता है, कीबोर्ड के किनारे ताजे पीसा हुआ कैफीनयुक्त तरल का एक कप बैठता है, हेडफ़ोन चारों ओर यांत्रिक कीबोर्ड की सरसराहट और बैकलॉग में पहली प्रविष्टि को कवर करने वाली ध्वनियों के प्रिय सिम्फनी को मुखर करता है। kanban बोर्ड पर चंचलता से भाग्य टिकट के शीर्षक को प्रदर्शित करता है "जांच वार्निश लोड लोड करें sh: echo: I/O error मंचन में sh: echo: I/O error "। जब भी वार्निश का संबंध होता है, तो त्रुटि के लिए कोई जगह नहीं होती है, हालांकि यह विशेष रूप से किसी भी वास्तविक समस्याओं का कारण नहीं लगता है।

वार्निश लोड के साथ आप में से किसी एक के लिए, यह विन्यास को फिर से लोड करने के लिए उपयोग की जाने वाली शेल स्क्रिप्ट है - जिसे वार्निश कैशिंग सर्वर का VCL - भी कहा जाता है ।

टिकट के शीर्षक के संकेत के रूप में, स्टेजिंग मशीनों में से एक पर त्रुटि आई है और मुझे पूरा यकीन है कि वार्निश रूटिंग स्टेजिंग वातावरण में काम करता है, इसलिए मेरी धारणा यह थी कि यह कुछ मामूली समस्या है। बस बंद स्ट्रीम में लिखा गया उपयोगकर्ता-अनुकूल आउटपुट संदेश। मैं टिकट हड़पता हूं, दृढ़ता से विश्वास करता हूं कि मैं इसे 30 मिनट से कम समय में हल करने में सक्षम हो जाऊंगा, एक और सांसारिक कार्य को साफ करने के लिए खुद को पीठ पर थपथपाऊंगा और अधिक महत्वपूर्ण चीजों पर वापस जाऊंगा।

200kph पर दीवार से टकराना

डेबियन स्ट्रेच पर चल रहे प्रभावित सर्वरों में से एक पर varnishreload फ़ाइल खोलते हुए, मुझे 200 रेखाओं से कम लंबी शेल स्क्रिप्ट मिलती है। संक्षेप में इसके माध्यम से पढ़ने पर, मुझे कुछ भी खतरनाक नहीं दिख रहा है जो मुझे बार-बार टर्मिनल से स्क्रिप्ट चलाने से रोक देगा। आखिरकार, यह मंचन कर रहा है, भले ही यह टूट जाए, कोई भी शिकायत करने के लिए नहीं जा रहा है, ठीक है ... बहुत ज्यादा नहीं, वह है। मैं स्क्रिप्ट चलाता हूं और निरीक्षण करता हूं, केवल यह पता लगाने के लिए कि कोई त्रुटि नहीं है। एक जोड़े ने बार-बार यह सुनिश्चित करने के लिए रन बनाए कि मैं बिना किसी अतिरिक्त प्रयास के त्रुटि को पुन: उत्पन्न न कर सकूं और मैं स्क्रिप्ट के वातावरण को मोड़ने और मोड़ने की योजना बनाना शुरू कर देता हूं। क्या स्क्रिप्ट के लिए STDOUT को पूरी तरह बंद करना ( > &- ) कुछ भी मदद करता है? या stderr? न ही किया।

स्पष्ट रूप से सिस्टमड किसी तरह से पर्यावरण का प्रबंधन करता है, लेकिन कैसे, और ... क्यों? मैं विम को आग varnishreload और सिस्टम के varnishreload संपादित करता varnishreload , set -x सही को varnishreload के varnishreload जोड़कर, उम्मीद करता varnishreload कि विस्तृत स्क्रिप्ट रन आउटपुट कुछ रोशनी बहाएगा।

फ़ाइल को पैच किया गया है, इसलिए मैं वार्निश को पुनः लोड करता हूं, केवल यह देखने के लिए कि परिवर्तन ने स्क्रिप्ट को पूरी तरह से तोड़ दिया है ... आउटपुट सी-स्टाइल कोड के टन को प्रदर्शित करने वाला एक पूर्ण गड़बड़ है और डिफ़ॉल्ट स्क्रॉलबैक बफर यह खोजने के लिए पर्याप्त नहीं है कि यह कहां से आता है। मुझे उलझन महसूस होती है। शेल स्क्रिप्ट के लिए डिबग विकल्प सेट कर सकता है जो प्रोग्राम को कॉल करता है? नहीं, नहीं हो सकता। खोल में एक बग? मेरे दिमाग में अलग-अलग दिशाओं में बेतहाशा भाग रहे एकाधिक संभावित परिदृश्य। कैफीनयुक्त पेय का एक कप तुरंत खत्म हो जाता है, एक फिर से भरना के लिए रसोई के लिए त्वरित यात्रा और यहां हम फिर से जाते हैं। मैं फ़ाइल खोलता हूँ और शबंग को बारीकी से देखता हूँ: #!/bin/sh ।

लेकिन /bin/sh निश्चित रूप से सिर्फ एक सहिष्णुता है जो दफनाने के लिए है, ताकि POSIX- अनुरूप मोड में स्क्रिप्ट की व्याख्या हो, सही? गलत! डेबियन पर डिफ़ॉल्ट गैर-इंटरैक्टिव शेल पानी का छींटा है, और यही वह बिंदु है जो /bin/sh बिंदु पर है ।

 # ls -l /bin/sh lrwxrwxrwx 1 root root 4 Jan 24 2017 /bin/sh -> dash 

यदि केवल डिबगिंग के लिए, मैंने शेबंग को #!/bin/bash में बदल दिया, set -x हटा दिया और फिर से कोशिश की। अंत में, अगले वार्निश रीलोड से एक उचित त्रुटि आउटपुट:

 Jan 01 12:00:00 hostname varnishreload[32604]: /usr/sbin/varnishreload: line 124: echo: write error: Broken pipe Jan 01 12:00:00 hostname varnishreload[32604]: VCL 'reload_20190101_120000_32604' compiled 

लाइन 124, अब हम बात कर रहे हैं!

 114 find_vcl_file() { 115 VCL_SHOW=$(varnishadm vcl.show -v "$VCL_NAME" 2>&1) || : 116 VCL_FILE=$( 117 echo "$VCL_SHOW" | 118 awk '$1 == "//" && $2 == "VCL.SHOW" {print; exit}' | { 119 # all this ceremony to handle blanks in FILE 120 read -r DELIM VCL_SHOW INDEX SIZE FILE 121 echo "$FILE" 122 } 123 ) || : 124 125 if [ -z "$VCL_FILE" ] 126 then 127 echo "$VCL_SHOW" >&2 128 fail "failed to get the VCL file name" 129 fi 130 131 echo "$VCL_FILE" 132 } 

लेकिन जैसा कि यह पता चला है, रेखा 124 बहुत असमान है। मैं केवल अनुमान लगा सकता हूं कि त्रुटि लाइन 116 पर निष्पादित मल्टीलाइन कमांड के हिस्से के रूप में उत्पन्न हुई थी।

तो VCL_FILE चर में स्टोर करने के लिए VCL_FILE भी क्या उत्पादन करता है? पहले भाग में यह पाइप में लाइन 115 पर बनाए गए VCL_SHOW चर की सामग्री को भेजता है। वहां क्या होता है, तब?

सबसे पहले, यह varnishadm का उपयोग करता है, जो वार्निश को फिर से varnishadm करने के लिए बिना वार्निश को कॉन्फ़िगर करने के लिए उपयोग किए जाने वाले वार्निश इंस्टॉलेशन का एक मानक हिस्सा है। vcl.show -v का उपयोग ${VCL_NAME} निर्दिष्ट पूरे VCL कॉन्फ़िगरेशन को STDOUT में प्रिंट करने के लिए किया जाता है।

वर्तमान सक्रिय VCL कॉन्फ़िगरेशन के साथ-साथ वार्निश रूटिंग के कई पिछले संस्करण जो अभी भी मेमोरी में हैं, को प्रदर्शित करने के लिए, आप एक अन्य कमांड varnishadm vcl.list उपयोग कर सकते हैं, जिसका आउटपुट नीचे के समान होगा:

 discarded cold/busy 1 reload_20190101_120000_11903 discarded cold/busy 2 reload_20190101_120000_12068 discarded cold/busy 16 reload_20190101_120000_12259 discarded cold/busy 16 reload_20190101_120000_12299 discarded cold/busy 28 reload_20190101_120000_12357 active auto/warm 32 reload_20190101_120000_12397 available auto/warm 0 reload_20190101_120000_12587 

चर ${VCL_NAME} को varnishreload स्क्रिप्ट में वर्तमान में सक्रिय VCL, यदि कोई हो, के नाम पर कहीं और सेट किया गया है। इस स्थिति में, यह "reload_20190101_120000_12397" होगा।

महान, इसलिए ${VCL_SHOW} अब वार्निश के लिए एक पूर्ण विन्यास ${VCL_SHOW} , जो अब तक काफी आसान है। अब मुझे अंततः समझ में आया कि set -x साथ डैश आउटपुट इतना टूटा हुआ क्यों दिखाई दिया - इसमें परिणामी वार्निश कॉन्फ़िगरेशन की सामग्री शामिल थी।

यहां महत्वपूर्ण बात यह है कि पूर्ण वीसीएल कॉन्फिग को अक्सर कई फाइलों से एक साथ जोड़ा जा सकता है। सी-शैली टिप्पणियों का उपयोग उन सीमांकित फ़ाइलों के लिए किया जाता है जहां कॉन्फिग फाइलों को अन्य कॉन्फिगर फाइलों में शामिल किया गया था, जो कि कोड स्निपेट की अगली पंक्ति है।

फाइल-डिनोटिंग टिप्पणियों के सिंटैक्स में निम्न प्रारूप होता है

 // VCL.SHOW <NUM> <NUM> <FILENAME> 

संख्याएँ यहाँ महत्वपूर्ण नहीं हैं, हम जिस चीज़ में रुचि रखते हैं वह फ़ाइल नाम है।

तो दुनिया में क्या हो रहा है जो लाइन ११६ पर शुरू होने वाले आदेशों के आधार पर हो रहा है?
इसे अलग उठाते हैं।
कमांड के चार भाग हैं:

1. एक सरल echo जो ${VCL_SHOW} के मूल्य को प्रिंट करता है
   

    echo "$VCL_SHOW" 

2. awk जो एक लाइन (रिकॉर्ड) की तलाश करता है जहां पहला क्षेत्र '//' है और दूसरा "VCL.SHOW" है।
   Awk को निर्देश दिया जाता है कि इन पैटर्नों से मेल खाते हुए पहले लाइन को प्रिंट करें और फिर तुरंत प्रोसेसिंग बंद कर दें।
   

    awk '$1 == "//" && $2 == "VCL.SHOW" {print; exit}' 

3. एक कोड ब्लॉक जो व्हॉट्सएप-सीमांकित फ़ील्ड में पांच चर में पढ़ता है। पांचवें चर FILE को शेष रेखा मिलती है। अंत में, एक अंतिम गूंज ${FILE} चर की सामग्री को प्रिंट करता है।
   

    { read -r DELIM VCL_SHOW INDEX SIZE FILE; echo "$FILE" }. 

4. चूंकि चरण 1 से 3 तक सब VCL_FILE , $FILE का आउटपुट वेरिएबल VCL_FILE में समाप्त हो जाएगा।

जैसा कि रेखा 119 पर टिप्पणी से पता चलता है, चीजों को करने का यह तरीका एक ही उद्देश्य को पूरा करता है: वीसीएल रिक्त स्थान के साथ वीसीएल को संदर्भित करने के मामले में मज़बूती से काम करेगा।

मैंने ${VCL_FILE} लिए मूल प्रसंस्करण तर्क पर टिप्पणी की और आदेशों की श्रृंखला को ${VCL_FILE} की कोशिश की, लेकिन कोई उचित अंत नहीं हुआ। मेरे शेल में सब कुछ काम करता था लेकिन कभी भी सेवा के रूप में नहीं चलता था।

ऐसा लगता है कि मेरे द्वारा चलाए जाने के दौरान त्रुटि बिल्कुल भी नहीं है - इस बीच अनुमानित 30 मिनट छह बार और एक नए उच्च-प्राथमिकता वाले कार्य ने सब कुछ अलग रखा। सप्ताह के बाकी दिन अलग-अलग कार्यों के साथ काफी भरे हुए थे, दो अपवाद एक आंतरिक बात है जो हमारी टीम ने एक आशाजनक उम्मीदवार के साथ sed और एक साक्षात्कार का उपयोग करने के बारे में थी। varnishreload गायब करने के साथ समस्या पूरी तरह से समय की रेत से खो गई थी।

आपका तथाकथित सेड-फू ... वाकई ... काफी दयनीय है

सप्ताह के दिनों में से एक का पालन किया गया था, इसलिए मैं बहुत ही स्वतंत्र था। मुझे उम्मीद थी कि शायद मेरे दिमाग में कुछ पृष्ठभूमि प्रक्रिया अभी भी समस्या को दूर कर रही है और मैं इसे समाप्त करने में सक्षम हो जाऊंगा।

चूँकि पिछली बार कोड झुकने से कोई मदद नहीं मिली थी, मैंने सिर्फ 116 लाइन को फिर से लिखने का विकल्प चुना था। मौजूदा कोड वैसे भी पागल था। यहाँ read लिए उपयोग करने की बिल्कुल आवश्यकता नहीं है।

फिर से त्रुटि को देखते हुए:
sh: echo: broken pipe - इको उस कमांड में दो स्थानों पर होती है, लेकिन मुझे पहले वाले पर संदेह है कि वह अधिक संभावनावादी अपराधी (या एक साथी) है। अवाक आत्मविश्वास को भी प्रेरित नहीं करता है। खैर, मामले में यह वास्तव में awk | {read; echo} awk | {read; echo} awk | {read; echo} निर्माण यह सब परेशानी पैदा करता है, तो किसी और चीज का उपयोग क्यों न करें? अवाक वास्तव में उस वन-लाइनर पर अपनी पूर्ण क्षमताओं के लिए उपयोग नहीं किया जा रहा है और फिर यह अधिशेष read ।

यह देखकर कि दूसरे सप्ताह में हमारे साथ sed के बारे में आंतरिक बात हुई, मैं अपने नए-अर्जित कौशल की कोशिश करना चाहता था और echo | awk | { read; echo } अनुकूलित करना चाहता था echo | awk | { read; echo } echo | awk | { read; echo } एक सरल echo | sed echo | sed । हालांकि यह निश्चित रूप से डिबगिंग के लिए उचित तरीका नहीं है, मैंने सोचा कि मैं कम से कम अपने सेड-फू की कोशिश करूंगा और शायद इस प्रक्रिया में समस्या के बारे में कुछ नया सीख सकता हूं। इस प्रक्रिया में, मैंने अपने सहयोगी - सेड टॉक के लेखक से पूछा - मुझे अधिक कुशल सेड कमांड के साथ आने में मदद करने के लिए।

मैंने varnishadm vcl.show -v "$VCL_NAME" को एक फ़ाइल में varnishadm vcl.show -v "$VCL_NAME" किया है, इसलिए मैं सर्विस रीलोड के आसपास सभी परेशानी के बिना sed लिखने पर ध्यान केंद्रित कर सकता हूं।

एक सटीक प्राइमर इस बात पर निर्भर करता है कि इसके GNU मैनुअल में सेड प्रक्रिया के इनपुट कैसे पाए जा सकते हैं। Sed स्रोतों में वर्ण \n को स्पष्ट रूप से लाइन विभाजक के रूप में निर्दिष्ट किया जाता है।

अपने सहकर्मी से कई पुनरावृत्तियों और इनपुट के बाद, हमने एक sed अभिव्यक्ति तैयार की है जो मूल लाइन 116 के समान परिणाम उत्पन्न करती है।

चलो यहाँ एक नमूना इनपुट फ़ाइल बनाएँ,

 > cat vcl-example.vcl Text // VCL.SHOW 0 1578 file with 3 spaces.vcl More text // VCL.SHOW 0 1578 file.vcl Even more text // VCL.SHOW 0 1578 file with TWOspaces.vcl Final text 

यह उपरोक्त विवरण से स्पष्ट नहीं हो सकता है, लेकिन हम केवल पहले // VCL.SHOW टिप्पणी में रुचि रखते हैं, और इनपुट के लिए कई हो सकते हैं। यही कारण है कि awk पहले मैच के बाद क्विट करते हैं।

 # step 1, capture just the comment lines # using sed capability to specify delimiter character with '\#' instead of the commonly used '/' so there is no need to escape slashes themselves # and the “address” capability defined as regex “// VCL.SHOW” to search for lines with specific pattern # -n flag makes sure that the sed does not print all as it does by default (see above link) # -E switches to the extended regex > cat vcl-processor-1.sed \#// VCL.SHOW#p > sed -En -f vcl-processor-1.sed vcl-example.vcl // VCL.SHOW 0 1578 file with 3 spaces.vcl // VCL.SHOW 0 1578 file.vcl // VCL.SHOW 0 1578 file with TWOspaces.vcl # step 2, only print out the file name # using the “substitute” command with regex capture groups to print just that group # and this is done only for the matches of the previous search > cat vcl-processor-2.sed \#// VCL.SHOW# { s#.* [0-9]+ [0-9]+ (.*)$#\1# p } > sed -En -f vcl-processor-2.sed vcl-example.vcl file with 3 spaces.vcl file.vcl file with TWOspaces.vcl # step 3, make sure to only get the first result # same as with the awk before, add an immediate exit after the first processed match is printed > cat vcl-processor-3.sed \#// VCL.SHOW# { s#.* [0-9]+ [0-9]+ (.*)$#\1# p q } > sed -En -f vcl-processor-3.sed vcl-example.vcl file with 3 spaces.vcl # step 4, wrap it up into a one-liner using the colon to separate commands > sed -En -e '\#// VCL.SHOW#{s#.* [0-9]+ [0-9]+ (.*)$#\1#p;q;}' vcl-example.vcl file with 3 spaces.vcl 

तो, वार्निश लोड स्क्रिप्ट की सामग्री कुछ इस तरह दिखाई देगी:

 VCL_FILE="$(echo "$VCL_SHOW" | sed -En '\#// VCL.SHOW#{s#.*[0-9]+ [0-9]+ (.*)$#\1#p;q;};')" 

उपरोक्त तर्क सफलतापूर्वक व्यक्त किया जा सकता है:
यदि एक पंक्ति regex // VCL.SHOW मेल खाती है, तो उस पंक्ति पर दो संख्याओं सहित पाठ का लालच से मिलान करें और बाद में जो भी आए उसे कैप्चर करें। कब्जा छोड़ो और छोड़ो।

सरल, है ना?

हम सीड स्क्रिप्ट और इस तथ्य से खुश थे कि यह किस मूल कोड की जगह लेता है, मैंने जो भी परीक्षण किए हैं वे सभी वांछित परिणाम उत्पन्न किए हैं, इसलिए मैंने सर्वर पर systemctl reload varnish को संशोधित किया है और एक बार फिर से varnishreload systemctl reload varnish निकाल दिया है। खूंखार echo: write error: Broken pipe हमारे चेहरे पर मुस्कुरा रहा था। ब्लिंकिंग कर्सर ने टर्मिनल के अंधेरे शून्य में एक नई कमांड प्रविष्टि की प्रतीक्षा की ...