कैसे बढ़े सिस्टम लोड का सामना: ब्लैक फ्राइडे के लिए बड़े पैमाने पर तैयारियों के बारे में बात करें

नमस्कार, हेब्र!

2017 में, ब्लैक फ्राइडे के दौरान, भार लगभग डेढ़ गुना बढ़ गया, और हमारे सर्वर संभावनाओं की सीमा पर थे। वर्ष के दौरान, ग्राहकों की संख्या में काफी वृद्धि हुई है, और यह स्पष्ट हो गया है कि पूरी तरह से प्रारंभिक तैयारी के बिना, मंच केवल 2018 के भार का सामना नहीं कर सकता है।

लक्ष्य हर संभव सबसे महत्वाकांक्षी निर्धारित किया गया था: हम किसी भी, यहां तक ​​कि सबसे शक्तिशाली, गतिविधि के फटने के लिए पूरी तरह से तैयार होना चाहते थे और वर्ष के दौरान अग्रिम में नई क्षमताओं को वापस लेना शुरू कर दिया।

हमारी सीटीओ आंद्रेई चिज़ ( chizh_andrey ) बताती है कि हम ब्लैक फ्राइडे 2018 की तैयारी कैसे कर रहे थे, गिरने से बचने के लिए हमने क्या उपाय किए और निश्चित रूप से इस तरह की सावधानीपूर्वक तैयारी के परिणाम।



आज मैं ब्लैक फ्राइडे 2018 की तैयारियों के बारे में बात करना चाहता हूं। अब क्यों, जब अधिकांश प्रमुख बिक्री पीछे हैं? हमने बड़े पैमाने पर होने वाली घटनाओं से पहले लगभग एक साल पहले तैयार करना शुरू कर दिया था, और परीक्षण और त्रुटि से हमें इष्टतम समाधान मिला। हम अनुशंसा करते हैं कि आप पहले से ही गर्म मौसम का ध्यान रखें और उन फेकैप्स को रोकें जो सबसे अधिक समय पर हो सकते हैं।
सामग्री उन सभी के लिए उपयोगी होगी जो इस तरह के स्टॉक से अधिकतम लाभ को निचोड़ना चाहते हैं, जैसे समस्या का तकनीकी पक्ष विपणन के लिए नीच नहीं है।

बड़ी बिक्री पर यातायात की सुविधाएँ

आम धारणा के विपरीत, ब्लैक फ्राइडे एक वर्ष में एक दिन नहीं है, लेकिन लगभग पूरे सप्ताह: बिक्री से पहले 7-8 दिन पहले छूट प्रदान करता है। वेबसाइट ट्रैफ़िक पूरे सप्ताह सुचारू रूप से बढ़ना शुरू हो जाता है, शुक्रवार को अपने चरम पर पहुंच जाता है और शनिवार को नियमित स्टोर संकेतकों पर काफी तेजी से गिरता है।



यह विचार करना महत्वपूर्ण है: ऑनलाइन स्टोर सिस्टम में किसी भी "मंदी" के लिए विशेष रूप से संवेदनशील हो जाते हैं। इसके अलावा, हमारे ईमेल न्यूज़लेटर ने भी संवेदनाओं की संख्या में उल्लेखनीय वृद्धि का अनुभव किया।

यह हमारे लिए रणनीतिक रूप से महत्वपूर्ण है कि हम ब्लैक फ्राइडे से गुज़रें बिना, जैसे कि स्टोर की साइटों और मेलिंग सूचियों की सबसे महत्वपूर्ण कार्यक्षमता प्लेटफ़ॉर्म के संचालन पर निर्भर करती है, अर्थात्:

• ट्रैकिंग और उत्पाद सिफारिशें जारी करना,
• संबंधित सामग्री जारी करना (उदाहरण के लिए, सिफारिशों के छवि डिज़ाइन ब्लॉक, जैसे कि तीर, लोगो, आइकन और अन्य दृश्य तत्व)
• सही आकार की उत्पाद छवियों को जारी करना (इस उद्देश्य के लिए हमारे पास "ImageResizer" है - एक सबसिस्टम जो स्टोर के सर्वर से एक छवि डाउनलोड करता है, इसे वांछित आकार में संकुचित करता है और कैशिंग सर्वरों के माध्यम से, प्रत्येक अनुशंसा खंड में प्रत्येक उत्पाद के लिए सही आकार की छवियां प्रदान करता है)।

वास्तव में, ब्लैक फ्राइडे 2019 के दौरान, सेवा पर भार 40% बढ़ गया, अर्थात। रिटेल रॉकेट सिस्टम ऑनलाइन स्टोर साइटों पर मॉनिटर और प्रोसेस करने वाली घटनाओं की संख्या 5 से 8 हजार प्रति सेकंड के अनुरोध पर बढ़ी है। इस तथ्य के कारण कि हम अधिक गंभीर भारों की तैयारी कर रहे थे, हमने इस तरह के उछाल को आसानी से अनुभव किया।

सामान्य तैयारी

ब्लैक फ्राइडे सभी रिटेल और विशेष रूप से ईकॉमर्स के लिए एक गर्म समय है। इस समय उपयोगकर्ताओं और उनकी गतिविधि की संख्या कई बार बढ़ रही है, इसलिए हम, हमेशा की तरह, इस व्यस्त समय के लिए पूरी तरह से तैयार हैं। हम इस तथ्य को जोड़ते हैं कि कई ऑनलाइन स्टोर हमारे साथ जुड़े हुए हैं, न केवल रूस में बल्कि यूरोप में भी, जहां प्रचार बहुत अधिक है, और हमें जुनून का स्तर ब्राजील की श्रृंखला से भी बदतर है। बढ़े हुए भार के लिए पूरी तरह से तैयार होने के लिए क्या करने की आवश्यकता है?

सर्वर के साथ काम करें

शुरू करने के लिए, यह पता लगाना आवश्यक था कि सर्वर की क्षमता बढ़ाने के लिए हमारे पास वास्तव में क्या कमी है। पहले से ही अगस्त में, हमने विशेष रूप से ब्लैक फ्राइडे के लिए नए सर्वरों का ऑर्डर देना शुरू किया - कुल 10 अतिरिक्त मशीनें जोड़ी गईं। नवंबर तक, वे पहले से ही पूरी तरह से लड़ाई में थे।

उसी समय, बिल्ड मशीनों के भाग को एप्लिकेशन सर्वर के रूप में उपयोग करने के लिए पुनः इंस्टॉल किया गया था। हमने उन्हें विभिन्न कार्यों का उपयोग करने के लिए तुरंत तैयार किया: सिफारिशें जारी करने के लिए और ImageResizer सेवा के लिए दोनों, ताकि लोड के प्रकार के आधार पर, उनमें से प्रत्येक को इन भूमिकाओं में से एक के लिए इस्तेमाल किया जा सके। सामान्य मोड में, एप्लिकेशन और ImageResizer सर्वरों ने स्पष्ट रूप से कार्यों को परिभाषित किया है: पहले वाले सिफारिशें जारी करने में शामिल हैं, दूसरे लोग ऑनलाइन स्टोर वेबसाइट पर पत्र और सिफारिश ब्लॉकों के लिए चित्र प्रदान करते हैं। ब्लैक फ्राइडे की तैयारी में, लोड के प्रकार के आधार पर उनके बीच यातायात को संतुलित करने के लिए सभी दोहरे उद्देश्य वाले सर्वर बनाने का निर्णय लिया गया था।

फिर हमने काफ्का (अपाचे काफ्का) के लिए दो बड़े सर्वर जोड़े और 5 शक्तिशाली मशीनों का एक समूह मिला। दुर्भाग्य से, सब कुछ उतना आसानी से नहीं हुआ जितना हम चाहेंगे: डेटा सिंक्रोनाइज़ेशन की प्रक्रिया में, दो नई मशीनों ने नेटवर्क चैनल की पूरी चौड़ाई पर कब्जा कर लिया, और हमें तत्काल यह पता लगाना था कि पूरे इंफ्रास्ट्रक्चर के लिए ऐड प्रक्रिया को कैसे जल्दी और सुरक्षित तरीके से पूरा करना है। इस मुद्दे को हल करने के लिए, हमारे प्रशासकों को सप्ताहांत में बहादुरी से बलिदान करना पड़ा।

डेटा के साथ काम करें

सर्वरों के अलावा, हमने लोड को कम करने के लिए फ़ाइलों को अनुकूलित करने का फैसला किया, और हमारे लिए एक बड़ा कदम स्थिर फाइलों का अनुवाद था। पहले सर्वर पर होस्ट की गई सभी स्टैटिक फाइलें S3 + Cloudfront पर ले जाई गई थीं। वे लंबे समय से ऐसा करना चाहते थे, क्योंकि सर्वर पर लोड सीमा मूल्यों के करीब था, और अब एक उत्कृष्ट कारण दिखाई दिया।

ब्लैक फ्राइडे से एक सप्ताह पहले, हमने छवियों के कैशिंग समय को बढ़ाकर 3 दिन कर दिया, ताकि ImageResizer में गिरावट की स्थिति में, पहले से कैश की गई छवियां सीडीएन से प्राप्त की गई थीं। इसने हमारे सर्वर पर लोड को भी कम कर दिया है, क्योंकि अब छवि को संग्रहीत किया जाता है, कम अक्सर हमें रिसाइज़ करने पर संसाधन खर्च करने की आवश्यकता होती है।

और आखिरी, लेकिन कम से कम नहीं: ब्लैक फ्राइडे से 5 दिन पहले किसी भी नई कार्यक्षमता की तैनाती पर स्थगन की घोषणा की गई थी, साथ ही बुनियादी ढांचे के साथ किसी भी काम पर - सभी का ध्यान बढ़ते भार के साथ सामना करने पर निर्देशित किया गया था।

आपातकालीन प्रतिक्रिया योजनाएँ

चाहे कितनी भी अच्छी तैयारी हो, फेकैपी हमेशा संभव है। और हमने संभावित महत्वपूर्ण परिस्थितियों के लिए 3 प्रतिक्रिया योजनाएं विकसित की हैं:

• लोड में कमी
• कुछ सेवाओं को अक्षम करना,
• सेवा का पूरा बंद होना।

योजना ए: लोड में कमी। इसमें शामिल होना चाहिए था, यदि भार में वृद्धि के कारण, हमारे सर्वर स्वीकार्य प्रतिक्रिया समय से परे जाते हैं। इस स्थिति में, हमने ट्रैफ़िक के भाग को अमेज़ॅन सर्वर पर स्विच करके धीरे-धीरे लोड को कम करने के लिए तंत्र तैयार किया, जो सभी अनुरोधों को केवल "200 ठीक" देगा और एक खाली उत्तर देगा। हम समझ गए कि यह सेवा की गुणवत्ता में गिरावट है, लेकिन इस तथ्य के बीच का विकल्प है कि सेवा बिल्कुल काम नहीं करती है या लगभग 10% यातायात के लिए सिफारिशें नहीं दिखाती है।

प्लान बी: ​​सेवाओं को अक्षम करना। सेवा की आंशिक गिरावट को लागू किया। उदाहरण के लिए, कुछ डेटाबेस और संचार चैनलों को ऑफलोड करने के लिए व्यक्तिगत सिफारिशों की गणना करने की गति को कम करना। सामान्य मोड में, सिफारिशों की गणना वास्तविक समय मोड में की जाती है, जो प्रत्येक आगंतुक के लिए ऑनलाइन स्टोर का एक संस्करण बनाते हैं, लेकिन बढ़े हुए भार की शर्तों के तहत, गति में कमी अन्य कोर सेवाओं को काम जारी रखने की अनुमति देती है।

योजना सी: आर्मगेडन के लिए। यदि एक पूर्ण सिस्टम विफलता होती है, तो हमने एक योजना तैयार की है जो हमें ग्राहकों से सुरक्षित रूप से डिस्कनेक्ट करेगी। शॉपर्स केवल सिफारिशें देखना बंद कर देंगे; ऑनलाइन स्टोर का प्रदर्शन प्रभावित नहीं होगा। ऐसा करने के लिए, हमें अपनी एकीकरण फ़ाइल को रीसेट करना होगा ताकि नए उपयोगकर्ता सेवा के साथ सहभागिता करना बंद कर दें। यही है, हम अपने मुख्य ट्रैकिंग कोड के काम को निष्क्रिय कर देंगे, सेवा डेटा एकत्र करना बंद कर देगी और सिफारिशों की गणना करेगी, और उपयोगकर्ता को केवल सिफारिश ब्लॉकों के बिना एक पृष्ठ दिखाई देगा। उन सभी के लिए जो पहले एकीकरण फ़ाइल प्राप्त कर चुके हैं, हमने डीएनएस रिकॉर्ड को अमेज़ॅन और 200 ओके स्टब पर स्विच करने का विकल्प प्रदान किया है।

परिणाम

हमने अतिरिक्त बिल्ड मशीनों का उपयोग करने की आवश्यकता के बिना भी पूरे लोड के साथ मुकाबला किया। और अग्रिम तैयारी के लिए धन्यवाद, हमें विकसित प्रतिक्रिया योजनाओं में से किसी की आवश्यकता नहीं थी। लेकिन किए गए सभी कार्य एक अमूल्य अनुभव है जो हमें यातायात के सबसे अप्रत्याशित और विशाल प्रवाह से निपटने में मदद करेंगे।
2017 में, सेवा पर भार 40% बढ़ गया, और ब्लैक फ्राइडे के लिए ऑनलाइन स्टोर में उपयोगकर्ताओं की संख्या में 60% की वृद्धि हुई। सभी कठिनाइयों और गलतियों की तैयारी की अवधि के दौरान हुई, जिसने हमें और हमारे ग्राहकों को अप्रत्याशित परिस्थितियों से बचाया।

आपको ब्लैक फ्राइडे कैसा लगता है? कैसे महत्वपूर्ण भार के लिए तैयार करने के लिए?