एक सरल उदाहरण के साथ ट्रेडिंग प्लेटफॉर्म प्रदर्शन

ऑफिस का काम

चलो निम्नलिखित सादृश्य का उपयोग करें। एक कार्यालय में काम करने वाले लोगों के समूह की कल्पना करें। संचार कागज (पत्र) पर संदेशों के आदान-प्रदान के माध्यम से होते हैं। प्रत्येक पत्र में पता, प्रेषक और कार्य शामिल हैं। कार्यालय में कुछ निश्चित टेबल पर पत्र रखे जाते हैं। ऐसे कर्मचारी हैं जिनका कार्य बाहरी दुनिया से पत्र प्राप्त करना और उन्हें तालिकाओं पर रखना है। अन्य लोग तालिकाओं से पत्र उठाते हैं और उन्हें निर्णय निर्माताओं को सौंपते हैं। प्रत्येक निर्णय निर्माता केवल एक निश्चित प्रकार के अक्षरों (या कार्यों) के साथ काम करता है।

निर्णय निर्माता उसके लिए इच्छित पत्रों को पढ़ता है और निर्णय लेता है कि क्या यह कार्य पूरा होगा, स्थगित या अनदेखा किया जाएगा। निष्पादन के लिए कार्य एक अलग टेबल पर रखे जाते हैं। विशेष कार्यकर्ता इस तालिका से पत्र उठाते हैं और कलाकारों को वितरित करते हैं। कार्यालय के बाहर कुछ पत्रों का उत्तर दिया जाना चाहिए, उदाहरण के लिए, बाहरी प्रेषक को पुष्टि भेजें।

वास्तविकता के करीब होने के लिए, आइए स्थितियों को थोड़ा और जटिल करें। उदाहरण के लिए, एक कार्यालय कमरे और गलियारों का एक जटिल नेटवर्क है, और विभिन्न प्रकार के श्रमिक केवल उन कुछ स्थानों पर जा सकते हैं जहां उनकी पहुंच है। जैसा कि गणितज्ञ कहते हैं, सामान्यता की हानि के बिना, मान लें कि हमारा कार्यालय, सामान्य परिस्थितियों में, प्रति दिन 200 संदेशों को औसत संदेश प्रसंस्करण समय 5 मिनट के साथ संसाधित करता है।

इसलिए, हमारा कार्य संदेश प्रसंस्करण समय को कम करना है। इस मामले में, यह वांछनीय है कि अधिकतम प्रसंस्करण समय औसत से अधिक नहीं है, दो बार कहें। यही है, गतिविधि के फटने को प्रभावी ढंग से नियंत्रित किया जाना चाहिए।

तो हम कहां से शुरू करें? अधिक कर्मचारियों को नियुक्त करने का सबसे आसान तरीका अधिक संदेशों को संसाधित करना है। तेज श्रमिकों को देखना अच्छा है, फिर प्रसंस्करण समय कम हो जाएगा। मान लीजिए कि हमने उसैन बोल्ट और अन्य ओलंपिक फाइनलिस्टों को काम पर रखा है। शायद प्रसंस्करण समय 2 मिनट तक कम हो गया है। लेकिन यह स्पष्ट है कि इस दिशा में आगे बढ़ना कहीं नहीं है। कोई भी तेज नहीं चलता। हद हो गई। कंप्यूटर के साथ इन तरीकों की तुलना करके, लोगों को काम पर रखने से अतिरिक्त हार्डवेयर (सर्वर, प्रोसेसर, कोर) खरीदे जाते हैं ताकि निष्पादन थ्रेड्स की संख्या बढ़ सके। एथलीटों को किराए पर लेना सबसे तेज़ लोहे (पहली जगह में अधिकतम आवृत्ति) को खरीदने के समान है।

शायद हमारे कार्यालय का लेआउट इष्टतम नहीं है। श्रमिकों को कुशलता से काम करने के लिए पर्याप्त स्थान प्रदान किया जाना चाहिए। हो सकता है कि गलियारों का विस्तार हो, अन्यथा लोगों को कीमती समय गंवाकर एक-दूसरे को रास्ता देना होगा? चलो विस्तार करें। चलो कमरों को थोड़ा बढ़ाते हैं ताकि लोग तालिकाओं के पास जाने के दौरान भीड़ न दें। यह अधिक कोर और अधिक मेमोरी और I / O बैंडविड्थ के साथ एक सर्वर खरीदने जैसा है।

इसके अलावा, हम बाहरी दुनिया के साथ संदेशों का आदान-प्रदान करने के लिए नियमित मेल के बजाय एक्सप्रेस सेवा पर स्विच कर सकते हैं। कंप्यूटर के संदर्भ में, यह नेटवर्क उपकरण और ऑपरेटिंग सिस्टम के नेटवर्क स्टैक को चुनने और अनुकूलित करने के समान है। यह सब एक अतिरिक्त लागत है, लेकिन हम मानते हैं कि वे निश्चित रूप से भुगतान करेंगे।

इसलिए, नवाचारों के बाद, हमारे संदेश प्रसंस्करण का समय घट गया, कहते हैं, एक मिनट। संचार और निष्पादन प्रक्रिया को बेहतर बनाने के लिए श्रमिकों को भी प्रशिक्षित किया जा सकता है। शायद यह सही प्रेरणा के साथ 15 प्रतिशत देगा। वह जानता है कि हम 51 सेकंड तक पहुंच गए। यह सॉफ्टवेयर अनुकूलन के समान है।

अगला कदम हमारे तेजी से बढ़ते श्रमिकों के बीच टकराव से बचने की कोशिश करना है। संभावित अड़चन तालिकाओं के लिए दृष्टिकोण है। यह सलाह दी जाती है कि श्रमिकों को तत्काल और साथ ही उनकी जरूरत के डेस्क तक पहुंच हो। पहुँच को तेज करने के लिए आप टेबल पर संदेश छाँट सकते हैं (अलग-अलग फ़ोल्डरों में डाल)। संदेशों की अलग प्राथमिकताएँ भी हो सकती हैं। कार्यक्रम में, यह थ्रेड सिंक्रोनाइज़ेशन का एक एनालॉग है। धाराओं में असीमित समानांतर और डेटा तक अधिकतम पहुंच होनी चाहिए। थ्रेड सिंक्रनाइज़ेशन समस्याओं को ठीक करना अक्सर सिस्टम थ्रूपुट में भारी वृद्धि देता है और प्रतिक्रिया समय में सुधार करने में मदद करता है। गतिविधि के फटने के अर्थ में, एक इष्टतम तुल्यकालन एल्गोरिथ्म का प्रभाव आम तौर पर कठिन होता है।

इसके अलावा, श्रमिक कभी-कभी खुद को एक बंद दरवाजे के सामने पा सकते हैं। इस प्रकृति की अन्य छोटी समस्याएं असुविधा और देरी का कारण बन सकती हैं। निम्नलिखित शर्तों को पूरा करने की सलाह दी जाती है: किसी दिए गए भवन में लोगों की संख्या कभी भी इसकी क्षमता से अधिक नहीं होती है, कर्मचारियों की गति असीमित होती है, कोई भी कार्रवाई नहीं की जाती है जो मुख्य कार्य से संबंधित नहीं होती हैं, और कोई भी बाहरी व्यक्ति कार्य प्रक्रिया में नहीं आता है। कंप्यूटर के संदर्भ में, इसका मतलब है कि थ्रेड्स की संख्या उपलब्ध कोर की संख्या से अधिक नहीं है, प्लेटफ़ॉर्म अधिकतम आवृत्ति / प्रदर्शन के लिए कॉन्फ़िगर किया गया है, अर्थव्यवस्था मोड बंद हैं, टर्बो मोड चालू है, और ऑपरेटिंग सिस्टम और अन्य अनुप्रयोगों के कर्नेल को अलग किया जाता है और (लगभग) ट्रेडिंग प्लेटफॉर्म को प्रभावित नहीं करता है।

अब कार्यालय में स्थितियों को और भी ध्यान से देखने का समय है। क्या दरवाजे आसानी से खुलते हैं? क्या मंजिल फिसल रही है? यह ऑपरेटिंग सिस्टम के साथ बातचीत का विश्लेषण करने के समान है। यदि सुधार करने के लिए कुछ भी नहीं है, तो आप कुछ भागों के उपयोग से बचने की कोशिश कर सकते हैं। उदाहरण के लिए, कार्यालय के माध्यम से पत्र पहुंचाने के बजाय, उन्हें खिड़की से खिड़की पर फेंकने की कोशिश क्यों नहीं की जाती है? आप असहज कहते हैं? यह असहज हो सकता है, लेकिन जल्दी से। यह नेटवर्क स्टैक में कर्नेल बायपास दृष्टिकोण का उपयोग करने के समान है।

ऑपरेटिंग सिस्टम के नेटवर्क स्टैक का उपयोग करने के बजाय, कर्नेल बाईपास उपयोगकर्ता अंतरिक्ष में नेटवर्क स्टैक को निष्पादित करता है। यह सिस्टम और उपयोगकर्ता स्टैक के बीच अनावश्यक डेटा कॉपी से छुटकारा पाने में मदद करता है और संदेश प्राप्त करने वाली स्ट्रीम के निष्पादन में देरी होती है। कर्नेल बायपास में, प्राप्त स्ट्रीम आमतौर पर सक्रिय रूप से इंतजार करती है। वह ऑपरेटिंग सिस्टम के लॉक पर नहीं बैठता है, लेकिन लगातार लॉक वैरिएबल की जांच करता है जब तक कि वह उसे निष्पादित करने की अनुमति नहीं देता।

वास्तव में, अगर हमने संदेशों को खिड़कियों के माध्यम से फेंकना शुरू कर दिया है, तो इसे कुशलतापूर्वक करें। सबसे विश्वसनीय विकल्प हाथ से हाथ तक खिड़की से गुजरना है। इस सिद्धांत का उपयोग टीसीपी प्रोटोकॉल में किया जाता है। यह सबसे तेज विकल्प नहीं है। यूडीपी आपको केवल पावती के बिना एक संदेश छोड़ने की अनुमति देता है। यह तेज है। किसी को प्रतीक्षा करने की आवश्यकता नहीं है। सोचें कि यह सीमा क्या है? नहीं, आप अभी भी खिड़की के माध्यम से फेंकना सीख सकते हैं ताकि पत्र वांछित तालिका पर और वांछित फ़ोल्डर में सीधे गिर जाए। इस दृष्टिकोण को रिमोट डायरेक्ट मेमोरी एक्सेस (आरडीएमए) कहा जाता है। मुझे लगता है कि हमने सेकंड के प्रसंस्करण समय को घटाकर 35 कर दिया है।

या हो सकता है कि हमारी जरूरत के लिए मौजूदा को एडाप्ट करने के बजाय स्क्रैच से ऑफिस बनाएं? ऐसी जो काम करने की आदर्श स्थिति प्रदान करती है। शायद यह सेकंड के रेस्पॉन्स टाइम को 20 या इससे भी कम कर देगा। स्वयं के कार्यालय का डिज़ाइन फील्ड प्रोग्रामेबल गेट ऐरे (FPGA) का उपयोग है। FPGA एक प्रोसेसर की तरह कुछ है जिसका हार्डवेयर एक विशिष्ट समस्या को हल करने के लिए प्रोग्राम किया गया है। एक नियमित प्रोसेसर कुछ डेटा प्रकारों पर निर्देशों के एक विशिष्ट सेट को निष्पादित करने के लिए एन्कोडेड है और निष्पादन थ्रेड (एप्लिकेशन थ्रेड के साथ भ्रमित नहीं होना) भी तय है। प्रोसेसर के विपरीत, FPGAs निर्देश, डेटा प्रकार और निष्पादन प्रवाह के एक सेट के लिए पूर्व-क्रमबद्ध नहीं हैं। उन्हें एक विशिष्ट कार्य के लिए प्रोग्राम किया जाता है और इस राज्य में केवल इसे निष्पादित करने में सक्षम हैं (बाद के रिप्रोग्रामिंग तक)। प्रभावी FPGA प्रोग्रामिंग एक आसान काम नहीं है। कार्यक्रम में बदलाव करने के लिए भी बहुत प्रयास करने की आवश्यकता हो सकती है। हालांकि FPGA का तात्पर्य उसैन बोल्ट को लगाना नहीं है (फ्रीक्वेंसी प्रोसेसर वालों की तुलना में बहुत कम है), लेकिन निर्देश निष्पादन की असीमित समानता प्रोसेसर पर कम संदेश प्रसंस्करण समय को प्राप्त करने की अनुमति देती है।

खैर, निष्कर्ष में, मैं सॉफ्टवेयर के लिए प्रदर्शन विश्लेषण उपकरणों की सिफारिश करूंगा। इंटेल VTuneTM एम्पलीफायर और इंटेल प्रोसेसर ट्रेस तकनीक आपको विस्तार से देखने में मदद करती है कि सीपीयू का समय कहाँ और क्यों बर्बाद होता है।

यदि आप विषय में रुचि रखते हैं, तो आप इंटेल डेवलपर ज़ोन (अंग्रेजी में) पर मेरे लेख पढ़ सकते हैं, जो प्रतिक्रिया समय के अनुकूलन पर व्यावहारिक तकनीकी सुझाव भी प्रदान करता है।

• https://software.intel.com/en-us/articles/optimizing-computer-applications-for-latency-part-1-configuring-the-hardware
• https://software.intel.com/en-us/articles/optimizing-computer-applications-for-latency-part-2-tuning-applications