कैवियम थंडरएक्स 2 मूल्यांकन: आर्म सर्वर ड्रीम सच आता है (भाग 3)

पहला और दूसरा भाग, "कैवियम थंडरएक्स 2 मूल्यांकन: आर्म सर्वर ड्रीम इज़ ट्रू"।

जावा प्रदर्शन

Specjbb 2015 एक जावा बिजनेस बेंचमार्क बेंचमार्क है जिसका उपयोग विशिष्ट जावा एप्लिकेशन चलाने वाले सर्वरों के प्रदर्शन का मूल्यांकन करने के लिए किया जाता है। यह सुरक्षा के साथ खिलवाड़ करते हुए नवीनतम जावा 7 और एक्सएमएल सुविधाओं का उपयोग करता है।



कृपया ध्यान दें कि हमने Specjbb 1.0 के संस्करण को संस्करण 1.01 में अद्यतन किया है।



हमने लेन-देन इंजेक्टर और बैकेंड के चार समूहों के साथ स्पेसजब का परीक्षण किया। मल्टी जेवीएम टेस्ट का उपयोग करने का कारण यह है कि यह वास्तविक परिस्थितियों के करीब है: सर्वर पर कई वर्चुअल मशीनें एक आम बात है, विशेष रूप से 100 से अधिक थ्रेड वाले सर्वर पर। जावा संस्करण OpenJDK 1.8.0_161 है।

जब भी हम Specjbb के परिणाम प्रकाशित करते हैं, तो हमें टिप्पणी मिलती है कि हमारा प्रदर्शन बहुत कम है। इसलिए, हमने थोड़ा और समय बिताने और विभिन्न सेटिंग्स पर ध्यान देने का फैसला किया।

1. कर्नेल सेटिंग्स, जैसे कार्य अनुसूचक समय, पृष्ठ कैश को साफ़ करना
2. ऊर्जा-बचत सुविधाओं को अक्षम करना, मैन्युअल रूप से सी-स्टेट व्यवहार को कॉन्फ़िगर करना।
3. प्रशंसकों को अधिकतम गति पर सेट करना (हम कुछ अतिरिक्त प्रदर्शन बिंदुओं के पक्ष में बहुत अधिक ऊर्जा खर्च करते हैं)
4. RAS फ़ंक्शंस अक्षम करना (उदा। मेमोरी स्‍क्रब)
5. विभिन्न जावा मापदंडों के लिए कई सेटिंग्स ... यह अवास्तविक है, क्योंकि हर बार जब आप विभिन्न मशीनों पर एप्लिकेशन चलाते हैं (जो अक्सर क्लाउड में होता है), महंगे विशेषज्ञों को एक विशिष्ट मशीन के लिए सेटिंग्स को कॉन्फ़िगर करना होगा, जो इसके अलावा, अन्य मशीनों के लिए आवेदन को रोक सकता है।
6. बहुत SKU- विशिष्ट NUMA सेटिंग्स और CPU मैपिंग कॉन्फ़िगर करें। एक ही क्लस्टर में दो अलग-अलग SKU के बीच माइग्रेट करने से गंभीर प्रदर्शन समस्याएं हो सकती हैं।

उत्पादन के माहौल में, सेटिंग सरल होनी चाहिए और, अधिमानतः, मशीन के लिए भी विशिष्ट नहीं है। इस उद्देश्य के लिए, हमने दो प्रकार की सेटिंग्स लागू कीं। 128 जीबी रैम वाले सर्वर पर सब कुछ रखने के लिए बॉक्स के बाहर प्रदर्शन को मापने के लिए पहला एक बहुत ही सरल सेटअप है:

"-server -Xmx24G -Xms24G -Xmn16G"

दूसरे सेटअप के लिए, सर्वश्रेष्ठ थ्रूपुट संकेतक की तलाश में, हमने "-XX: + AlwaysPreTouch", "-XX: -UseBiasedLocking" और "specjbb.forkjoin.workers" के साथ खेला। "ऑलवेज़प्राच" शुरू करने से पहले मेमोरी के सभी पृष्ठों को रीसेट करता है, जो नए पृष्ठों पर प्रदर्शन के प्रभाव को कम करता है। "-UseBiasedLockin" baised लॉकिंग को निष्क्रिय करता है, जो डिफ़ॉल्ट रूप से सक्षम है। बायस्ड लॉकिंग एक थ्रेड को प्राथमिकता देता है जो पहले से ही संचित डेटा को कैश में लोड करता है। बायस्ड लॉकिंग का रिवर्स साइड काफी जटिल अतिरिक्त प्रक्रियाएं (रेबीज) हैं जो गलत तरीके से चुनी गई रणनीति के मामले में प्रदर्शन को कम कर सकती हैं।

नीचे दिया गया ग्राफ़ हमारे MultiJVM SPECJbb बेंचमार्क के लिए अधिकतम प्रदर्शन दिखाता है।



थंडरएक्स 2 Xeon 8176 के 80 से 85% से प्रदर्शन प्राप्त करता है। यह आंकड़ा Xeon 6148 को पार करने के लिए पर्याप्त है। दिलचस्प बात यह है कि इंटेल और कैवियम सिस्टम विभिन्न तरीकों से अपने सर्वोत्तम परिणाम प्राप्त करते हैं। दोहरी थंडरएक्स 2 के मामले में, हमने उपयोग किया:

'-server -Xmx24G -Xms24G -Xmn16G -XX:+AlwaysPreTouch -XX:-UseBiasedLocking

जबकि ऑफसेट लॉक (डिफ़ॉल्ट) को छोड़ते हुए इंटेल सिस्टम ने सबसे अच्छा प्रदर्शन हासिल किया। हमने देखा कि इंटेल सिस्टम - शायद थ्रेड्स की अपेक्षाकृत "विषम" संख्या के कारण - इसमें थोड़ा कम औसत प्रोसेसर लोड (कुछ प्रतिशत) और एक बड़ा L3 कैश है, जो इस वास्तुकला के लिए एक अच्छी रणनीति को पक्षपाती बनाता है।

अंत में, हमारे पास क्रिटिकल-जेओपीएस है, जो प्रतिक्रिया समय सीमा के माध्यम से थ्रूपुट को मापता है।



बड़ी संख्या में थ्रेड्स के सक्रिय उपयोग के साथ, आप जेवीएम पर रैम के वितरण को बढ़ाकर काफी महत्वपूर्ण-जेओपीएस प्राप्त कर सकते हैं। आश्चर्यजनक रूप से, दोहरी थंडरएक्स 2 प्रणाली - इसकी उच्च संख्या में धाराएं और कम घड़ी की गति के साथ - सबसे अच्छा समय दिखाता है, उच्च बैंडविड्थ प्रदान करता है, जबकि एक निश्चित सीमा तक 99 प्रतिशत प्रतिक्रिया समय बनाए रखता है।

हीप का आकार बढ़ाने से इंटेल को अंतर (x2 तक) को थोड़ा बंद करने में मदद मिलती है, लेकिन बैंडविड्थ (-20% से -25% तक) की कीमत पर। ऐसा लगता है कि एआरएम की तुलना में इंटेल चिप को अधिक अनुकूलन की आवश्यकता है। इसे और जानने के लिए, हमने ट्रांसपेरेंट विशाल पृष्ठ (THP) की ओर रुख किया।

जावा प्रदर्शन: बड़े पृष्ठ

आमतौर पर सीपीयू के लिए, कोई व्यक्ति शायद ही कभी कारक 3 में किसी अन्य को दोहराता है, लेकिन हमने मामले की गहराई से जांच करने का फैसला किया। सबसे स्पष्ट उम्मीदवार विशाल पृष्ठ था, या लिनक्स समुदाय को छोड़कर हर कोई इसे "बड़े पृष्ठ" कहता है।

प्रत्येक आधुनिक प्रोसेसर अपने टीएलबी में आभासी और भौतिक मेमोरी मैपिंग को कैश करता है। "सामान्य" पृष्ठ का आकार 4 KB है, इसलिए 1536 तत्वों के साथ स्काइलेक कोर 6 एमबी प्रति कोर को कैश कर सकता है। पिछले 15 वर्षों में, DRAM क्षमता कुछ GB से बढ़कर सैकड़ों GB हो गई है, और इसलिए TLB की याद एक चिंता का विषय बन गई है। एक टीएलबी मिस काफी महंगा है - आपको कुछ टेबल पढ़ने के लिए कुछ मेमोरी एक्सेस की आवश्यकता होती है और अंत में एक भौतिक पता मिलता है।

सभी आधुनिक प्रोसेसर बड़े पृष्ठों का समर्थन करते हैं। X86-64 (इंटेल और एएमडी) में, एक लोकप्रिय विकल्प 2 एमबी है, 1 जीबी पेज भी उपलब्ध है। इस बीच, थंडरएक्स 2 पर एक बड़ा पेज कम से कम 0.5 जीबी है। बड़े पृष्ठों का उपयोग टीएलबी मिसेज की संख्या को कम करता है (हालांकि टीएलबी में प्रविष्टियों की संख्या आमतौर पर बड़े पृष्ठों के लिए बहुत कम होती है), टीएलबी को याद करते समय आवश्यक मेमोरी एक्सेस की संख्या को कम कर देता है।

हालाँकि, यह समय था जब लिनक्स इस सुविधा का सुविधाजनक तरीके से समर्थन करता था। स्मृति विखंडन, परस्पर विरोधी और सेटिंग, असंगतता को कॉन्फ़िगर करना मुश्किल है, और विशेष रूप से बहुत भ्रमित करने वाले नामों ने बहुत सारी समस्याएं पैदा कीं। वास्तव में, कई सॉफ्टवेयर विक्रेता अभी भी सर्वर प्रशासकों को बड़े पृष्ठ बंद करने की सलाह देते हैं।

इसके लिए, आइए देखें कि यदि हम ट्रांसपेरेंट विशाल पृष्ठ को चालू करते हैं और पहले से चर्चा की गई सर्वोत्तम सेटिंग्स को सहेजते हैं तो क्या होता है।



कुल मिलाकर, मैक्स-जॉप्स के लिए, प्रदर्शन प्रभाव शानदार नहीं है; यह वास्तव में एक छोटा सा प्रतिगमन है। Xeon अपनी बैंडविड्थ का लगभग 1%, ThunderX2 - लगभग 5% खो देता है।

चलो क्रिटिकल-जेओपीएस मीट्रिक पर चलते हैं, जहां थ्रूपुट को प्रतिक्रिया समय सीमा के 99 वें प्रतिशत के रूप में मापा जाता है।



बहुत बड़ा अंतर! हार के बजाय, इंटेल थंडरएक्स 2 से आगे निकल जाता है। हालांकि, यह कहा जाना चाहिए कि 4 KB पृष्ठों के साथ प्रदर्शन स्पष्ट रूप से इंटेल वास्तुकला में एक गंभीर कमजोरी है।

अपाचे स्पार्क 2.x बेंचमार्किंग

अंतिम लेकिन कम से कम, हमारे शस्त्रागार में अपाचे स्पार्क परीक्षण नहीं है। अपाचे स्पार्क बिग डेटा प्रोसेसिंग की दिमाग की उपज है। बिग डेटा अनुप्रयोगों को गति देना विश्वविद्यालय की प्रयोगशाला में एक प्राथमिकता परियोजना है, जहां मैं काम करता हूं (नौकरशाही का आकार घटाने लैब लैबोरेटरी ऑफ वेस्ट-फ़्लैंडर्स), इसलिए हमने एक बेंचमार्क तैयार किया है जो कई स्पार्क सुविधाओं का उपयोग करता है और वास्तविक दुनिया के उपयोग पर आधारित है।



परीक्षण ऊपर चित्र में वर्णित है। हम कॉमनक्रॉवल से एकत्र किए गए 300 जीबी संकुचित डेटा के साथ शुरू करते हैं। ये संपीड़ित फाइलें बड़ी संख्या में वेब अभिलेखागार हैं। हम लंबे इंतजार से बचने के लिए फ्लाई पर डेटा को अनज़िप करते हैं, जो मुख्य रूप से स्टोरेज डिवाइस से संबंधित है। फिर हम जावा बायलरपाइप लाइब्रेरी का उपयोग करके अभिलेखागार से सार्थक पाठ डेटा निकालते हैं। स्टैनफोर्ड कोरएनएलपी नैचुरल लैंग्वेज प्रोसेसिंग टूल का उपयोग करते हुए, हम टेक्स्ट से इकाइयाँ ("शब्द जो कुछ अर्थ रखते हैं") निकालते हैं और फिर गणना करते हैं कि इन वस्तुओं में सबसे अधिक URL कौन-सी हैं। अल्टरनेटिंग लेटेस्ट स्क्वायर एल्गोरिदम का उपयोग यह अनुशंसा करने के लिए किया जाता है कि कौन से URL किसी विशेष विषय के लिए सबसे दिलचस्प हैं।

बेहतर स्केलिंग हासिल करने के लिए, हमने 4 कलाकारों को लॉन्च किया। शोधकर्ता एस्ले हवेनेर्ट ने स्पार्क परीक्षण को फिर से जोड़ दिया ताकि यह अपाचे स्पार्क 2.1.1 पर चल सके।



यहाँ परिणाम हैं:



(*) EPYC और Xeon E5 V4 पुराने हैं, कर्नेल 4.8 और थोड़े पुराने Java 1.8.0_131 पर 1.8.0_161 के बजाय काम करें। यद्यपि हम उम्मीद करते हैं कि परिणाम 4.13 कर्नेल और जावा 1.8.0_161 पर बहुत समान होंगे, क्योंकि हमने इन दो सेटिंग्स के बीच स्काईलेक एक्सोन में बहुत अंतर नहीं देखा।

डेटा प्रोसेसिंग बहुत समानांतर है और बहुत तीव्रता से प्रोसेसर को लोड करता है, लेकिन "फेरबदल" के चरणों के लिए मेमोरी के साथ बहुत अधिक सहभागिता की आवश्यकता होती है। भंडारण उपकरण के साथ संचार करने में लगने वाला समय नगण्य है। एएलएस चरण कई थ्रेड्स में पैमाने पर नहीं होता है, लेकिन कुल परीक्षण समय के 4% से कम है।

थंडरएक्स 2 महंगी ईपीवाईसी 7601 के रूप में दो बार के प्रदर्शन का 87% प्रदान करता है। चूंकि यह संकेतक कोर की संख्या के साथ अच्छी तरह से पैमाने पर है, हम अनुमान लगा सकते हैं कि एक्सियन 6148 4.8 के बारे में स्कोर करेगा। अपाचे स्पार्क पर इस प्रकार, जबकि थंडरएक्स 2 वास्तव में एक्सोन प्लेटिनम 8176 को धमकी नहीं दे सकता है, यह गोल्ड 6148 और उसके भाई को बहुत कम पैसे के लिए एक ही चीज देता है।

और अंत में क्या

सब कुछ संक्षेप में प्रस्तुत करने के लिए, हमारे विशेष परीक्षण से पता चलता है कि थंडरएक्स 2 कोर में अभी भी कुछ खामियां हैं। हमारी पहली नकारात्मक धारणा यह है कि गहन शाखा कोड - विशेष रूप से सामान्य L3 कैश मिस (उच्च DRAM देरी) के साथ संयोजन में - बल्कि धीरे-धीरे। इस प्रकार, ऐसे विशेष मामले होंगे जब थंडरएक्स 2 सबसे अच्छा विकल्प नहीं है।

हालांकि, कुछ आला बाजारों के अलावा, हमें पूरा यकीन है कि थंडरएक्स 2 एक ठोस प्रदर्शनकर्ता बन जाएगा। उदाहरण के लिए, ब्रिस्टल विश्वविद्यालय में हमारे सहयोगियों द्वारा किए गए प्रदर्शन माप हमारी धारणा की पुष्टि करते हैं कि ओपनफ़ोम (CFD) और NAMD.run जैसे तीव्र एचपीसी कार्यभार थंडरएक्स 2 पर अच्छी तरह से काम करते हैं



सर्वर सॉफ़्टवेयर के शुरुआती परीक्षण के परिणामों के आधार पर जो हम करने में कामयाब रहे, हम सुखद आश्चर्यचकित हो सकते हैं। जावा सर्वर (SpecJbb) और बड़े डेटा प्रोसेसिंग दोनों पर एक डॉलर के लिए थंडरएक्स 2 का प्रदर्शन - अब तक - सर्वर बाजार पर सबसे अच्छा है। हमें AMD EPYC प्रोसेसर और वर्तमान पीढ़ी (Skylake) Xeon के स्वर्ण संस्करण का फिर से परीक्षण करना होगा, लेकिन एक ही समय में इसकी एक तिमाही के लिए 8176 प्रोसेसर के प्रदर्शन का 80-90% प्रदर्शन को हरा पाना बहुत मुश्किल होगा।

कैवियम और थंडरएक्स 2 को अतिरिक्त लाभ के रूप में, यह उल्लेख किया जाना चाहिए कि आर्म लिनक्स पारिस्थितिकी तंत्र 2018 में पहले से ही परिपक्व है; विशेष लिनक्स कर्नेल और अन्य उपकरणों की अब आवश्यकता नहीं है। आप बस Ubuntu, Red Hat या Suse सर्वर स्थापित करते हैं, और आप मानक रिपॉजिटरी से सॉफ्टवेयर की तैनाती और स्थापना को स्वचालित कर सकते हैं। यह एक महत्वपूर्ण सुधार है जो हमने अनुभव किया जब थंडरएक्स को लॉन्च किया गया था। 2016 में वापस, नियमित उबंटू रिपॉजिटरी से एक साधारण स्थापना समस्या पैदा कर सकती है।

तो, कुल मिलाकर, थंडरएक्स 2 एक बहुत शक्तिशाली प्रतिद्वंद्वी है। यह ईपीवाईसी एएमडी के लिए इंटेल के स्काईलेक एक्सोन की तुलना में अधिक खतरनाक हो सकता है क्योंकि इस तथ्य के कारण कि कैवियम और एएमडी दोनों ग्राहकों के एक ही समूह के लिए प्रतिस्पर्धा कर रहे हैं, इंटेल को छोड़ने की संभावना को देखते हुए। यह इस तथ्य के कारण है कि जो ग्राहक महंगे कॉर्पोरेट सॉफ़्टवेयर (ओरेकल, एसएपी) में निवेश करते हैं, वे हार्डवेयर पक्ष पर कम संवेदनशील होते हैं, इसलिए उनके नए हार्डवेयर प्लेटफ़ॉर्म पर स्विच करने की संभावना बहुत कम होती है। और इन लोगों ने पिछले 5 वर्षों में इंटेल में निवेश किया है, क्योंकि यह एकमात्र विकल्प था।

यह बदले में, इसका मतलब है कि जो अधिक लचीला और मूल्य-संवेदनशील हैं, जैसे कि होस्टिंग और क्लाउड प्रदाता, अब एक उत्कृष्ट प्रदर्शन-से-डॉलर अनुपात के साथ एक वैकल्पिक आर्म सर्वर का चयन करने में सक्षम होंगे। और HP, क्रे, पेंग्युन, गीगाबाइट, फॉक्सकॉन और इन्वेंटेक थंडरएक्स 2 आधारित प्रणालियों की पेशकश के साथ, गुणवत्ता आपूर्तिकर्ताओं की कमी नहीं है।

संक्षेप में, थंडरएक्स 2 सीपीयू सर्वर बाजार में इंटेल और एएमडी के साथ प्रतिस्पर्धा करने वाला पहला एसओसी है। और यह एक सुखद आश्चर्य है: आखिरकार, आर्म सर्वर के लिए एक समाधान दिखाई दिया है!

हमारे साथ बने रहने के लिए धन्यवाद। क्या आप हमारे लेख पसंद करते हैं? अधिक दिलचस्प सामग्री देखना चाहते हैं? एक आदेश देकर या अपने मित्रों को इसकी अनुशंसा करके हमें समर्थन दें, एंट्री-लेवल सर्वरों के अनूठे एनालॉग पर हैबर उपयोगकर्ताओं के लिए 30% छूट जो हमने आपके लिए ईजाद की है: VPS (KVM) E5-2650 v4 (6 करोड़) 10GB DDR4 240GB SSD 1Gbps से पूरा सच $ 20 या सर्वर को कैसे विभाजित करें? (विकल्प RAID1 और RAID10 के साथ उपलब्ध हैं, 24 कोर तक और 40GB DDR4 तक)।

डेल R730xd 2 बार सस्ता? केवल हमारे पास 2 x Intel Dodeca-Core Xeon E5-2650v4 128GB DDR4 6x480GB SSD 1Gbps 100 टीवी 249 डॉलर में नीदरलैंड और यूएसए से है! इन्फ्रास्ट्रक्चर Bldg का निर्माण कैसे करें के बारे में पढ़ें । एक पैसा के लिए 9,000 यूरो की लागत डेल R730xd E5-2650 v4 सर्वर का उपयोग कर वर्ग?