🗿 🥊 👨🏽‍⚖️ NFT बनाम Nginx के साथ प्रत्यक्ष रूटिंग और संतुलन 🤸🏼 🚍 💧

अत्यधिक लोड किए गए नेटवर्क अनुप्रयोगों को विकसित करते समय, लोड संतुलन की आवश्यकता होती है।

एक लोकप्रिय L7 संतुलन उपकरण Nginx है। यह आपको जवाबों को कैश करने, विभिन्न रणनीतियों को चुनने और यहां तक कि LUA पर स्क्रिप्ट की अनुमति देता है।

Nginx के सभी आकर्षण के बावजूद, यदि:

HTTP (एस) के साथ काम करने की कोई आवश्यकता नहीं है।
आपको नेटवर्क से अधिकतम निकालने की आवश्यकता है।
कुछ भी कैश करने की आवश्यकता नहीं है - बैलेंसर में डायनामिक्स के साथ स्वच्छ एपीआई सर्वर हैं।

सवाल उठ सकता है: आपको नग्नेक्स की आवश्यकता क्यों है? L7 पर संतुलन साधने वाले संसाधन क्यों खर्च करते हैं, क्या केवल SYN पैकेट को आगे बढ़ाना आसान नहीं है? (L4 डायरेक्ट रूटिंग)।

परत 4 संतुलन या पुरातनता में संतुलन कैसे करें

एक लोकप्रिय पैकेट अग्रेषण उपकरण IPVS था। उन्होंने सुरंग और डायरेक्ट रूटिंग के माध्यम से संतुलन साधने का काम किया।

पहले मामले में, प्रत्येक कनेक्शन के लिए एक टीसीपी चैनल स्थापित किया गया था और उपयोगकर्ता से पैकेट बैलेंसर, फिर मिनियन और फिर रिवर्स ऑर्डर में चला गया।

इस योजना में, मुख्य समस्या दिखाई देती है: विपरीत दिशा में, डेटा पहले बैलेंसर के पास जाता है, और फिर उपयोगकर्ता के लिए (निग्नेक्स उसी तरह काम करता है)। अनावश्यक कार्य किया जाता है, इस तथ्य को देखते हुए कि आमतौर पर उपयोगकर्ता को अधिक डेटा भेजा जाता है, इस व्यवहार से कुछ प्रदर्शन हानि होती है।

इस तरह के एक नुकसान से वंचित किया जाता है (लेकिन नए के साथ संपन्न) प्रत्यक्ष रूटिंग नामक एक संतुलन की विधि। योजनाबद्ध रूप से, यह इस तरह दिखता है:

डायरेक्ट रूटिंग के मामले में, वापसी पैकेट सीधे उपयोगकर्ता के पास जाते हैं, बैलेंसर को दरकिनार करते हुए। जाहिर है, बैलेंसर संसाधनों और नेटवर्क दोनों को बचाया जाता है। नेटवर्क संसाधनों को सहेजने से, यह ट्रैफ़िक को बचाने के लिए इतना अधिक नहीं है, क्योंकि सामान्य अभ्यास सर्वरों को एक अलग ग्रिड से जोड़ना है और ट्रैफ़िक को ध्यान में नहीं रखना है, लेकिन इस तथ्य को भी कि बैलेंसर के माध्यम से स्थानांतरित करना मिलीसेकंड का नुकसान है।

यह विधि कुछ प्रतिबंध लगाती है:

डेटा केंद्र जहां अवसंरचना स्थित है, उसे स्थानीय पते खराब करने की अनुमति देनी चाहिए। ऊपर दिए गए आरेख में, प्रत्येक मिनियन को IP 10.10.0.1 की ओर से पैकेट वापस भेजना चाहिए, जिसे बैलेंसर को सौंपा गया है।
बैलेंसर को मीनारों की स्थिति के बारे में कुछ नहीं पता है। नतीजतन, लिस्ट कॉन और लिस्ट टाइम रणनीतियों बॉक्स से बाहर संभव नहीं हैं। निम्नलिखित लेखों में से एक में मैं उन्हें लागू करने और परिणाम दिखाने की कोशिश करूंगा।

यहाँ NFTables आता है

कुछ साल पहले, लिनक्स ने IPTables, ArpTables, EBTables और बाकी सभी [az] {1,} टेबल्स के प्रतिस्थापन के रूप में NFTables को सक्रिय रूप से बढ़ावा देना शुरू किया। उस समय जब हमें Adram में नेटवर्क से उत्तर के प्रत्येक मिलीसेकंड को निचोड़ने की आवश्यकता थी, मैंने चेकर को खोजने और खोज करने का निर्णय लिया - या शायद ipTables ने iphash अग्रेषण करना सीखा है और आप इसे संतुलित करने के लिए इसे गति दे सकते हैं। तब मैं nftables पर ठोकर खाई, जो न केवल और न ही, लेकिन iptables अभी भी ऐसा नहीं कर सकता है।
कई दिनों के परीक्षण के बाद, मैं आखिरकार टेस्ट लैब में NFTables के माध्यम से डायरेक्ट रूटिंग और चैनल रूटिंग प्राप्त करने में सक्षम था और नग्नेक्स की तुलना में उन्हें बेंचमार्क भी करता था।

तो, परीक्षण प्रयोगशाला। हमारे पास 5 कारें हैं:

एनएफटी-राउटर - एक राउटर जो क्लाइंट और अप्पसेवर सबनेट को जोड़ने का कार्य करता है। इसके 2 नेटवर्क कार्ड हैं: 192.168.56.254 - ऐप सर्वर के नेटवर्क को देखता है, 192.168.97.254 - क्लाइंट्स को देखता है। Ip_forward सक्षम है और सभी मार्ग पंजीकृत हैं।
nft-client: क्लाइंट जिसमें से ab, ip 192.168.97.2 पीछा किया जाएगा
nft-balancer: बैलेंसर। इसमें दो IP हैं: 192.168.56.4, जो क्लाइंट एक्सेस करते हैं और 192.168.13.1, मिनियन सबनेट से।
nft-minion-a और nft-minion-b: minions ipy: 192.168.56.2, 192.168.56.3 और 192.168.13.2 और 192.168.13.3 (मैंने एक ही नेटवर्क के माध्यम से और विभिन्न लोगों के माध्यम से संतुलन बनाने की कोशिश की)। परीक्षणों में, मैंने इस तथ्य पर रोक लगा दी कि 192.168.56.0/24 सबनेट में minions के "बाहरी" प्रकार हैं।

सभी एमटीयू 1500 इंटरफेस।

प्रत्यक्ष मार्ग

बैलेंसर पर NFTables सेटिंग:

table ip raw { chain input { type filter hook prerouting priority -300; policy accept; tcp dport http ip daddr set jhash tcp sport mod 2 map { 0: 192.168.56.2, 1: 192.168.56.3 } } }

-300 की प्राथमिकता के साथ, हुक पर एक कच्ची श्रृंखला बनाई जाती है।

यदि http का कोई गंतव्य पता वाला पैकेट आता है, तो स्रोत पोर्ट (एक मशीन से परीक्षण के लिए, आपको वास्तव में ip saddr की आवश्यकता होती है) पर निर्भर करता है, या तो 56.2 या 56.3 को चुना जाता है और पैकेट में गंतव्य पते के रूप में सेट किया जाता है, और फिर मार्गों के साथ आगे भेजा जाता है। मोटे तौर पर, 56.2 बंदरगाहों के लिए, विषम बंदरगाहों के लिए, क्रमशः 56.3 (वास्तव में, नहीं, क्योंकि / विषम हैश के लिए, लेकिन यह वास्तव में इसे समझना आसान है)। लक्ष्य IP सेट करने के बाद, पैकेट वापस नेटवर्क पर जाता है। कोई NAT नहीं होता है, पैकेज क्लाइंट के स्रोत आईपी के साथ मिनियंस के लिए आता है, न कि बैलेंसर के लिए, जो डायरेक्ट रूटिंग के लिए महत्वपूर्ण है।

मिनियन एनएफटी सेटिंग्स:

 table ip raw { chain output { type filter hook output priority -300; policy accept; tcp sport http ip saddr set 192.168.56.4 } }

-300 की प्राथमिकता के साथ एक कच्चा आउटपुट हुक बनाया जाता है (प्राथमिकता यहां बहुत महत्वपूर्ण है, उच्च स्तर पर आवश्यक पैकेट उत्तर पैकेट के लिए काम नहीं करेगा)।

Http पोर्ट से सभी आउटगोइंग ट्रैफ़िक को 56.4 (आईपी बैलेंसर) द्वारा हस्ताक्षरित किया जाता है और ग्राहक को सीधे बैलेंसर को दरकिनार कर भेजा जाता है।

यह जांचने के लिए कि क्या सब कुछ सही ढंग से काम करेगा, मैंने क्लाइंट को दूसरे नेटवर्क पर लाया और इसे राउटर के माध्यम से जाने दिया।

मैंने arp_filter, rp_filter (ताकि काम बिगाड़ने वाला) को अक्षम कर दिया और ip_forward को बैलेंसर और राउटर दोनों पर सक्षम किया।

बेंच के लिए, एनएफटी के मामले में, प्रत्येक मिनियन पर एक यूनिक्स सॉकेट के माध्यम से नगनेक्स + php7.2-FPM का उपयोग किया जाता है। बालगीत पर कुछ नहीं था।

निग्नेक्स के मामले में, हमने उपयोग किया: बाल्कन पर नग्नेक्स और टकसालों पर टीसीपी से अधिक php7.2-FPM। परिणामस्वरूप, मैंने वेब सर्वर को बैलेंसर के पीछे संतुलित नहीं किया, लेकिन तुरंत एफपीएम (जो नगीनेक्स के साथ अधिक ईमानदार होगा, और वास्तविक जीवन के साथ अधिक सुसंगत होगा)।

एनएफटी के लिए, केवल हैश रणनीति का उपयोग किया गया था (तालिका में एनएफटी ड्रिंक ), नगीनक्स के लिए: हैश ( एनएक्सएक्स ईक्यू ) और कम से कम कॉन ( एनएक्सएक्स एलसी )

कई परीक्षण किए गए हैं।

छोटी त्वरित लिपि (छोटी) ।
```
 <?php system('hostname'); 
```
एक यादृच्छिक देरी (रैंड) के साथ स्क्रिप्ट।
```
 <?php usleep(mt_rand(100000,200000)); echo "ok"; 
```
बड़ी मात्रा में डेटा (आकार) भेजने वाली स्क्रिप्ट।
```
 <?php $size=$_GET['size']; $file='/tmp/'.$size; if (!file_exists($file)) { $dummy=""; exec ("dd if=/dev/urandom of=$file bs=$size count=1 2>&1",$dummy); } fpassthru (fopen($file,'rb')); 
```
निम्नलिखित आकारों का उपयोग किया गया था:
512.1440.1460.1480.1500.2048.65535.655350 बाइट्स।
परीक्षणों से पहले, मैंने प्रत्येक मिनियन पर स्टैटिक्स फ़ाइलों को गर्म किया।

प्रत्येक परीक्षा में अब तीन बार परीक्षण किया गया:

 #!/bin/bash function do_test() { rep=$3 for i in $(seq $rep) do echo "testing $2 # $i" echo "$2 pass $i" >> $2 ab $1 >> $2 echo "--------------------------" >> $2 done } do_test " -n 5000 -c 100 http://192.168.56.4:80/rand.php" "ngx_eq_test_rand" 3 do_test " -n 10000 -c 100 http://192.168.56.4:80/" "ngx_eq_test_small" 3 size=512 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3 size=1440 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3 size=1460 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3 size=1480 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3 size=1500 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3 size=2048 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3 size=65535 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3 size=655350 do_test " -n 10000 -c 100 http://192.168.56.4:80/size.php?size=$size" "ngx_eq_test_size_$size" 3

प्रारंभ में, मैंने परीक्षण समय, मिलीसेकंड और बाकी लाने की योजना बनाई, जिसके परिणामस्वरूप मैं आरपीएस पर बस गया - वे समय संकेतक के साथ प्रतिनिधि और सहसंबंधी हैं।

निम्नलिखित परिणाम मिले:

आकार परीक्षण - कॉलम - दिए गए डेटा का आकार।

जैसा कि आप देख सकते हैं, एक बड़े अंतर से सीधा रूटिंग जीतता है।

मैं ईथरनेट फ्रेम के आकार से संबंधित कुछ अन्य परिणामों पर भरोसा कर रहा था, लेकिन कोई संबंध नहीं पाया गया। शायद 512 शरीर 1500 एमटीयू में फिट नहीं होते हैं, हालांकि, मुझे संदेह है, छोटा परीक्षण सांकेतिक होगा।

मैंने देखा कि बड़े वॉल्यूम (650k) पर nginx अलगाव को कम करता है। शायद यह बफ़र्स और टीसीपी विंडोज आकार के साथ कुछ करना है।

रैंड टेस्ट का नतीजा। दिखाता है कि अलग-अलग मिनटों पर स्क्रिप्ट निष्पादन की विभिन्न गति की स्थितियों में कम से कम कैसे हैंडल होता है।

हैरानी की बात है, नगनेक्स हैश ने कम से कम कॉन की तुलना में तेजी से काम किया, और केवल अंतिम पास में कम से कम कॉन थोड़ा आगे निकल गया, जो महत्वपूर्ण होने का दिखावा नहीं करता है।
पास की संख्या इस तथ्य के कारण बहुत अलग है कि 100 धागे तुरंत छोड़ देते हैं, और स्टार्ट-अप से एफपीएम-ओके लगभग 10.। तीसरे पास के लिए उनके पास इस्तेमाल करने का समय था - जो फटने के लिए रणनीतियों की प्रयोज्यता को दर्शाता है।

एनएफटी ने इस परीक्षा में उम्मीद खो दी थी। Nginx अच्छी तरह से ऐसी स्थितियों में FPMs के साथ बातचीत का अनुकूलन करता है।

छोटा परीक्षण

एनपीएस आरपीएस पर मामूली रूप से जीतता है, कम से कम कॉन फिर से एक बाहरी व्यक्ति है।

वैसे, इस परीक्षण में यह देखा जाता है कि 400-500RPS जारी किया जाता है, हालांकि, 512 बाइट भेजने के साथ परीक्षण पर यह 1500 के लिए था - ऐसा लगता है कि सिस्टम इस हजार को खाता है।

निष्कर्ष

NFT ने एक समान भार का अनुकूलन करने की स्थिति में अच्छा प्रदर्शन किया: जब बहुत अधिक डेटा दिया जाता है, और एप्लिकेशन का ऑपरेटिंग समय निर्धारित होता है और क्लस्टर के संसाधन एक टेलस्पिन में जाने के बिना आने वाली स्ट्रीम को संसाधित करने के लिए पर्याप्त हैं।

ऐसी स्थिति में जहां प्रत्येक अनुरोध पर लोड अव्यवस्थित है और हैश डिवीजन के आदिम शेष के साथ सर्वर लोड को समान रूप से संतुलित करना असंभव है, एनएफटी खो जाएगा।

NFT बनाम Nginx के साथ प्रत्यक्ष रूटिंग और संतुलन

परत 4 संतुलन या पुरातनता में संतुलन कैसे करें

यहाँ NFTables आता है

प्रत्यक्ष मार्ग

निष्कर्ष

More articles: