निगोक्स-लॉग-कलेक्टर उपयोगिता एविटो से नग्नेक्स लॉग को क्लिकहाउस भेजने के लिए

यह लेख nginx- log- कलेक्टर प्रोजेक्ट पर चर्चा करेगा, जो nginx लॉग को पढ़ेगा और उन्हें Clickhouse क्लस्टर में भेजेगा। आमतौर पर लॉग के लिए इलास्टिक खोज का उपयोग करते हैं। क्लिकहाउस के लिए कम संसाधनों (डिस्क स्थान, रैम, सीपीयू) की आवश्यकता होती है। क्लिकहाउस डेटा को तेज़ी से रिकॉर्ड करता है। क्लिकहाउस डेटा को संकुचित करता है, जिससे डिस्क डेटा और भी अधिक कॉम्पैक्ट हो जाता है। Clickhouse के लाभ रिपोर्ट से 2 स्लाइड में दिखाई देते हैं कि कैसे VK हजारों सर्वर से ClickHouse में डेटा सम्मिलित करता है।

लॉग एनालिटिक्स देखने के लिए, ग्राफाना के लिए एक डैशबोर्ड बनाएं।

कौन परवाह करता है, बिल्ली में आपका स्वागत है।

स्टैण्डर्ड तरीके से नेग्नेक्स, ग्राफाना स्थापित करें।

डेनिस प्रोस्कुरिन द्वारा ansible-playbook का उपयोग करके क्लिकहाउस क्लस्टर स्थापित करें।

क्लिकहाउस में डेटाबेस और टेबल्स बनाना

यह फ़ाइल क्लिकहाउस में nginx-log-संग्राहक के लिए डेटाबेस और टेबल बनाने के लिए SQL प्रश्नों का वर्णन करती है।

हम प्रत्येक अनुरोध पर क्लिकहाउस क्लस्टर के प्रत्येक सर्वर को चालू करते हैं।

महत्वपूर्ण नोट। इस पंक्ति पर, log_cluster को आपके दूरस्थ नाम से clickhouse_remote_servers.xml फ़ाइल से "Remote_servers" और "shard" के बीच बदल दिया जाना चाहिए।

ENGINE = Distributed('logs_cluster', 'nginx', 'access_log_shard', rand()) 

Nginx-log-कलेक्टर-आरपीएम को स्थापित और कॉन्फ़िगर करना

नग्नेक्स-लॉग-कलेक्टर में आरपीएम नहीं है। यहाँ https://github.com/patsevanton/nginx-log-collector-rpm इसके लिए rpm बनाएँ। Rpm को Fedora Copr का उपयोग करके एकत्र किया जाएगा

Rpm पैकेज nginx-log-संग्राहक-rpm स्थापित करें

 yum -y install yum-plugin-copr yum copr enable antonpatsev/nginx-log-collector-rpm yum -y install nginx-log-collector systemctl start nginx-log-collector 

Config /etc/nginx-log-collector/config.yaml संपादित करें:

  ....... upload: table: nginx.access_log dsn: http://ip---clickhouse:8123/ - tag: "nginx_error:" format: error # access | error buffer_size: 1048576 upload: table: nginx.error_log dsn: http://ip---clickhouse:8123/ 

Nginx सेटअप

सामान्य नगीन विन्यास:

 user nginx; worker_processes auto; #error_log /var/log/nginx/error.log warn; pid /var/run/nginx.pid; events { worker_connections 1024; } http { include /etc/nginx/mime.types; default_type application/octet-stream; log_format main '$remote_addr - $remote_user [$time_local] "$request" ' '$status $body_bytes_sent "$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; log_format avito_json escape=json '{' '"event_datetime": "$time_iso8601", ' '"server_name": "$server_name", ' '"remote_addr": "$remote_addr", ' '"remote_user": "$remote_user", ' '"http_x_real_ip": "$http_x_real_ip", ' '"status": "$status", ' '"scheme": "$scheme", ' '"request_method": "$request_method", ' '"request_uri": "$request_uri", ' '"server_protocol": "$server_protocol", ' '"body_bytes_sent": $body_bytes_sent, ' '"http_referer": "$http_referer", ' '"http_user_agent": "$http_user_agent", ' '"request_bytes": "$request_length", ' '"request_time": "$request_time", ' '"upstream_addr": "$upstream_addr", ' '"upstream_response_time": "$upstream_response_time", ' '"hostname": "$hostname", ' '"host": "$host"' '}'; access_log syslog:server=unix:/var/run/nginx_log.sock,nohostname,tag=nginx avito_json; #ClickHouse error_log syslog:server=unix:/var/run/nginx_log.sock,nohostname,tag=nginx_error; #ClickHouse #access_log /var/log/nginx/access.log main; proxy_ignore_client_abort on; sendfile on; keepalive_timeout 65; include /etc/nginx/conf.d/*.conf; } 

वर्चुअल होस्ट एक है:

vhost1.conf:

 upstream backend { server ip----stub_http_server:8080; server ip----stub_http_server:8080; server ip----stub_http_server:8080; server ip----stub_http_server:8080; server ip----stub_http_server:8080; } server { listen 80; server_name vhost1; location / { proxy_pass http://backend; } } 

/ / / मेजबान फ़ाइल में वर्चुअल होस्ट जोड़ें:

 ip----nginx vhost1 

HTTP सर्वर एमुलेटर

एक HTTP सर्वर एमुलेटर के रूप में हम मैक्सिम इग्नाटेंको से नोडज-स्टब-सर्वर का उपयोग करेंगे

नोडोड्स-स्टब-सर्वर में आरपीएम नहीं है। यहाँ https://github.com/patsevanton/nodejs-stub-server इसके लिए rpm बनाएँ। Rpm को Fedora Copr का उपयोग करके एकत्र किया जाएगा

अपस्ट्रीम nginx rpm पर नोडज-स्टब-सर्वर पैकेज स्थापित करें

 yum -y install yum-plugin-copr yum copr enable antonpatsev/nodejs-stub-server yum -y install stub_http_server systemctl start stub_http_server 

लोड परीक्षण

अपाचे बेंचमार्क का उपयोग करके परीक्षण किया गया।

इसे स्थापित करें:

 yum install -y httpd-tools 

हम 5 अलग-अलग सर्वरों से अपाचे बेंचमार्क का उपयोग करके परीक्षण शुरू करते हैं:

 while true; do ab -H "User-Agent: 1server" -c 10 -n 10 -t 10 http://vhost1/; sleep 1; done while true; do ab -H "User-Agent: 2server" -c 10 -n 10 -t 10 http://vhost1/; sleep 1; done while true; do ab -H "User-Agent: 3server" -c 10 -n 10 -t 10 http://vhost1/; sleep 1; done while true; do ab -H "User-Agent: 4server" -c 10 -n 10 -t 10 http://vhost1/; sleep 1; done while true; do ab -H "User-Agent: 5server" -c 10 -n 10 -t 10 http://vhost1/; sleep 1; done 

ग्राफाना सेटअप

आधिकारिक ग्राफाना वेबसाइट पर आपको डैशबोर्ड नहीं मिलेगा।

इसलिए, हम इसे सौंप देंगे।

आप यहां मेरा सहेजा गया डैशबोर्ड पा सकते हैं।

आपको nginx.access_log की सामग्री के साथ एक तालिका चर बनाने की भी आवश्यकता है।

सिंगलस्टैट कुल अनुरोध:

 SELECT 1 as t, count(*) as c FROM $table WHERE $timeFilter GROUP BY t 

सिंगलस्टैट विफल अनुरोध:

 SELECT 1 as t, count(*) as c FROM $table WHERE $timeFilter AND status NOT IN (200, 201, 401) GROUP BY t 

सिंगलस्टैट फेलिंग प्रतिशत:

 SELECT 1 as t, (sum(status = 500 or status = 499)/sum(status = 200 or status = 201 or status = 401))*100 FROM $table WHERE $timeFilter GROUP BY t 

सिंगलस्टैट औसत प्रतिक्रिया समय:

 SELECT 1, avg(request_time) FROM $table WHERE $timeFilter GROUP BY 1 

सिंगलस्टैट मैक्स रिस्पॉन्स टाइम:

 SELECT 1 as t, max(request_time) as c FROM $table WHERE $timeFilter GROUP BY t 

गणना की स्थिति:

 $columns(status, count(*) as c) from $table 

डेटा को पाई के रूप में आउटपुट करने के लिए, आपको प्लगइन स्थापित करना होगा और ग्राफ्टाना को पुनरारंभ करना होगा।

 grafana-cli plugins install grafana-piechart-panel service grafana-server restart 

पाई शीर्ष 5 स्थिति:

 SELECT 1, /* fake timestamp value */ status, sum(status) AS Reqs FROM $table WHERE $timeFilter GROUP BY status ORDER BY Reqs desc LIMIT 5 

आगे मैं स्क्रीनशॉट के बिना अनुरोध दूंगा:

गणना http_user_agent:

 $columns(http_user_agent, count(*) c) FROM $table 

GoodRate / BadRate:

 $rate(countIf(status = 200) AS good, countIf(status != 200) AS bad) FROM $table 

प्रतिक्रिया समय:

 $rate(avg(request_time) as request_time) FROM $table 

अपस्ट्रीम प्रतिक्रिया समय (पहली अपस्ट्रीम का प्रतिक्रिया समय):

 $rate(avg(arrayElement(upstream_response_time,1)) as upstream_response_time) FROM $table 

सभी vhost के लिए तालिका गणना स्थिति:

 $columns(status, count(*) as c) from $table 

डैशबोर्ड का सामान्य दृश्य

तुलना अवग () और मात्रात्मक ()

अवग ()

मात्रात्मक ()

निष्कर्ष:

उम्मीद है कि समुदाय नगीनेक्स-लॉग-कलेक्टर के विकास / परीक्षण और उपयोग में शामिल हो जाता है।
और कोई व्यक्ति, जब वह नग्नेक्स-लॉग-कलेक्टर को लागू करता है, तो आपको बताएगा कि उसने डिस्क, रैम, सीपीयू को कितना बचाया।

टेलीग्राम चैनल:

• Clickhouse
• nginx
• चर्च मेट्रिक्स
• सिस्टम संदेशों का संग्रह और विश्लेषण
• Grafana

मिलीसेकेंड:

जिनके लिए मिलीसेकंड महत्वपूर्ण हैं, लिखें या वोट करें, कृपया इस अंक में ।