PostgreSQL में समानांतर क्वेरी

आधुनिक सीपीयू में बहुत सारे कोर हैं। वर्षों के लिए, अनुप्रयोगों ने समानांतर में डेटाबेस को प्रश्न भेजे हैं। यदि यह एक तालिका में कई पंक्तियों के लिए एक रिपोर्टिंग क्वेरी है, तो यह तेजी से चलता है जब यह कई सीपीयू का उपयोग करता है, और PostgreSQL में संस्करण 9.6 से शुरू करना संभव है।

समानांतर क्वेरी फ़ंक्शन को लागू करने में 3 साल लग गए - मुझे क्वेरी निष्पादन के विभिन्न चरणों में कोड को फिर से लिखना पड़ा। PostgreSQL 9.6 ने कोड को और बेहतर बनाने के लिए एक बुनियादी ढांचा पेश किया। बाद के संस्करणों में, अन्य प्रकार के प्रश्नों को समानांतर में निष्पादित किया जाता है।

प्रतिबंध

• यदि सभी कोर पहले से ही ले लिए गए हैं, तो समानांतर निष्पादन को सक्षम न करें, अन्यथा अन्य अनुरोध धीमा हो जाएंगे।
• सबसे महत्वपूर्ण बात, उच्च WORK_MEM मूल्यों के साथ समानांतर प्रसंस्करण बहुत मेमोरी की खपत करता है - प्रत्येक हैश जुड़ते हैं या सॉर्ट काम की मात्रा में मेमोरी लेते हैं।
• कम विलंबता OLTP अनुरोधों को समानांतर निष्पादन द्वारा त्वरित नहीं किया जा सकता है। और यदि क्वेरी एक पंक्ति में लौटती है, तो समानांतर प्रसंस्करण केवल इसे धीमा कर देगा।
• डेवलपर्स TPC-H बेंचमार्क का उपयोग करना पसंद करते हैं। शायद आपके पास समानान्तर समानांतर निष्पादन के लिए समान प्रश्न हों।
• केवल विधेय तालों के बिना चयनित प्रश्नों को समानांतर में निष्पादित किया जाता है।
• कभी-कभी सही अनुक्रमण समानांतर में अनुक्रमिक तालिका स्कैन से बेहतर होता है।
• निलंबित प्रश्न और शाप देने वाले समर्थित नहीं हैं।
• विंडो फ़ंक्शन और ऑर्डर किए गए सेट के कुल कार्य समानांतर नहीं हैं।
• आप I / O कार्यभार में कुछ भी हासिल नहीं करते हैं।
• कोई समानांतर सॉर्टिंग एल्गोरिदम नहीं हैं। लेकिन क्रमबद्ध प्रश्नों को कुछ पहलुओं में समानांतर रूप से निष्पादित किया जा सकता है।
• समानांतर प्रसंस्करण को सक्षम करने के लिए नेस्टेड चयन के साथ CTE (के साथ ...) को बदलें।
• तृतीय-पक्ष डेटा रैपर समानांतर प्रसंस्करण का समर्थन नहीं करते (लेकिन वे कर सकते थे!)
• पूर्ण OOO JOIN समर्थित नहीं है।
• max_rows समानांतर प्रसंस्करण अक्षम करता है।
• यदि अनुरोध में एक फ़ंक्शन है जिसे PARALLEL SAFE के रूप में चिह्नित नहीं किया गया है, तो यह एकल-थ्रेडेड होगा।
• लेन-देन अलगाव स्तर SERIALIZABLE समानांतर प्रसंस्करण को अक्षम करता है।

पर्यावरण का परीक्षण करें

PostgreSQL डेवलपर्स ने TPC-H बेंचमार्क प्रश्नों की प्रतिक्रिया समय को कम करने की कोशिश की है। बेंचमार्क डाउनलोड करें और इसे PostgreSQL के लिए अनुकूलित करें । यह TPC-H बेंचमार्क का अनौपचारिक उपयोग है - डेटाबेस या हार्डवेयर की तुलना करने के लिए नहीं।

1. डाउनलोड TPC-H_Tools_v2.17.3.zip (या एक नया संस्करण) ऑफ-साइट TPC से ।
2. Makefile.suite को Makefile का नाम बदलें और यहाँ बताए अनुसार बदलें: https://github.com/tvondra/pg_ppch कोड को मेक कमांड से संकलित करें।
3. डेटा जनरेट करें: ./dbgen -s 10 एक 23 GB डेटाबेस बनाता है। यह समानांतर और गैर-समानांतर प्रश्नों के प्रदर्शन में अंतर देखने के लिए पर्याप्त है।
4. के csv for और sed csv for tbl फ़ाइलों को परिवर्तित।
5. Pg_tpch रिपॉजिटरी को क्लोन करें और csv को pg_tpch/dss/data कॉपी करें।
6. qgen कमांड के साथ क्वेरी बनाएँ।
7. ./tpch.sh कमांड के साथ डेटाबेस में डेटा अपलोड करें।

समानांतर अनुक्रमिक स्कैन

समानांतर पढ़ने के कारण यह तेज नहीं हो सकता है, लेकिन क्योंकि कई सीपीयू कोर में डेटा बिखरा हुआ है। आधुनिक ऑपरेटिंग सिस्टम पर, PostgreSQL डेटा फ़ाइलों को अच्छी तरह से कैश किया गया है। पढ़ने-आगे के साथ, आप पीजी डेमन अनुरोधों की तुलना में भंडारण से अधिक प्राप्त कर सकते हैं। इसलिए, क्वेरी प्रदर्शन डिस्क I / O द्वारा सीमित नहीं है। यह सीपीयू चक्र का उपभोग करता है:

• तालिका के पृष्ठों से एक-एक करके लाइनें पढ़ें;
• स्ट्रिंग मान और WHERE क्लॉस की तुलना करें।

आइए एक सरल select क्वेरी चलाएँ:

 tpch=# explain analyze select l_quantity as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day; QUERY PLAN -------------------------------------------------------------------------------------------------------------------------- Seq Scan on lineitem (cost=0.00..1964772.00 rows=58856235 width=5) (actual time=0.014..16951.669 rows=58839715 loops=1) Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone) Rows Removed by Filter: 1146337 Planning Time: 0.203 ms Execution Time: 19035.100 ms 

एक अनुक्रमिक स्कैन एकत्रीकरण के बिना बहुत अधिक पंक्तियों का उत्पादन करता है, इसलिए अनुरोध को एक एकल सीपीयू कोर द्वारा निष्पादित किया जाता है।

यदि आप SUM() जोड़ते हैं, तो आप देख सकते हैं कि दो वर्कफ़्लो अनुरोध को गति देने में मदद करेंगे:

 explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day; QUERY PLAN ---------------------------------------------------------------------------------------------------------------------------------------------------- Finalize Aggregate (cost=1589702.14..1589702.15 rows=1 width=32) (actual time=8553.365..8553.365 rows=1 loops=1) -> Gather (cost=1589701.91..1589702.12 rows=2 width=32) (actual time=8553.241..8555.067 rows=3 loops=1) Workers Planned: 2 Workers Launched: 2 -> Partial Aggregate (cost=1588701.91..1588701.92 rows=1 width=32) (actual time=8547.546..8547.546 rows=1 loops=3) -> Parallel Seq Scan on lineitem (cost=0.00..1527393.33 rows=24523431 width=5) (actual time=0.038..5998.417 rows=19613238 loops=3) Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone) Rows Removed by Filter: 382112 Planning Time: 0.241 ms Execution Time: 8555.131 ms 

समानांतर एकत्रीकरण

समानांतर Seq स्कैन नोड आंशिक एकत्रीकरण के लिए तार पैदा करता है। आंशिक समुच्चय नोड इन पंक्तियों को SUM() का उपयोग करके SUM() । अंत में, प्रत्येक वर्कफ़्लो से SUM काउंटर इकट्ठा किया जाता है Gather नोड द्वारा।

अंतिम परिणाम की गणना "फाइनल एग्रीगेट" नोड द्वारा की जाती है। यदि आपके पास अपने एकत्रीकरण कार्य हैं, तो उन्हें "समानांतर सुरक्षित" के रूप में चिह्नित करना सुनिश्चित करें।

वर्कफ़्लो की संख्या

सर्वर को पुनरारंभ किए बिना वर्कफ़्लो की संख्या बढ़ाई जा सकती है:

 alter system set max_parallel_workers_per_gather=4; select * from pg_reload_conf(); 

अब हम समझाते हैं कि 4 श्रमिक आउटपुट में हैं:

 tpch=# explain analyze select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day; QUERY PLAN ---------------------------------------------------------------------------------------------------------------------------------------------------- Finalize Aggregate (cost=1440213.58..1440213.59 rows=1 width=32) (actual time=5152.072..5152.072 rows=1 loops=1) -> Gather (cost=1440213.15..1440213.56 rows=4 width=32) (actual time=5151.807..5153.900 rows=5 loops=1) Workers Planned: 4 Workers Launched: 4 -> Partial Aggregate (cost=1439213.15..1439213.16 rows=1 width=32) (actual time=5147.238..5147.239 rows=1 loops=5) -> Parallel Seq Scan on lineitem (cost=0.00..1402428.00 rows=14714059 width=5) (actual time=0.037..3601.882 rows=11767943 loops=5) Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone) Rows Removed by Filter: 229267 Planning Time: 0.218 ms Execution Time: 5153.967 ms 

यहाँ क्या हो रहा है? 2 गुना अधिक वर्कफ़्लो थे, और अनुरोध केवल 1.6599 गुना तेज था। गणना दिलचस्प हैं। हमारे पास 2 कार्य प्रक्रियाएं और 1 नेता थे। बदलाव के बाद, यह 4 + 1 हो गया।

समानांतर प्रसंस्करण से हमारा अधिकतम त्वरण: 5/3 = 1.66 (6) बार।

यह कैसे काम करता है?

प्रक्रियाओं

एक अनुरोध का निष्पादन हमेशा एक अग्रणी प्रक्रिया से शुरू होता है। नेता सब कुछ गैर-समानांतर और समानांतर प्रसंस्करण का हिस्सा करता है। समान अनुरोध करने वाली अन्य प्रक्रियाओं को वर्कफ़्लो कहा जाता है। समानांतर प्रसंस्करण गतिशील पृष्ठभूमि वर्कफ़्लो के एक बुनियादी ढांचे का उपयोग करता है (संस्करण 9.4 के बाद से)। चूंकि PostgreSQL के अन्य भाग थ्रेड्स के बजाय प्रक्रियाओं का उपयोग करते हैं, 3 वर्कफ़्लो वाली क्वेरी पारंपरिक प्रसंस्करण की तुलना में 4 गुना तेज हो सकती है।

बातचीत

वर्कफ़्लोज़ एक संदेश कतार (साझा मेमोरी के आधार पर) के माध्यम से नेता के साथ संवाद करता है। प्रत्येक प्रक्रिया में 2 कतारें होती हैं: त्रुटियों के लिए और टुपल्स के लिए।

आपको कितने कार्य प्रक्रियाओं की आवश्यकता है?

न्यूनतम सीमा max_parallel_workers_per_gather पैरामीटर द्वारा सेट की गई है। फिर, क्वेरी निष्पादक max_parallel_workers size पैरामीटर द्वारा सीमित पूल से वर्कफ़्लोज़ लेता है। अंतिम सीमा max_worker_processes , अर्थात पृष्ठभूमि प्रक्रियाओं की कुल संख्या।

यदि वर्कफ़्लो आवंटित करना संभव नहीं था, तो प्रसंस्करण एकल-प्रक्रिया होगी।

क्वेरी योजनाकार टेबल या इंडेक्स के आकार के आधार पर वर्कफ़्लोज़ को छोटा कर सकता है। इसके लिए min_parallel_table_scan_size और min_parallel_index_scan_size पैरामीटर हैं।

 set min_parallel_table_scan_size='8MB' 8MB table => 1 worker 24MB table => 2 workers 72MB table => 3 workers x => log(x / min_parallel_table_scan_size) / log(3) + 1 worker 

हर बार एक टेबल min_parallel_(index|table)_scan_size से 3 गुना बड़ा होता है, पोस्टग्रैफ़ एक वर्कफ़्लो जोड़ता है। कार्य प्रक्रियाओं की संख्या लागत आधारित नहीं है। परिपत्र निर्भरता जटिल कार्यान्वयन को जटिल बनाती है। इसके बजाय, अनुसूचक सरल नियमों का उपयोग करता है।

व्यवहार में, ये नियम हमेशा उत्पादन के लिए उपयुक्त नहीं होते हैं, इसलिए आप किसी विशेष तालिका के लिए वर्कफ़्लोज़ की संख्या को बदल सकते हैं: ALTER TABLE ... SET ( parallel_workers = N )।

समानांतर प्रसंस्करण का उपयोग क्यों नहीं किया जाता है?

प्रतिबंधों की एक लंबी सूची के अलावा, लागत की जाँच भी होती है:

parallel_setup_cost - लघु अनुरोधों के समानांतर प्रसंस्करण के बिना करने के लिए। यह पैरामीटर मेमोरी तैयार करने, प्रक्रिया शुरू करने और प्रारंभिक डेटा विनिमय के लिए समय का अनुमान लगाता है।

parallel_tuple_cost : एक नेता और श्रमिकों के बीच संचार कार्य प्रक्रियाओं से ट्यूपल्स की संख्या के अनुपात में देरी हो सकती है। यह पैरामीटर डेटा विनिमय लागतों की गणना करता है।

नेस्टेड लूप जॉइन

 PostgreSQL 9.6+      —   . explain (costs off) select c_custkey, count(o_orderkey) from customer left outer join orders on c_custkey = o_custkey and o_comment not like '%special%deposits%' group by c_custkey; QUERY PLAN -------------------------------------------------------------------------------------- Finalize GroupAggregate Group Key: customer.c_custkey -> Gather Merge Workers Planned: 4 -> Partial GroupAggregate Group Key: customer.c_custkey -> Nested Loop Left Join -> Parallel Index Only Scan using customer_pkey on customer -> Index Scan using idx_orders_custkey on orders Index Cond: (customer.c_custkey = o_custkey) Filter: ((o_comment)::text !~~ '%special%deposits%'::text) 

संग्रह अंतिम चरण में होता है, इसलिए नेस्टेड लूप लेफ्ट जॉइन एक समानांतर ऑपरेशन है। समानांतर सूचकांक केवल स्कैन केवल संस्करण 10 में दिखाई दिया। यह समान रूप से समानांतर धारावाहिक स्कैनिंग के लिए काम करता है। हालत c_custkey = o_custkey प्रत्येक क्लाइंट लाइन के लिए एक आदेश पढ़ता है। इसलिए यह समानांतर नहीं है।

हैश जॉइन - हैश जॉइन

प्रत्येक वर्कफ़्लो PostgreSQL 11. से पहले अपनी स्वयं की हैश तालिका बनाता है और यदि इनमें से चार से अधिक प्रक्रियाएँ हैं, तो प्रदर्शन में सुधार नहीं होगा। नए संस्करण में, हैश तालिका साझा की गई है। प्रत्येक वर्कफ़्लो हैश तालिका बनाने के लिए WORK_MEM का उपयोग कर सकता है।

 select l_shipmode, sum(case when o_orderpriority = '1-URGENT' or o_orderpriority = '2-HIGH' then 1 else 0 end) as high_line_count, sum(case when o_orderpriority <> '1-URGENT' and o_orderpriority <> '2-HIGH' then 1 else 0 end) as low_line_count from orders, lineitem where o_orderkey = l_orderkey and l_shipmode in ('MAIL', 'AIR') and l_commitdate < l_receiptdate and l_shipdate < l_commitdate and l_receiptdate >= date '1996-01-01' and l_receiptdate < date '1996-01-01' + interval '1' year group by l_shipmode order by l_shipmode LIMIT 1; QUERY PLAN ----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- Limit (cost=1964755.66..1964961.44 rows=1 width=27) (actual time=7579.592..7922.997 rows=1 loops=1) -> Finalize GroupAggregate (cost=1964755.66..1966196.11 rows=7 width=27) (actual time=7579.590..7579.591 rows=1 loops=1) Group Key: lineitem.l_shipmode -> Gather Merge (cost=1964755.66..1966195.83 rows=28 width=27) (actual time=7559.593..7922.319 rows=6 loops=1) Workers Planned: 4 Workers Launched: 4 -> Partial GroupAggregate (cost=1963755.61..1965192.44 rows=7 width=27) (actual time=7548.103..7564.592 rows=2 loops=5) Group Key: lineitem.l_shipmode -> Sort (cost=1963755.61..1963935.20 rows=71838 width=27) (actual time=7530.280..7539.688 rows=62519 loops=5) Sort Key: lineitem.l_shipmode Sort Method: external merge Disk: 2304kB Worker 0: Sort Method: external merge Disk: 2064kB Worker 1: Sort Method: external merge Disk: 2384kB Worker 2: Sort Method: external merge Disk: 2264kB Worker 3: Sort Method: external merge Disk: 2336kB -> Parallel Hash Join (cost=382571.01..1957960.99 rows=71838 width=27) (actual time=7036.917..7499.692 rows=62519 loops=5) Hash Cond: (lineitem.l_orderkey = orders.o_orderkey) -> Parallel Seq Scan on lineitem (cost=0.00..1552386.40 rows=71838 width=19) (actual time=0.583..4901.063 rows=62519 loops=5) Filter: ((l_shipmode = ANY ('{MAIL,AIR}'::bpchar[])) AND (l_commitdate < l_receiptdate) AND (l_shipdate < l_commitdate) AND (l_receiptdate >= '1996-01-01'::date) AND (l_receiptdate < '1997-01-01 00:00:00'::timestamp without time zone)) Rows Removed by Filter: 11934691 -> Parallel Hash (cost=313722.45..313722.45 rows=3750045 width=20) (actual time=2011.518..2011.518 rows=3000000 loops=5) Buckets: 65536 Batches: 256 Memory Usage: 3840kB -> Parallel Seq Scan on orders (cost=0.00..313722.45 rows=3750045 width=20) (actual time=0.029..995.948 rows=3000000 loops=5) Planning Time: 0.977 ms Execution Time: 7923.770 ms 

TPC-H से 12 अनुरोध एक समानांतर हैश कनेक्शन दिखाता है। प्रत्येक वर्कफ़्लो एक साझा हैश तालिका बनाने में शामिल होता है।

मिलाना

एक मर्ज जुड़ना प्रकृति में समानांतर नहीं है। चिंता न करें अगर यह अनुरोध का अंतिम चरण है - इसे अभी भी समानांतर में निष्पादित किया जा सकता है।

 -- Query 2 from TPC-H explain (costs off) select s_acctbal, s_name, n_name, p_partkey, p_mfgr, s_address, s_phone, s_comment from part, supplier, partsupp, nation, region where p_partkey = ps_partkey and s_suppkey = ps_suppkey and p_size = 36 and p_type like '%BRASS' and s_nationkey = n_nationkey and n_regionkey = r_regionkey and r_name = 'AMERICA' and ps_supplycost = ( select min(ps_supplycost) from partsupp, supplier, nation, region where p_partkey = ps_partkey and s_suppkey = ps_suppkey and s_nationkey = n_nationkey and n_regionkey = r_regionkey and r_name = 'AMERICA' ) order by s_acctbal desc, n_name, s_name, p_partkey LIMIT 100; QUERY PLAN ---------------------------------------------------------------------------------------------------------- Limit -> Sort Sort Key: supplier.s_acctbal DESC, nation.n_name, supplier.s_name, part.p_partkey -> Merge Join Merge Cond: (part.p_partkey = partsupp.ps_partkey) Join Filter: (partsupp.ps_supplycost = (SubPlan 1)) -> Gather Merge Workers Planned: 4 -> Parallel Index Scan using <strong>part_pkey</strong> on part Filter: (((p_type)::text ~~ '%BRASS'::text) AND (p_size = 36)) -> Materialize -> Sort Sort Key: partsupp.ps_partkey -> Nested Loop -> Nested Loop Join Filter: (nation.n_regionkey = region.r_regionkey) -> Seq Scan on region Filter: (r_name = 'AMERICA'::bpchar) -> Hash Join Hash Cond: (supplier.s_nationkey = nation.n_nationkey) -> Seq Scan on supplier -> Hash -> Seq Scan on nation -> Index Scan using idx_partsupp_suppkey on partsupp Index Cond: (ps_suppkey = supplier.s_suppkey) SubPlan 1 -> Aggregate -> Nested Loop Join Filter: (nation_1.n_regionkey = region_1.r_regionkey) -> Seq Scan on region region_1 Filter: (r_name = 'AMERICA'::bpchar) -> Nested Loop -> Nested Loop -> Index Scan using idx_partsupp_partkey on partsupp partsupp_1 Index Cond: (part.p_partkey = ps_partkey) -> Index Scan using supplier_pkey on supplier supplier_1 Index Cond: (s_suppkey = partsupp_1.ps_suppkey) -> Index Scan using nation_pkey on nation nation_1 Index Cond: (n_nationkey = supplier_1.s_nationkey) 

मर्ज ज्वाइन नोड Gather Merge के ऊपर स्थित है। तो मर्ज समानांतर प्रसंस्करण का उपयोग नहीं करता है। लेकिन समानांतर सूचकांक स्कैन नोड अभी भी part_pkey खंड के साथ मदद करता है।

अनुभाग कनेक्शन

PostgreSQL 11 में, विभाजन डिफ़ॉल्ट रूप से अक्षम है: इसमें बहुत महंगा शेड्यूलिंग है। समान विभाजन वाले तालिकाओं को अनुभाग द्वारा अनुभाग में शामिल किया जा सकता है। तो Postgres छोटे हैश तालिकाओं का उपयोग करेगा। प्रत्येक अनुभाग कनेक्शन समानांतर हो सकता है।

 tpch=# set enable_partitionwise_join=t; tpch=# explain (costs off) select * from prt1 t1, prt2 t2 where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000; QUERY PLAN --------------------------------------------------- Append -> Hash Join Hash Cond: (t2.b = t1.a) -> Seq Scan on prt2_p1 t2 Filter: ((b >= 0) AND (b <= 10000)) -> Hash -> Seq Scan on prt1_p1 t1 Filter: (b = 0) -> Hash Join Hash Cond: (t2_1.b = t1_1.a) -> Seq Scan on prt2_p2 t2_1 Filter: ((b >= 0) AND (b <= 10000)) -> Hash -> Seq Scan on prt1_p2 t1_1 Filter: (b = 0) tpch=# set parallel_setup_cost = 1; tpch=# set parallel_tuple_cost = 0.01; tpch=# explain (costs off) select * from prt1 t1, prt2 t2 where t1.a = t2.b and t1.b = 0 and t2.b between 0 and 10000; QUERY PLAN ----------------------------------------------------------- Gather Workers Planned: 4 -> Parallel Append -> Parallel Hash Join Hash Cond: (t2_1.b = t1_1.a) -> Parallel Seq Scan on prt2_p2 t2_1 Filter: ((b >= 0) AND (b <= 10000)) -> Parallel Hash -> Parallel Seq Scan on prt1_p2 t1_1 Filter: (b = 0) -> Parallel Hash Join Hash Cond: (t2.b = t1.a) -> Parallel Seq Scan on prt2_p1 t2 Filter: ((b >= 0) AND (b <= 10000)) -> Parallel Hash -> Parallel Seq Scan on prt1_p1 t1 Filter: (b = 0) 

मुख्य बात यह है कि वर्गों में कनेक्शन केवल समानांतर है यदि ये अनुभाग पर्याप्त बड़े हैं।

समानांतर परिशिष्ट - समानांतर परिशिष्ट

अलग-अलग वर्कफ़्लोज़ में अलग-अलग ब्लॉक के बजाय समानांतर एपेंड का उपयोग किया जा सकता है। यह आमतौर पर UNION ALL प्रश्नों के साथ होता है। नुकसान कम समानता है, क्योंकि प्रत्येक वर्कफ़्लो केवल 1 अनुरोध करता है।

2 वर्कफ्लो यहां चल रहे हैं, हालांकि 4 शामिल हैं।

 tpch=# explain (costs off) select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '1998-12-01' - interval '105' day union all select sum(l_quantity) as sum_qty from lineitem where l_shipdate <= date '2000-12-01' - interval '105' day; QUERY PLAN ------------------------------------------------------------------------------------------------ Gather Workers Planned: 2 -> Parallel Append -> Aggregate -> Seq Scan on lineitem Filter: (l_shipdate <= '2000-08-18 00:00:00'::timestamp without time zone) -> Aggregate -> Seq Scan on lineitem lineitem_1 Filter: (l_shipdate <= '1998-08-18 00:00:00'::timestamp without time zone) 

सबसे महत्वपूर्ण चर

• WORK_MEM प्रत्येक प्रक्रिया के लिए मेमोरी की मात्रा को सीमित करता है, न कि केवल अनुरोधों के लिए: कार्य_म कनेक्शन प्रक्रिया = बहुत सारी मेमोरी।
• max_parallel_workers_per_gather - योजना से समानांतर प्रसंस्करण के लिए निष्पादन कार्यक्रम कितने काम प्रक्रियाओं का उपयोग करेगा।
• max_worker_processes - सर्वर पर CPU कोर की संख्या में कार्य प्रक्रियाओं की कुल संख्या को समायोजित करता है।
• max_parallel_workers समान है, लेकिन समानांतर वर्कफ़्लोज़ के लिए।

परिणाम

संस्करण 9.6 से शुरू होकर, समानांतर प्रसंस्करण कई पंक्तियों या इंडेक्स को स्कैन करने वाले जटिल प्रश्नों के प्रदर्शन को गंभीरता से सुधार सकता है। PostgreSQL 10 में, समानांतर प्रसंस्करण डिफ़ॉल्ट रूप से सक्षम है। बड़े ओएलटीपी वर्कलोड वाले सर्वर पर इसे निष्क्रिय करना याद रखें। अनुक्रमिक स्कैन या इंडेक्स स्कैन बहुत सारे संसाधनों का उपभोग करते हैं। यदि आप संपूर्ण डेटासेट में रिपोर्ट नहीं कर रहे हैं, तो क्वेरीज़ को केवल लापता अनुक्रमणिका जोड़कर या सही विभाजन का उपयोग करके अधिक कुशल बनाया जा सकता है।

संदर्भ

• https://www.postgresql.org/docs/11/how-parallel-query-works.html
• https://www.postgresql.org/docs/11/parallel-plans.html
• http://ashutoshpg.blogspot.com/2017/12/partition-wise-joins-divide-and-conquer.html
• http://rhaas.blogspot.com/2016/04/postgresql-96-with-parallel-query-vs.html
• http://amitkapila16.blogspot.com/2015/11/parallel-sequential-scans-in-play.html
• https://write-skew.blogspot.com/2018/01/parallel-hash-for-postgresql.html
• http://rhaas.blogspot.com/2017/03/parallel-query-v2.html
• https://blog.2ndquadrant.com/parallel-monster-benchmark/
• https://blog.2ndquadrant.com/parallel-aggregate/
• https://www.depesz.com/2018/02/12/waiting-for-postgresql-11-support-parallel-btree-index-builds/
• PostgreSQL 11 में कोन्क्यूरिटी