छवि मान्यता के लिए गहरे तंत्रिका नेटवर्क के विकास ने मशीन सीखने में अनुसंधान के पहले से ही ज्ञात क्षेत्रों में नया जीवन जीता है। ऐसा ही एक क्षेत्र है डोमेन अनुकूलन। इस अनुकूलन का सार स्रोत डोमेन (स्रोत डोमेन) से डेटा पर मॉडल को प्रशिक्षित करना है ताकि यह लक्ष्य डोमेन (लक्ष्य डोमेन) पर एक तुलनीय गुणवत्ता दिखाता है। उदाहरण के लिए, एक स्रोत डोमेन सिंथेटिक डेटा हो सकता है जो सस्ते में उत्पन्न हो सकता है, और एक लक्ष्य डोमेन उपयोगकर्ता तस्वीरें हो सकती हैं। फिर डोमेन अनुकूलन का कार्य मॉडल को सिंथेटिक डेटा पर प्रशिक्षित करना है, जो "वास्तविक" वस्तुओं के साथ अच्छी तरह से काम करेगा।

मशीन विजन समूह Vision.BIZ.Ru में, हम विभिन्न लागू समस्याओं पर काम कर रहे हैं, और उनमें से अक्सर ऐसे हैं जिनके लिए बहुत कम प्रशिक्षण डेटा है। इन मामलों में, सिंथेटिक डेटा की पीढ़ी और उन पर प्रशिक्षित मॉडल के अनुकूलन से बहुत मदद मिल सकती है। इस दृष्टिकोण का एक अच्छा लागू उदाहरण एक स्टोर में अलमारियों पर माल का पता लगाने और पहचानने का कार्य है। ऐसी अलमारियों की तस्वीरें प्राप्त करना और उन्हें चिह्नित करना श्रमसाध्य है, लेकिन वे काफी सरल रूप से उत्पन्न हो सकते हैं। इसलिए, हमने डोमेन अनुकूलन के विषय में गहराई से निर्णय लिया।

डोमेन अनुकूलन में अध्ययन एक नए कार्य में तंत्रिका नेटवर्क द्वारा प्राप्त पिछले अनुभव के उपयोग को प्रभावित करता है। क्या नेटवर्क स्रोत डोमेन से कुछ सुविधाओं को निकालने और उन्हें लक्ष्य डोमेन में उपयोग करने में सक्षम होगा? यद्यपि मशीन लर्निंग में तंत्रिका नेटवर्क केवल मानव मस्तिष्क में तंत्रिका नेटवर्क से संबंधित है, फिर भी, कृत्रिम बुद्धिमत्ता शोधकर्ताओं की पवित्र कब्र तंत्रिका नेटवर्क को संभावनाओं को सिखाने के लिए है जो एक व्यक्ति के पास है। और लोग नई अवधारणाओं को समझने के लिए पिछले अनुभव और संचित ज्ञान का उपयोग करने में सक्षम हैं।

इसके अलावा, डोमेन अनुकूलन गहरी सीखने की मूलभूत समस्याओं में से एक को हल करने में मदद कर सकता है: उच्च मान्यता गुणवत्ता वाले बड़े नेटवर्क को प्रशिक्षित करने के लिए, डेटा की एक बहुत बड़ी मात्रा की आवश्यकता होती है, जो व्यवहार में हमेशा उपलब्ध नहीं होती है। एक समाधान सिंथेटिक डेटा पर डोमेन अनुकूलन के तरीकों का उपयोग करना हो सकता है जो कि लगभग असीमित मात्रा में उत्पन्न हो सकते हैं।

अक्सर लागू समस्याओं में एक ऐसा मामला होता है जहां केवल एक डोमेन से डेटा प्रशिक्षण के लिए उपलब्ध होता है, और मॉडल को दूसरे डोमेन पर लागू किया जाना चाहिए। उदाहरण के लिए, फोटोग्राफी की सौंदर्य गुणवत्ता को निर्धारित करने वाले नेटवर्क को शौकिया वेबसाइट से एकत्र किए गए नेटवर्क पर उपलब्ध डेटाबेस पर प्रशिक्षित किया जा सकता है। और यह सामान्य तस्वीरों में इस नेटवर्क का उपयोग करने की योजना है, जिनमें से गुणवत्ता का स्तर एक विशेष वास्तविक साइट से फोटो के स्तर से औसतन भिन्न होता है। एक समाधान के रूप में, हम मॉडल को साधारण अनलिस्टेड तस्वीरों के लिए अनुकूल बनाने पर विचार कर सकते हैं।

इस तरह के सैद्धांतिक और लागू किए गए सवाल अनुकूलन के क्षेत्र में हैं। इस लेख में, मैं इस क्षेत्र में मुख्य शोध के बारे में बात करूँगा, जो कि गहन सीखने और विभिन्न तरीकों की तुलना करने के लिए डेटासेट पर आधारित है। गहरे डोमेन अनुकूलन का मुख्य विचार स्रोत डोमेन पर एक गहरे तंत्रिका नेटवर्क को प्रशिक्षित करना है, जो छवि को इस तरह के एम्बेडिंग (आमतौर पर नेटवर्क की अंतिम परत) में अनुवाद करेगा कि जब लक्ष्य डोमेन पर उपयोग किया जाता है, तो उच्च गुणवत्ता प्राप्त होगी।

कोर बेंचमार्क

मशीन लर्निंग के किसी भी क्षेत्र में, समय के साथ डोमेन अनुकूलन में अनुसंधान की एक निश्चित राशि जमा होती है, जिसकी एक दूसरे के साथ तुलना की जानी चाहिए। इसके लिए, समुदाय डेटासेट विकसित करता है, जिसके प्रशिक्षण भाग पर मॉडल प्रशिक्षित होते हैं, और परीक्षण भाग पर उनकी तुलना की जाती है। इस तथ्य के बावजूद कि गहन डोमेन अनुकूलन का अनुसंधान क्षेत्र अभी भी अपेक्षाकृत युवा है, पहले से ही काफी संख्या में लेख और डेटाबेस हैं जो इन लेखों में उपयोग किए जाते हैं। मैं मुख्य लोगों की सूची दूंगा, जो सिंथेटिक डेटा के डोमेन को "वास्तविक" करने पर ध्यान केंद्रित करेंगे।

आंकड़े

जाहिर है, यान लेकुन (गहरी शिक्षा के अग्रदूतों में से एक, फेसबुक एआई रिसर्च के निदेशक) द्वारा स्थापित परंपरा के अनुसार, कंप्यूटर दृष्टि में सरलतम डेटासेट हस्तलिखित संख्याओं या अक्षरों से जुड़े होते हैं। संख्याओं के साथ कई डेटा सेट हैं जो मूल रूप से छवि मान्यता मॉडल के साथ प्रयोग करने के लिए दिखाई देते हैं। डोमेन अनुकूलन पर लेखों में, कोई भी स्रोत में अपने संयोजन की एक किस्म पा सकता है - लक्ष्य डोमेन जोड़े। इन आंकड़ों के बीच:

• MNIST - हस्तलिखित संख्या, को अतिरिक्त प्रस्तुति की आवश्यकता नहीं है;
• यूएसपीएस - कम रिज़ॉल्यूशन में हस्तलिखित संख्या;
• एसवीएचएन - Google स्ट्रीट व्यू के साथ घर की संख्या;
• जैसा कि नाम से पता चलता है कि सिंथेस सिंथेटिक नंबर हैं।

"वास्तविक" दुनिया में उपयोग के लिए सिंथेटिक डेटा पर प्रशिक्षण के कार्य के दृष्टिकोण से, सबसे दिलचस्प जोड़े हैं:

• स्रोत: MNIST, लक्ष्य: SVHN;
• स्रोत: USPS, लक्ष्य: MNIST;
• स्रोत: सिंथेस नंबर, लक्ष्य: SVHN

अधिकांश तरीकों में "डिजिटल" डेटासेट पर बेंचमार्क हैं। लेकिन अन्य प्रकार के डोमेन सभी लेखों से बहुत दूर पाए जा सकते हैं।

दफ्तर

इस डेटासेट में विभिन्न मदों की 31 श्रेणियां हैं, जिनमें से प्रत्येक को 3 डोमेन में दर्शाया गया है: अमेज़ॅन से एक छवि, एक वेब कैमरा से एक तस्वीर और एक डिजिटल कैमरा से एक तस्वीर।

यह जांचने के लिए उपयोगी है कि मॉडल लक्ष्य डोमेन में पृष्ठभूमि और गुणवत्ता को जोड़ने के लिए कैसे प्रतिक्रिया देगा।

यातायात संकेत

सिंथेटिक डेटा पर मॉडल को प्रशिक्षित करने और इसे "वास्तविक" डेटा पर लागू करने के लिए डेटासेट की एक और जोड़ी:

• स्रोत: सिंथ संकेत - सड़क के संकेतों की छवियां उत्पन्न हुईं ताकि वे सड़क पर वास्तविक संकेतों की तरह दिखें;
• लक्ष्य: GTSRB जर्मन सड़कों के संकेतों से युक्त एक काफी प्रसिद्ध मान्यता स्थल है।

डेटाबेस की इस जोड़ी की एक विशेषता यह है कि सिंथ साइन्स का डेटा "वास्तविक" डेटा के समान है, इसलिए डोमेन काफी करीब हैं।

कार की खिड़की से

विभाजन के लिए डेटासेट। काफी दिलचस्प जोड़े, वास्तविक स्थितियों के सबसे करीब। स्रोत डेटा गेम इंजन (GTA 5) का उपयोग करके प्राप्त किया जाता है, और लक्ष्य डेटा वास्तविक जीवन से है। इसी तरह के दृष्टिकोण का उपयोग उन मॉडलों को प्रशिक्षित करने के लिए किया जाता है जो स्वायत्त कारों में उपयोग किए जाते हैं।

• SYNTHIA या GTA 5 इंजन - गेम इंजन का उपयोग करके उत्पन्न कार की खिड़की से शहर के दृश्य की तस्वीरें;
• सिटीसैप्स - 50 अलग-अलग शहरों में ली गई कार की तस्वीरें।

VisDA

इस डेटासेट का उपयोग विज़ुअल डोमेन अनुकूलन चैलेंज में किया जाता है, जो ईसीसीवी और आईसीसीवी पर एक कार्यशाला का हिस्सा है। स्रोत डोमेन में सीएडी का उपयोग करके उत्पन्न वस्तुओं की 12 श्रेणियां हैं, जैसे एक हवाई जहाज, एक घोड़ा, एक व्यक्ति, आदि। लक्ष्य डोमेन में इमेजनेट से ली गई 12 श्रेणियों में से गैर-सूचीबद्ध छवियां हैं। 2018 में आयोजित होने वाली प्रतियोगिता में 13 वीं श्रेणी जोड़ी गई: अज्ञात।

जैसा कि आप उपरोक्त सभी से देख सकते हैं, डोमेन अनुकूलन के लिए काफी दिलचस्प और विविध डेटासेट हैं, आप विभिन्न कार्यों (वर्गीकरण, विभाजन, पहचान) और विभिन्न स्थितियों (सिंथेटिक डेटा, फोटो, सड़क दृश्य) के लिए मॉडल को प्रशिक्षित और परीक्षण कर सकते हैं।

गहरी डोमेन अनुकूलन

डोमेन अनुकूलन विधियों का एक काफी व्यापक और विविध वर्गीकरण है (उदाहरण के लिए , यहां देखें)। मैं इस लेख में उनकी प्रमुख विशेषताओं के अनुसार सरलीकृत विभाजन का तरीका दूंगा। गहरे डोमेन अनुकूलन के आधुनिक तरीकों को 3 बड़े समूहों में विभाजित किया जा सकता है:

• विसंगति-आधारित : स्रोत और लक्ष्य डोमेन पर वेक्टर निरूपण के बीच की दूरी को कम करने के आधार पर दृष्टिकोण इस दूरी को नुकसान फ़ंक्शन में पेश करके।
• एडवांसरियल-बेस्ड : ये अप्रोच डोमेन-इनवेरिएंट नेटवर्क को प्रशिक्षित करने के लिए GANs में पेश किए गए प्रतिकूल हानि फ़ंक्शन का उपयोग करते हैं। इस परिवार के तरीकों को पिछले कुछ वर्षों में सक्रिय रूप से विकसित किया गया है।
• मिश्रित तरीके जो प्रतिकूल हानि का उपयोग नहीं करते हैं, लेकिन विसंगति-आधारित परिवार के विचारों को लागू करते हैं, साथ ही साथ गहरी शिक्षा से नवीनतम विकास: आत्म-आश्रित, नई परतें, हानि-कार्य आदि। ये दृष्टिकोण विजडा प्रतियोगिता में सर्वोत्तम परिणाम दिखाते हैं।

प्रत्येक अनुभाग से, कई बुनियादी, मेरी राय में, पिछले 1-3 वर्षों में प्राप्त परिणामों पर विचार किया जाएगा।

विसंगति आधारित

जब समस्या एक मॉडल को नए डेटा को अपनाने में उत्पन्न होती है, तो पहली चीज जो दिमाग में आती है वह है फाइन ट्यूनिंग का उपयोग, अर्थात। नए डेटा पर मॉडल को फिर से देखना। ऐसा करने के लिए, डोमेन के बीच विसंगति पर विचार करें। इस प्रकार के डोमेन अनुकूलन को तीन दृष्टिकोणों में विभाजित किया जा सकता है: कक्षा मानदंड, सांख्यिकीय मानदंड और वास्तुकला मानदंड।

कक्षा की कसौटी

इस परिवार के तरीके मुख्य रूप से तब उपयोग किए जाते हैं जब हमारे पास लक्ष्य डोमेन से टैग किए गए डेटा तक पहुंच होती है। क्लास मानदंड के लिए लोकप्रिय विकल्पों में से एक डीप ट्रांसफर मीट्रिक लर्निंग दृष्टिकोण है। जैसा कि नाम से पता चलता है, यह मीट्रिक लर्निंग पर आधारित है, जिसका सार एक तंत्रिका नेटवर्क से प्राप्त ऐसे वेक्टर प्रतिनिधित्व को प्रशिक्षित करना है कि एक दिए गए मीट्रिक के अनुसार एक प्रतिनिधित्व में एक वर्ग के प्रतिनिधि एक दूसरे के करीब होंगे (सबसे अधिक बार उपयोग करते हैं) $$$L ^ 2$या कोसाइन मेट्रिक्स)। लेख में डीप ट्रांसफर मेट्रिक लर्निंग (DTML) , इस दृष्टिकोण को लागू करने के लिए शर्तों के योग से एक नुकसान का उपयोग किया जाता है:

• एक वर्ग के प्रतिनिधियों की निकटता एक दूसरे (इंट्राक्लास कॉम्पैक्टनेस) के लिए;
• विभिन्न वर्गों के प्रतिनिधियों के बीच बढ़ी हुई दूरी (इंटरक्लास सेपरिबिलिटी);
• डोमेन के बीच अधिकतम औसत विसंगति (MMD) मीट्रिक। यह मीट्रिक सांख्यिकीय मानदंड परिवार (नीचे देखें) से संबंधित है, लेकिन इसका उपयोग कक्षा की कसौटी में भी किया जाता है।

डोमेन के बीच MMD के रूप में लिखा जाता है

$$

$$MMD ^ 2 (D_s, D_t) = \ Vert \ frac {1} {M} \ sum_ {i = 1} ^ M \ phi (x_i ^ s) - \ frac {1} {N} sum_ {j = 1} ^ N \ phi (x_j ^ t) \ Vert ^ 2_H,$$

जहाँ $$$\ phi (x)$- यह कुछ कोर है, हमारे मामले में - नेटवर्क का एक वेक्टर प्रतिनिधित्व, $$$x_i ^ s, i \ _ 1 \ ldots M $ मे$- स्रोत डोमेन से डेटा, $$$x_i ^ t, i \ _ in 1 \ ldots N$- लक्ष्य डोमेन से डेटा। इस प्रकार, प्रशिक्षण के दौरान MMD मीट्रिक को कम करते समय, ऐसे नेटवर्क का चयन किया जाता है $$$\ phi (x)$ताकि दोनों डोमेन पर इसका औसत वेक्टर प्रतिनिधित्व करीब हो। DTML का मुख्य विचार:

यदि लक्ष्य डोमेन में डेटा को लेबल नहीं किया गया है (असुरक्षित डोमेन अनुकूलन), तो विधि क्लास वेट बायस में वर्णित विधि : अनसुप्रवाइज्ड डोमेन अनुकूलन के लिए भारित अधिकतम मीन विसंगति स्रोत डोमेन पर मॉडल को प्रशिक्षित करने और छद्म-लेबल (छद्म) प्राप्त करने के लिए इसका उपयोग करने की पेशकश करता है लेबल) लक्ष्य डोमेन पर। यानी लक्ष्य डोमेन से डेटा नेटवर्क के माध्यम से चलाया जाता है और परिणाम को छद्म लेबल कहा जाता है। फिर उन्हें लक्ष्य डोमेन के लिए मार्कअप के रूप में उपयोग किया जाता है, जो हानि फ़ंक्शन (विभिन्न डोमेन के लिए जिम्मेदार घटकों के लिए अलग-अलग वजन के साथ) में MMD मानदंड को लागू करने की अनुमति देता है।

सांख्यिकीय मानदंड

इस परिवार से संबंधित विधियों का उपयोग असुरक्षित डोमेन अनुकूलन समस्या को हल करने के लिए किया जाता है। मामला जब लक्ष्य डोमेन अनसाइन किया जाता है, तो कई समस्याओं में होता है, और डोमेन अनुकूलन के सभी तरीके, जिस पर बाद में इस लेख में चर्चा की जाएगी, बस इस तरह की समस्या को हल करें।

सांख्यिकीय मानदंड पर आधारित दृष्टिकोण स्रोत और लक्ष्य डोमेन के डेटा से प्राप्त नेटवर्क के वेक्टर प्रतिनिधित्व के वितरण के बीच अंतर को मापने की कोशिश करते हैं। वे फिर इन दो वितरणों को एक साथ लाने के लिए गणना की गई अंतर का उपयोग करते हैं।

इन मानदंडों में से एक अधिकतम मीन विसंगति (MMD) है जो पहले से ही ऊपर वर्णित है। इसके प्रकार कई तरीकों से उपयोग किए जाते हैं:

• गहन अनुकूलन नेटवर्क (डीएएन) ;
• संयुक्त अनुकूलन नेटवर्क (JAN) ;
• अवशिष्ट हस्तांतरण नेटवर्क (RTN) । RTN जोड़ी MNIST के लिए अच्छे परिणाम दिखाता है -> SVHN: लक्ष्य डोमेन पर 90.66% सटीकता।

इन तीन विधियों के आरेख नीचे प्रस्तुत किए गए हैं। उनमें, MMD वेरिएंट का उपयोग स्रोत और लक्ष्य डोमेन पर लागू किए गए दृढ़ तंत्रिका नेटवर्क की परतों पर वितरण के बीच के अंतर को निर्धारित करने के लिए किया जाता है। कृपया ध्यान दें कि उनमें से प्रत्येक एमएमडी संशोधन का उपयोग कन्वेंशन नेटवर्क की परतों (आरेख पर पीले आंकड़े) के बीच नुकसान के रूप में करता है।

कोरल मानदंड (सहसंबंध संरेखण) और डीप कोरल नेटवर्क की मदद से इसका विस्तार डेटा के ऐसे प्रतिनिधित्व को सीखने के उद्देश्य से किया गया है ताकि डोमेन के बीच दूसरे क्रम के आंकड़े अधिकतम तक मेल खाते हों। इसके लिए, नेटवर्क के वेक्टर निरूपण के सहसंयोजक मैट्रिक्स का उपयोग किया जाता है। कुछ मामलों में दोनों डोमेन पर दूसरे क्रम के आंकड़ों का अभिसरण एमएमडी की तुलना में बेहतर अनुकूलन परिणाम प्राप्त करने की अनुमति देता है।

$$

$$L_ {CORAL} = \ frac {1} {4d ^ 2} \ Vert C_S - C_T \ Vert ^ 2_F,$$

जहाँ $$$|| * || _F ^ 2$फ्रोबेनियस मैट्रिक्स मानक का वर्ग है, और $$$C_s$और $$$C_t$- स्रोत और लक्ष्य डोमेन से क्रमशः सहसंयोजक मैट्रिक्स डेटा, $$$ड$- वेक्टर प्रतिनिधित्व का आयाम।

ऑफिस डेटासेट पर, अमेज़ॅन और वेबकैम डोमेन के जोड़े के लिए डीप कोरल का उपयोग करके अनुकूलन की औसत गुणवत्ता 72.1% है। Synth Signs -> GTSRB रोड साइन डोमेन पर, परिणाम भी औसत है: लक्ष्य डोमेन पर 86.9% सटीकता।

एमएमडी और कोरल के विचारों का विकास केंद्रीय गति विसंगति (सीएमडी) मानदंड है , जो सभी आदेशों के स्रोत और लक्ष्य डोमेन से डेटा के केंद्रीय क्षणों की तुलना करता है $$$K$समावेशी ( $$$K$- एल्गोरिथ्म के पैरामीटर)। Office डेटासेट पर, Amazon और Webcam डोमेन के जोड़े के लिए औसत CMD अनुकूलन गुणवत्ता 77.0% है।

वास्तुकला की कसौटी

इस प्रकार के एल्गोरिदम इस धारणा पर आधारित हैं कि एक नए डोमेन के लिए जिम्मेदार बुनियादी जानकारी एक तंत्रिका नेटवर्क के मापदंडों में एम्बेडेड है।

कई कागजात [1] , [2] में, जब प्रत्येक जोड़ी परतों के लिए नुकसान कार्यों का उपयोग करके स्रोत और लक्ष्य डोमेन के लिए प्रशिक्षण नेटवर्क, जो जानकारी डोमेन के संबंध में अपरिवर्तनीय है, इन परतों के तराजू पर अध्ययन किया जाता है। ऐसे आर्किटेक्चर का एक उदाहरण नीचे दिया गया है।

लेख में " प्रैक्टिकल डोमेन अनुकूलन के लिए रिवाइजिंग बैच नॉर्मलाइजेशन" विचार को आगे रखा गया था कि नेटवर्क पैमानों पर उन कक्षाओं से संबंधित जानकारी होती है, जिस पर नेटवर्क अध्ययन कर रहा है, और डोमेन की जानकारी बैच नॉरमलाइजेशन (बीएन) परतों के माध्य और मानक विचलन में अंतर्निहित है। इसलिए, अनुकूलन के लिए, लक्ष्य डोमेन से डेटा पर इन आंकड़ों को पुनर्गणना करना आवश्यक है। कोरल के साथ मिलकर इस तकनीक का उपयोग करने से अमेज़ॅन और वेबकेम डोमेन के जोड़े के लिए Office डेटासेट पर अनुकूलन की गुणवत्ता में 75.0% तक सुधार हो सकता है। तब यह दिखाया गया कि बीएन के बजाय इंस्टेंस नॉर्मलाइज़ेशन (IN) लेयर का उपयोग करने से अनुकूलन की गुणवत्ता में और सुधार होता है। बीएन के विपरीत, जो बैच द्वारा इनपुट टेंसर को सामान्य करता है, IN चैनलों द्वारा सामान्यीकरण के आंकड़ों की गणना करता है और इसलिए, बैच से स्वतंत्र है।

सलाहकार-आधारित दृष्टिकोण

पिछले 1-2 वर्षों में, गहरे डोमेन अनुकूलन के अधिकांश परिणाम प्रतिकूल-आधारित दृष्टिकोण से संबंधित हैं। यह काफी हद तक जनरेशनल एडवरसियरी नेटवर्क्स (जीएएन) की तेजी से विकास और लोकप्रियता के कारण है, क्योंकि डोमेन अनुकूलन के लिए प्रतिकूल-आधारित दृष्टिकोण, जीएएन के रूप में प्रशिक्षण में समान प्रतिकूल उद्देश्य फ़ंक्शन का उपयोग करता है। इसे अनुकूलित करके, इस तरह के गहरे डोमेन अनुकूलन के तरीके स्रोत और लक्ष्य डोमेन पर वेक्टर डेटा अभ्यावेदन के अनुभवजन्य वितरण के बीच की दूरी को कम करते हैं। इस तरह से नेटवर्क को प्रशिक्षित करके, वे इसे डोमेन के संबंध में अपरिवर्तनीय बनाने की कोशिश करते हैं।

GAN में दो मॉडल होते हैं: जनरेटर $$$जी$जिस पर एक निश्चित लक्ष्य वितरण से डेटा प्राप्त किया जाता है; और भेदभाव करनेवाला $$$डी$, जो निर्धारित करता है कि प्रशिक्षण सेट से डेटा का उपयोग कर उत्पन्न किया गया है या नहीं $$$जी$। इन दो मॉडलों को प्रतिकूल उद्देश्य फ़ंक्शन का उपयोग करके प्रशिक्षित किया जाता है:

$$

$$\ min_G \ max_D V (D, G) = \ mathbb {E} _ {x \ sim p_ {data} (x)} [\ log D (x)] + \ mathbb {E} _ {z_ sim p (z)} [1 - \ लॉग डी (जी (जेड))]$$

इस तरह के प्रशिक्षण के साथ, जनरेटर विवेचक को "छल" करना सीखता है, जो आपको लक्ष्य और स्रोत डोमेन के वितरण को करीब लाने की अनुमति देता है।

प्रतिकूल-आधारित डोमेन अनुकूलन में दो बड़े दृष्टिकोण हैं जो एक जनरेटर का उपयोग किया जाता है या नहीं, इसमें भिन्नता है। $$$जी$।

गैर-जनरेटिव मॉडल

इस परिवार के तरीकों की एक प्रमुख विशेषता एक वेक्टर प्रतिनिधित्व के साथ तंत्रिका नेटवर्क का प्रशिक्षण है जो स्रोत और लक्ष्य डोमेन के संबंध में अपरिवर्तनीय है। फिर चिह्नित स्रोत डोमेन पर प्रशिक्षित नेटवर्क का उपयोग लक्ष्य डोमेन पर किया जा सकता है, आदर्श रूप से - व्यावहारिक रूप से वर्गीकरण गुणवत्ता के नुकसान के बिना।

2015 में पेश किया गया, तंत्रिका नेटवर्क (DANN) एल्गोरिथ्म ( कोड ) के डोमेन-एडवाइजरी प्रशिक्षण में 3 भाग शामिल हैं:

• मुख्य नेटवर्क, जिसकी सहायता से एक वेक्टर प्रतिनिधित्व (सुविधा चिमटा) प्राप्त किया जाता है (नीचे चित्रण में हरा हिस्सा);
• स्रोत डोमेन पर वर्गीकरण के लिए "प्रमुख" जिम्मेदार (चित्रण में नीला भाग);
• एक "सिर" जो लक्ष्य डोमेन (चित्रण में लाल भाग) से स्रोत डोमेन से डेटा को भेद करना सीखता है।

जब ग्रेडिएंट डिसेंट (SGD) (चित्रण में इनपुट के लिए तीर) का उपयोग करते हुए प्रशिक्षण, वर्गीकरण और डोमेन के नुकसान को कम किया जाता है। इसके अलावा, डोमेन के लिए जिम्मेदार "हेड" के लिए एक सीखने की त्रुटि के पिछड़े प्रसार के दौरान, ग्रेडिएंट रिवर्सल लेयर (चित्रण में काला भाग) का उपयोग किया जाता है, जो एक नकारात्मक निरंतरता से गुजरने वाले ढाल को गुणा करता है, जिससे डोमेन हानि बढ़ जाती है। यह सुनिश्चित करता है कि दोनों डोमेन पर वेक्टर अभ्यावेदन के वितरण करीब हो जाते हैं।

DANN बेंचमार्क परिणाम:

• डिजिटल डोमेन की एक जोड़ी पर Synth नंबर -> SVHN: 91.09%।
• सिंथ साइन्स पर -> जीटीएसआरबी सड़क संकेत, यह 88.7% के परिणाम के साथ कोरल से आगे निकल जाता है।
• Office डेटासेट पर, Amazon और Webcam डोमेन के जोड़े के लिए औसत अनुकूलन गुणवत्ता 73.0% है।

गैर-जनरेटिव मॉडल परिवार का अगला महत्वपूर्ण प्रतिनिधि एडवांसरियल डिस्क्रिमिनटिव डोमेन एडेप्टेशन (ADDA) विधि ( कोड ) है, जिसमें स्रोत डोमेन के लिए नेटवर्क और लक्ष्य डोमेन के लिए नेटवर्क को अलग करना शामिल है। एल्गोरिथ्म में निम्न चरण होते हैं:

1. सबसे पहले, हम स्रोत डोमेन पर वर्गीकृत नेटवर्क को प्रशिक्षित करते हैं। हम इसके वेक्टर प्रतिनिधित्व को निरूपित करते हैं $$$M_s$, और $$$\ mathbf {X} _s$- स्रोत डोमेन।
2. अब पिछले चरण से प्रशिक्षित नेटवर्क का उपयोग करके लक्ष्य डोमेन के लिए तंत्रिका नेटवर्क को इनिशियलाइज़ करें। उसे रहने दो $$$M_t$, और $$$\ mathbf {X} _t$- लक्ष्य डोमेन।
3. चलो प्रतिकूल प्रशिक्षण पर आगे बढ़ते हैं: हम विवेचक को प्रशिक्षित करेंगे $$$डी$नियत पर $$$M_s$और $$$M_t$निम्नलिखित उद्देश्य समारोह का उपयोग:
   
   

   $$

   $$\ min_D L_ {adv_D} (\ mathbf {X} _s, \ mathbf {X} _t, M_s, M_t) = - \ mathbb {E} _ {x_s \ sim \ mathbf {X} _s} [\ log D ({ M_s (x_s))] - \ mathbb {E} _ {x_t \ sim \ mathbf {X} _t} [\ log (1 - D (M_t (x_t)))]$$
   
   
4. फ़्रीज डिस्क्रिमिनेटर और रिट्रेनिंग $$$M_t$लक्ष्य डोमेन पर:
   

   $$

   $$\ min_ {M_s, M_t} L_ {adv_M} (\ mathbf {X} _s, \ mathbf {X} _t, D) = - \ mathbb {E} _ {x_ \ _ \ _ \ _ \ _ \ _bb \ _ \ _}} _t} [\ _ \ _} लॉग डी (M_t (x_t))]$$
   
   

3 4 . ADDA , , adversarial- , . :

USPS -> MNIST ADDA 90,1 % .

ADDA ICML-2018 M-ADDA: Unsupervised Domain Adaptation with Deep Metric Learning ( ).

, M-ADDA metric learning, $$$L^2$-. 1 ADDA - Triplet loss ( ( ) ). , $$$K$( $$$K$— ). $$$C_j, j \in 1 \ldots K$।

ADDA, .. 2-4. 4 , $$$C_j$, :

$$

$$\mathbb{E}_{x_t \sim \mathbf{X}_t}[\min_j || M_t(x_t) - C_j ||^2].$$

.

M-ADDA USPS -> MNIST 94,0 %.

non-generative Maximum Classifier Discrepancy for Unsupervised Domain Adaptation ( ). (), . , , .

$$$G$— , $$$F_1$और $$$F_2$— , . , $$$G$। $$$F_1$और $$$F_2$-; , ; , ; $$$F_1$और $$$F_2$।

, adversarial-, $$$G$, .

(Discrepancy Loss)

$$

$$d(p_1, p_2) = \frac{1}{K} \sum_{k=1}^K |p_{1_k} - p_{2_k}|,$$

$$$K$— , $$$p_{1_k}$$$$p_{2_k}$— softmax $$$k$- $$$F_1$और $$$F_2$.

3 :

• ए $$$G$। $$$F_1$और $$$F_2$।
• बी , .
• C . , , Discrepancy Loss.

$$$एन$( ). B C:

:

• USPS -> MNIST: 94,1 %.
• Synth Signs -> GTSRB : 94,4 %.
• VisDA 12 Unknown: 71,9 %.
• GTA 5 -> Cityscapes: Mean IoU = 39,7 %, Synthia -> Cityscapes: Mean IoU = 37,3 %

non-generative models:

• Domain Separation Networks
• A DIRT-T Approach to Unsupervised Domain Adaptation

.

हमने डोमेन अनुकूलन, विसंगति-आधारित दृष्टिकोणों के लिए मुख्य डेटासेट्स की जांच की: कक्षा मानदंड, सांख्यिकीय मानदंड और वास्तुकला मानदंड, साथ ही साथ प्रतिकूल-आधारित विधियों का पहला गैर-जननिक परिवार। इन दृष्टिकोणों के मॉडल बेंचमार्क पर अच्छा प्रदर्शन दिखाते हैं और कई अनुकूलन कार्यों पर लागू होते हैं। अगले भाग में, हम सबसे जटिल और प्रभावी दृष्टिकोणों पर विचार करेंगे: जनरेटिव मॉडल और मिश्रित गैर-प्रतिकूल-आधारित तरीके।