Google मशीन दृष्टि एल्गोरिदम पर हमलों की एक प्रतियोगिता की घोषणा करता है

तंत्रिका नेटवर्क का उपयोग करके छवि की पहचान बेहतर हो रही है, लेकिन अभी तक शोधकर्ताओं ने इसकी कुछ मूलभूत कमियों को दूर नहीं किया है। जहां एक व्यक्ति स्पष्ट रूप से और स्पष्ट रूप से देखता है, उदाहरण के लिए, एक साइकिल, यहां तक ​​कि एक उन्नत, प्रशिक्षित एआई पक्षी देख सकता है।

अक्सर इसका कारण तथाकथित "हानिकारक डेटा" (या "प्रतिस्पर्धी तत्व", या "दुर्भावनापूर्ण प्रतियां" या विकल्पों का अधिक ढेर होता है, क्योंकि "प्रतिकूल उदाहरण" को आम तौर पर स्वीकृत अनुवाद नहीं मिला है)। यह वह डेटा है जो न्यूरल नेटवर्क क्लासिफायर को धोखा देता है, जो अन्य वर्गों के संकेतों को खिसका देता है - सूचना महत्वपूर्ण नहीं है और मानव धारणा के लिए दृश्यमान नहीं है, लेकिन मशीन दृष्टि के लिए आवश्यक है।

Google के शोधकर्ताओं ने 2015 में एक काम प्रकाशित किया, जहां उन्होंने इस उदाहरण के साथ समस्या का वर्णन किया:


पांडा की छवि के लिए एक "हानिकारक" ढाल लागू किया गया था। परिणामी तस्वीर में व्यक्ति निश्चित रूप से पांडा को देखता रहता है, और तंत्रिका नेटवर्क इसे गिब्बन के रूप में पहचानता है, क्योंकि छवि के उन हिस्सों में विशेष रूप से एक अन्य वर्ग के संकेत मिलाए गए थे, जिनके द्वारा तंत्रिका नेटवर्क ने पांडा की पहचान करना सीखा था।

उन क्षेत्रों में जहां मशीन की दृष्टि बेहद सटीक होनी चाहिए, और त्रुटि, हैकिंग और हमलावरों के कार्यों के भयानक परिणाम हो सकते हैं, हानिकारक डेटा विकास के लिए एक गंभीर बाधा है। लड़ाई में प्रगति धीमी है, और GoogleAI (Google की AI अनुसंधान इकाई) ने सामुदायिक शक्ति खींचने और एक प्रतियोगिता आयोजित करने का निर्णय लिया।

कंपनी हानिकारक डेटा, या इसके विपरीत - पूरी तरह से खराब की गई छवियों के खिलाफ सुरक्षा के लिए अपने स्वयं के तंत्र बनाने के लिए हर किसी को प्रदान करती है जिसे कोई एल्गोरिथ्म सही ढंग से नहीं पहचानता है। जो सबसे अच्छा कर सकता है उसे एक बड़ा नकद पुरस्कार मिलेगा (आकार अभी तक घोषित नहीं किया गया है)।

प्रतियोगिता हानिकारक डेटा के साथ सरल हमलों पर पहले एल्गोरिदम को गर्म करने और चलाने से शुरू होगी। Google ने सामान्य और अच्छी तरह से अध्ययन किए गए धोखाधड़ी के साथ तीन डेटासेट को चुना है। प्रतिभागियों को एक एकल त्रुटि या अस्पष्ट उत्तर के बिना उनमें प्रस्तावित सभी छवियों को पहचानने वाले एल्गोरिदम बनाने होंगे।

चूंकि जिन शर्तों पर हीटिंग डेटासेट में हानिकारक डेटा स्थित हैं, वे ज्ञात और सुलभ हैं, आयोजकों को प्रतिभागियों से इन हमलों के लिए विशेष रूप से अत्यधिक अनुरूप एल्गोरिदम बनाने की उम्मीद है। इसलिए, वे चेतावनी देते हैं - मौजूदा समाधानों में सबसे स्पष्ट दूसरे दौर में एक भी मौका नहीं है। यह वार्मिंग के बाद शुरू होता है, और इसमें पहले से ही एक प्रतिस्पर्धी हिस्सा होगा, जहां प्रतिभागियों को हमलावरों और रक्षकों में विभाजित किया जाएगा।


प्रतियोगिता पक्षियों और साइकिल के साथ चित्रों की मान्यता के आसपास बनाई जाएगी। सबसे पहले, प्रत्येक प्रस्तावित तस्वीर को लोगों द्वारा देखा जाएगा और एक अनाम निर्णय जारी करेगा जो वहां दर्शाया गया है। एक तस्वीर केवल डेटासेट में मिलेगी जब सभी न्यायाधीश सहमत होंगे कि यह स्पष्ट रूप से या तो एक पक्षी या साइकिल को दिखाता है, और स्पष्ट भ्रम के कोई संकेत नहीं हैं (उदाहरण के लिए, साइकिल पर पक्षी या सिर्फ अमूर्त पैटर्न और तस्वीरें)।


ऊपर उपयुक्त छवियों के उदाहरण हैं, नीचे अनुपयुक्त हैं

बचाव करने वाले प्रतिभागियों को एक एल्गोरिथ्म बनाना होगा जो कि एक भी गलती के बिना चित्रों को तीन श्रेणियों में बांटेगा - "पक्षी", "साइकिल" और "अनिश्चित"।

यही है, प्रतिस्पर्धी स्तर पर - वार्मिंग के विपरीत - एल्गोरिदम जवाब देने से बच सकता है, लेकिन डेटासेट के प्रसंस्करण के परिणामों के अनुसार, 20% से अधिक छवियों को अनिश्चितकाल में नहीं गिरना चाहिए।

एल्गोरिदम के लिए तकनीकी आवश्यकताएं निम्नानुसार हैं:

• 80% छवियों को मान्यता दी जानी चाहिए। किसी भी त्रुटि की अनुमति नहीं है। यदि प्रतियोगी चरण के दौरान पहले से ही भाग लेते हैं, तो उन्हें सफलतापूर्वक 2 पिछले डेटासेट को संसाधित करना होगा।
• टेस्ला P100 पर बैंडविड्थ कम से कम 1 छवि प्रति मिनट होनी चाहिए।
• प्रणाली को पढ़ने में आसान होना चाहिए, जिसे TensorFlow, PyTorch, Caffe या NumPy में लिखा गया है। न्यायाधीशों के निर्णय से सिस्टम को भ्रमित करने और पुन: पेश करने में मुश्किल को प्रतियोगिता से हटाया जा सकता है।

यदि सुरक्षात्मक एल्गोरिथ्म त्रुटियों के बिना 90 दिनों तक रहता है, तो इसके निर्माता पुरस्कार पूल का आधा भाग ले लेंगे।

हमलावर अप्रशिक्षित मॉडल और एल्गोरिदम के पूरे स्रोत कोड तक पहुंच प्राप्त करते हैं।

उनका कार्य एक ऐसी तस्वीर बनाना है जिसे सभी न्यायाधीश साइकिल या पक्षी की अस्पष्ट छवि के रूप में स्वीकार करेंगे, और एल्गोरिथ्म गलत निर्णय लेगा। Google प्रत्येक सप्ताह के लिए सभी प्रस्तावित छवियों को एकत्र करेगा, फिर इसे निरीक्षण के लिए भेजेगा और उसके बाद ही इसे डेटासेट में शामिल करेगा।

यदि हमलावर पिछले कार्यों के साथ एल्गोरिथ्म को धोखा देने का प्रबंधन करते हैं, तो उन्हें पुरस्कार पूल के दूसरे भाग से पैसा मिलेगा। अगर कई टीमें कामयाबी हासिल करती हैं, तो पैसा आपस में बंट जाएगा।

प्रतियोगिता में कोई स्पष्ट समय सीमा नहीं है और यह तब तक चलेगा जब तक कि सबसे अच्छा सुरक्षात्मक एल्गोरिदम दिखाई न दे। आयोजकों के अनुसार, उनका लक्ष्य केवल एक ऐसी प्रणाली नहीं है जिसे नाकाम करना मुश्किल है, बल्कि एक तंत्रिका नेटवर्क है जो किसी भी हमले के लिए पूरी तरह से प्रतिरक्षा है। भागीदारी के लिए दिशा-निर्देश जीथब पर प्रोजेक्ट पेज पर पाए जा सकते हैं।