लेख के लेखक एलेक्सी मालानोव हैं, जो कैस्परस्की लैब के एंटी-वायरस प्रौद्योगिकी विकास विभाग के एक विशेषज्ञ हैं

हमारे जीवन में कृत्रिम बुद्धिमत्ता टूटती है। भविष्य में, शायद सब कुछ शांत हो जाएगा, लेकिन अभी तक कुछ सवाल उठे हैं, और तेजी से ये मुद्दे नैतिकता और नैतिकता के पहलुओं को प्रभावित करते हैं। क्या एआई की सोच पर खिल्ली उड़ाना संभव है? इसका आविष्कार कब होगा? अब हमें रोबोटिक्स के कानून लिखने से क्या रोकता है, उनमें नैतिकता डालें? मशीन सीखने से हमें क्या आश्चर्य होता है? क्या मशीन लर्निंग को मूर्ख बनाया जा सकता है, और यह कितना मुश्किल है?

मजबूत और कमजोर एआई - दो अलग-अलग चीजें

दो अलग-अलग चीजें हैं: मजबूत और कमजोर एआई।
मजबूत एआई (सच्चा, सामान्य, वास्तविक) एक काल्पनिक मशीन है जो स्वयं के बारे में सोच और जागरूक हो सकता है, न केवल अत्यधिक विशिष्ट कार्यों को हल कर सकता है, बल्कि कुछ नया भी सीख सकता है।

कमजोर एआई (संकीर्ण, सतही) - ये पहले से ही काफी विशिष्ट कार्यों को हल करने के लिए मौजूदा कार्यक्रम हैं, जैसे छवि मान्यता, ऑटो ड्राइविंग, गो खेलना आदि। किसी को भ्रमित न करने और किसी को गुमराह न करने के लिए, हम कमजोर एआई को कॉल करना पसंद करते हैं। सीखना ”(मशीन सीखना)।

मजबूत एआई जल्द नहीं होगा

मजबूत एआई के बारे में, यह अभी भी अज्ञात है कि क्या यह कभी भी आविष्कार किया जाएगा। एक तरफ, अब तक, प्रौद्योगिकियां त्वरण के साथ विकसित हुई हैं, और अगर यह आगे बढ़ता है, तो पांच साल बाकी हैं।

दूसरी ओर, प्रकृति में कुछ प्रक्रियाएं वास्तव में तेजी से आगे बढ़ती हैं। अधिक बार, आखिरकार, हम एक तार्किक वक्र देखते हैं।

जबकि हम चार्ट के बाईं ओर कहीं हैं, यह हमें लगता है कि यह एक प्रतिपादक है। उदाहरण के लिए, हाल ही में, दुनिया की आबादी इस तरह के त्वरण के साथ बढ़ी है। लेकिन कुछ बिंदु पर "संतृप्ति" होती है, और विकास धीमा हो जाता है।

जब विशेषज्ञों से पूछताछ की जाती है , तो यह पता चलता है कि औसतन, एक और 45 साल इंतजार करना होगा।

उत्सुकता से, उत्तर अमेरिकी वैज्ञानिकों का मानना है कि एआई 74 साल में मनुष्यों से आगे निकल जाएगा, और एशियाई वैज्ञानिक सिर्फ 30 में। शायद एशिया में वे कुछ जानते हैं ...

इन्हीं वैज्ञानिकों ने भविष्यवाणी की कि एक मशीन 2024 तक किसी व्यक्ति से बेहतर अनुवाद करेगी, 2026 तक स्कूल निबंध लिखें, 2027 तक ट्रक चलाएं, 2027 तक गो भी खेलें। गो पहले ही छूट गया है, क्योंकि यह क्षण 2017 में आया था, पूर्वानुमान के केवल 2 साल बाद।

खैर, सामान्य तौर पर, 40+ साल के लिए पूर्वानुमान एक धन्यवाद कार्य है। इसका मतलब है किसी दिन। उदाहरण के लिए, लागत प्रभावी संलयन ऊर्जा की भविष्यवाणी 40 साल बाद भी की जाती है। 50 साल पहले भी ऐसा ही पूर्वानुमान लगाया गया था, जब इसका अध्ययन शुरू किया गया था।

मजबूत एआई बहुत सारे नैतिक मुद्दों को उठाता है

हालाँकि, एआई काफी समय तक प्रतीक्षा करेगा, लेकिन हम यह सुनिश्चित करने के लिए जानते हैं कि पर्याप्त नैतिक समस्याएं होंगी। समस्याओं का पहला वर्ग यह है कि हम एआई को अपमानित कर सकते हैं। उदाहरण के लिए:

क्या यह एअर इंडिया पर अत्याचार करना नैतिक है यदि यह दर्द महसूस कर सकता है?
यदि लंबे समय तक अकेलापन महसूस करने में सक्षम है तो क्या एआई को संचार के बिना छोड़ना सामान्य है?
क्या आप इसे पालतू के रूप में उपयोग कर सकते हैं? गुलाम के बारे में क्या? और इसे कौन और कैसे नियंत्रित करेगा, क्योंकि यह एक कार्यक्रम है जो आपके "स्मार्टफोन" में "जीवन" काम करता है?

यदि आप अपनी आवाज सहायक को रोकते हैं, तो कोई भी नाराज नहीं होगा, लेकिन यदि आप कुत्ते से गलत व्यवहार करते हैं, तो आपकी निंदा की जाएगी। और इसका कारण यह नहीं है कि वह मांस और रक्त की है, बल्कि इसलिए कि वह बुरा रवैया महसूस करती है और अनुभव करती है, जैसा कि स्ट्रांग AI के साथ होगा।

नैतिक मुद्दों का दूसरा वर्ग - एआई हमें अपमानित कर सकता है। इस तरह के सैकड़ों उदाहरण फिल्मों और किताबों में पाए जा सकते हैं। एआई को कैसे समझा जाए, हम इससे क्या चाहते हैं? एआई के लिए लोग एक बांध बनाने वाले श्रमिकों के लिए चींटियों की तरह हैं: एक महान लक्ष्य के लिए, आप एक जोड़े को कुचल सकते हैं।

साइंस फिक्शन हम पर एक चाल चलता है। हम यह सोचने के आदी हैं कि स्काईनेट और टर्मिनेटर वहां नहीं हैं, और वे जल्द ही नहीं होंगे, लेकिन अब आप आराम कर सकते हैं। फिल्मों में एआई अक्सर दुर्भावनापूर्ण होता है, और हम आशा करते हैं कि जीवन में ऐसा नहीं होगा: आखिरकार, हमें चेतावनी दी गई थी, और हम फिल्मों के नायकों की तरह बेवकूफ नहीं हैं। इसके अलावा, भविष्य के बारे में विचारों में, हम वर्तमान के बारे में अच्छी तरह से सोचना भूल जाते हैं।

मशीन लर्निंग यहाँ है

मशीन लर्निंग आपको स्पष्ट प्रोग्रामिंग के बिना एक व्यावहारिक समस्या को हल करने की अनुमति देता है, लेकिन मिसाल पर प्रशिक्षण के माध्यम से। आप " सरल शब्दों में: मशीन सीखना कैसे काम करता है " लेख में अधिक पढ़ सकते हैं।

चूंकि हम एक विशिष्ट समस्या को हल करने के लिए एक मशीन सिखा रहे हैं, परिणामस्वरूप गणितीय मॉडल (तथाकथित एल्गोरिथ्म) अचानक मानवता को गुलाम बनाना / सहेजना नहीं कर सकता है। इसे सामान्य रूप से करें - यह सामान्य होगा। क्या गलत हो सकता है?

बुरे इरादे

सबसे पहले, कार्य ही पर्याप्त रूप से नैतिक नहीं हो सकता है। उदाहरण के लिए, अगर हम लोगों को मारने के लिए ड्रोन सिखाने के लिए मशीन सीखने का उपयोग करते हैं।

https://www.youtube.com/watch?v=TlO2gcs1YvM

अभी हाल ही में, इस बारे में थोड़ा घोटाला हुआ। Google प्रोजेक्ट मावेन ड्रोन प्रबंधन पायलट प्रोजेक्ट के लिए उपयोग किए जाने वाले सॉफ़्टवेयर का विकास कर रहा है। संभवतः भविष्य में यह पूरी तरह से स्वायत्त हथियार के निर्माण के लिए नेतृत्व कर सकता है।

स्रोत

इसलिए, कम से कम 12 Google कर्मचारियों ने विरोध में छोड़ दिया, अन्य 4,000 ने एक याचिका पर हस्ताक्षर किए और उन्हें सेना के साथ अनुबंध छोड़ने के लिए कहा। एआई, नैतिकता और सूचना प्रौद्योगिकी के क्षेत्र में 1000 से अधिक प्रमुख वैज्ञानिकों ने एक खुला पत्र लिखकर Google को परियोजना पर काम करना बंद करने और स्वायत्त हथियारों पर प्रतिबंध लगाने वाली अंतरराष्ट्रीय संधि का समर्थन करने के लिए कहा।

लालची पूर्वाग्रह

लेकिन भले ही मशीन लर्निंग एल्गोरिदम के लेखक लोगों को मारना और नुकसान नहीं करना चाहते हैं, फिर भी वे अक्सर लाभ कमाना चाहते हैं। दूसरे शब्दों में, सभी एल्गोरिदम समाज के लाभ के लिए काम नहीं करते हैं, कई रचनाकारों के लाभ के लिए काम करते हैं। यह अक्सर चिकित्सा के क्षेत्र में मनाया जा सकता है - यह इलाज करने के लिए नहीं बल्कि अधिक उपचार की सिफारिश करने के लिए अधिक महत्वपूर्ण है।

सामान्य तौर पर, अगर मशीन लर्निंग कुछ भुगतान की सलाह देता है - एक उच्च संभावना के साथ एल्गोरिथ्म "लालची" है।

ठीक है, और कभी-कभी समाज खुद ही परिणामी एल्गोरिदम में नैतिकता का मॉडल होने में दिलचस्पी नहीं रखता है। उदाहरण के लिए, वाहन की गति और सड़क की मौतों के बीच एक व्यापार बंद है। हम मृत्यु दर को बहुत कम कर सकते हैं यदि हम गति को 20 किमी / घंटा तक सीमित कर देते हैं, लेकिन तब बड़े शहरों में जीवन कठिन होगा।

नैतिकता प्रणाली के मापदंडों में से एक है।

कल्पना कीजिए, हम एल्गोरिदम को "जीडीपी / श्रम उत्पादकता / जीवन प्रत्याशा को अधिकतम करने" के लक्ष्य के साथ देश का बजट बनाने के लिए कहते हैं। इस कार्य के निर्माण में कोई नैतिक सीमाएँ और लक्ष्य नहीं हैं। अनाथालयों / धर्मशालाओं / पर्यावरण संरक्षण के लिए धन का आवंटन क्यों करें, क्योंकि यह जीडीपी नहीं बढ़ाएगा (कम से कम सीधे)? और यह अच्छा है अगर हम केवल एल्गोरिथम को बजट सौंपते हैं, और समस्या के व्यापक विवरण में यह पता चलता है कि एक बेरोजगार आबादी श्रम उत्पादकता बढ़ाने के लिए तुरंत मारने के लिए "अधिक लाभदायक" है।

यह पता चला है कि नैतिक मुद्दे शुरू में सिस्टम के लक्ष्यों में से होने चाहिए।

नैतिकता का औपचारिक रूप से वर्णन करना कठिन है

नैतिकता के साथ एक समस्या है - इसे औपचारिक रूप देना मुश्किल है। विभिन्न देशों में अलग-अलग नैतिकता है। यह समय के साथ बदलता है। उदाहरण के लिए, एलजीबीटी अधिकारों और अंतरजातीय / अंतर-जातीय विवाह जैसे मुद्दों पर, दशकों में राय काफी बदल सकती है। नैतिकता राजनीतिक जलवायु पर निर्भर हो सकती है।

उदाहरण के लिए, चीन में, निगरानी कैमरों और चेहरे की पहचान का उपयोग करने वाले नागरिकों के आंदोलन की निगरानी को आदर्श माना जाता है। अन्य देशों में, इस मुद्दे पर रवैया अलग हो सकता है और स्थिति पर निर्भर हो सकता है।

मशीन लर्निंग लोगों को प्रभावित करता है

एक मशीन-सीखने-आधारित प्रणाली की कल्पना करें जो आपको सलाह देती है कि कौन सी फिल्म देखें। अन्य फिल्मों के लिए आपकी रेटिंग के आधार पर, और अन्य उपयोगकर्ताओं के साथ अपने स्वाद की तुलना करके, सिस्टम काफी मज़बूती से एक फिल्म की सिफारिश कर सकता है जो आपको वास्तव में पसंद है।

लेकिन एक ही समय में, सिस्टम समय के साथ आपके स्वाद को बदल देगा और उन्हें और अधिक संकीर्ण बना देगा। सिस्टम के बिना, आप समय-समय पर खराब फिल्में और असामान्य शैलियों की फिल्में देखेंगे। और इसलिए कि कोई फिल्म नहीं - बिंदु तक। नतीजतन, हम "फिल्म विशेषज्ञ" बनना बंद कर देते हैं, और केवल उपभोक्ताओं को ही देते हैं जो वे देते हैं। यह भी दिलचस्प है कि हम यह भी ध्यान नहीं देते हैं कि एल्गोरिदम हमें कैसे हेरफेर करता है।

यदि आप कहते हैं कि लोगों पर एल्गोरिदम का ऐसा प्रभाव और भी अच्छा है, तो यहां एक और उदाहरण है। चीन सोशल रेटिंग सिस्टम - विभिन्न मापदंडों के अनुसार व्यक्तियों या संगठनों के मूल्यांकन के लिए एक प्रणाली शुरू करने की तैयारी कर रहा है, जिसके मूल्य बड़े पैमाने पर निगरानी उपकरण और बड़े डेटा विश्लेषण तकनीक का उपयोग करके प्राप्त किए जाते हैं।

यदि कोई व्यक्ति डायपर खरीदता है - वह अच्छा है, तो रेटिंग बढ़ रही है। यदि वीडियो गेम पर पैसा खर्च करना बुरा है, तो रेटिंग कम हो जाती है। यदि कम रेटिंग वाले व्यक्ति के साथ संचार होता है, तो वह भी गिर जाता है।

नतीजतन, यह पता चला है कि सिस्टम के लिए धन्यवाद, नागरिक जानबूझकर या अवचेतन रूप से अलग व्यवहार करना शुरू करते हैं। अविश्वसनीय नागरिकों के साथ कम संवाद करें, अधिक डायपर खरीदें, आदि।

एल्गोरिथम सिस्टम त्रुटि

इस तथ्य के अलावा कि कभी-कभी हम स्वयं यह नहीं जानते हैं कि हम एल्गोरिथ्म से क्या चाहते हैं, तकनीकी सीमाओं का एक पूरा समूह भी है।

एल्गोरिथ्म दुनिया की अपूर्णता को अवशोषित करता है।

यदि हम नस्लवादी राजनेताओं के साथ एक कंपनी के डेटा का उपयोग हायरिंग एल्गोरिदम के प्रशिक्षण नमूने के रूप में करते हैं, तो एल्गोरिथ्म में एक नस्लवादी पूर्वाग्रह भी होगा।

माइक्रोसॉफ्ट ने एक बार ट्विटर पर चैटबोट सिखाई थी। इसे एक दिन से भी कम समय में बंद करना पड़ा , क्योंकि बॉट ने शाप और नस्लवाद के बयानों पर जल्द ही काबू पा लिया।

इसके अलावा, सीखने का एल्गोरिथ्म कुछ असंगठित मापदंडों को ध्यान में नहीं रख सकता है। उदाहरण के लिए, प्रतिवादी की सिफारिश की गणना करते समय - एकत्र किए गए सबूतों के आधार पर अपराध स्वीकार करने या न करने के लिए, एल्गोरिदम के लिए यह ध्यान रखना मुश्किल है कि न्यायाधीश के लिए इस तरह के प्रवेश कैसे प्रभावित होंगे, क्योंकि छाप और भावनाएं कहीं भी दर्ज नहीं की जाती हैं।

गलत सहसंबंध और प्रतिक्रिया लूप

एक झूठी सहसंबंध तब होता है जब ऐसा लगता है कि शहर में जितने अधिक अग्निशामक हैं, उतनी ही अधिक बार आग लगती है। या जब यह स्पष्ट है कि पृथ्वी पर कम समुद्री डाकू, ग्रह पर जलवायु को गर्म करते हैं।

इसलिए - लोगों को संदेह है कि समुद्री डाकू और जलवायु सीधे जुड़े हुए नहीं हैं, और यह अग्निशामकों के साथ इतना सरल नहीं है, और मशीन सीखने का मॉडल बस याद और सामान्य करता है।

सुप्रसिद्ध उदाहरण। राहत की तात्कालिकता के अनुसार रोगियों को बदले में दिए गए इस कार्यक्रम ने निष्कर्ष निकाला कि निमोनिया के साथ अस्थमा के रोगियों को अस्थमा के बिना निमोनिया वाले लोगों की तुलना में कम मदद की आवश्यकता होती है। कार्यक्रम ने आंकड़ों को देखा और इस निष्कर्ष पर पहुंचा कि अस्थमा के रोगी मरते नहीं हैं - उन्हें प्राथमिकता की आवश्यकता क्यों है? और वे वास्तव में मरते नहीं हैं क्योंकि ऐसे रोगियों को बहुत अधिक जोखिम के कारण तुरंत चिकित्सा संस्थानों में सबसे अच्छी देखभाल मिलती है।

झूठी सहसंबंधों से भी बदतर केवल प्रतिक्रिया छोरों हैं। कैलिफ़ोर्निया अपराध रोकथाम कार्यक्रम ने अपराध दर (रिपोर्ट किए गए अपराधों की संख्या) के आधार पर काले पड़ोस में अधिक पुलिस भेजने का सुझाव दिया। और दृश्यता के क्षेत्र में जितनी अधिक पुलिस कारें होती हैं, उतनी बार निवासी अपराध की रिपोर्ट करते हैं (बस किसी को रिपोर्ट करने के लिए)। नतीजतन, अपराध केवल बढ़ रहा है - जिसका अर्थ है कि अधिक पुलिस अधिकारियों को भेजा जाना चाहिए, आदि।

दूसरे शब्दों में, यदि नस्लीय भेदभाव एक गिरफ्तारी कारक है, तो फीडबैक लूप पुलिस गतिविधियों में नस्लीय भेदभाव को मजबूत और स्थायी कर सकता है।

किसे दोष देना

2016 में, ओबामा प्रशासन के तहत बिग डेटा वर्किंग ग्रुप ने "स्वचालित निर्णय लेने में भेदभाव के संभावित कोडिंग" और "समान अवसर के सिद्धांत" को पोस्ट करने की चेतावनी देते हुए एक रिपोर्ट जारी की।

लेकिन कुछ कहना आसान है, लेकिन क्या करें?

सबसे पहले, मशीन सीखने वाले गणित मॉडल का परीक्षण और ट्विक करना मुश्किल है। उदाहरण के लिए, Google Photo ऐप ने गोरिल्ला जैसी काली त्वचा वाले लोगों को पहचान लिया। और क्या करना है? अगर हम साधारण प्रोग्राम्स को स्टेप बाई स्टेप पढ़ते हैं और उन्हें टेस्ट करना सीखते हैं, तो मशीन लर्निंग के मामले में यह सब कंट्रोल सैंपल के आकार पर निर्भर करता है, और यह अनंत नहीं हो सकता। तीन साल के लिए, Google गोरिल्ला, चिंपैंजी और बंदरों की मान्यता को बंद करने से बेहतर कुछ भी नहीं कर सकता है , ताकि त्रुटि को दोहराने से रोका जा सके।

दूसरी बात, मशीन लर्निंग सॉल्यूशंस को समझना और समझाना हमारे लिए मुश्किल है। उदाहरण के लिए, एक तंत्रिका नेटवर्क ने सही उत्तर प्राप्त करने के लिए किसी भी तरह अपने भीतर वजन गुणांक रखा। और क्यों वे इस तरह से बाहर निकलते हैं और उत्तर को बदलने के लिए क्या किया जाना चाहिए?

2015 के एक अध्ययन में पाया गया है कि Google AdSense द्वारा विज्ञापित उच्च-भुगतान वाली नौकरी पोस्टिंग देखने के लिए पुरुषों की तुलना में महिलाओं की बहुत कम संभावना है। ब्लैक क्वार्टरों में अमेज़न की एक ही दिन की डिलीवरी सेवा नियमित रूप से उपलब्ध नहीं थी। दोनों मामलों में, कंपनी के प्रतिनिधियों को एल्गोरिदम के ऐसे समाधानों को समझाने में मुश्किल हुई।

यह कानून बनाने और मशीन सीखने पर भरोसा करने के लिए बना हुआ है

यह पता चला है कि कोई भी दोषी नहीं है, यह कानूनों को पारित करने और "रोबोटिक्स के नैतिक कानूनों" को बनाए रखने के लिए बना हुआ है। जर्मनी ने अभी हाल ही में, मई 2018 में, मानवरहित वाहनों के लिए इस तरह के नियमों को जारी किया। अन्य बातों के अलावा, यह कहता है:

जानवरों या संपत्ति को नुकसान की तुलना में मानव सुरक्षा सर्वोच्च प्राथमिकता है।
आसन्न दुर्घटना की स्थिति में, कोई भेदभाव नहीं होना चाहिए, बिना किसी कारण के लोगों के बीच अंतर करने के लिए अस्वीकार्य है।

लेकिन हमारे संदर्भ में विशेष रूप से महत्वपूर्ण क्या है:
स्वचालित ड्राइविंग सिस्टम एक नैतिक अनिवार्यता बन जाती है अगर सिस्टम मानव चालकों की तुलना में कम दुर्घटनाओं का कारण बनता है।

जाहिर है, हम तेजी से मशीन लर्निंग पर भरोसा करेंगे - सिर्फ इसलिए कि यह आम तौर पर लोगों से बेहतर होगा।

मशीन लर्निंग को जहर दिया जा सकता है

और यहाँ हम एल्गोरिदम के पूर्वाग्रह की तुलना में कम दुर्भाग्य से नहीं आते हैं - उन्हें हेरफेर किया जा सकता है।

मशीन लर्निंग पॉइज़निंग (एमएल पॉइज़निंग) का मतलब है कि यदि कोई मॉडल के प्रशिक्षण में भाग लेता है, तो वह मॉडल द्वारा किए गए निर्णयों को प्रभावित कर सकता है।

उदाहरण के लिए, एक कंप्यूटर वायरस विश्लेषण प्रयोगशाला में, एक मॉडल मॉडल हर दिन औसतन एक लाख नए नमूनों (स्वच्छ और दुर्भावनापूर्ण फ़ाइलों) को संसाधित करता है।

खतरे का परिदृश्य लगातार बदल रहा है, इसलिए एंटी-वायरस डेटाबेस अपडेट के रूप में मॉडल में परिवर्तन उपयोगकर्ता पक्ष पर एंटी-वायरस उत्पादों को दिया जाता है।

तो, एक हमलावर लगातार कुछ साफ एक के समान दुर्भावनापूर्ण फ़ाइलों को उत्पन्न कर सकता है और उन्हें प्रयोगशाला में भेज सकता है। स्वच्छ और दुर्भावनापूर्ण फ़ाइलों के बीच की सीमा धीरे-धीरे मिट जाएगी, मॉडल "नीचा" होगा। और अंत में, मॉडल मूल स्वच्छ फ़ाइल को दुर्भावनापूर्ण के रूप में पहचान सकता है - इसके परिणामस्वरूप एक झूठी सकारात्मक होगी।

और इसके विपरीत, यदि आप एक टन साफ-सुथरे जनरेट किए गए ईमेलों का सेल्फ-लर्निंग स्पैम फिल्टर "स्पैम" करते हैं, तो आप अंततः उस स्पैम को बनाने में सक्षम होंगे जो फ़िल्टर से गुजरता है।

इसलिए, Kaspersky Lab के पास सुरक्षा के लिए एक बहु-स्तरीय दृष्टिकोण है ; हम केवल मशीन सीखने पर भरोसा नहीं करते हैं ।

एक और उदाहरण, जबकि काल्पनिक। आप विशेष रूप से उत्पन्न चेहरों को फेस रिकग्निशन सिस्टम में जोड़ सकते हैं, ताकि अंत में सिस्टम आपको किसी और के साथ भ्रमित करना शुरू कर दे। ऐसा मत सोचो कि यह असंभव है, अगले भाग से चित्र पर एक नज़र डालें।

मशीन लर्निंग हैकिंग

जहर सीखने की प्रक्रिया पर एक प्रभाव है। लेकिन लाभ पाने के लिए प्रशिक्षण में भाग लेना आवश्यक नहीं है - यदि आप जानते हैं कि यह कैसे काम करता है तो आप तैयार मॉडल को धोखा दे सकते हैं।

विशेष रूप से रंगीन चश्मा पहने हुए, शोधकर्ताओं ने अन्य लोगों - हस्तियों को प्रतिरूपित किया

चेहरों के साथ यह उदाहरण अभी तक "जंगली" में सामने नहीं आया है - ठीक है क्योंकि किसी ने अभी तक मशीन को चेहरे की पहचान के आधार पर महत्वपूर्ण निर्णय लेने की जिम्मेदारी नहीं दी है। मानव नियंत्रण के बिना, चित्र में बिल्कुल वैसा ही होगा।

यहां तक कि जहां, यह प्रतीत होता है, वहाँ कुछ भी जटिल नहीं है, अज्ञात तरीके से एक कार को धोखा देना आसान है।

पहले तीन वर्ण "स्पीड लिमिट 45" के रूप में और अंतिम STOP के रूप में पहचाने जाते हैं

इसके अलावा, आत्मसमर्पण को पहचानने के लिए मशीन लर्निंग मॉडल के लिए, महत्वपूर्ण बदलाव करने के लिए आवश्यक नहीं है, यह पर्याप्त न्यूनतम संपादन है जो किसी व्यक्ति के लिए अदृश्य है ।

यदि आप बाईं ओर पांडा पर न्यूनतम विशेष शोर जोड़ते हैं, तो मशीन लर्निंग सुनिश्चित करेगी कि यह एक गिबन है

जबकि कोई व्यक्ति अधिकांश एल्गोरिदम से अधिक चालाक है, वह उन्हें धोखा दे सकता है। कल्पना कीजिए कि निकट भविष्य में, मशीन लर्निंग हवाई अड्डे पर सूटकेस की एक्स-रे का विश्लेषण करेगा और हथियारों की तलाश करेगा। एक स्मार्ट आतंकवादी बंदूक के बगल में एक विशेष आकार रखने में सक्षम होगा और इस तरह बंदूक को "बेअसर" करेगा।

इसी तरह, चीनी सामाजिक रेटिंग प्रणाली को "हैक" करना और चीन में सबसे सम्मानित व्यक्ति बनना संभव होगा।

निष्कर्ष

आइए संक्षेप में चर्चा करते हैं कि हमने क्या चर्चा की।

अभी तक कोई मजबूत एआई नहीं है।
हम निश्चिंत हैं।
मशीन लर्निंग से गंभीर क्षेत्रों में पीड़ितों की संख्या में कमी आएगी।
हम मशीन सीखने पर अधिक से अधिक भरोसा करेंगे।
हमारे अच्छे इरादे होंगे।
हम सिस्टम डिज़ाइन में नैतिकता भी रखेंगे।
लेकिन नैतिकता अलग-अलग देशों में कठिन औपचारिक और अलग है।
मशीन लर्निंग विभिन्न कारणों से पूर्वाग्रह से भरा है।
हम हमेशा मशीन लर्निंग एल्गोरिदम के समाधान की व्याख्या नहीं कर सकते हैं।
मशीन लर्निंग को जहर दिया जा सकता है।
और यहां तक कि "हैक"।
एक हमलावर इस तरह से अन्य लोगों पर एक लाभ प्राप्त कर सकता है।
मशीन लर्निंग का हमारे जीवन पर प्रभाव पड़ता है।

और यह सब निकट भविष्य है।

आर्टिफिशियल इंटेलिजेंस के नैतिक मुद्दे