💨 🕞 🧟 क्या यह डाकू के एल्गोरिथ्म में नैतिकता का परिचय देना संभव है? 🌰 📼 🏾

रोबोमोबाइल द्वारा की गई हत्या के लिए, कार्यक्रम (और प्रोग्रामर) का न्याय किया जाएगा

वर्ष 2034। एक शराबी रात में फुटपाथ पर भटकता है, डकैती के सामने ठोकर खाकर गिर जाता है, जो उसे मारता है और उसे मौके पर ही मार देता है। अगर कार के पहिये के पीछे कोई व्यक्ति होता, तो मौत को एक दुर्घटना के रूप में पहचाना जाता, क्योंकि गलती पैदल यात्री पर होगी, और एक भी चालक उसे चकमा नहीं दे पाएगा। लेकिन "औसत ड्राइवर" (" उचित व्यक्ति " शब्द विदेशी कानून में मौजूद है ) के मानकों को 2020 के दशक में गायब कर दिया गया था, जब रॉबमोबाइल्स के प्रसार ने दुर्घटनाओं की संख्या 90% तक कम कर दी थी। अब हमें "औसत रोबोट" के बारे में बात करनी है।

पीड़ित परिवार रोबोट वाहनों के निर्माता पर मुकदमा कर रहा है, जिसमें कहा गया है कि हालांकि कार को ब्रेक करने का समय नहीं था, वह पैदल यात्री के चक्कर लगा सकती थी, डबल ठोस पार कर सकती थी और आने वाले रोबोट से टकरा सकती थी। रोबोट वाहन सेंसर के आधार पर घटना का पुनर्निर्माण इसकी पुष्टि करता है। वादी के वकील, एक अग्रणी कार सॉफ्टवेयर डेवलपर से पूछताछ करते हुए पूछते हैं: "कार दूर क्यों नहीं चली गई?"

आज, अदालत ड्राइवरों से यह नहीं पूछती कि उन्होंने कुछ किया या नहीं। यह मुद्दा बहस का विषय है, क्योंकि व्यक्ति से गलती हुई है - चालक घबरा सकता है, इसके बारे में नहीं सोचता, वृत्ति पर प्रतिक्रिया करता है। लेकिन जब रोबोट कार चलाता है, तो सवाल "क्यों?" काफी स्वीकार्य है। लोगों के नैतिक मानकों, जो कानूनों में बहुत अच्छी तरह से नहीं लिखे गए हैं, कई अलग-अलग धारणाएं बनाते हैं, जो इंजीनियर बस नहीं पहुंचे हैं। उनमें से सबसे महत्वपूर्ण - एक व्यक्ति समझ सकता है जब आपको अपनी आत्मा को संरक्षित करने के लिए कानून के पत्र से विचलन करने की आवश्यकता होती है। अब इंजीनियरों को मशीनों और अन्य रोबोटों को सिखाने की ज़रूरत है कि वे स्मार्ट निर्णय कैसे लें।

नियंत्रण प्रक्रिया का कम्प्यूटरीकरण 1970 के दशक में शुरू हुआ, जब एंटी-लॉक ब्रेकिंग सिस्टम दिखाई दिए । अब हर साल स्वचालित स्टीयरिंग, स्वचालित त्वरण और आपातकालीन ब्रेकिंग जैसे विकास होते हैं। पूरी तरह से स्वचालित मशीनों का परीक्षण, मानव चालक की भागीदारी के साथ, ब्रिटेन, हॉलैंड, जर्मनी और जापान में कुछ स्थानों पर पहले से ही अनुमति है। संयुक्त राज्य अमेरिका में, इसे चार राज्यों और कोलंबिया जिले में कानून द्वारा अनुमति दी गई है , और कम से कम बाकी हिस्सों में यह निषिद्ध नहीं है। Google, निसान और फोर्ड का दावा है कि 5-10 साल में रोबोमोबाइल्स दिखाई देंगे।

स्वचालित वाहन सेंसर से पर्यावरणीय जानकारी एकत्र करते हैं - वीडियो कैमरा, अल्ट्रासोनिक रेंजफाइंडर, रडार, लिडार। कैलिफ़ोर्निया में, रोबोम्बाइल्स को किसी भी टक्कर से 30 सेकंड पहले सभी सेंसर डेटा के साथ परिवहन विभाग प्रदान करना आवश्यक है, जो पहले से ही पर्याप्त जमा हो चुका है - जिसमें Google मशीन की टक्कर भी शामिल है । इंजीनियरों को टक्कर क्षेत्र में घटनाओं को काफी सटीक रूप से ठीक करने का अवसर दिया जाता है, जो मशीन द्वारा कैप्चर किए गए रिकॉर्ड का उपयोग करके, इसके विकल्प पर विचार करता है, और व्यवहार का तर्क। कंप्यूटर को अपने तर्क को दोहराने के लिए बनाया जा सकता है - जिस तरह से उस व्यक्ति को बनाने के लिए कहा जा सकता है जिसने गेम खेला या ड्राइविंग सिम्युलेटर।

रेगुलेटर और लिटिगंट रोबोट वाहनों के लिए अलौकिक सुरक्षा मानकों को बनाए रखने में सक्षम होंगे, और पूरी तरह से टकराव की जांच करेंगे जो कि वैसे भी होंगे - शायद ही कभी। निर्माता और प्रोग्रामर अपने उत्पादों के कार्यों की एक तरह से रक्षा करेंगे, जो आज के ड्राइवरों ने कभी सपने में भी नहीं सोचा होगा।

ड्राइविंग हमेशा एक जोखिम है, और ड्राइवरों, पैदल यात्रियों, साइकिल चालकों और संपत्ति के बीच इसके वितरण के बारे में निर्णय एक नैतिक घटक होते हैं। इंजीनियरों के साथ-साथ सभी लोगों के लिए, यह महत्वपूर्ण है कि मशीन की निर्णय लेने की प्रणाली अपने कार्यों के नैतिक परिणामों को मापती है।

टक्कर वाली गूगल कार एक बस के साथ

नैतिक रूप से अस्पष्ट स्थितियों के लिए सामान्य प्रतिक्रिया क्षति को कम करते हुए कानून का पालन करना है। रणनीति आकर्षक है - यह न केवल डेवलपर को कार के कार्यों ("हमने कानून का पूरी तरह से पालन किया") की रक्षा करने की अनुमति देता है, बल्कि विधायकों को नैतिकता का निर्धारण करने में जिम्मेदारी भी स्थानांतरित करता है। दुर्भाग्य से, यह कानून पर बहुत अधिक बोझ डालता है।

उदाहरण के लिए, अधिकांश राज्यों में, कानून ड्राइवरों के सामान्य ज्ञान पर निर्भर करता है, और टकराव से पहले व्यवहार के बारे में बहुत कम कहता है। वर्णित उदाहरण में, कार, सख्ती से कानून के पत्र का पालन करती है, डबल ठोस को पार नहीं करती है, एक शराबी के साथ टकराव को जोखिम में डालती है - हालांकि सड़क के दूसरी तरफ केवल एक खाली रोबोट है। कानून शायद ही कभी विशिष्ट आपातकालीन स्थितियों में अपवाद बनाता है, जैसे कि एक व्यक्ति सड़क पर गिरता है - और यदि वह ऐसा करता है, उदाहरण के लिए, वर्जीनिया में, कानून का पाठ का अर्थ है कि कार के दुर्घटनाग्रस्त होने तक एक दोहरे ठोस को पार करना कानूनी है। ("यदि इस तरह के आंदोलन को सुरक्षित रूप से बनाया जा सकता है")। इस मामले में, डेवलपर्स को तय करना होगा - किन मामलों में यह डबल ठोस को पार करने के लिए सुरक्षित होगा।

एक रोबोमोबाइल शायद ही 100% सुनिश्चित होगा कि सड़क खाली है और आप बिना किसी डर के एक डबल ठोस पार कर सकते हैं। वह 98% या 99.99% पर विश्वास स्तर को दर देगा। इंजीनियरों को पहले से तय करने की आवश्यकता होगी कि डबल सॉलिड को पार करने के लिए आत्मविश्वास का स्तर क्या पर्याप्त होगा, और स्वीकार्य मूल्य इस बात पर निर्भर करता है कि रॉबोमोबाइल सड़क पर बचने की कोशिश कर रहा है या नहीं - क्या यह एक प्लास्टिक की थैली या गिर गया पैदल यात्री है।

पहले से ही, लुटेम्बोमी कानून तोड़ने की संभावना के बारे में निर्णय ले रहे हैं। Google ने स्वीकार कियाधारा में रहने के लिए उनकी कारों को गति से अधिक करने की अनुमति है - जहां धीमा होना खतरनाक है। ज्यादातर लोग विभिन्न परिस्थितियों में गति से अधिक करना पसंद करेंगे, उदाहरण के लिए, जब अस्पताल में भीड़ की कोशिश हो। स्टैनफोर्ड यूनिवर्सिटी के क्रिस गेर्ड्स और सारा थॉर्नटन, निर्णय लेने वाले एल्गोरिदम में कानूनों को शामिल किए जाने के सख्त खिलाफ हैं , क्योंकि ड्राइवर संभावित लाभ की तुलना में उन्हें तोड़ने की लागत को मापने के लिए कानूनों को काफी लचीला मानते हैं। गति। कोई भी इस तथ्य के कारण कई किलोमीटर तक साइकिल चालक के बाद क्रॉल नहीं करना चाहता है कि आपकी कार डबल ठोस के लिए कम से कम कॉल करने से इनकार करती है।

और यहां तक कि कानून के भीतर रहकर, रोबोमोबाइल कई छोटे निर्णय ले सकता है जो सुरक्षा के दृष्टिकोण से संवेदनशील हैं। आमतौर पर, राजमार्ग पर गलियां एक विशिष्ट कार की तुलना में लगभग दोगुनी होती हैं, और ड्राइवर इस चौड़ाई का उपयोग कचरे से बचने के लिए, या असमान ड्राइविंग कारों से दूर जाने के लिए कर सकते हैं।

2014 के पेटेंट में, Google इस विचार को विकसित करता है और बताता है कि कैसे रिस्क कम करने के लिए एक रोबोमोबाइल को स्ट्रिप पर रखा जा सकता है। कंपनी तीन लेन वाली सड़क पर एक डकैत मोबाईल का उदाहरण देती है, जिसमें दाईं ओर एक ट्रक और बाईं ओर एक छोटी कार है। सुरक्षा का अनुकूलन करने के लिए, रोबोमोबाइल को बाईं ओर थोड़ा स्थानांतरित करना चाहिए था, एक छोटी मशीन में करीब।

यह स्वस्थ दिखता है, और आमतौर पर हर कोई ऐसा करता है - होशपूर्वक या अनजाने में। लेकिन नैतिक सवाल उठते हैं। छोटी मशीन की ओर बढ़ते हुए, रोबोमोबाइल ने जोखिम को कम कर दिया, लेकिन असमान रूप से इसे वितरित किया। क्या एक छोटी मशीन को अधिक जोखिम में लेना चाहिए क्योंकि यह छोटा है? यदि यह किसी विशेष ड्राइवर के लिए वरीयताओं का मामला था, तो उसका कोई मतलब नहीं होगा। लेकिन अगर इस तरह के पुनर्वितरण को औपचारिक और सभी रोबोटों को बढ़ाया जाता है, तो परिणाम अधिक गंभीर होंगे।

प्रत्येक उदाहरण में, रोबोमोबाइल कई मूल्यों को ध्यान में रखता है - उस वस्तु का मूल्य जो इसे हिट कर सकता है, और इसके यात्री का मूल्य। लोग सहज रूप से निर्णय लेते हैं, और रोबोट इसे सावधानी से सोचा जोखिम प्रबंधन रणनीति के आधार पर करेगा जो एक अवांछनीय घटना से नुकसान की मात्रा के रूप में जोखिम को परिभाषित करता है, इसकी संभावना से गुणा किया जाता है।

2014 में, Google ने एक जोखिम प्रबंधन एप्लिकेशन का भी पेटेंट कराया। पेटेंट एक ऐसी मशीन का वर्णन करता है जो ट्रैफिक लाइट को बेहतर ढंग से देखने के लिए पुनर्निर्माण करने का निर्णय ले सकती है। या कार एक टक्कर के जोखिम से बचने के लिए लेन में रहने का फैसला कर सकती है - उदाहरण के लिए, एक दोषपूर्ण सेंसर से संकेत के कारण - लेकिन इसकी कीमत पर ट्रैफिक लाइट की खराब दृश्यता होगी। किसी भी निर्णय का परिणाम संभाव्यता, साथ ही सकारात्मक या नकारात्मक मूल्य (लाभ या हानि) सौंपा गया है। प्रत्येक मूल्य को संभाव्यता से गुणा किया जाता है, और प्राप्त मूल्यों को अभिव्यक्त किया जा सकता है। यदि लाभ काफी दूर तक नुकसान से आगे निकल जाते हैं, तो मशीन पैंतरेबाज़ी करेगी।

समस्या यह है कि टक्कर का जोखिम बहुत कम है - यूएसए में औसत ड्राइवर हर 257,000 किलोमीटर या एक बार हर 12 साल में एक बार रूस में दुर्घटना में हो जाता है - एक बार हर 1.6 साल में। शायद यह अंतर इस तथ्य के कारण है कि संयुक्त राज्य में लोग राजमार्ग पर लगभग अधिक बार यात्रा करते हैं - लगभग। इसलिए, यहां तक कि जब वे सड़कों पर जाते हैं, तो डकैतों से डेटा की एक बड़ी धारा प्राप्त करना शुरू करते हैं, हम बहुत जल्द ही विभिन्न घटनाओं की संभावनाओं का अनुमान लगा पाएंगे।

क्षति की लागत का अनुमान लगाना और भी मुश्किल है। संपत्ति को नुकसान का आकलन करना आसान है - बीमाकर्ताओं को इस मामले में व्यापक अनुभव है - लेकिन चोटों और मृत्यु एक और मामला है। किसी भी व्यक्ति के जीवन के विनियोग के इतिहास में कई साल हैं, और यह आमतौर पर उस राशि में व्यक्त किया जाता है जो औसत शिकार को रोकने के लिए खर्च किया जा सकता है। एक सुरक्षा सुधार, जिसमें 100 लोगों की जान बचाने का 1% मौका है, एक औसत शिकार है। परिवहन विभाग ने दुर्घटना को रोकने के लिए $ 9.1 मिलियन खर्च करने की सिफारिश की है। यह संख्या विपणन डेटा से प्राप्त होती है, जिसमें भत्ते के लिए लोगों को खतरनाक काम और उन मात्राओं की आवश्यकता होती है जिनमें लोग सुरक्षा उपकरणों पर खर्च करने के लिए तैयार होते हैं - उदाहरण के लिए, धूम्रपान अलार्म। आपको न केवल सुरक्षा का वजन करने की आवश्यकता है, बल्कि गतिशीलता या समय की हानि भी है,सड़क पर खर्च किया जाता है, जो विभाग $ 26.44 प्रति घंटे का अनुमान लगाता है।

शब्दों में, सब कुछ सुंदर दिखता है। लेकिन खोए हुए जीवन और सड़क पर बिताए गए समय में जोखिम मूल्यांकन में विभिन्न नैतिक आकलन शामिल नहीं हैं कि हम लोगों को जोखिम में कैसे डालते हैं। उदाहरण के लिए, एक रोबोमोबाइल, सभी लोगों के जीवन का समान रूप से मूल्यांकन करता है, उसे पूर्ण गियर में एक मोटर साइकिल चालक की तुलना में बिना हेलमेट वाले मोटरसाइकिल चालक को अधिक स्थान देना होगा, क्योंकि पूर्व में जीवित रहने की संभावना कम होगी। लेकिन यह अनुचित है - क्या आपकी सुरक्षा का ध्यान रखना संभव है?

रोबोट और मनुष्यों की नैतिकता के बीच एक और अंतर यह है कि पूर्व के नैतिकता को प्रोग्रामर द्वारा विकृत किया जा सकता है, यहां तक कि अच्छे कारण के लिए भी। कल्पना कीजिए कि एल्गोरिथ्म एक दुर्घटना में पैदल चलने वालों द्वारा दायर दावों के मुआवजे की राशि के विश्लेषण के आधार पर विभिन्न क्षेत्रों में पैदल चलने वालों के लिए बफर जोन के आकार को समायोजित करता है। एक ओर, यह उचित, कुशल और अच्छी तरह से अर्थ है। दूसरी ओर, छोटे दंड किसी विशेष क्षेत्र के लोगों की औसत आय पर निर्भर हो सकते हैं। तब एल्गोरिदम गरीबों को एक छोटा बफर ज़ोन देकर सजा देगा, जिससे उनके नीचे गोली मारे जाने का खतरा थोड़ा बढ़ जाएगा।

विशुद्ध रूप से अकादमिक लोगों जैसे सवालों को अलग करने का एक प्रलोभन है, लेकिन आप उनके आसपास नहीं पहुंच सकते हैं, क्योंकि कार्यक्रम सब कुछ सचमुच लेते हैं। विकास कार्यों के चरण में, और सॉफ़्टवेयर के लिए पैच बनाने के चरण में - आपको प्रदर्शन करने से पहले कार्यों के परिणामों का मूल्यांकन करना होगा।

आंशिक रूप से इस वजह से, शोधकर्ता काल्पनिक स्थितियों का उपयोग करते हैं जिसमें एक मशीन को दो बुराइयों के बीच चुनना होगा। इस प्रकार के सबसे प्रसिद्ध कार्यों में से एक ट्रॉली की समस्या है।

एक भारी अनियंत्रित ट्राली रेल पर ले जाया जाता है। इसके रास्ते में एक पागल दार्शनिक द्वारा रेल से बंधे पांच लोग हैं। सौभाग्य से, आप तीर को स्विच कर सकते हैं - और फिर ट्रॉली एक अलग, वैकल्पिक मार्ग पर जाएगी। दुर्भाग्य से, साइडिंग पर एक व्यक्ति है, जो रेल से बंधा हुआ है। आपके कर्म क्या हैं?

क्या आप कई लोगों के लिए एक जीवन का बलिदान करेंगे? यदि नहीं, तो आपकी निष्क्रियता के कारण लोग अभी भी मरेंगे, तो आप इस विरोधाभास से कैसे निपट सकते हैं?

इस तरह के प्रयोगों के विषयों पर किताबें लिखी गई हैं, और वे आपको सरल और प्रत्यक्ष प्रणालियों का परीक्षण करने की अनुमति देते हैं जो नैतिक मुद्दों को संभालते हैं और उन क्षेत्रों को ढूंढते हैं जहां कुछ बारीकियों में तल्लीन करना अच्छा होगा। मान लीजिए कि हमने हर कीमत पर पैदल चलने वालों से बचने के लिए एक रोबोट बनाया। यदि एक पैदल यात्री अचानक दो-लेन सुरंग में दिखाई देता है और कार समय पर ब्रेक नहीं लगा सकती है, तो उसे लेन को बंद करना होगा, भले ही वह यात्रियों के साथ बस के रास्ते में हो। इस तरह की घटना की संभावना उतनी महत्वपूर्ण नहीं है जितनी कि रोबोट कार के तर्क में यह समस्या है - कि सड़क मार्ग का उपयोग करने वाले अन्य सभी लोगों पर एक पैदल यात्री के मूल्य की पूर्ण श्रेष्ठता बहुत खतरनाक हो सकती है।

रोबोटिक्स में नैतिकता एक हल करने योग्य कार्य है। हम यह जानते हैं क्योंकि अन्य क्षेत्रों में हम पहले ही लगभग समान जोखिमों और लाभों को सुरक्षित और यथोचित रूप से संभालने का अवसर पा चुके हैं। दाता अंगों को जीवन के संभावित वर्षों और उनके जीवन की गुणवत्ता से गणना की गई मीट्रिक के आधार पर रोगियों को वितरित किया जाता है। एक किसान और शिक्षक के रूप में ऐसे आवश्यक व्यवसायों के लोगों को सैन्य मसौदे से छूट दी गई है।

रोबोमेबाइल के कार्य अधिक जटिल हैं। उन्हें अधूरी जानकारी के आधार पर जल्दी से निर्णय लेने की आवश्यकता होती है, ऐसी परिस्थितियों में प्रोग्रामर को नैतिकता का उपयोग करते हुए पूर्वाभास नहीं हो सकता है जिन्हें एल्गोरिथ्म में भी शाब्दिक रूप से बनाया जाना है। सौभाग्य से, लोग उनसे अलौकिक ज्ञान की उम्मीद नहीं करते हैं - केवल एक मशीन के कार्यों के लिए एक तर्कसंगत औचित्य है जो नैतिक मुद्दों का मूल्यांकन करता है। समाधान सही नहीं होना चाहिए - लेकिन विचारशील और एक जिसे संरक्षित किया जा सकता है।

क्या यह डाकू के एल्गोरिथ्म में नैतिकता का परिचय देना संभव है?

रोबोमोबाइल द्वारा की गई हत्या के लिए, कार्यक्रम (और प्रोग्रामर) का न्याय किया जाएगा

More articles: