वास्तविक दुनिया में कृत्रिम बुद्धिमत्ता

प्रयोगशाला में जटिल कृत्रिम खुफिया प्रणालियों का विकास एक कठिन काम है। लेकिन क्या होता है जब ऐसी प्रणालियां वास्तविक दुनिया में प्रवेश करती हैं और वास्तविक लोगों के साथ बातचीत करना शुरू करती हैं? यह वही है जो शोधकर्ता यह जानने की कोशिश कर रहे हैं, जिसमें माइक्रोसॉफ्ट रिसर्च मॉन्ट्रियल के वरिष्ठ अनुसंधान निदेशक डॉ। फर्नांडो डियाज भी शामिल हैं। आज, डॉ। डियाज अपने विचारों को साझा करेंगे और कृत्रिम बुद्धि और समाज पर इसके प्रभाव के बारे में हमारे सवालों का जवाब देंगे।



सहयोगियों के साथ मिलकर, फर्नांडो यह समझने की कोशिश कर रहा है कि एआई सिस्टम समाज को कैसे प्रभावित करता है, वास्तविक दुनिया में हो रहा है, और परिणामों से कैसे सामना करना है।

वह इस बारे में भी बात करेंगे कि कैसे प्रौद्योगिकी संगीत के स्वाद को आकार दे सकती है और बता सकती है कि आज कल कंप्यूटर विज्ञान में छात्रों को शिक्षित करने के लिए इतना महत्वपूर्ण क्यों है, न केवल एल्गोरिदम, बल्कि नैतिक सिद्धांत भी।

---

साक्षात्कार

जब मैं एक प्रयोग शुरू करता हूं, तो मैं खुद से पूछता हूं: कौन से उपयोगकर्ता प्रयोगों को नैतिक माना जाता है और जो नहीं हैं? लोगों को कितनी व्यापक रूप से सूचित करने की आवश्यकता है कि वे एक प्रयोग में भागीदार बन गए हैं? मशीन लर्निंग प्रौद्योगिकियों द्वारा उपयोग किए जाने वाले पूर्वाग्रह डेटा को कैसे पहचानें और समाप्त करें? यह सबसे पहले दिमाग में आता है। अगले वर्षों में, कई अन्य प्रश्न उठेंगे, उदाहरण के लिए, एआई सिस्टम को इस तरह से कैसे विकसित किया जाए कि उपयोगकर्ताओं के लिए सम्मान का प्रदर्शन किया जा सके।

आप Microsoft अनुसंधान पॉडकास्ट के लिए सुन रहे हैं। यहां हम आपको उन्नत प्रौद्योगिकी अनुसंधान और इसके पीछे के वैज्ञानिकों से परिचित कराते हैं। मैं ग्रेटचेन हुइजिंगा का मेजबान हूं।

प्रयोगशाला में जटिल कृत्रिम खुफिया प्रणालियों का विकास एक कठिन काम है। लेकिन क्या होता है जब ऐसी प्रणालियां वास्तविक दुनिया में प्रवेश करती हैं और वास्तविक लोगों के साथ बातचीत करना शुरू करती हैं? यह वही है जो माइक्रोसॉफ्ट रिसर्च मॉन्ट्रियल के वरिष्ठ अनुसंधान निदेशक डॉ। फर्नांडो डियाज जैसे शोधकर्ताओं ने यह पता लगाने की कोशिश कर रहे हैं। सहयोगियों के साथ मिलकर, फर्नांडो यह समझने की कोशिश कर रहा है कि एआई सिस्टम समाज को कैसे प्रभावित करता है, वास्तविक दुनिया में हो रहा है, और परिणामों से कैसे सामना करना है।

आज, डॉ। डियाज़ अपने विचारों को साझा करेंगे और कृत्रिम बुद्धि और समाज पर इसके प्रभाव के बारे में हमारे सवालों का जवाब देंगे। वह इस बारे में भी बात करेंगे कि कैसे प्रौद्योगिकी संगीत के स्वाद को आकार दे सकती है और बता सकती है कि आज कल कंप्यूटर विज्ञान में छात्रों को शिक्षित करने के लिए इतना महत्वपूर्ण क्यों है, न केवल एल्गोरिदम, बल्कि नैतिक सिद्धांत भी। इसके बारे में और बहुत कुछ - माइक्रोसॉफ्ट रिसर्च पॉडकास्ट की नई रिलीज में।

फर्नांडो डियाज, पॉडकास्ट में आपका स्वागत है।

आपका धन्यवाद

आप Microsoft अनुसंधान मॉन्ट्रियल में एक वरिष्ठ शोध निदेशक हैं और कृत्रिम बुद्धिमत्ता, खोज और सूचना की पुनर्प्राप्ति के क्षेत्र में काम करते हैं। लेकिन आप निष्पक्षता, जवाबदेही, पारदर्शिता और नैतिकता (निष्पक्षता, जवाबदेही, पारदर्शिता और नैतिकता, FATE) के सिद्धांत भी सीखते हैं। यही है, सामान्य रूप से बोलना (हम बाद में बारीकियों पर आएंगे): क्या आप सुबह उठते हैं? आप किन गंभीर सवालों के जवाब तलाश रहे हैं, आप किन महत्वपूर्ण समस्याओं को हल करना चाहते हैं?

हम जो सिस्टम बना रहे हैं उनमें से कई बहुत सफल हैं। सूचना खोज, वेब खोज, कंप्यूटर दृष्टि - इन सभी तकनीकों को कई वर्षों में विकसित किया गया है। आज वे सक्रिय रूप से बड़े पैमाने पर बाजार भर रहे हैं, और लोग हर दिन उनका उपयोग करना शुरू करते हैं। हालाँकि, कुछ आईटी विशेषज्ञों ने इन तकनीकों को डिज़ाइन करते समय ऐसा नहीं सोचा था कि उन्हें किस सामाजिक संदर्भ में उपयोग करना चाहिए।

और इस मामले में, मैं केवल यह समझने की कोशिश कर रहा हूं कि इन प्रणालियों को बनाने के लिए कौन से सामाजिक पूर्वापेक्षाएँ मौजूद हैं, कैसे सामाजिक संदर्भ जिसके तहत वे काम करते हैं, न केवल हमारे संकेतकों को प्रभावित करता है, उदाहरण के लिए, लौटाए गए डेटा की सटीकता और पूर्णता, बल्कि पूरे समाज के रूप में भी। । मुझे ऐसा लगता है कि यह मुद्दा आईटी पेशेवरों के लिए सबसे आगे आता है, क्योंकि इनमें से कई प्रौद्योगिकियां अलगाव में विकसित हुई हैं, जो अब केवल बाजार में प्रवेश करने लगी हैं।

तो, आप एक आईटी विशेषज्ञ हैं, आपने जानकारी प्राप्त करने, मशीन सीखने और सांख्यिकीय विधियों के लिए एल्गोरिदम पर शोध किया है। हालाँकि, हाल ही में आप समाज के साथ कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के आदान-प्रदान में रुचि रखते हैं, विशेष रूप से, उनके व्यापक वितरण के परिणाम या, जैसा कि कुछ कहते हैं, उनका प्रकाशन। अभी आप इसमें रुचि क्यों ले रहे हैं? आपको क्या परेशान कर रहा है? इस क्षेत्र में आपकी रुचि क्या है?

बड़ा सवाल है। पहले, निश्चित रूप से, मैंने मजिस्ट्रेट में प्रवेश किया, एक डिग्री प्राप्त की। मैंने इन सभी प्रणालियों का अध्ययन किया, इसलिए बोलने के लिए, एक सार स्तर पर, ऑफ़लाइन प्राप्त किए गए स्थैतिक डेटा के साथ प्रयोग किया। स्नातक स्तर की पढ़ाई के तुरंत बाद, मैं औद्योगिक अनुसंधान प्रयोगशाला में समाप्त हो गया। यहां मैंने उत्पादन श्रमिकों के साथ काम किया, हम उन तकनीकों के व्यावहारिक कार्यान्वयन में लगे हुए थे जो मैंने विश्वविद्यालय में अध्ययन किए थे।



और फिर मुझे समझ में आने लगा: जब हम इन एल्गोरिदम को मापते हैं और वास्तविक उपयोगकर्ताओं को प्रदान करते हैं, तो प्रयोगशाला में रखी गई अधिकांश बुनियादी धारणाएं वास्तविकता में पूरी तरह से अनुपयुक्त हैं। मेरे लिए यह मेरे सभी अनुसंधानों की एक तरह की अंतिम जांच थी, मूल सिद्धांतों की वापसी और यह समझने का प्रयास कि समस्या क्या है, मैं परिणामों का सही मूल्यांकन कैसे कर सकता हूं और विशिष्ट संकेतक कैसे प्राप्त कर सकता हूं।

यही है, आपने पहले ही Microsoft अनुसंधान में काम किया है, फिर आप वहां से चले गए, और फिर वापस लौट आए। आपने न्यूयॉर्क में शुरुआत की और अब आप मॉन्ट्रियल चले गए हैं। तुम वापस क्यों आ रहे हो?

विश्वविद्यालय के बाद, मैंने मॉन्ट्रियल में शोध कार्य शुरू किया और, कई कारणों से, वहां से जाने के लिए मजबूर किया गया। लेकिन, वहां रहकर मैंने महसूस किया कि इस शहर में - एक पूरे के रूप में कनाडा में - आईटी और मशीन लर्निंग के क्षेत्र में शोध की परंपरा काफी मजबूत है। और गहराई से मैं हमेशा इस काम में भाग लेने के लिए यहां वापस आना चाहता था। और जब मुझे मॉन्ट्रियल में Microsoft अनुसंधान प्रयोगशाला में लौटने का अवसर मिला, तो मैंने खुशी से इसका लाभ उठाया। खासकर जब आप मानते हैं कि प्रयोगशाला पूरी तरह से कृत्रिम बुद्धि के विकास में लगी हुई है। मॉन्ट्रियल में, इस क्षेत्र में बहुत सक्रिय शोध किया गया था, और मैं अपना योगदान देने के लिए इस सब का हिस्सा बनना चाहता था।

मॉन्ट्रियल के बारे में कुछ शब्द बताते हैं। यह शहर कृत्रिम बुद्धिमत्ता से संबंधित हर चीज में एक वास्तविक मक्का बन गया है, और एसएमआर मॉन्ट्रियल प्रयोगशाला का एक बहुत ही विशिष्ट कार्य है - लोगों को पढ़ने, सोचने और संवाद करने के लिए मशीनों को सिखाने के लिए उसी तरह से। हमें बताएं कि आप इस रास्ते पर कितना आगे आए हैं और मॉन्ट्रियल प्रयोगशाला के काम के साथ आपके अपने शोध कैसे संबंधित हैं।

मुझे लगता है कि एआई के अध्ययन के लिए समर्पित एक विशेष प्रयोगशाला बनाई गई थी क्योंकि ऐसी प्रणालियों के विकास के बारे में कई सवाल थे, और उन्हें अभी भी जवाब नहीं मिला है। और मुझे लगता है कि इसके लिए प्राकृतिक भाषाओं के प्रसंस्करण में न केवल विशेषज्ञों की आवश्यकता है, न केवल इंटरैक्टिव सीखने या उत्तेजक सीखने के विशेषज्ञों की। वास्तव में, उन्हें सभी को एक साथ मिलकर काम करना चाहिए। और यह मुझे लगता है कि यह वही है जो हमारी प्रयोगशाला को वास्तव में अद्वितीय बनाता है।

मेरा काम आज प्रयोगशाला में आना है, यदि संभव हो तो, विशेषज्ञों के साथ संवाद करें और उन्हें बताएं कि जब वास्तविक लोग उनके साथ बातचीत करना शुरू करते हैं तो ये सिस्टम कैसे व्यवहार कर सकते हैं। जैसा कि मैंने पहले कहा था, ऐसी प्रणालियों को वास्तविकता से अलगाव में, अलगाव में विकसित करना काफी आसान है। लेकिन जब उनका व्यावहारिक कार्यान्वयन शुरू होता है, तो यह पता चलता है कि प्रयोगों के दौरान बहुत सारी धारणाएं बनाई गई थीं। अब मैं एक टीम का गठन कर रहा हूं, जिसका काम इस तरह के सवालों की उपस्थिति का अनुमान लगाना है, सिस्टम के विकास का अनुकूलन करना है, इसके संदर्भ में इसकी स्थिरता को बढ़ाना है, कहना है, जनसंख्या के समूहों के बीच अंतर जिसके साथ हम बातचीत करते हैं, या ज्ञान के आधार पर भिन्नताएं जिससे मैं जानकारी खींचता हूं।

आप कौन सी टीम बनाना चाहते हैं?

मैं FATE समूह के लिए एक "बहन" बनाने की कोशिश कर रहा हूं जिसे हमने कई साल पहले न्यूयॉर्क में आयोजित किया था। हम कृत्रिम बुद्धि को समाज में एकीकृत करने के सामाजिक परिणामों पर ध्यान केंद्रित करेंगे। हमारी टीम में न केवल आईटी के क्षेत्र में विशेषज्ञ शामिल होंगे, बल्कि संबंधित विषयों में भी, उदाहरण के लिए, समाजशास्त्र में। आईटी पेशेवरों के लिए समाज के परिणामों को बेहतर ढंग से समझने के लिए, हमें विशेषज्ञ समाजशास्त्री, मानवविज्ञानी, और इसी तरह की आवश्यकता है। वे ऐसी चीजों के बारे में बहुत सी उपयोगी चीजें बता पाएंगे जो हमने अभी तक मूल्यांकन या ध्यान में नहीं रखी हैं।

हां, इस बारे में अधिक विस्तार से बात करते हैं। आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग के क्षेत्र में विभिन्न शोधों में एफएटी सिद्धांतों का अनुप्रयोग आज सबसे महत्वपूर्ण है। जैसा कि आपने कहा, इसका कारण यह है कि प्रयोगशाला में सभी विवादास्पद मुद्दों का ठीक से अध्ययन नहीं किया जा सकता है। योजनाबद्ध परिणाम के साथ, पूरी तरह से अप्रत्याशित, चौंकाने वाले लोगों के परिणाम पैदा हो सकते हैं। तो, इस समुदाय के शोधकर्ताओं के पास अलग विशेषज्ञता और शिक्षा है। ईमानदारी, जवाबदेही, पारदर्शिता और नैतिकता के सिद्धांतों की बात करने पर विशेषज्ञों में से प्रत्येक का क्या योगदान है?

हां, समाजशास्त्री सामान्य रूप से प्रौद्योगिकी के अनुप्रयोग के विभिन्न पहलुओं को बहुत बेहतर ढंग से समझते हैं, वे संभावित सकारात्मक और नकारात्मक परिणामों के बारे में जानते हैं कि लोग उन या अन्य उपकरणों पर कैसे प्रतिक्रिया करते हैं जो हम प्रदान करते हैं। एक कानूनी शिक्षा वाले विशेषज्ञ विकसित की जा रही व्यक्तिगत प्रौद्योगिकियों की राजनीतिक पृष्ठभूमि पर टिप्पणी करने में सक्षम होंगे और उदाहरण के लिए "ईमानदारी" की अवधारणा को बेहतर ढंग से समझने में हमारी मदद करेंगे।

आईटी पेशेवरों, बदले में, विकसित की जा रही प्रणालियों के सार को बेहतर ढंग से समझते हैं, "ईमानदारी" जैसी अवधारणाओं को एक व्यवहार्य अवधारणा में अनुवाद करने और इसे सिस्टम में शामिल करने में सक्षम हैं। हालांकि, सिस्टम को अधिक कुशलता से डिजाइन करने के लिए एक ही समस्या पर बहुत भिन्न बिंदुओं की उपस्थिति आवश्यक है।

अब आपने जो कुछ किया है, उस पर वापस चलते हैं और अब आप जो काम करना जारी रखते हैं: सूचना प्रणाली, खोज इंजन और जानकारी प्राप्त करना। आपके द्वारा लिखे गए दस्तावेज़ में, आप इस तरह के सिस्टम के अध्ययन और उनके व्यावहारिक कार्यान्वयन के बीच एक निश्चित अंतराल के अस्तित्व के बारे में बात करते हैं, लेकिन साथ ही आप एक उत्तेजक बयान देते हैं कि शैक्षणिक संस्थान उद्योग तकनीकी विशेषज्ञों की तुलना में कुछ समस्याओं का बेहतर सामना करेंगे। ये समस्याएं क्या हैं और आप ऐसा क्यों सोचते हैं?

आइए सूचना के उपयोग पर अनुसंधान के क्षेत्र में स्थिति को देखें। ऐसे शिक्षण संस्थान के वैज्ञानिक हैं, जिन्होंने समाज की भलाई के लिए बहुत कुछ किया है, लेकिन आज कई शोध, जो वेब खोज के क्षेत्र में हैं, बड़े खोज दिग्गजों द्वारा किए जाते हैं जिनमें डेटा, उपयोगकर्ता की जानकारी और इसी तरह की अन्य चीजें हैं। और अधिकांश मामलों में वैज्ञानिकों के पास ऐसे डेटा तक पहुंच नहीं है, जो प्रयोगों के संचालन के लिए एक मंच है। इसलिए, अनुसंधान के अवसर स्पष्ट रूप से असमान हैं।

और मैंने अपने लेख में लिखा है कि शैक्षणिक संस्थानों के वैज्ञानिक कर्मचारियों के पास बड़ी मात्रा में डेटा नहीं है, लेकिन उनके पास विविध विशेषज्ञों को आकर्षित करने की क्षमता है, जो खोज दिग्गज नहीं कर सकते हैं। विश्वविद्यालय में अन्य विज्ञानों में समाजशास्त्री और विशेषज्ञ हैं। आर्थिक विषयों के शिक्षक हैं। ये सभी संभावित शोध "साझीदार" समस्या को अधिक व्यापक रूप से देखने के लिए, विभिन्न दृष्टिकोणों से अध्ययन करने के बजाय, केवल एक में भाग लेने के बजाय एक खोज करने में मदद करेंगे, जो कि विशाल खोजकर्ता का पालन करता है।

मुझे लगता है कि डेटा सेट बनाना रणनीतियों में से एक है। शैक्षणिक संस्थानों के लिए दुर्गम एक अन्य दृष्टिकोण, या वैज्ञानिक मंच का प्रकार, प्रयोग है। मैं ए / बी परीक्षण कर सकता हूं। आप उपयोगकर्ताओं के एक बड़े नमूने को नियंत्रित नियंत्रण सेट कर सकते हैं, जो डेटा सेट में उपलब्ध नहीं है।

हाँ यह सच है।

और फिर भी, यह मुझे लगता है, यह पता लगाने के लायक है कि हम वास्तव में इस तरह के नियंत्रित प्रयोगों के संचालन के लिए अपने संसाधनों तक पहुंच के साथ शैक्षिक संस्थान कैसे प्रदान करते हैं।

यह तो इंटरेस्टिंग है।

यह सब अव्यवस्थित रूप से, बेतरतीब ढंग से हुआ, और यह मुझे लगता है कि वास्तव में हम, उद्योग के शोधकर्ताओं ने इस बारे में सोचने की आवश्यकता है: ऐसे अवसरों तक पहुंच को आसान और अधिक सुविधाजनक कैसे बनाया जाए।

तो, चलिए डेटा पर वापस आते हैं। आइए बताते हैं उनके बारे में कुछ शब्द। मशीन सीखने के विशेषज्ञ सहमत थे कि बस "बड़ा डेटा" पर्याप्त नहीं है - मैं विशेष रूप से उद्धरण चिह्नों में "बड़ा डेटा" कहता हूं। अन्य बातों के अलावा, उच्च-गुणवत्ता और उद्देश्य डेटा की आवश्यकता है। हम जानते हैं कि इन सभी बड़े डेटा सेटों में कुछ हद तक निष्पक्षता की कमी है।

और हमें इसे ठीक करने की आवश्यकता है। आज, डेटा की निष्पक्षता बढ़ाने के बारे में बहुत सारी बातें हैं, उदाहरण के लिए, समानता सुनिश्चित करने के लिए सर्च इंजन, एल्गोरिदम के ऑडिट और समान। यह कैसे करना है?

डेटा के पूर्वाग्रह के बारे में हमारी चिंता का एक कारण: इस डेटा के आधार पर प्रशिक्षित एक मॉडल तैनाती के दौरान पक्षपाती होगा। यही है, सबसे महत्वपूर्ण बात यह निर्धारित करने में सक्षम होना है कि कृत्रिम बुद्धि कैसे काम करती है। और अगर वह पक्षपातपूर्ण कार्य करता है, तो आपको वापस जाने की आवश्यकता है और एल्गोरिथ्म को वापस लेना होगा या इसमें प्रतिबंध जोड़ना होगा जो आपको डेटा के साथ पूर्वाग्रह लेने की अनुमति नहीं देगा। मेरा काम आज मुख्य रूप से मूल्यांकन और माप पर केंद्रित है।



हम सिस्टम को एक्सेस करने वाले उपयोगकर्ताओं को समझना चाहते हैं, यह समझने के लिए कि उन्हें क्या चाहिए, और मूल्यांकन करने के लिए, उद्देश्यपूर्ण या पक्षपाती रूप से, सिस्टम इन उपयोगकर्ताओं को ध्यान में रखते हुए संचालित करता है कि वे किस जनसंख्या समूह के हैं। इसके लिए जानकारी प्राप्त करने में विशेषज्ञों द्वारा समृद्ध अनुभव की आवश्यकता होती है, जो 20 वीं शताब्दी के 50 के दशक में इस तरह के अनुसंधान की शुरुआत से, सभी अनुमान और माप एल्गोरिदम के माध्यम से सोचने में कामयाब रहे। यह वह है जो आपको ऑडिट, मूल्यांकन और जानकारी प्राप्त करने के बीच एक प्राकृतिक संतुलन खोजने की अनुमति देता है।

जैसा कि हमने कहा है, पूर्वाग्रह डेटा प्रोसेसिंग और विश्लेषण और कृत्रिम बुद्धिमत्ता के क्षेत्र में शोधकर्ताओं के बीच घुल-मिल जाते हैं। हालाँकि, आप कहते हैं कि पूर्वाग्रह के अलावा, एक सामाजिक प्रकृति की अन्य समस्याएं हैं जिन्हें संबोधित करने की आवश्यकता है। ये समस्याएं क्या हैं, और शोध इनका समाधान कैसे कर सकते हैं?

हां, मुझे वास्तव में लगता है कि पूर्वाग्रह एक बहुत महत्वपूर्ण समस्या है, लेकिन मैंने कृत्रिम बुद्धिमत्ता का उपयोग करने के सामाजिक संदर्भ के बारे में बात क्यों की? क्योंकि मेरा मानना ​​है कि पूर्वाग्रह केवल एक सामाजिक समस्या है जिसे हम पहचान सकते हैं। बेशक, वहाँ अन्य हैं। जाहिर है, उनमें से एक पारदर्शिता से संबंधित है। मैं एल्गोरिदम द्वारा किए गए निर्णय उपयोगकर्ताओं के लिए पारदर्शी कैसे बना सकता हूं, उन्हें लगता है कि वे स्थिति को नियंत्रित कर सकते हैं, एल्गोरिथम के काम में भाग ले सकते हैं?

दूसरी समस्या एल्गोरिदम की सांस्कृतिक पृष्ठभूमि है। यह सब फिल्मों, संगीत के लिए सिफारिशों के चयन, कहने, के संदर्भ में होता है। उदाहरण के लिए, मैं उपयोगकर्ताओं के लिए संगीत सिफारिशों का चयन करने के लिए एक बड़ी प्रणाली बना रहा हूं। संस्कृति के लिए इस एल्गोरिथम की तैनाती के परिणाम क्या होंगे, अगर मुझे पता है, उदाहरण के लिए, कि सिफारिश में व्यक्तिगत कलाकारों को जोड़कर, किसी व्यक्ति के संगीत स्वाद को एक निश्चित तरीके से बनाना संभव है? दीर्घकाल में संस्कृति बनाने या बनाए रखने का क्या अर्थ होगा?

इस समस्या का एक और पहलू है: संगीत की सिफारिशों के चयन के लिए एल्गोरिदम लेखकों या स्वयं कलाकारों पर महत्वपूर्ण प्रभाव डाल सकता है। एक आईटी पेशेवर के रूप में, मैं कह सकता हूं कि संगीत की सिफारिशों का चयन करने के लिए यह सबसे अच्छा एल्गोरिथ्म है। और मैं इसे बाजार में लाने जा रहा हूं। लेकिन हम आईटी पेशेवरों ने इस बारे में बिल्कुल नहीं सोचा कि यह एल्गोरिदम लेखकों को कैसे प्रभावित करेगा। मेरे लिए व्यक्तिगत रूप से, यह विशेष रूप से महत्वपूर्ण है।

फिर आप कैसे अध्ययन का संचालन करने जा रहे हैं जो इस सब को ध्यान में रखेगा?

चलो संगीत सिफारिशों के चयन के साथ उदाहरण पर वापस जाते हैं। कल्पना करें कि आप संगीतकारों के निकट संपर्क में हैं और पूरी तरह से समझते हैं कि यह उनके लिए कितना महत्वपूर्ण है। यह जानना उनके लिए क्या होगा कि उन्हें सिस्टम से बाहर रखा गया है? यह महसूस करने के लिए क्या है कि उनका जीवन सिफारिशों के चयन की एक प्रणाली द्वारा शासित है, और वे बिल्कुल इसे प्रभावित नहीं कर सकते हैं? एक आईटी विशेषज्ञ के रूप में, मुझे बस समाजशास्त्रियों और मानवविज्ञानी, जन मीडिया विशेषज्ञों के साथ एक मेज पर बैठना होगा, ताकि संगीतकारों के रूप में आबादी का इतना महत्वपूर्ण समूह बेहतर ढंग से समझ सके।

और फिर मैं, एक आईटी पेशेवर, बैठकर सोच सकता हूं कि एक एल्गोरिथ्म कैसे बनाया जाए जो श्रोताओं और संगीतकारों की जरूरतों को पूरा करेगा। अब मुझे ऐसा लगता है कि इस तरह का सूत्रीकरण बहुत सरल है। इसीलिए मैं चाहता हूं कि अन्य विषयों के विशेषज्ञ मुझसे कहें: "फर्नांडो, तुम्हें पता है, तुमने इस बारे में नहीं सोचा, यह और वह है।"

आपके शोध की प्रकृति और परिणामों को देखते हुए, क्या आप हमें बता सकते हैं कि हमें क्या चिंता करनी है? क्या ऐसी चीजें हैं जो आपको अच्छी तरह से सोने से रोकती हैं?

निजी तौर पर, मैं इस तथ्य को लेकर चिंतित हूं कि हमारे शोध समुदाय में विकसित कई प्रौद्योगिकियां दुनिया में चली जाती हैं और कुछ दिनों या हफ्तों में बड़े पैमाने पर प्रचलन में आ जाती हैं। और यह उन लोगों द्वारा किया जाता है जो स्वयं कोई प्रयोग नहीं करते थे। "ओपन साइंस" में कुछ भी गलत नहीं है, लेकिन मुझे लगता है कि हमें कहीं और लागू करने से पहले एल्गोरिदम को लागू करने के परिणामों को समझना चाहिए। और यह मुझे परेशान करता है कि हम बहुत जल्दी और अधिक नए एल्गोरिदम जारी करते हैं, उनके परिणामों की पूरी तरह से सराहना और समझ नहीं करते हैं।

Microsoft रिसर्च लैब शैक्षिक संस्थानों के साथ घनिष्ठ सहयोग के लिए जाना जाता है। और मुझे पता है कि आप शिक्षा पर बहुत ध्यान देते हैं। आइए बात करते हैं कि शिक्षा के लिए FATE सिद्धांतों के संदर्भ में क्या होता है - ईमानदारी, जवाबदेही, पारदर्शिता और नैतिकता। हमें बताएं कि आप इस क्षेत्र में शैक्षिक कार्यक्रमों का भविष्य कैसे देखते हैं।

आप जानते हैं, जब मैंने मजिस्ट्रेट में प्रवेश किया था ... या इससे पहले भी, जब मैं आईटी संकाय में अध्ययन कर रहा था, तो हमें व्यावहारिक रूप से नैतिकता के सिद्धांत नहीं सिखाए गए थे और उन प्रौद्योगिकियों के समाज के परिणामों के बारे में बात नहीं की थी जिन्हें हम विकसित कर रहे हैं। , , , . , . , .

-, , , , , . , , . , - , . - , , . , , , .

— — . , , , , .

: « , : , — ? , ? , ?». . , , .



, , « ». , , , , . , , . , , . , .

हां। , , , , , . , , -. . , , .

, : ? : , , , , . , ?

, , … , , . , , . , , , , .

, , . , , , , , — . .

, , , (FATE) IT, . - .

---

12 AI-Community « ». .

-, , , « » .

, !