Google: हमारा "फ़ोन" AI खतरनाक होने के लिए पर्याप्त नहीं है

इतना समय पहले नहीं, Google ने एक डिजिटल सहायक Google डुप्लेक्स के काम का प्रदर्शन किया , जो किसी व्यक्ति के बजाय किसी होटल, हेयरड्रेसर या रेस्तरां में जगह पर फोन पर बात करने में सक्षम है। एक आभासी सचिव की तरह कुछ, एक बहुत ही मानवीय आवाज के साथ। इतना मानवीय कि समाचार संसाधनों ने एक सहायक के संभावित खतरे के बारे में जानकारी प्रकाशित करना शुरू कर दिया।

हाल ही में, Google प्रतिनिधियों ने उन लोगों को समझाने के लिए सब कुछ करने की कोशिश की जो अपनी संतानों की सुरक्षा से डरते हैं। कंपनी परियोजना को छोड़ने का इरादा नहीं रखती है। इसके अलावा, इस गर्मी के दौरान, सहायक की क्षमताएं सीमित संख्या में Google सहायक उपयोगकर्ताओं के लिए उपलब्ध हो जाएंगी। सहायक आपको एक रेस्तरां में एक टेबल बुक करने या निकटतम हेयरड्रेसर पर एक बाल कटवाने के लिए सही समय चुनने में मदद करेगा।

सिस्टम की क्षमताओं का प्रदर्शन कई लोगों को चकित कर गया। और न केवल इस तथ्य से कि सहायक ने स्पष्ट रूप से सवालों के जवाब दिए और आम तौर पर बातचीत का समर्थन किया, बल्कि इस तथ्य से भी कि किसी व्यक्ति के साथ मशीन के संचार को शायद ही किसी व्यक्ति के साथ संचार से अलग किया जा सकता है। इन सभी "yeps", "umm", "nuuuu" कि कार्यक्रम सावधानीपूर्वक अनुकरण किया जाता है (निश्चित रूप से, इन सभी विस्मयादिबोधक के अंग्रेजी संस्करण में) एक बातचीत के दौरान एक व्यक्ति के व्यवहार के समान है।

तो समस्या क्या है? ठीक है, कार्यक्रम खुद को कहता है और कहता है, अगर यह सब लोगों के बीच बातचीत जैसा दिखता है - सभी बेहतर, कंप्यूटर सिस्टम की प्रगति स्पष्ट है। वास्तव में, सूचना सुरक्षा विशेषज्ञों और आम लोगों को डर है कि आवाज सहायक का इस्तेमाल हमलावरों या विभिन्न प्रकार की विशेष सेवाओं के प्रतिनिधियों द्वारा विभिन्न उद्देश्यों के लिए किया जा सकता है। और किसी व्यक्ति से कंप्यूटर को अलग करना लगभग असंभव है।

खैर, इस तरह की प्रणाली की मदद से व्यक्तिगत जानकारी चोरी करना आसान से आसान है - यह जानता है कि कैसे राजी करना है। किसी भी मामले में, डेमो में, सब कुछ इस तरह दिखता है।


“प्रौद्योगिकी के प्रदर्शन के साथ, कई सवाल उठते हैं। उनमें से एक: "क्या आप लोगों ने एक उच्च-क्रम AI बनाया है जो फोन कॉल सहित बहुत ही मानव-जैसा हो सकता है?" स्कॉट हफ़मैन ने कहा, इंजीनियरिंग के लिए Google के उप-इंजीनियर। हफ़मैन का कहना है कि वास्तव में, डिजिटल सहायक बहुत, इंसान की तरह होने से बहुत दूर है। "हमने जो वास्तव में बनाया है वह तीन स्वचालित रूप से" प्रशिक्षित "सिस्टम है, जिनमें से प्रत्येक में एक स्पष्ट कार्य है: एक अनुसूची के बारे में पूछना, एक बाल कटवाने के लिए समय आरक्षित करना और निर्धारित करना। यह सब मशीन कर सकता है, ”हफ़मैन कहते हैं।

अन्य बातों के अलावा, Google ने सिस्टम की कार्यक्षमता के लिए एक प्रस्तुति समारोह जोड़ा। मशीन रिपोर्ट करती है कि यह एक मशीन है, इसलिए वार्ताकार को स्थिति को समझने में समस्या नहीं होनी चाहिए।

इस तथ्य के लिए कि प्रौद्योगिकी का उपयोग पूरी तरह से सकारात्मक उद्देश्यों के लिए नहीं किया जा सकता है, Google कर्मचारी पहले ही बोल चुके हैं। Google के उपाध्यक्ष निक फॉक्स ने कहा, "कई तकनीकों का उपयोग मानवता की भलाई और गिरावट दोनों के लिए किया जा सकता है।" उनका यह भी मानना ​​है कि उपयोगकर्ताओं को यह बताना बहुत महत्वपूर्ण है कि इस समय कौन वास्तव में कॉल कर रहा है।

इस तरह की प्रणाली बनाने के लिए, Google टीम ने साधारण कॉल सेंटर के कर्मचारियों को एक रेस्तरां या एक नाई के हेयरकट में एक टेबल आरक्षित करने के लिए कहा। "संचार" के दौरान, एक निश्चित प्रकार का संवाद आवश्यक रूप से उत्पन्न हुआ, जिसे Google कर्मचारियों ने एआई को पढ़ाने के लिए रिकॉर्ड किया और उपयोग किया। पहली नज़र में, यह बहुत अच्छा निकला।


अब डुप्लेक्स तालिकाओं के आरक्षण के साथ आता है, और काफी गुमनाम रूप से। हालांकि, Google के पास ऑपरेटरों की एक टीम है जो क्षेत्र में काम कर सकती है।

मजे की बात यह है कि Google सिस्टम की वर्तमान क्षमता को बहुत अधिक नहीं संचारित करने वाला मानता है।

सामान्य तौर पर, Google अब यह साबित करने की कोशिश कर रहा है कि उसकी परियोजना में "कुछ भी नहीं है, केवल व्यवसाय है।" सिद्धांत रूप में, सबसे अधिक संभावना है, यह मामला है, क्योंकि यह संभावना नहीं है कि कंपनी एक एआई को विकसित करने की कोशिश कर रही है जो कुछ समय बाद लोगों का शिकार करेगी। नहीं, यहाँ बिंदु शुद्ध वाणिज्य है, और जल्द ही, संभवतः, समस्या वास्तव में हल हो जाएगी।