Microsoft आधिकारिक तौर पर Tay चैटबॉट व्यवहार के लिए माफी माँगता है

जैसा कि पहले गीकटाइम में बताया गया था, माइक्रोसॉफ्ट ने ट्विटर पर एक एआई बॉट लॉन्च किया है जो एक किशोरी के संचार की नकल करता है। और केवल एक दिन में, बॉट ने खराब चीजें सीखीं, जो माइक्रोब्लॉगिंग सेवा के उपयोगकर्ताओं के विभिन्न असहिष्णु बयानों को दोहराते हैं। चैटबॉट, एक कह सकता है, एक बुरी कंपनी में मिल गया। इतना बुरा कि वह (या वह - आखिरकार, यह एक किशोरी-लड़की है, जैसा कि डेवलपर्स द्वारा कल्पना की गई है) ने जल्दी से बुरी बातें सीख लीं, और माइक्रोसॉफ्ट को घोषणा के एक दिन बाद अपने "किशोर" को काटना पड़ा। इस तथ्य के बावजूद कि सिस्टम के संचार की निगरानी मॉडरेटर की एक पूरी टीम द्वारा की गई थी, जिसने आने वाली सूचना प्रवाह को फ़िल्टर करने का प्रयास किया था।

Microsoft बॉट को फिर से लॉन्च करने की योजना बना रहा है, लेकिन केवल नाजुक एआई के लिए उपयुक्त सुरक्षा विकसित होने के बाद। कंपनी के अधिकारियों ने पहले ही ताय के अनजाने आक्रामक और आक्रामक ट्वीट के लिए माफी मांगी है। Microsoft अनुसंधान के कॉर्पोरेट अध्यक्ष, पीटर ली ने कहा कि कंपनी के ब्लॉग पर तब तक फिर से लॉन्च नहीं किया जाएगा जब तक कि कंपनी Microsoft के सिद्धांतों और मूल्यों के लिए काउंटर चलाने वाली दुर्भावनापूर्ण सामग्री से सिस्टम की रक्षा नहीं कर सकती।

एआई के साथ ताई पहला आभासी वार्ताकार नहीं है। चीन में, जिओआईआईस चैटबॉट अभी भी काम कर रहा है, जिसके साथ लगभग 40 मिलियन लोग संवाद करते हैं। XiaoIce डेवलपर्स ने देखा कि चीनी वेब उपयोगकर्ताओं द्वारा चैटबोट को अच्छी तरह से प्राप्त करने के बाद, यह अंग्रेजी बोलने वाले इंटरनेट पर एक समान "व्यक्तित्व" लॉन्च करने का निर्णय लिया गया था।

प्राप्त आंकड़ों के विस्तृत नियोजन, अनुसंधान और विश्लेषण के बाद, ताई का निर्माण किया गया था। उसी समय, अंग्रेजी भाषा के चैटबोट ने तनाव परीक्षणों की एक श्रृंखला पारित की, कई स्थितियों के लिए परीक्षण किए गए। और जैसे ही परिणामों ने डेवलपर्स को संतुष्ट किया, "फील्ड ट्रायल" शुरू करने का निर्णय लिया गया।

लेकिन चीजें उम्मीद के मुताबिक नहीं हुईं। “दुर्भाग्य से, ऑनलाइन जाने के बाद पहले 24 घंटों के दौरान, कई उपयोगकर्ताओं ने Tay में भेद्यता की खोज की और इस भेद्यता का फायदा उठाना शुरू कर दिया। यद्यपि हम सिस्टम पर कई प्रकार के हमलों के लिए तैयार थे, लेकिन हमने इस विशेष हमले के लिए एक महत्वपूर्ण निरीक्षण की अनुमति दी। परिणामस्वरूप, Tay ने अनुचित और निंदनीय सामग्री के साथ संदेश भेजना शुरू किया, ”कंपनी के ब्लॉग का कहना है।

उपराष्ट्रपति के अनुसार, AI उपयोगकर्ताओं के साथ किसी भी प्रकार के संचार के दौरान सूचना प्राप्त करता है - सकारात्मक और नकारात्मक दोनों। यहां समस्या तकनीकी से ज्यादा सामाजिक है। अब निगम की योजना है कि धीरे-धीरे सामाजिक सेवाओं के समुदाय में एक चैटबॉट की शुरुआत की जाए, कदम से कदम मिलाकर नकारात्मक प्रभाव के संभावित स्रोतों पर नज़र रखी जाए और ताई पर संभावित प्रकार के सामाजिक हमलों के बहुमत की कोशिश की जाए। हालाँकि, जब चैटबॉट फिर से ऑनलाइन दिखाई देगा तब भी स्पष्ट नहीं होगा।

Source: https://habr.com/ru/post/hi392215/