एक परिपूर्ण नानी की आवश्यकता है; सम्मान और अच्छे शिष्टाचार का आकलन करने के लिए एआई स्कैन के माध्यम से जाना सुनिश्चित करें

जेसी बाटाग्लिया अपने बेटे बेनेट को कैलिफोर्निया के Ranch Mirage में अपने घर पर रखती हैं। एक नए नानी की खोज में, बाटाग्लिया ने प्रिडिक्टिम का उपयोग करना शुरू किया, एक ऑनलाइन सेवा जो कथित तौर पर "उन्नत कृत्रिम बुद्धिमत्ता" का उपयोग करती है, ताकि उन जोखिमों का आकलन किया जा सके कि नानी ड्रग्स की आदी होंगी, आक्रामक व्यवहार करती हैं या "बुरे शिष्टाचार" दिखाती हैं।

जब जेसी बतागलिया ने अपने एक साल के बेटे के लिए एक नई नानी की तलाश शुरू की, तो वह एक आपराधिक रिकॉर्ड, माता-पिता की टिप्पणियों और व्यक्तिगत साक्षात्कारों की अनुपस्थिति की तुलना में कर्मचारी के बारे में अधिक जानकारी प्राप्त करना चाहती थी। इसलिए, उसने नानी की पहचान का मूल्यांकन करने के लिए "उन्नत कृत्रिम बुद्धिमत्ता" का उपयोग करते हुए ऑनलाइन सेवा प्रिडिक्टिम की ओर रुख किया और अपने स्कैनर्स को फेसबुक, ट्विटर और इंस्टाग्राम पर हजारों पोस्ट में से एक उम्मीदवार को भेजा।

प्रणाली ने 24 वर्षीय एक स्वचालित "जोखिम मूल्यांकन" की शुरुआत की, जिसमें दावा किया गया कि उसकी दवाओं का उपयोग करने का जोखिम "छोटा" था। हालांकि, सिस्टम ने धमकाने, आक्रामकता, अनादर और बुरे शिष्टाचार के जोखिम को थोड़ा अधिक रखा - 5 में से 2।

सिस्टम अपने फैसलों की व्याख्या नहीं करता है। हालांकि, बाटाग्लिया, जो नानी को पूरी तरह से भरोसेमंद मानते थे, अचानक संदेह करने लगे। "सोशल मीडिया एक व्यक्ति की पहचान को दर्शाता है," लॉस एंजिल्स के एक उपनगर में रहने वाले, अब 29 साल की बटागलिया ने कहा। "स्कोर 2 क्यों है, 1 नहीं?"

प्रिडिक्टिम माता-पिता को वही सेवाएं प्रदान करता है जो दुनिया भर में दर्जनों अन्य प्रौद्योगिकी फर्म नियोक्ताओं को बेचती हैं: एआई सिस्टम जो मानव भाषण, चेहरे के भाव और ऑनलाइन उपस्थिति के इतिहास का विश्लेषण करते हैं, जबकि अपने व्यक्तिगत जीवन के गुप्त पहलुओं को प्रकट करने का वादा करते हैं।

प्रौद्योगिकी बदल रही है जिस तरह से कुछ कंपनियां उम्मीदवारों के लिए देखती हैं, श्रमिकों को काम पर रखती हैं और उनका मूल्यांकन करती हैं, नियोक्ताओं को आक्रामक मनोवैज्ञानिक मूल्यांकन और निगरानी की एक नई लहर के माध्यम से उम्मीदवारों का बेजोड़ मूल्यांकन पेश करती हैं।

फामा का दावा है कि वे अपने मालिकों को सावधान करने के लिए "विषाक्त व्यवहार" के लिए श्रमिकों के सामाजिक नेटवर्क की निगरानी के लिए एआई का उपयोग कर रहे हैं। HireVue, जिओ, हिल्टन, और यूनिलीवर जैसी कंपनियों के साथ काम करने वाली प्रौद्योगिकी फर्म, एक प्रणाली प्रदान करती है जो वीडियो साक्षात्कार के दौरान उम्मीदवार के स्वर, शब्द विकल्प और चेहरे के भावों का स्वचालित रूप से विश्लेषण करती है, और उनके कौशल और शिष्टाचार की भविष्यवाणी करती है (बेहतर परिणाम देने के लिए, उम्मीदवारों को अधिक पेशकश की जाती है। मुस्कान)।

हालांकि, आलोचकों का तर्क है कि प्रिडिक्टिम जैसी प्रणाली अपने आप में एक खतरा है, जो स्वचालित समाधान छोड़ती है जो किसी भी चेक के बिना किसी व्यक्ति के जीवन को बदल सकती है।

सिस्टम ब्लैक बॉक्स-आधारित एल्गोरिदम पर निर्भर करते हैं जो इस बारे में लगभग कोई विवरण नहीं देते हैं कि उन्होंने किसी व्यक्ति के आंतरिक जीवन के सभी जटिल विवरणों को उसके सकारात्मक और नकारात्मक पक्षों की गणना के लिए कैसे कम किया। और यद्यपि प्रिडिक्टिम तकनीक माता-पिता की सोच को प्रभावित करती है, लेकिन यह पूरी तरह से अप्रमाणित बनी हुई है, लगभग अस्पष्टीकृत और कमजोर पड़ने वाली विकृतियों से संबंधित है कि कैसे सही नानी को सामाजिक नेटवर्क में व्यवहार करना चाहिए, देखो और बात करनी चाहिए।

प्रौद्योगिकी वकालत करने वाले समूह सेंटर फॉर डिजिटल डेमोक्रेसी के कार्यकारी निदेशक जेफ चेस्टर ने कहा, "एआई पर नियंत्रण रखने और लोगों को बिना किसी रिपोर्ट के सभी प्रकार के निर्णय लेने की एक पागल दौड़ है।" "ऐसा लगता है कि लोग डिजिटल सोडा पर नशे में हो गए, और उन्हें लगता है कि यह हमारे जीवन का प्रबंधन करने का एक सामान्य तरीका है।"

प्रेडिक्टिम स्कैनिंग प्रक्रिया सामाजिक नेटवर्क पर पूरे नानी व्यवहार का विश्लेषण करती है, जो कि कई युवा नन्हें अपने जीवन के अधिकांश हिस्सों पर कब्जा कर सकते हैं। इसी समय, nannies को सूचित किया जाता है कि यदि वे इस तरह के स्कैन से गुजरने से इनकार करते हैं, तो यह नौकरियों के लिए प्रतिस्पर्धा में एक गंभीर नुकसान होगा।

प्रेडिक्टिम के सीईओ और सह-संस्थापक सल परसा ने कहा, कंपनी ने पिछले महीने स्काईडेक विश्वविद्यालय के कैलिफोर्निया के बर्कले टेक्नो-इनक्यूबेटर के हिस्से के रूप में लॉन्च किया, अपनी तकनीक का उपयोग करने के नैतिक मुद्दों को गंभीरता से लेता है। उन्होंने कहा कि माता-पिता को एक सलाहकार के रूप में रेटिंग पर विचार करना चाहिए, जो "शायद प्रतिबिंबित करता है, और शायद नानी की वास्तविक विशेषताओं को प्रतिबिंबित नहीं करता है।"

उन्होंने कहा कि समस्याग्रस्त या हिंसक नानी को काम पर रखने का खतरा एआई को किसी भी माता-पिता के लिए एक आवश्यक उपकरण बनाता है जो अपने बच्चे को सुरक्षित रखने की कोशिश करता है।

"Google को बेबीसिटर्स के दुरुपयोग के लिए खोजें और आपको सैकड़ों परिणाम मिलेंगे," उन्होंने कहा। - मानसिक बीमारी वाले लोग हैं या सिर्फ गुस्से में हैं। हमारा लक्ष्य उन्हें रोकने के लिए हमारी शक्ति में सब कुछ करना है। ”

प्रिडिक्टिम को स्कैन करने की लागत $ 24.99 से शुरू होती है, और उसके लिए आपको संभावित नानी के नाम और ई-मेल को बताने की आवश्यकता होती है, साथ ही सोशल नेटवर्क पर उसके खातों तक व्यापक पहुंच के लिए उसकी सहमति प्राप्त करनी चाहिए। नानी मना कर सकती है, और फिर माता-पिता को इस बारे में एक सूचना मिलती है, और नानी को यह कहते हुए एक पत्र मिलता है कि "जो माता-पिता आप में रुचि रखते थे, वे आपको तब तक नौकरी पर रखने में सक्षम नहीं होंगे, जब तक आप अनुरोध का अनुपालन नहीं करते हैं।"

प्रिडिक्टिम के प्रबंधकों का कहना है कि वे भाषा और छवियों के प्रसंस्करण के लिए एल्गोरिदम का उपयोग करते हैं, "कंप्यूटर दृष्टि", फेसबुक, ट्विटर और इंस्टाग्राम पर नानी के पदों का मूल्यांकन करते हैं, और उसके ऑफ़लाइन जीवन के बारे में सुराग ढूंढते हैं। रिपोर्ट केवल माता-पिता द्वारा प्राप्त की जाती है, जिन्हें नानी के साथ अपने परिणाम साझा करने की आवश्यकता नहीं होती है।

माता-पिता शायद खुद सोशल नेटवर्क पर सार्वजनिक नानी खातों पर एक नज़र डाल सकते हैं। हालाँकि, कंप्यूटर रिपोर्टें ऑनलाइन गतिविधि के वर्षों का एक गहरा मूल्यांकन देने का वादा करती हैं, जो एक आंकड़े से कम है: लगभग असंभव कार्य के लिए एक सरल सरल समाधान।

जोखिम मूल्यांकन कई श्रेणियों में आते हैं, जिनमें ओवरट कंटेंट और ड्रग का दुरुपयोग शामिल है। स्टार्टअप विज्ञापन में यह भी दावा करता है कि उसकी प्रणाली नानी के व्यक्तित्व की अन्य विशेषताओं, जैसे कि राजनीति, दूसरों के साथ काम करने की क्षमता और "सकारात्मकता" का मूल्यांकन करने में सक्षम है।

कंपनी "पैतृक जिम्मेदारियों की आउटसोर्सिंग" के बहु-अरब डॉलर के उद्योग में क्रांति लाने की उम्मीद करती है और पहले से ही "माताओं" के लिए पेरेंटिंग ब्लॉग और साइटों को प्रायोजित करके विज्ञापन देना शुरू कर चुकी है। मार्केटिंग रणनीति रहस्य को प्रकट करने और "किसी भी माता-पिता के बुरे सपने" को रोकने के लिए घोषित अवसर पर केंद्रित है, और विज्ञापन में आपराधिक मामलों का हवाला दिया गया है, उदाहरण के लिए, एक आठ महीने के बच्चे को गंभीर रूप से नुकसान पहुंचाने वाले केंटुकी नानी का मामला।

"अगर इस नर्स-प्रभावित लड़की के माता-पिता उम्मीदवार की अनुमोदन प्रक्रिया में प्रिडिक्टिम का उपयोग कर सकते हैं," कंपनी के विपणन बयान में कहा गया है, "वे अपने अनमोल बच्चे के साथ उसे कभी नहीं छोड़ेंगे।"

हालांकि, प्रौद्योगिकी विशेषज्ञों का कहना है कि सिस्टम अपने दम पर चेतावनी जारी करता है, माता-पिता की आशंकाओं के साथ व्यक्तित्व स्कैन के परिणामों को बेचने के लिए असत्यापित सटीकता के साथ खेलता है।

वे इस बारे में भी सवाल उठाते हैं कि ऐसी प्रणालियाँ कैसे प्रशिक्षित होती हैं और वे त्रुटियों के प्रति कितनी संवेदनशील होती हैं जो कि नैनीज़ द्वारा सामाजिक नेटवर्क के उपयोग से जुड़ी अनिश्चितताओं से उत्पन्न हो सकती हैं। माता-पिता को केवल संदिग्ध व्यवहार के बारे में एक चेतावनी दी जाती है, कुछ वाक्यांशों, लिंक या अन्य विवरणों के बिना जिनके द्वारा वे अपना निर्णय ले सकते हैं।

जब एक नानी के एक स्कैन ने उसकी ओर से संभावित उत्पीड़न के बारे में चेतावनी जारी की, तो एक उत्साहित मां ने इस मूल्यांकन का अनुरोध किया, उसने कहा कि वह यह पता नहीं लगा सकती है कि क्या कार्यक्रम ने एक पुरानी फिल्म, गीत, या कुछ अन्य वाक्यांश से उद्धरण लिया है जो उसने वास्तव में खतरनाक बयानों के लिए लिया था। ।


जेसी का फोन प्रिडिक्टिम एप्लिकेशन के परिणामों को प्रदर्शित करता है

नागरिक अधिकार समूह इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन के एक वकील जेमी विलियम्स ने कहा कि शब्दों और तस्वीरों के अर्थ का मूल्यांकन करने के लिए आज इस्तेमाल किए जाने वाले अधिकांश एल्गोरिदम एक मानवीय संदर्भ और सामान्य ज्ञान की कमी के लिए जाने जाते हैं। यहां तक ​​कि फेसबुक जैसे तकनीकी दिग्गजों को एल्गोरिदम बनाने में कठिनाई हुई जो सहज और गुस्से वाली टिप्पणियों के बीच अंतर कर सकते थे।

“आप किशोरों के मूल्यांकन के लिए इस प्रणाली को कैसे आज़मा सकते हैं: वे बच्चे हैं! - विलियम्स ने कहा। - बच्चों के अपने चुटकुले हैं, वे व्यंग्य के लिए प्रसिद्ध हैं। "एक व्यक्ति एल्गोरिदम के बारे में क्या सोच सकता है" बुरे शिष्टाचार "को एक राजनीतिक बयान या वैध आलोचना माना जा सकता है।"

और जब सिस्टम गलत है - मान लीजिए, यह कहते हुए कि नानी दवाओं का दुरुपयोग कर रही है - माता-पिता त्रुटि के बारे में पता नहीं लगा पाएंगे। सिस्टम की सटीकता की स्पष्ट रेटिंग और आकलन माता-पिता को इसकी जगह से एक व्यक्ति की अपेक्षा अधिक सटीकता और अधिनायकवाद की उम्मीद कर सकते हैं। नतीजतन, माता-पिता को उन नन्नियों को रखने की इच्छा होगी जिन्हें वे अन्यथा बचेंगे, या उन लोगों से दूर चले जाएंगे जिन्होंने पहले से ही अपना विश्वास अर्जित किया है।

अपार्टन के वाशिंगटन थिंक टैंक के मुख्य विश्लेषक, मिरांडा बोगन ने कहा, "कोई भी ऐसा मीट्रिक नहीं है जो यह कह सके कि क्या ये विधियां उनके भविष्यवाणियों की तरह प्रभावी हैं।" । "इन तकनीकों की अपील उनकी वास्तविक क्षमताओं को पछाड़ने की संभावना है।"

बैलिग्लिया के लिए काम करने वाली 24 वर्षीय नानी मैलिसा नीलसन ने हाल ही में दो अन्य परिवारों को प्रिडिक्टिम में मूल्यांकन के लिए अपने सामाजिक नेटवर्क का उपयोग करने के लिए दिया। उसने कहा कि वह हमेशा सोशल नेटवर्क के बारे में सतर्क रहती थी और फैसला करती थी कि वह खुद को नुकसान पहुंचाए बिना अतिरिक्त जानकारी साझा कर सकती है। वह साप्ताहिक रूप से चर्च जाती है, छोटे बच्चों को पढ़ाने के क्षेत्र में एक शिक्षक की शिक्षा प्राप्त करने के लिए शपथ नहीं लेती है और खत्म करती है, जिसके बाद वह एक बालवाड़ी खोलने की उम्मीद करती है।

हालांकि, जब उसे पता चला कि सिस्टम ने उसे अपमान और धमकाने के आधार पर आदर्श अंक नहीं दिए, तो वह चकित रह गई। उनका मानना ​​था कि माता-पिता सामाजिक नेटवर्क पर उनकी उपस्थिति का अध्ययन करने की अनुमति देते हैं, न कि एल्गोरिथम - उनके व्यक्तित्व का महत्वपूर्ण विश्लेषण। उसे एक परीक्षण के परिणामों के बारे में भी नहीं बताया गया जो संभावित रूप से उसकी आय के एकमात्र स्रोत को नुकसान पहुंचा सकता है।

“मैं इस मुद्दे को थोड़ा समझना चाहूंगा। इस कार्यक्रम ने मेरे बारे में ऐसा क्यों सोचा? - नीलसन ने कहा। "कंप्यूटर में कोई भावना नहीं है; यह सब पता नहीं लगा सकता है।"

अमेरिकियों को अभी भी एल्गोरिदम पर भरोसा नहीं है जिनके फैसले उनके दैनिक जीवन को प्रभावित कर सकते हैं। इस महीने प्यू रिसर्च सेंटर के एक सर्वेक्षण में, 57% उत्तरदाताओं ने "अस्वीकार्य" के रूप में नौकरी के उम्मीदवारों के लिए रिज्यूमे की स्वचालित प्रसंस्करण का मूल्यांकन किया।

फिर भी, भविष्यवाणी की रिपोर्ट है कि वे पूरे देश में काम का विस्तार करने की तैयारी कर रहे हैं। लाखों माता-पिता द्वारा देखी गई एक ऑनलाइन बेबी-सीटर सेवा, सिटरसिटी के प्रबंधक एक पायलट कार्यक्रम शुरू करने के बारे में बात कर रहे हैं जो कि प्रिडिक्टिम की स्वचालित रेटिंग और सेवा की जाँच के वर्तमान सेट में एकीकृत करेगा।

Sittercity के उत्पाद प्रमुख सैंड्रा डेनोरा ने कहा, "नानी को ढूंढना अनिश्चितताओं से भरा हुआ है, जो मानते हैं कि देखभाल करने वालों के लिए ऑनलाइन खोज में ऐसे उपकरण जल्द ही मानक बन सकते हैं।" "माता-पिता सबसे अच्छा समाधान, सबसे पूर्ण शोध, सबसे विश्वसनीय तथ्यों की निरंतर खोज में हैं।"

प्रिडिक्टिम प्रबंधकों का यह भी मानना ​​है कि वे गंभीरता से सिस्टम की क्षमताओं का विस्तार कर सकते हैं और नानी के निजी जीवन के और भी अधिक व्यक्तिगत आकलन पेश कर सकते हैं। जोएल साइमनोव, प्रौद्योगिकी निदेशक, ने कहा कि टीम सामाजिक नेटवर्क में nannies की गतिविधि का विश्लेषण, एक पहचान परीक्षण के माध्यम से अपनी कहानियों को पारित करने, उदाहरण के लिए, मायर्स-ब्रिग्स टाइपोलॉजी के आधार पर "उपयोगी साइकोमेट्रिक डेटा" प्राप्त करने में रुचि रखती है, माता-पिता को ये परिणाम प्रदान करने के लिए।

सोशल मीडिया खनन और व्यापक मनोवैज्ञानिक विश्लेषण में प्रिडिक्टिम की रुचि एक राजनीतिक सलाहकार कंपनी कैम्ब्रिज एनालिटिका की महत्वाकांक्षाओं के समान है, जिसने ट्रम्प के अभियान का समर्थन करने के लिए काम किया और फिर फेसबुक को वैश्विक पहचान घोटाले में डाल दिया। हालांकि, प्रेडिक्टिम नेताओं ने आंतरिक सुरक्षा जांच स्थापित करने का दावा किया है और वे नन्नियों के व्यक्तिगत डेटा की सुरक्षा के लिए काम कर रहे हैं। "अगर हमारे पास एक नानी डेटा लीक था, तो यह शांत नहीं होगा," साइमनोव ने कहा।



विशेषज्ञों की चिंता है कि एआई-आधारित रेटिंग सिस्टम एक भविष्य को चित्रित करते हैं जिसमें किसी व्यक्ति की किसी भी नौकरी की प्राप्ति आवश्यक नहीं है, जो चाइल्डकैअर से संबंधित है, मशीन पर निर्भर करेगी। कई भर्ती और भर्ती कंपनियां पहले से ही ऐसे सिस्टम बना रही हैं या निवेश कर रही हैं जो बड़े पैमाने पर उम्मीदवारों के रिज्यूमे का विश्लेषण कर सकते हैं और स्वचालित उम्मीदवार रेटिंग जारी कर सकते हैं। इसी तरह के एआई सिस्टम - आरा सहित, एक Google द्वारा बनाई गई प्रौद्योगिकी इनक्यूबेटर - का उपयोग उत्पीड़न, धमकी और क्रूरता के लिए ऑनलाइन टिप्पणियों को ट्रैक करने के लिए किया जाता है।

हालाँकि, यह पहले ही एक से अधिक बार प्रदर्शित किया जा चुका है कि कैसे कर्मचारियों को खामियों को छुपाने के लिए एल्गोरिदम एक व्यक्ति के करियर को बर्बाद कर सकता है। Amazon.com ने हायरिंग एल्गोरिथ्म के विकास को रोक दिया, यह सीखते हुए कि यह महिलाओं को अवैध रूप से कम आंकता है, क्योंकि कंपनी के काम पर रखने वाले इतिहास, जो पुरुषों को नियुक्त करने के लिए प्रौद्योगिकी उद्योग की प्रवृत्ति का अनुसरण करते हैं, ने पुरुष उम्मीदवारों को पसंद करने के लिए प्रणाली सिखाई। कंपनी ने कहा कि उन्होंने उम्मीदवारों के मूल्यांकन के लिए इस कार्यक्रम का उपयोग कभी नहीं किया।

कुछ एआई विशेषज्ञों का मानना ​​है कि इस तरह की प्रणालियों में उम्र या दौड़ से संबंधित पूर्वाग्रहों को गंभीरता से भड़काने की क्षमता होती है, उदाहरण के लिए, कुछ लोगों के महत्वपूर्ण समूहों या फ़ोटो को दूसरों की तुलना में अधिक बार चिह्नित करना। वे इस बात से भी चिंतित हैं कि प्रिडिक्टिम केवल नौकरी पाने के लिए अपने निजी डेटा को साझा करने के लिए युवा nannies को मजबूर करेगा।

हालांकि, सैन फ्रांसिस्को के एक उपनगर में रहने वाली दो बच्चों की मां डायना वर्नर का मानना ​​है कि अपने माता-पिता को आश्वस्त करने में मदद के लिए नन्नियों को स्वेच्छा से व्यक्तिगत जानकारी साझा करनी चाहिए। "जीवनी का सत्यापन करना एक अच्छी बात है, लेकिन प्रिडिक्टिम इस मुद्दे का गहराई से अध्ययन करता है, व्यक्ति को विच्छेदित करता है - उनकी सामाजिक और बौद्धिक स्थिति।" जहां वह रहती है, "100% माता-पिता ऐसी सेवा का उपयोग करना चाहेंगे," उसने कहा। "हम सभी पूर्ण नानी प्राप्त करना चाहते हैं।"