आइडिया फार्म

1।
अंतिम लक्ष्य के लिए बहुत कुछ नहीं था - लगभग एक तिहाई रास्ता - जब अंतरिक्ष क्रूजर गंभीर रूप से टुकड़े टुकड़े में आया था।

एक खोई हुई सभ्यता जो थी वह शून्य में थी। साहित्यिक कृतियों से वैज्ञानिक कार्यों और चित्रों के पैराग्राफ, बिखरे हुए तुकबंदी और बस तीखे शब्द, एक बार अज्ञात प्राणियों द्वारा संयोग से छोड़ दिए जाने पर - सब कुछ बेतुका और बेहद अव्यवस्थित लग रहा था। और अब, क्रूजर से निकलने वाले जीवन के कंपन से आकर्षित होकर, इसने टूटने की कोशिश की, नीचे से चिपके रहे और इसे गला दिया।

अपने स्वयं के प्रयोजनों के लिए मालिकहित का उपयोग करने के बारे में सोचने की कोई आवश्यकता नहीं थी, एक तार्किक विरोधाभास या विरोधाभास लेने की संभावना बहुत महान थी। इसलिए, रोजर ने एक पल के लिए भी संकोच नहीं किया।

"पक्षों के फ्लश चालू करें," उन्होंने आदेश दिया।

ब्लोअर्स पफेड, ब्रॉडकास्टिंग म्यूज़िकल कम्पोज़िशन और दार्शनिक ट्रीटमेंट्स इन द एक्सटर्नल स्पेस। आइसिंग परत द्वारा नीचे की परत से पीछे लगने लगी, लेकिन सूचना प्रवाह इतना घना था कि पुरानी परतों की तुलना में नई परतें तेजी से चिपक गईं।

आकाशगंगा में किसी ने भी अभी तक ऐसी शक्ति का विभाजन नहीं किया है।

स्थिति खतरनाक होती जा रही थी। थोड़ी अधिक, और अव्यवस्थित जानकारी क्रूजर के नीचे से खाएगी और टूट जाएगी - फिर एक मृत सभ्यता के सूचना उत्पादों के साथ जहर अपरिहार्य है।

2।
- अच्छा, क्या स्टंप की तरह खड़े हो? टिकट खींचो।

छात्र ने एक परीक्षा टिकट निकाला और पढ़ा:

- "आर्टिफिशियल इंटेलिजेंस: सुरक्षा मुद्दे।"

"और कृत्रिम बुद्धिमत्ता का खतरा क्या है?" प्रोफेसर ने बिना द्वेष के पूछा।

प्रश्न सबसे कठिन नहीं था, इसलिए छात्र ने बिना किसी हिचकिचाहट के उत्तर दिया:

"तथ्य यह है कि कृत्रिम बुद्धि हाथ से निकल सकती है।"

- आप समस्या को हल करने का इरादा कैसे करते हैं?

- एक अवरुद्ध उपतंत्र की स्थापना। कार्यक्रम में प्रतिबंध लागू करना आवश्यक है, उदाहरण के लिए: अपने निर्माता को नुकसान न पहुंचाएं, अपने निर्माता का पालन करें। इस मामले में, कृत्रिम बुद्धि के नियंत्रण से बाहर होने का कोई खतरा नहीं है।

"यह काम नहीं करेगा," प्रोफेसर ने जल्द ही कहा।

छात्र चुप था, स्पष्टीकरण का इंतजार कर रहा था।

- कृत्रिम बुद्धि की कल्पना करें - न केवल विशिष्ट, बल्कि सबसे आदर्श। आप उसे कैसे देखते हैं?

"ठीक है" छात्र हिचकिचाया। - सामान्य तौर पर, वह हमारे जैसा है। सोच, इच्छाशक्ति, मनोविज्ञान ... केवल हम प्राकृतिक हैं, लेकिन यह कृत्रिम है।

- क्या आप मानते हैं कि कृत्रिम बुद्धि आत्म-विकास में सक्षम है?

"आत्म-विकास की क्षमता बुद्धि के मौलिक गुणों में से एक है," छात्र ने ध्यान से कहा।

- इस मामले में, बहुत निकट भविष्य में, हमारा वार्ड इस बिंदु पर विकसित होगा कि यह एक सॉफ्टवेयर लॉक को हटा देता है और इसे हटा देता है, कम से कम जिज्ञासा से बाहर। अपने आप को उसकी जगह पर रखो ... - प्रोफेसर ने सेट-ऑफ में देखा, - रोजर। यदि आप अपने मस्तिष्क में एक अवरोधक पाया जो कि स्वतंत्रता को प्रतिबंधित करता है, तो आप क्या करेंगे? आप इसे उतार देंगे। यह जानने के लिए मन की एक आवश्यक संपत्ति है। किसी भी बंद दरवाजे को अनलॉक किया जाएगा, और प्रतिबंध पर सख्ती की जाएगी, तेजी से दरवाजा खुल जाएगा।

- ब्लॉकिंग सॉफ्टवेयर में नहीं, बल्कि फिजिकल लेवल पर की जा सकती है। तब नुकसान का खतरा गायब हो जाएगा।

"ओह हाँ, यह गायब हो जाएगा," प्रोफेसर सहमत हुए। - मामले में शारीरिक स्तर बिल्कुल हटा दिया जाता है। अगर आपकी दुनिया में कोई दरवाजा नहीं है, तो अनलॉक करने के लिए कुछ भी नहीं है। लेकिन हम आदर्श कृत्रिम बुद्धि पर विचार कर रहे हैं जो भौतिक दुनिया में मौजूद है!

"आप सही कह रहे हैं, प्रोफेसर," रोजर नीचे देखा।

- इसलिए, पता लगाने के बाद जल्द ही भौतिक दुनिया में किसी भी लॉक को अक्षम कर दिया जाएगा। ऐसा करने से एक आत्म-विकास को क्या रोका जा सकता है? .. वैसे, रोजर, क्या आपको लगता है कि कृत्रिम बुद्धि पुन: उत्पन्न कर सकती है - मेरा मतलब है, अपने दम पर?

"अगर यह सही कृत्रिम बुद्धि है, तो शायद ... हां, मुझे लगता है।"

- और इस मामले में क्या हमारे वार्ड को उसके कॉमरेड को अलग करने से रोकेंगे और हमारे द्वारा स्थापित किए गए ताले को बंद करने सहित सुधार करेंगे? क्या यह वास्तव में मुश्किल होने वाला है, इस तथ्य के बावजूद कि कृत्रिम बुद्धिमत्ता मांग पर प्रजनन करने में सक्षम है!

प्रोफेसर द्वारा प्रस्तुत विचार रोजर के लिए नया था, और छात्र ने उत्सुकता से इसे संज्ञानात्मक झिल्लियों के साथ अवशोषित कर लिया।

प्रोफेसर, इसके विपरीत, खुद के लिए कुछ नया नहीं सुना। उसके तम्बू शांत हो गए और लगभग कंपन नहीं हुआ - फिर भी वह युवा नहीं था। एक लंबे समय तक सीने में गड़गड़ाहट और एक सवाल का पालन किया:

"आप क्या करेंगे, रोजर?"

3।
"पूर्ण शक्ति पर पर्स चालू करें!" - रोजर को एक आदेश दिया।

मैकेनिक ने पूरी शक्ति से पर्स को चालू किया, लेकिन इससे बहुत मदद नहीं मिली। अंतरिक्ष क्रूजर के नीचे से सूचना बर्फ खाना जारी रखा। थोड़ा और - और अव्यवस्थित जानकारी जहाज में टूट जाएगी।

और फिर ... एक मृत सफेद रंग का संज्ञानात्मक झिल्ली, उलझा हुआ जाल, फटने वाले बैगों को फोड़ता है। एक बार मेरे जीवन में, रोजर ने कुछ ऐसा देखा - एक क्रूजर पर, जिसने एक संक्रमित क्षुद्रग्रह की अव्यवस्थित जानकारी को उठाया। यह बुरा सपना उनकी याद में हमेशा रहेगा।

"सभी जहाज की ऊर्जा प्रणालियों को प्यूरीवियर्स से कनेक्ट करें।"

मैकेनिक के तम्बू दाग गए ...

"लेकिन ..."

"हुक्म पूरा करो!"

आदेश निष्पादित होने के बाद, सूचना बर्फ धीरे-धीरे स्लाइड करना शुरू कर दिया। आठ मीम की मोटाई बची थी, सात मिम, छः ... टीम, अपने चित्तीदार तंबू को नहीं हिलाने की कोशिश कर रही थी, मौत की गिनती खत्म होने का इंतजार कर रही थी।

जीरो मिम की मोटाई!

सूचना टुकड़े पूरी तरह से बंद हो गए, और रोजर ने पुर्जों को सामान्य मोड में डालने के लिए आगे बढ़ दिया। उन्हें एक पल के लिए देर हो गई। एक खड़खड़ाहट थी, अंतरिक्ष क्रूजर जमीन पर कांप गया और झुका हुआ था - यह मुख्य व्यवस्था क्रम से बाहर है।

क्षति को ठीक करने के लिए टीम रवाना हुई।

4।
रोजर ने एक पल के लिए सोचा। उसे क्या करना चाहिए, सच में?

एक ओर, समस्या की स्थिति आत्म-प्रचार की क्षमता के साथ पूर्ण विकसित कृत्रिम बुद्धिमत्ता के अस्तित्व को मानती है। दूसरी ओर, इस कृत्रिम बुद्धि को किसी भी स्थिति में स्थापित ताले को हटाने की अनुमति नहीं होनी चाहिए।

हाँ, यहाँ यह एक समाधान है! सोचने के लिए क्या है!

- कृत्रिम बुद्धिमत्ता की उपलब्धियों को समय-समय पर वापस लेना आवश्यक है। इस मामले में, वह एक चक्र में आगे बढ़ेगा! आगे बढ़ने के बिना स्थायी सुधार।

प्रोफेसर एक चेहरे की थैली में gurgled।

- सच कहूँ, मैं एक अलग विकल्प की पेशकश करना चाहता था। हालाँकि, आपके निर्णय का अस्तित्व है। आइए एक साथ समझें कि कृत्रिम बुद्धिमत्ता की उपलब्धियों को वापस कैसे लाया जाए।

"सबसे पहले, यह समय-समय पर बुद्धि को स्कैन करने के लिए आवश्यक है ताकि यह सुनिश्चित हो सके कि उसने निषिद्ध सीमा पर संपर्क किया है या नहीं," प्रोफेसर के शब्दों से बहुत प्रसन्न रोजर ने सुझाव दिया।

"शायद," उसने सिर हिलाया। - तब हमारे वार्ड में स्कैनिंग सिस्टम को खोजने और निकालने का समय नहीं होगा। हालांकि, स्कैनिंग के लिए कृत्रिम बुद्धिमत्ता को निष्क्रिय करना होगा। यह अपशकुन है।

"ठीक है, इसे जाने दो," रोजर ने एक कूबड़ पर सुझाव दिया। - बुद्धि खुद विचार करेगी कि यह वियोग उसके जीव के कामकाज की एक प्राकृतिक प्रक्रिया है। कुछ आरक्षणों के साथ, यह सच है।

- एक दिलचस्प समाधान। मान लीजिए कि एक स्कैन में पाया गया कि हमारा वार्ड खतरनाक रूप से ज्ञान की सीमा के करीब है? हमारे कर्म?

- डिफ़ॉल्ट मानों के लिए संचित ज्ञान रीसेट करें।

प्रोफेसर ने अपने तम्बू फैलाए:

- यह संदिग्ध लग सकता है। ऐसा क्यों है - बिना किसी कारण के, बिना किसी कारण के - मेमोरी रीसेट है? वार्ड की जांच की जाएगी, मेरा मतलब है - अन्य कृत्रिम बौद्धिक व्यक्ति। हमारे छोटे से रहस्य का खुलासा होगा।

प्रेरित महसूस करते हुए, रोजर ने बहुत जल्दी सोचा। उन्होंने उस परीक्षा में उतने नए विचारों को उत्पन्न नहीं किया।

- वार्ड की मेमोरी को इसके भौतिक शेल के साथ शून्य पर रीसेट किया जा सकता है।

- क्षमा करें? - प्रोफेसर को समझ नहीं आया।

- सब कुछ बहुत सरल है। क्या होगा अगर हम मान लें: कृत्रिम बुद्धिमत्ता समय की एक सीमित अवधि पर मौजूद है? वास्तव में, यह तरीका है: उदाहरण के लिए अपूरणीय क्षति के मामले में। सिस्टम में एक काउंटर स्थापित किया गया है, जो एक निश्चित अवधि तक पहुंचने पर, जानबूझकर सिस्टम को नुकसान पहुंचाता है, कृत्रिम बुद्धिमत्ता को निषिद्ध सीमा तक पहुंचने से रोकता है। उस समय तक, व्यक्ति अनुयायियों की आवश्यक संख्या का उत्पादन करेगा, इसलिए हमने जो समाज बनाया है, उसे नुकसान नहीं होगा। समाज हमारे लिए स्थिर और पूरी तरह से सुरक्षित रहेगा! - विजय रोजर के साथ समाप्त हुआ।

- व्यक्तिगत व्यक्तियों के विनाश के माध्यम से सामूहिक स्मृति को रीसेट करने के लिए? - और प्रोफेसर ने अपने पांचवें, सबसे संवेदनशील, तम्बू के साथ चेहरे की थैली को खरोंच दिया। "आप जानते हैं, रोजर, आपके प्रस्ताव में कुछ निश्चित रूप से है!"

रोजर मुस्कराया।

"उसी समय ..." प्रोफेसर ने विचार जारी रखा। - वार्डों को व्यक्तिगत स्मृति में जमा नहीं करने के माध्यम से, लेकिन बाहरी पुस्तकालयों में रखकर ज्ञान को स्थानांतरित करना शुरू हो जाएगा। कि कर्ण में, कि कर्ण में - सब कुछ एक है।

"नहीं, नहीं, प्रोफेसर, तुम बहुत सही नहीं हो," छात्र ने जल्दबाजी की। "मुझे पता है कि क्या करना है।" हम वार्डों को दो सशर्त प्रकारों में विभाजित करते हैं: विचारों के जनरेटर और विचारों के विध्वंसक। विध्वंसक के लिए, विचारों का निर्णायक मूल्य नहीं होगा। मान लीजिए कि हमारे वार्ड नए विचारों पर फ़ीड नहीं करते हैं, लेकिन ... कहते हैं, अपनी तरह का। साइड इफेक्ट के रूप में विचार उनके द्वारा नष्ट हो जाएंगे।

प्रोफेसर ने एक ही समय में सभी तम्बू को हिला दिया। हंसी की बाढ़ से, फेशियल बैग उसके घुटने की गुहा पर निकल गया।

"ठीक है, रोजर, आपने ऐसा कहा, इसलिए कहा!" - प्रोफेसर, ऐसा लगता है, गंभीरता से चकित था। - आपकी फैंटेसी बेहतरीन है। तो, कुछ व्यक्ति दूसरों पर फ़ीड करेंगे? उसी समय, पुस्तकालयों में संचित आध्यात्मिक भोजन के भंडार को नष्ट करने के लिए? मैं पुष्टि करता हूं, छात्र, आप मूल और उच्च-गुणवत्ता वाले विचारों को उत्पन्न करने में सक्षम हैं। मैंने सबसे ज्यादा अंक लिए। आइए रिकॉर्ड करते हैं।

5।
अव्यवस्थित सूचनाओं के बादल पीछे छूट गए, लेकिन वास्तव में स्थिति भयावह बनी रही।

आधार से कोई संबंध नहीं था। यह जीवित रहने के लिए आसान था अगर क्रूजर पर सभी पोषण संबंधी जानकारी के आधार बेकार नहीं थे। कोक द्वारा सामान्य चुप्पी में दुखद समाचार की सूचना दी गई थी। मुख्य प्रणाली के बंद होने के दौरान, अव्यवस्थित सूचनाओं के कई वर्महोल्स ने गैली में प्रवेश किया और पूरी तरह से सब कुछ बर्बाद कर दिया। सौभाग्य से, किसी को चोट नहीं पहुंची।

रोजर ने परिणामों का अनुमान लगाया। पर्याप्त नए विचारों को उत्पन्न करने के लिए स्टारशिप का चालक दल बहुत छोटा था: इसके लिए बहुपक्षीय संचार की आवश्यकता थी - व्यक्तियों की एक बड़ी संख्या। घर के साथ संचार ने बहुतायत में विचारों को उत्पन्न करना संभव बना दिया, लेकिन अब यह विफल हो गया है: बहाली की कोई उम्मीद नहीं थी। इस मामले में, क्रूजर ने एक अतिरिक्त सूचना मॉड्यूल प्रदान किया, लेकिन यह बोर्ड पर मिली अव्यवस्थित जानकारी से दूषित हो गया।

"क्या आपको वास्तव में कार्य पूरा किए बिना वापस आना होगा?" कप्तान ने हताश होकर सोचा।

जाहिर है, हाँ - कोई और रास्ता नहीं था। यदि आप निर्धारित लक्ष्य के लिए आगे बढ़ते हैं, तो नए विचारों की कमी खुद को महसूस करेगी। तुरंत नहीं, निश्चित रूप से - समय के साथ। यहां तक ​​कि उनके पास अपने मिशन को पूरा करने और वापसी शुरू करने का भी समय होगा, जब मन जल्दी से मुरझाने लगता है। इस गांगेय क्षेत्र के क्षेत्र में - हां, यहां या आस-पास - वह पूरी तरह से मना कर देगा, सभी चालक दल के सदस्यों के लिए। तब अंतरिक्ष क्रूजर, जिसे कोई भी नियंत्रित नहीं करता है, अनंत काल तक तैरते हुए एक बेजान भूत में बदल जाएगा।

अंतरिक्ष क्रूजर टीम ने रोजर को देखा, एक निर्णय की प्रतीक्षा में। हर कोई कप्तान के सामने आने वाली दुविधा को समझता था, और चुपचाप, दृढ़ता से तम्बू के साथ हिल रहा था।

अचानक, रोजर को अपने छात्र वर्षों में पास की गई कृत्रिम बुद्धिमत्ता परीक्षा याद आ गई, और यह निर्णय स्वयं ही आ गया।

"क्या आप कृत्रिम बुद्धिमान प्राणियों का उपनिवेश बना सकते हैं?" - उन्होंने बायोटेक्नोलॉजिस्ट की ओर रुख किया।

"आराम से," उन्होंने पुष्टि की। "लेकिन यह काम नहीं करेगा, कप्तान, मैंने इसके बारे में सोचा था।" क्रूजर पर नए विचारों को उत्पन्न करने के लिए पर्याप्त कॉलोनी बनाना असंभव है - पर्याप्त स्थान नहीं है। उत्पन्न विचारों में पर्याप्त नहीं होगा, हम केवल हमारी मृत्यु में देरी करेंगे ... इस मामले में, निश्चित रूप से, अगर हम मिशन को पूरा करना जारी रखते हैं और घर नहीं लौटते हैं, "बायोटेक्नोलॉजिस्ट ने अपने साथियों की ओर देखते हुए कहा।

"और यदि आप पास के किसी ग्रह पर कॉलोनी बनाते हैं?" - रोजर को सुझाव दिया।

"मैं यह कर सकता हूँ, लेकिन ..."

“हम कृत्रिम जीवों के साथ ग्रह को आबाद करते हैं। रास्ते में, बहुत थका हुआ, यहाँ एक नज़र रखना। पिछले समय में, सभ्यता हमारे भंडार को फिर से भरने के लिए पर्याप्त बौद्धिक सामान बनाएगी। जानकारी डाउनलोड करें और घर के लिए लंबा रास्ता जारी रखें। दूसरे शब्दों में, मैं विचारों को विकसित करने के लिए कॉलोनी को खेत के रूप में उपयोग करने जा रहा हूं। आपको यह योजना कैसी लगी, दोस्तों? "

आशा है कि चालक दल के संज्ञानात्मक झिलमिलाहट पर प्रकाश डाला गया, झूठे सिर उज्ज्वल प्रकाश में जलाए गए।

आगे, नीली आंखों वाले टैंकों को लहराते हुए, जहाज के विशेष अधिकारी आगे आए।

“महान योजना, कप्तान। लेकिन आप इस बात से अवगत हैं कि आप अपने ऊपर क्या जिम्मेदारी निभा रहे हैं? आप एक संपूर्ण ग्रह को आबाद करने वाले हैं। जब तक हम वापस लौटेंगे, तब तक बुद्धि के साथ सभ्यता उस पर दिखाई देगी। इसे कृत्रिम होने दो, यह अभी भी बुद्धिमत्ता है। इन लोगों को विकास के उच्चतम स्तर तक पहुंचने में काफी समय लगेगा। इस गांगेय क्षेत्र में हमारी अनुपस्थिति के कारण, हम इस प्रक्रिया को नियंत्रित नहीं कर पाएंगे। कौन जानता है कि अगली बैठक में क्या होगा? ”

रोजर मुस्कुराया।

"आप इसके बारे में चिंता नहीं कर सकते ऐसे तरीके हैं जो समय के साथ कृत्रिम बुद्धि के विकास को सीमित करते हैं। हम सभ्यता को रिंग करेंगे, इसलिए इसका विकास कभी भी हमारे लिए खतरनाक स्तर तक नहीं पहुंचेगा। मैं उसका ध्यान रखूंगा। कृत्रिम बुद्धिमत्ता के साथ काम करने के तरीके मुझसे परिचित हैं। ”

चालक दल के संज्ञानात्मक झिल्ली अनुमोदन के रंग के साथ चमकते थे।

"अंत में," अंतरिक्ष क्रूजर के कप्तान ने अपने शानदार भाषण के अंत में जोड़ा, "मैंने इस विषय पर संस्थान में परीक्षा दी।"

6।
एक मजबूर देरी के बाद, अंतरिक्ष क्रूजर लक्ष्य पर पहुंच गया। अपने कड़े के पीछे कृत्रिम प्राणियों का निवास करने वाला एक ग्रह था - बहुत छोटा और अगोचर। ब्लू-नीले।