1.لم يكن هناك الكثير لتحقيق الهدف النهائي - حوالي ثلث الطريق - عندما تعرض طراد الفضاء لثلج شديد.
ما تبقى من الحضارة المفقودة كان في الفراغ. فقرات من الأعمال العلمية والصور من الأعمال الأدبية ، والقوافي المبعثرة والكلمات الحادة ، التي تم التخلي عنها مرة واحدة بالصدفة من قبل مخلوقات غير معروفة - بدا كل شيء سخيفًا ومضطربًا للغاية. والآن ، بعد انجذابها من اهتزازات الحياة المنبعثة من الطراد ، حاولت اختراقها وتمسكها بالقاع وتآكلها.
ليست هناك حاجة للتفكير في استخدام الصالح بدون مالك لأغراضهم الخاصة ؛ فاحتمال التقاط تناقض منطقي أو مفارقة كبيرة للغاية. لذلك ، لم يتردد روجر للحظة.
"قم بتشغيل تدفق الجانبين" ، أمر.
المنافيخ منتفخة ، بث التراكيب الموسيقية والأطروحات الفلسفية في الفضاء الخارجي. بدأت الجليد تتخلف عن الطبقة السفلية تلو الأخرى ، لكن تدفق المعلومات كان كثيفًا لدرجة أن الطبقات الجديدة عالقة بشكل أسرع من الطبقات القديمة التي تمت إزالتها.
لم يواجه أي شخص في المجرة بعد مثل هذه القوة.
الوضع أصبح خطيرا. أكثر من ذلك بقليل ، سوف تأكل المعلومات غير المنتظمة في الجزء السفلي من الطراد وتتحطم - ثم التسمم بمنتجات المعلومات الخاصة بحضارة ميتة أمر لا مفر منه.
2.- حسنا ، ماذا تقف مثل الجذع؟ سحب التذكرة.
سحب الطالب تذكرة امتحان وقراءة:
- "الذكاء الاصطناعي: قضايا الأمن".
"وما هو خطر الذكاء الاصطناعي؟" سأل الأستاذ ، ليس من دون خبث.
لم يكن السؤال الأكثر صعوبة ، لذلك أجاب الطالب دون تردد:
"حقيقة أن الذكاء الاصطناعي يمكن أن تخرج عن السيطرة".
- كيف تنوي حل المشكلة؟
- تركيب نظام فرعي للحجب. من الضروري إدخال قيود في البرنامج ، على سبيل المثال: لا تؤذي منشئك ، فامنع خالقك. في هذه الحالة ، لا يوجد خطر من خروج الذكاء الاصطناعي عن السيطرة.
قال الأستاذ "لن ينجح".
كان الطالب صامتًا ، في انتظار التوضيح.
- تخيل الذكاء الاصطناعي - وليس فقط محددة ، ولكن الأكثر مثالية. كيف تراه؟
"حسنا ..." الطالب متردد. - بشكل عام ، هو مثلنا. التفكير ، الإرادة ، علم النفس ... نحن فقط طبيعيون ، لكنه مصطنع.
- هل تفترض أن الذكاء الاصطناعي قادر على تطوير الذات؟
"القدرة على تطوير الذات هي واحدة من الخصائص الأساسية للذكاء" ، قال الطالب بعناية.
- في هذه الحالة ، في المستقبل القريب جدًا ، سيتطور جناحنا إلى درجة اكتشافه لقفل البرنامج وإزالته ، بدافع الفضول على الأقل. ضع نفسك في مكانه ... - نظر الأستاذ إلى المقاصة ، - روجر. ماذا ستعمل إذا وجدت في عقلك حاجزا يقيد الحرية؟ كنت خلعه. انها خاصية أساسية للعقل أن نعرف. سيتم فتح أي باب مقفل ، وكلما كان الحظر أكثر صرامة ، سيتم فتح الباب بشكل أسرع.
- يمكن إجراء الحظر ليس على البرنامج ، ولكن على المستوى المادي. ثم خطر الضرر سوف تختفي.
"نعم ، سوف تختفي" ، وافق الأستاذ. - في حالة إزالة المستوى البدني على الإطلاق. إذا لم يكن هناك باب في عالمك ، فلن يكون هناك شيء لفتحه. لكننا نفكر في الذكاء الاصطناعي المثالي الموجود في العالم المادي!
"أنت على حق يا بروفيسور" ، بدا روجر محبطًا.
- لذلك ، سيتم تعطيل أي قفل في العالم المادي بعد وقت قصير من الكشف. ماذا سيمنع كائنًا ذاتيًا من القيام بذلك؟ .. بالمناسبة ، روجر ، هل تفترض أن الذكاء الاصطناعي يمكن أن يتكاثر - أعني ، لوحدك؟
"إذا كان الذكاء الاصطناعي المثالي ، فربما ... نعم ، أفترض".
- وما الذي في هذه الحالة سيمنع جناحنا من تمزيق رفيقه وتحسينه ، بما في ذلك إيقاف تشغيل الأقفال التي أنشأناها؟ هل سيكون الأمر صعبًا بالفعل ، على الرغم من أن الذكاء الاصطناعي قادر على التكاثر عند الطلب؟!
تحول الفكر الذي قدمه الأستاذ إلى جديد بالنسبة إلى روجر ، واستوعبه الطالب بشغف بأغشية معرفية.
الأستاذ ، على العكس من ذلك ، لم يسمع أي شيء جديد لنفسه. كانت مخالبه مسترخية ولم يكاد يهتز - ومع ذلك لم يكن شابًا. وغرغرة خرف طويلة وسؤال يتبع:
"ماذا ستفعل يا روجر؟"
3."تشغيل تطهير في السلطة الكاملة!" - أعطى روجر أمر.
فتح الميكانيكي عملية التطهير بكامل طاقته ، لكنه لم يساعد كثيرًا. واصل الجليد المعلومات لتناول الطعام من خلال الجزء السفلي من سفينة الفضاء. أكثر من ذلك بقليل - والمعلومات المضطربة ستقتحم السفينة.
وبعد ذلك ... الأغشية المعرفية ذات اللون الأبيض الميت ، ومخالب متشابكة ، وتفجير الحقائب ذات الأوجه. مرة واحدة في حياتي ، رأى روجر شيئًا كهذا - على طراد ، والذي التقط معلومات مضطربة عن كويكب مصاب. سيبقى هذا الكابوس إلى الأبد في ذاكرته.
"قم بتوصيل جميع أنظمة الطاقة في السفينة إلى مقدمي الخدمات."
ذهب مخالب ميكانيكي ملطخة ...
"لكن ..."
"أكمل الطلب!"
بعد تنفيذ الأمر ، بدأ الجليد المعلوماتي ينزلق تدريجياً. بقي ثماني مليمترات من السماكة ، وسبعة مليمات وستة ... كان الفريق ، الذي كان يحاول عدم تحريك مخالبهم المرقطة ، ينتظر انتهاء عدد القتلى.
يحاكي الصفر سمك!
لقد توقفت عملية تجمد المعلومات تمامًا ، وأعطى روجر الضوء الأخضر لوضع أجهزة التطهير في الوضع الطبيعي. لقد تأخر للحظة. كان هناك حشرجة الموت ، ارتعدت سفينة الفضاء الفضائية إلى الأرض وميلت - وهذا هو النظام الرئيسي خارج النظام.
هرع الفريق لإصلاح الأضرار.
4.فكر روجر للحظة. ماذا يجب أن يفعل ، حقا؟
من ناحية ، تفترض حالة المشكلة وجود ذكاء اصطناعي كامل القدرة على التكاثر الذاتي. من ناحية أخرى ، يجب ألا يُسمح لهذا الذكاء الاصطناعي بأي حال من الأحوال بإزالة الأقفال المثبتة.
نعم ، ها هو ، حل! ما هو هناك للتفكير؟
- من الضروري التراجع بشكل دوري عن إنجازات الذكاء الاصطناعي. في هذه الحالة ، سوف يتحرك في دائرة! تحسن دائم دون المضي قدما.
الأستاذ gurgled في كيس من وجوه.
- بصراحة ، أردت أن أقدم خيارًا مختلفًا. ومع ذلك ، قرارك له الحق في الوجود. دعونا نتعرف سويًا على كيفية استعادة إنجازات الذكاء الاصطناعي.
"أولا وقبل كل شيء ، من الضروري إجراء مسح دوري للعقل من أجل تحديد ما إذا كان قد اقترب من العتبة المحرمة أم لا" ، اقترح روجر ، وهو مسرور تمامًا بكلمات الأستاذ.
"ربما" ، أومأ برأسه. - عندها لن يتوفر لجناحنا وقت للعثور على نظام المسح الضوئي وإزالته. ومع ذلك ، يجب تعطيل الذكاء الاصطناعي للمسح. هذا هو سوء الحظ.
"حسنا ، دعها تذهب" ، اقترح روجر على حدس. - الفكر نفسه سوف يعتبر أن هذا الانفصال هو عملية طبيعية لعمل الكائن الحي. مع بعض التحفظات ، هذا صحيح.
- حل مثير للاهتمام. لنفترض أن الفحص وجد أن جناحنا قريب بشكل خطير من حدود المعرفة؟ أفعالنا؟
- إعادة تعيين المعرفة المتراكمة إلى القيم الافتراضية.
نشر الأستاذ مخالبه:
- قد يبدو مشبوه. لماذا يتم إعادة تعيين الذاكرة - بدون سبب أو بدون سبب؟ سيتم التحقيق في الجناح ، أعني - الأفراد المثقفين الآخرين. سيتم الكشف عن سرنا الصغير.
شعور ملهم ، روجر فكر بسرعة كبيرة. لم يخلق أبدًا العديد من الأفكار الجديدة كما في هذا الاختبار.
- يمكن إعادة ضبط ذاكرة الجناح إلى الصفر مع غلافه المادي.
- عفواً؟ - لم يفهم الأستاذ.
- كل شيء بسيط جدا. ماذا لو افترضنا: الذكاء الاصطناعي موجود في فترة زمنية محدودة؟ في الواقع ، فإن الطريقة هي: في حالة حدوث ضرر لا يمكن إصلاحه ، على سبيل المثال. يتم تثبيت عداد في النظام ، والذي عند الوصول إلى فترة معينة ، يتلف النظام عن عمد ، ويمنع الذكاء الاصطناعي من الوصول إلى الحد المسموح. بحلول ذلك الوقت ، سينتج الفرد العدد المطلوب من المتابعين ، وبالتالي فإن المجتمع الذي أنشأناه ككل لن يعاني. سيبقى المجتمع مستقرا وآمنا تماما بالنسبة لنا! - انتهى مع انتصار روجر.
- لإعادة ضبط الذاكرة الجماعية من خلال تدمير الأفراد؟ - وقام البروفيسور بخدش الحقيبة ذات الوجه بخاتمه الخامس والأكثر حساسية. "أنت تعرف يا روجر ، بالتأكيد هناك شيء في اقتراحك!"
ابتسم روجر.
"في الوقت نفسه ..." استمر الأستاذ في التفكير. - ستبدأ الأجنحة في نقل المعرفة من خلال عدم تجميعها في الذاكرة الفردية ، ولكن عن طريق وضعها في مكتبات خارجية. هذا في طبلة الأذن ، في طبلة الأذن - كل شيء واحد.
"لا ، لا ، أستاذ ، أنت لست على حق تماما" ، سارع الطالب. "أنا أعرف ماذا أفعل." نقسم الأجنحة إلى نوعين مشروطين: مولدات الأفكار ومدمري الأفكار. بالنسبة للمدمرين ، فإن الأفكار لن يكون لها قيمة حاسمة. لنفترض أن أجنحةنا لا تتغذى على أفكار جديدة ، ولكن ... لنقول ، من نوعهم. سيتم تدمير الأفكار من قبلهم كأثر جانبي.
الأستاذ هز جميع مخالب في نفس الوقت. من طوفان من الضحك ، انزلق كيس الوجه على تجويف ركبته.
"حسنًا يا روجر ، قلت ذلك ، هكذا قلت!" - الأستاذ ، على ما يبدو ، كان مسليا على محمل الجد. - خيالك ممتاز. لذلك ، فإن بعض الأفراد تتغذى على الآخرين؟ في الوقت نفسه ، لتدمير مخزونات الطعام الروحي المتراكمة في المكتبات؟ أؤكد ، يا طالب ، أنك قادر على توليد أفكار أصلية وعالية الجودة. أضع أعلى الدرجات. دعنا نسجل.
5.تم ترك سحابة المعلومات المضطربة وراءها ، لكن الوضع ظل فظيعًا ، في الواقع.
لم يكن هناك اتصال مع القاعدة. كان من السهل البقاء على قيد الحياة إذا كانت جميع قواعد المعلومات الغذائية على الطراد لا قيمة لها. وذكرت الأخبار المأساوية من قبل كوك في صمت عام. أثناء إيقاف تشغيل النظام الرئيسي ، دخلت العديد من الثقوب من المعلومات المضطربة إلى المطبخ ودمرت كل شيء بشكل لا يمكن إصلاحه. لحسن الحظ ، لم يصب أحد.
يقدر روجر العواقب. كان طاقم المركبة الفضائية أصغر من أن يولد ما يكفي من الأفكار الجديدة: هذا يتطلب التواصل متعدد الأطراف - عدد أكبر بكثير من الأفراد. مكّن التواصل مع المنزل من توليد أفكار بوفرة ، لكنه الآن فشل: لم تكن هناك آمال في الاستعادة. في هذه الحالة ، قدّم الطراد وحدة معلومات احتياطية ، لكنه تالف بسبب المعلومات المضطربة التي حصلت على متن الطائرة.
"هل يجب عليك حقًا العودة دون إكمال المهمة؟" يعتقد القبطان يائسة.
على ما يبدو ، نعم - لم يكن هناك طريقة أخرى. إذا كنت تطير إلى الهدف المحدد ، فإن عدم وجود أفكار جديدة سيجعل نفسه يشعر. ليس على الفور ، بالطبع - مع مرور الوقت. سيكون لديهم حتى وقت لإنجاز مهمتهم وبدء العودة ، عندما يبدأ العقل في التلاشي بسرعة. في منطقة هذا القطاع المجري - نعم ، في مكان ما هنا أو في مكان قريب - سيرفض تمامًا جميع أفراد الطاقم. ثم سيتحول الطراد الفضائي ، الذي لا يسيطر عليه أحد ، إلى شبح هامد يطفو إلى الأبد.
نظر فريق كروزر في روجر ، في انتظار قرار. لقد فهم الجميع المعضلة التي تواجه القبطان ، وكانوا صامتين ، وهم يهتزون بلطف بمخالب.
فجأة ، تذكر روجر امتحان الذكاء الاصطناعي الذي اجتازه في السنوات الطلابية ، وجاء القرار بنفسه.
"هل يمكن أن تجعل مستعمرة من المخلوقات الذكية الاصطناعية؟" - التفت إلى التكنولوجيا الحيوية.
"سهل" ، أكد. "لكنها لن تنجح ، الكابتن ، فكرت في ذلك." من المستحيل إنشاء مستعمرة كافية لتوليد أفكار جديدة على الطراد - لا توجد مساحة كافية. وأضاف عالم التكنولوجيا الحيوية ، بالنظر إلى الوراء مع رفاقه: "إن الأفكار المولدة لن تكون كافية ، سنؤخر موتنا فقط ... في هذه الحالة ، بالطبع ، إذا واصلنا تنفيذ المهمة وعدم العودة إلى الوطن".
"وإذا كنت مستعمرة على بعض الكوكب القريب؟" - اقترح روجر.
"يمكنني أن أفعل ذلك ، ولكن ..."
نحن نملأ الكوكب بمخلوقات اصطناعية. في طريق العودة ، استنفدت جدا ، نلقي نظرة هنا. خلال الفترة الماضية ، ستنشئ الحضارة أمتعة فكرية كافية لتجديد احتياطياتنا. قم بتنزيل المعلومات وتابع الطريق الطويل إلى المنزل. بمعنى آخر ، سأستخدم المستعمرة كمزرعة لتنمية الأفكار. كيف تحب هذه الخطة ، أيها الأصدقاء؟ "
تومض الأمل على الأغشية المعرفية للطاقم ، أضاءت الرؤوس الخاطئة في ضوء ساطع.
إلى الأمام ، يتمايل مخالب العين الزرقاء ، جاء ضابط السفينة الخاصة إلى الأمام.
“خطة رائعة ، الكابتن. لكنك تدرك ما هي المسؤولية التي تتحملها على نفسك؟ أنت على وشك ملء كوكب بأكمله. بحلول الوقت الذي نعود فيه ، ستظهر حضارة بذكاء. فليكن مصطنعا ، لا يزال ذكاء. سيكون هناك متسع من الوقت لهؤلاء الرجال للوصول إلى أعلى مستوى من التنمية. لن نكون قادرين على السيطرة على هذه العملية ، بسبب غيابنا في هذا القطاع المجري. من يعرف ماذا سيحدث في الاجتماع القادم؟ "
ابتسم روجر.
"لا تقلق بشأن ذلك. هناك طرق تحد من تطور الذكاء الاصطناعي مع مرور الوقت. سنطوق الحضارة ، لذلك لن يصل تطورها إلى مستوى خطير بالنسبة لنا. سوف اعتني بذلك. أساليب العمل مع الذكاء الاصطناعي مألوفة بالنسبة لي. "
الأغشية المعرفية للطاقم متوهجة بلون الموافقة.
"في النهاية" ، أضاف قبطان سفينة الفضاء في نهاية كلمته الرائعة ، "لقد أجريت الامتحان في المعهد حول هذا الموضوع."
6.بعد تأخير قسري ، هرع الطراد الفضائي إلى الهدف. خلف مؤخرته كان هناك كوكب يسكنه مخلوقات اصطناعية - صغيرة جدا وغير واضحة. الأزرق والأزرق.