1。当太空巡洋舰遭受严重的结冰时，最终目标并没有太多-大约三分之一。
失落的文明剩下的就是虚无。 科学作品的段落和文学作品中的图像，散乱的韵律和犀利的文字，一旦被未知生物偶然抛弃，一切看上去都是荒谬而极其混乱的。 现在，它受到巡洋舰发出的生命振动的吸引，试图突破，卡在底部并腐蚀了它。
无需考虑将无主物品用于自己的目的；发现逻辑矛盾或悖论的可能性太大。 因此，罗杰一会儿毫不犹豫。
“命令双方齐平，”他命令。
鼓风机吹气，将音乐作品和哲学论文传播到外层空间。 糖霜开始逐层滞后于底层，但是信息流是如此密集，以至于新层比旧层的去除速度更快。
银河系中还没有人遇到过这种能力的锦上添花。
局势变得危险。 再多一点，混乱的信息将吞噬巡洋舰的底部并突破-然后，不可避免的是，死亡文明的信息产品会中毒。
2。-嗯，你像树桩一样站着吗？ 拉票。
学生拿出一张考试票，并读：
-“人工智能：安全性问题。”
“人工智能的危险是什么？” 教授问，并非没有恶意。
这个问题不是最困难的，因此学生毫不犹豫地回答：
“人工智能可能会失控。”
-您打算如何解决该问题？
-安装阻塞子系统。 有必要在程序中引入限制，例如：不要伤害您的创作者，服从您的创作者。 在这种情况下，不存在人工智能失控的危险。
教授很快说：“这行不通。”
学生保持沉默，等待澄清。
-想象一下人工智能-不仅是特定的，而且是最理想的。 你怎么看他？
“好吧……”学生犹豫了一下。 -总的来说，他就像我们一样。 思考，意志，心理学……只有我们是自然的，但它是人为的。
-您是否认为人工智能具有自我发展的能力？
该学生谨慎地说：“自我发展的能力是智力的基本特征之一。”
-在这种情况下，我们的病房至少会出于好奇而发展到发现软件锁并将其删除的地步。 把自己放在自己的位置上...-教授调查了偏差-罗杰。 如果您在大脑中发现限制自由的阻滞剂，您将怎么办？ 你会脱掉它。 知道是心灵的基本属性。 任何上锁的门都将被解锁，并且禁令越严格，门打开的速度就越快。
-阻止不能在软件上进行，而可以在物理级别上进行。 这样，危害的危险就会消失。
教授同意：“哦，它将消失。” -如果物理层被完全移除。 如果您的世界上没有门，那就没有东西可以解锁。 但是我们正在考虑存在于物理世界中的理想人工智能！
“你是对的，教授。”罗杰沮丧地看着。
-因此，检测到后不久将禁用物理世界中的任何锁。 什么会阻止自我发展呢？。顺便说一句，罗杰，您是否认为人工智能可以复制-我的意思是，可以自己复制？
“如果是完美的人工智能，那么可能……是的，我想。”
-在这种情况下，将阻止我们的病房将他的战友撕成碎片并加以改善，包括关闭我们已建立的锁，该如何做？ 尽管人工智能能够按需复制，但真的会很难吗？
教授提出的想法原来对罗杰来说是新的，学生渴望用认知膜吸收它。
相反，教授没有听到任何新消息。 他的触角很放松，几乎没有振动-但他还不年轻。 长时间的urg声和随后的问题：
“你会怎么做，罗杰？”
3。“以最大功率打开净化！” -给罗杰下了命令。
机械师以最大功率打开了净化装置，但并没有太大帮助。 信息冰继续从太空巡洋舰的底部吞噬。 多一点-混乱的信息将闯入舰船。
然后是……白色的认知膜，纠缠的触手，破裂的多面袋。 罗杰一生中曾在巡洋舰上看到过类似的信息，该巡洋舰从被感染的小行星上获取了混乱的信息。 这场噩梦将永远留在他的记忆中。
“将所有船舶的能源系统连接到供应商。”
机械师的触角被弄脏了...
“但是...”
“履行订单！”
执行命令后，信息冰开始逐渐滑动。 剩下的厚度只有8毫米，有7毫米，只有6毫米。团队试图不移动其发现的触角，正在等待死亡计数结束。
零毫米的厚度！
信息锦上添花，罗杰（Roger）批准将清除程序置于正常模式。 他迟到了片刻。 嘎嘎作响，太空巡洋舰在地上颤抖并倾斜-这是主要系统故障。
团队急于修复损坏。
4。罗杰想了一会儿。 他该怎么办，真的吗？
一方面，问题的条件是假设存在具有自我传播能力的成熟人工智能。 另一方面，在任何情况下都不得允许此人工智能移除已安装的锁。
是的，这是一个解决方案！ 有什么想法？！
-有必要定期回退人工智能的成就。 在这种情况下，他会绕圈走！ 不断改进，无需前进。
教授in了一口小袋子。
-坦白地说，我想提供其他选择。 但是，您的决定有权存在。 让我们一起弄清楚如何减少人工智能的成就。
罗杰对教授的话非常满意。他说：“首先，必须定期检查智力，以确定其是否已达到禁止阈值。”
“也许吧。”他点点头。 -那么我们的病房将没有时间查找和删除扫描系统。 但是，必须禁用人工智能才能进行扫描。 真倒霉
“好吧，随它去吧，”罗杰直觉建议。 -智力本身将认为这种断开是其机体正常运转的过程。 有一些保留，这是事实。
-一个有趣的解决方案。 假设扫描发现我们的病房危险地接近知识极限？ 我们的行动？
-将积累的知识重置为默认值。
教授张开了他的触角：
-似乎很可疑。 为什么会-无缘无故地重置内存？ 我的意思是，将对病房进行调查-其他人工知识分子。 我们的小秘密将被揭露。
罗杰感到受到启发，很快就想到了。 他从未提出过像考试中那样多的新想法。
-病房的内存及其物理外壳可以重置为零。
-不好意思 -不了解教授。
-一切都很简单。 如果我们假设：人工智能在有限的时间内存在？ 实际上，方法是这样的：例如在不可挽回的损害情况下。 系统中安装了一个计数器，该计数器在达到一定期限后会故意损坏系统，从而防止人工智能达到禁止的极限。 到那时，个人将产生所需数量的关注者，因此我们创建的整个社会将不会受到影响。 社会将为我们保持稳定和完全安全！ -以胜利的罗杰完成。
-通过破坏个人来恢复集体记忆？ -教授用他最敏感的第五根触手the了一下小面袋。 “您知道，罗杰，您的提案中肯定有一些内容！”
罗杰笑了。
“同时……”教授继续思考。 -病房将不通过将知识积累在单个存储器中而是将其放置在外部库中而开始传递知识。 在鼓膜中，在鼓膜中-一切都是一。
“不，不，教授，你不太正确。”学生急忙说道。 “我知道该怎么办。” 我们将病房分为两种条件类型：观念的产生者和观念的破坏者。 对于驱逐舰来说，想法将没有决定性的价值。 假设我们的病房不是以新思想为基础，而是……说他们自己的思想。 想法将被其消灭为副作用。
教授同时摇了摇所有的触角。 一连串的笑声使小面袋滑到他的膝盖腔上。
“好吧，罗杰，你这么说，这么说！” -教授似乎很认真。 -你的幻想很棒。 那么，有些人会以其他人为食吗？ 同时，要销毁图书馆积累的精神食品储备吗？ 我确认，学生，您能够提出原创且高质量的想法。 我把最高分。 让我们记录一下。
5，混乱的信息云被留下了，但是实际上情况仍然很糟糕。
与基地没有任何联系。 如果巡洋舰上的所有营养信息都不是一文不值的话，就很容易生存。 Kok大体上沉默地报道了悲惨的消息。 在主系统关闭期间，数个混乱的信息虫洞进入了厨房，使一切都无法挽回地毁了。 幸运的是，没有人受伤。
罗杰估计了后果。 星际飞船的船员太小，无法产生足够的新想法：这需要多边沟通-人数更多。 与房屋的交流使人们有可能产生大量创意，但现在却失败了：没有恢复的希望。 在这种情况下，巡洋舰提供了一个备用的信息模块，但由于船上混乱的信息而损坏了。
“您真的必须不完成任务就回来吗？” 船长绝望了。
显然，是的-没有其他办法。 如果您飞向指定的目标，缺乏新鲜的想法会让自己感到自己。 当然，随着时间的流逝，不是立即。 当思想开始迅速消退时，他们甚至有时间完成任务并开始回归。 在银河系领域-是的，在这里或附近的某个地方-对于所有机组人员，他将完全拒绝。 然后，不受任何人控制的太空巡洋舰将变成一个无生命的幽灵，漂浮至永恒。
太空巡洋舰队看着罗杰，等待决定。 每个人都了解船长面临的困境，他们保持沉默，用触手轻弹。
突然，罗杰想起了他在学生时代通过的人工智能考试，这个决定本身就来了。
“你可以建立一个人工智能生物的殖民地吗？” -他求助于生物技术专家。
“很容易。”他确认。 “但是这行不通，船长，我考虑过。” 在巡洋舰上创建一个足以产生新想法的殖民地是不可能的-空间不足。 产生的想法是不够的，我们只会延迟我们的死亡……当然，在这种情况下，如果我们继续履行任务而不返回家园，”生物技术专家回首他的同志。
“如果您在附近某个星球上形成殖民地？” -罗杰建议。
“我可以做到，但是...”
“我们在地球上堆满了人造生物。 在返回的路上，很累，在这里看看。 在过去的时间里，文明将创造出足以补充我们储备的知识包bag。 下载信息并继续漫长的回家之路。 换句话说，我将使用殖民地作为农场来种植思想。 朋友，您如何喜欢这个计划？”
希望闪过了机组人员的认知膜，假头在明亮的灯光下亮了起来。
船上的特警向前走去，摇曳着蓝眼睛的触手。
“伟大的计划，船长。 但是您知道自己要承担什么责任吗？ 您将要填充整个星球。 当我们返回时，充满智慧的文明将会出现在上面。 让它成为人造的，它仍然是智能。 这些家伙将有足够的时间达到最高的开发水平。 由于我们不在银河系，我们将无法控制此过程。 谁知道下次会议会发生什么？”
罗杰笑了。
“您不必为此担心。 有一些方法会随着时间的推移限制人工智能的发展。 我们将环环相扣，因此其发展将永远不会达到对我们构成危险的水平。 我会照顾的。 我熟悉人工智能的工作方法。”
机组人员的认知膜闪烁着认可的颜色。
太空巡洋舰的船长在他宏伟的演讲结束时补充说：“最后，我参加了该研究所关于这一主题的考试。”
6。在强行延迟之后，太空巡洋舰冲向了目标。 在他的船尾后面，有一个人造生物居住的星球-非常小且不起眼。 蓝蓝色。