生活是唯一值得拥有的智力目标吗？
本文讨论了智力及其最终目标，同时涉及正交性和收敛性。在我以前的文章“生活，智力，思想，思想”中，这个问题没有得到足够的阐明。该文章中宣布了这一原则：应基于以下最终目标建立强大的情报作为可适应的系统：生命的有机体-情报的载体的保存和生存。并给出了可能具有较强智能的生物的一般结构图。以下是为什么会这样的其他分析。有关术语的说明。作为强大的智力，我们将牢记其普遍接受的理解。弱智能是任何不实现强智能的系统或算法。两者的通用名称就是智能，我们不会在人工智能和自然智能之间进行区分。目的与智力的正交性论题。正交论说，由于智力和最终目标是正交的，即独立的变量，因此可以将任何级别的智力与任何目标结合起来。适应行为我们展示了一个可能显而易见但重要的事实：没有目标就不可能实现适应性行为。考虑具有自适应属性的任何算法，包括智能强的系统，因为由于通用性，没有理由将它们排除在外。适应可以认为是：对于神经网络，使用第一种方法-设置连接权重。权重是在学习过程中进行调整的，教师是适应网络的外部因素-为什么只有他知道，我们可以说它是一个激励过程。方法2可以由程序员执行，程序员的激励原因也只有他知道。可以将另一种适配方法实现为目标值的优化过程。这种优化过程的实现可能非常简单。加强神经网络就是一个很好的例子：透明的算法会针对目标行为调整网络权重。针对目标行为的适应技术，请参阅Google的AI独立掌握了49款旧的Atari游戏。相应地，自学习或自适应系统的结构：
该方案适用于任何自适应系统，包括强大的智能。引入了两个概念：智能的适应性和激励性成分。激励组件是根据最终目标实现的。激励组件未修改（不适应）-对其进行了严格设置。如何将最终目标输入系统？我们问自己一个问题-如何实际实施优化以实现目标。如果假设自适应组件很简单并且输入和输出的信号复杂性很简单，那么激励组件也很简单并且其实现是透明的。让我们回到Atari游戏-由于感觉和执行信息信号的复杂性和目标，开发人员能够有效地形成激励组件，以实施强化学习网络。凭直觉，任务本身不值得强大的情报！在Atari游戏中谈论强大的情报是不可能的。有道理的乞求：可以在什么级别的系统上谈论强大的情报？明确的假设是，如果在语义和概念级别的意义上，感觉（输入）和执行（输出）信息的复杂性和多样性超过某个关键阈值，则可能具有强大的智能。令人怀疑的是，能否将自己限制于以下事实：一些简单的整合输入信息的方式会形成一小组增强信号。为了激发强大的智力，很可能应该形成一个复杂且复杂的激励组件，其中可能包括许多条件和反应模式。在输入信息表示的意义上，它很可能是多层次的-来自它们的可识别的简单模式和反应（我们将其称为基本或无条件的反射）被组合为可识别的高阶对象和反应性行为（我们将其称为仪式）。在生物学版本中，激励成分是由遗传算法在进化过程中形成的。请注意，对于激励因素，可以说，单独考虑，由于它是严格设置的，因此不能成为强大的智力。具有潜在强大智能的系统的扩展方案：(无条件的反射和仪式构成了激励因素）
对于生物，保护的概念被确立为激励因素的目标。同时，原则上，其他目标也可以放在激励成分中（正交性论题）。重要的是目标必须在适应过程中占有一席之地。最终目标是什么？有了各种各样的目标，我们可以肯定地说，要实现一个或多或少的不平凡的目标就需要一个或多或少的长时间，因此，需要一个中间目标-确保其安全性。这与收敛论是一致的。工具融合理论认为，具有最高最终目标范围的超级智能行动力量或行动者将追求相似的中间目标，因为所有行动者都具有相同的工具理由。以著名的机器人三定律为例：其中有一条关于机器人目标安全的定律。并且根据生命的定义（请参阅“生命，智力，心理，理性”一文），可以将这种目标行为视为生物体的标志。因此，任何具有或多或少重要目标的情报系统都应主要生存，包括强大情报的载体。在生物进化过程中，仅出于生存目的而形成了强大的人类智力。如果我们假设有可能实现强大的人为人工载体，那么除了保留生存的目标之外，将其嵌入其中，还有其他目标是人道的吗？我想知道您是否在他的位置，作为一个人（！），您想要吗？结论只要克服了感官和执行信息复杂性的关键阈值，就可以根据目标-保护生物体来实现强大的情报。 Source: https://habr.com/ru/post/zh-CN393579/
All Articles