我听说，未来，计算机人工智能将变得比我们更聪明，以至于它们将夺走我们的所有工作和资源，并且人们将丧命。 是这样吗
这是我在关于人工智能的演讲中被问到的最常见的问题。 问他的人很担心，他们的关心来自其他人-提出同样问题的专家。 在其中，您可以遇到当今生活最聪明的人，例如
Stephen Hawking ，
Elon Musk ，
Max Tegmark ，
Sam Harris和
Bill Gates ，他们都相信这种情况的可能性。 在最近的AI会议上，由9名最有知识的AI人士组成的委员会同意我们无法避免超人AI的出现。
但是，这种征服人工智能世界的场景包括五个假设，经仔细研究发现，这些假设并非基于证据。 这些陈述将来可能是有道理的，但是现在它们都没有证据。 这些是假设：
1.人工智能已经变得比我们更智能，并且其力量呈指数增长。
2.我们将创建一个类似于我们自己的通用AI。
3.我们能够创建基于硅的人类智能。
4.智力能够无限发展。
5.在超级智能爆炸之后，他将帮助我们解决所有问题。
作为对这个正统经典的反对，我将提出五项异端言论，在我看来，这有更多理由。
1.智力不是一维的，因此“比人聪明”的概念是没有意义的。
2.人类和AI都没有通用意识。
3.在其他媒体上模仿人类思维将受到其创造成本的限制。
4.智力的维度不是无限的。
5.智力只是进步的因素之一。
如果对超人AI（SII）出现的期望是基于五个没有证据的关键假设，那么这个想法更像是一种宗教信仰或神话。 接下来，我将进一步阐述我的五个反假设，并且我将证明SII实际上是一个神话。
1。
对人工智能最常见的误解始于对自然智能的误解。 它在于智能是一维的。 像
尼克·波斯特罗姆 （
Nick Bostrom）在《超级情报》中所做的那样，大多数技术人员倾向于将情报描绘为振幅不断增加的一维线形图。
一方面是智力低下的动物，例如一只小动物。 另一方面，天才很高-好像情报可以用分贝表示。 当然，在这种情况下，很容易想到情报量继续增长，结果超出了我们的高度智力水平，成为超响亮的智力-吼叫！ -我们无法访问且超出了计划。
该模型在拓扑上等效于梯子，在该梯子上，每个后续的智能步骤都比上一个步骤高一个步骤。 幼小的动物处于较低的位置，而高水平的AI将超越我们，并处于上述的位置。 此事件的时间轴并不重要，只有排名重要-智力提高的指标。
该模型的问题在于它与进化的阶梯一样神秘。 在达尔文之前，自然界被认为是阶梯，在阶梯上放置了小动物。 即使在达尔文之后，习惯上也将进化视为“阶梯”，根据这种进化，鱼类变成了爬行动物，然后变成了哺乳动物，然后变成了灵长类，再到了人类，每个阶段都处于略高的“进化阶段”，因此被认为比以前的智能。 因此，智力的阶梯与存在的阶梯是一致的。 但是这些模型具有完全不科学的方法。
如上图所示，对物种自然进化的更准确描述是一个扩展盘，该盘最初由德克萨斯大学的
戴维·希利斯提出，并基于DNA创建。 这种家谱
曼荼罗从最原始的生命形式开始居中，然后随着时间的流逝而扩展。 时间在外面移动，所以当今居住在地球上的最新类型的生命围绕着地球。 这张图片强调了进化这一事实，这是很难接受的：当今生活的每个物种都是同等进化的。 人与蟑螂，软体动物，蕨类，狐狸和细菌一起存在于此环上。 每个物种都经历了连续30亿年成功繁殖的连续链，这意味着当今的细菌和蟑螂与人类一样在进化上发展。 没有梯子。
同样，情报也没有阶梯。 智力不是一维的。 这是许多类型和识别模式的复杂体，每种类型和识别模式都是一个连续体。 承担测量动物智力的最简单任务。 如果智力是一维的，我们只需按照正确的升序构建鹦鹉，海豚，马，松鼠，章鱼，蓝鲸，猫和大猩猩的智力。 但是今天，我们没有科学证据证明存在这样一条线。 原因之一可能是动物的智力之间没有差异，但我们也没有看到这一点。 动物学充满了动物思维差异的惊人例子。 但是也许他们都有一个相对的“一般情报”？ 也许吧，但是对他来说，我们无法衡量和衡量指标。 对于许多类型的认知，我们有许多不同的指标。
代替单个分贝线，更精确的智能模型将是其概率空间的图形，例如，上图表示可能的形式。 智力是一个组合的连续体。 许多节点（每个节点是一个连续体）在更高维度上创建复杂而多样的结构。 一些智力可能非常复杂，并且具有许多思考的子节点。 其他可能更简单，但会延伸更大，并在空间上占据一个角度。 这些复合体，我们称为智力，可以被认为是涉及多种乐器的交响曲。 它们不仅在音量方面不同，而且在音调，旋律，色彩，速度等方面也不同。 它们可以表示为生态系统。 从这个意义上讲，思维的各个节点组成部分相互依赖，并且一起创造。
正如
马文·明斯基（Marvin Minsky）所说，人的思想是思想的共同体。 我们致力于思考的生态系统。 我们内部有多种思维方式，涉及多种思维方式：演绎，归纳，符号逻辑，情商，空间逻辑，短期记忆和长期记忆。 我们肠子的神经系统也是具有自己思维方式的某种类型的大脑。 我们不仅考虑一个大脑，还考虑整个身体。
这些思维因个人和物种而异。 松鼠可以记住多年橡子的确切位置，这完全影响了人类的思维。 因此，按照这种思维，蛋白质要优于人类。 这种超能力与其他模式相连接，与我们的模式相比正在逐渐消失，这种连接构成了松鼠的思想。 在动物界中，还有许多其他机会的例子，这些机会要比人类的机会优越，它们也包含在不同的系统中。
人工智能也是如此。 在某些方面，人造思想已经优于人类。 您的计算器在数学上是一个天才，在某些方面Google的存储能力已经超越我们。 我们创建在某些模式下脱颖而出的AI。 我们能够自己做一些这样的事情，但它们做得更好-例如，在概率或数学领域。 我们无法使用其他思维方式-只有搜索引擎才能记住60亿个网页上的每个单词。 将来，我们将提出一种全新的思维方式，这是我们所没有的，而且实际上是一种活生生的思维方式。 发明了人工飞行，我们受到了生物飞行机制的启发，主要是机翼的拍打。 但是我们发明了这种螺旋桨和固定翼的飞行，这是生物界所不知道的。 这是别人的航班。 同样，我们将提出自然界中不存在的新思维方式。 在许多情况下，它们将是为特定工作设计的新的，特定的，小模式-可能是仅适用于统计和概率论的一种推理类型。
在其他情况下，新思维将是一组复杂的思维类型，可用于解决不适合我们的智力的问题。 商业和科学中许多最复杂的问题可能需要一个两阶段的解决方案。 第一阶段：发明一种可以与我们的思维配合的新思维方式。 第二：结合起来解决问题。 由于我们解决了以前无法解决的问题，因此我们希望将这种新型思维称为“比我们更聪明”的方法，但实际上，这与我们完全不同。 人工智能的主要优势是不同的思维方式。 我认为将AI视为外星人思维（或人造外星人）很有用。 他的与众不同将是他的主要美德。
同时，我们会将这些不同的思维方式整合到更复杂的思维社区中。 这些复合物中的某些复合物将比我们复杂，因为它们可以解决我们无法解决的问题，然后有人要称它们为超人。 但是，尽管他的记忆力超过了我们的记忆力，但我们不称其为Google SII，因为我们有很多事情可以做得比他更好。 这些AI复合体将在许多方面超越我们，但没有人能做得比我们更好的一切。 这可以与人的身体能力相比较。 工业革命已经有200年的历史了，尽管通常机器超越人的身体能力（运动速度，举重，精确切割等），但没有一部机器能够超越普通人的工作能力。
而且，尽管AI思想界变得越来越复杂，但是这种复杂性仍然很难用科学的方法来衡量。 对于复杂性，我们没有好的度量标准，无法确定波音747的黄瓜是否更难或描述它们的困难如何不同。 这就是为什么我们对头脑没有好的衡量标准的原因之一。 确定心智A是否比心智B更困难，因此，很难理解其中哪一个更聪明。 很快，我们将了解到心理不是一维的，实际上，我们对智力能够发挥作用的所有方式都感兴趣，这是我们尚未发现的所有认知节点。
2。
与人类智能有关的第二个错误是我们认为我们的思维是通用的，它是通用的思维。 这种信念导致了AI研究人员经常提出的创建通用AI OII目标的出现。 但是，如果我们将智能视为更大的可能性空间，那么它就不会具有广义状态。 人类智能不在其他专业知识所围绕的中心位置。 人类智力是一种非常非常特殊的智力类型，它是经过数百万年的进化而出现的，因此我们的物种得以在这个星球上生存。 如果将其放置在所有可能的智能空间中，它将位于角落，就像我们的世界处于巨大星系的边缘一样。
我们绝对可以想象甚至发明类似于通用瑞士刀的思维。 他在很多任务上做得很好，但在任何一项任务上都做得不好。 AI将遵循所有创造或诞生的事物所遵循的相同的工程
准则 ：您无法优化每个维度。 只有妥协是可能的。 创建优于专用单元的通用多功能单元将不起作用。 胸怀大志，“无所不能”，将无法像专业人士那样做所有这一切。 由于我们相信思维的泛化，因此我们认为思考并不一定要遵循工程上的折衷办法，因此有可能创造一种使所有思考方式最大化的智能。 但这没有证据。 我们还没有发明足够的选择让大脑看到整个空间（到目前为止，我们正在扫除动物的大脑，以一维幅度对其进行评估）。
3。
这种信念的一部分来自通用计算的概念。 这个假设（在1950年正式描述为
Church-Turing论文 ）指出，达到某个阈值的所有计算都是等效的。 因此，对于所有计算，都有一个通用核，以及它们是否出现在具有许多快零件或慢零件的一台机器中，还是发生在生物大脑中-所有这些都是相同的逻辑过程。 这就意味着可以在任何具有“通用”计算能力的机器上模拟任何计算过程（思维）。 奇异性的拥护者基于此原理，期望我们可以创造出可以容纳人类思维的硅脑，并且我们可以创造出像人类一样思考的人工思维，但是它要聪明得多。 这种希望应该是怀疑的，因为它是基于对Church-Turing假设的误解。
该假设的出发点如下：“如果存在无限的胶片（内存）和时间，则所有计算都是等效的。” 问题在于，实际上计算机没有无限的内存和时间。 在现实世界中，实时至关重要，甚至是生死攸关的时间。 是的，如果忽略时间，所有思考都可以等同。 是的，只要您忽略时间或数据和内存存储的实际限制，就可以在任何矩阵上模拟人类思维。 但是，通过包含时间，可以实质性地重新定义该原理：“在完全不同的平台上运行的两个计算系统在时间上不会等效。” 或者：“获得相似思维模式的唯一方法是在等效平台上运行它们。” 计算所依据的物理物质（尤其是当它们变得更加复杂时）极大地影响了可以实时成功发挥作用的思维类型。
我将继续这些论点，并说，使思考过程接近人类的唯一方法是在类似于人类的软，湿组织上进行计算。 这意味着在干硅上运行的非常大型和复杂的AI将为我们提供大型，复杂和不人道的思维方式。 如果有可能使用与人类相似的神经元来创建人工湿脑，那么我会说他的想法将与我们的思想非常相似。 如此潮湿的大脑所产生的收益与我们建立基础的相似程度成正比。 创建这样的“人机”的成本是巨大的，而且组织离大脑组织越近，创建一个人的成本效益就越高。 最后，我们可以在9个月内做到这一点。
而且，如上所述，我们在整个身体的帮助下进行思考，而不仅仅是一个大脑。 我们有大量数据表明，肠神经系统可以指导我们的“理性”决策过程，它能够学习和预测事件。 我们对人体系统建模的越多，我们就越接近复制它。 在截然不同的主体（干硅而不是湿碳）上工作的情报将有不同的看法。
在我看来，这不是错误，而是功能。 正如我在第2段中提到的，思维与人类之间的差异是AI的主要优势。 这就是为什么错误地说他“比人更聪明”的另一个原因。
4。
在超人类智能的概念（尤其是这种智能将不断改进的思想）的核心在于，人们相信智能的规模是无限的。 我没有看到任何证据。 相信这一点有助于错误理解智力的一维性，但这只是信念。 在宇宙中，科学上没有可靠地知道无限的物理尺寸。 温度不是无限的-有最终的寒冷和
最终的热量 。 时间和空间是有限的。 最终速度。 也许数学中的数字线是无限的，但是物理属性有局限性。 可以说，心本身是有限的。 所以问题是，智力的极限在哪里？ 我们倾向于认为它远远超出了我们的承受范围，它比我们“高”得多，就像我们比蚂蚁“高”一样多。 如果我们抛弃了不断出现的一维问题，那么我们有什么证据证明我们没有达到这一极限？ 为什么我们不能做到最大？ , , ? , – , ?
,
. , – . , , - . «» [
The Inevitable ] , - . :
• , , ( ).
• , .
• , .
• , , .
• , , .
• , , - .
• , , .
• , , , .
• , .
• , , , ..
• , , .
• .
• , , .
• , .
• , .
• , , .
• , .
• , , .
• , .
• , .
• , .
• , .
• , .
• -.
• -.
• , , .
, .
, ( - ), , , , . , . , . 证据在哪里？ . , , ? , , . . 10 .
, , , .
, , , , , . : « , … , , . , 2029 ».
, , , , . . , .
, « », , .
, . , , , . , «» .
5.
关于FIS的到来，没有任何证据，没有任何人反驳的另一种信念是，几乎无限能力的超智能将迅速解决我们所有基本未解决的问题。
许多支持智能爆炸的人认为，这将导致进步的爆炸。 我称这种神话信仰为“思想主义”。 这是一个误解，认为仅由于缺乏智力或智力无法实现未来的进步。 我注意到，在许多喜欢思考的人中，普遍认为思维是万能的灵丹妙药。
采取癌症治疗或延长寿命。 您无法一想到解决这些问题。 没有任何想法足以了解细胞如何衰老或端粒如何消失。 仅仅通过阅读世界上所有已知的科学文献并进行深思熟虑，任何超级骗子都无法理解人体的运作方式。 FIC不能仅考虑所有核聚变实验就得出可行的核聚变方案。 要克服从不知道某物如何工作到理解某物如何工作的道路，这不仅需要思考。 在现实世界中，正在进行大量的实验，每一个实验都会导致出现大量冲突的数据，这些数据需要进一步的实验来创建有效的假设。 考虑潜在的数据不会给您正确的数据。
思维只是科学的一部分，甚至可能只是其中的一小部分。 例如，我们没有足够的数据来进一步解决死亡问题。 与活生物体一起工作时，几乎所有实验都需要时间。 细胞新陈代谢缓慢不能被分散。 获得结果需要数年，数月或至少几天的时间。 如果我们想知道亚原子粒子会发生什么，我们不能仅仅考虑它们。 我们需要构建庞大，复杂，狡猾的物理结构以进行发现。 即使最聪明的物理学家比现在聪明1000倍，没有对撞机，他们也不会学到任何新东西。
毫无疑问，SRI可以促进科学进步。 我们可以对原子或细胞进行计算机仿真，并使其加速许多倍，但是有两个问题限制了仿真的实用性。 首先是模拟和模型可以比正在研究的过程更快，这仅是因为我们没有考虑某些因素。 这是模型或仿真的本质。 此外，测试，验证和证明这些模型也很费时，并且需要以模拟过程的速度进行。 真理的核查不能被加速。
这些简化的版本对于筛选出最有希望的路径并加快进度非常有用。 但是实际上并没有多余的东西。 一切真实的事物都会在一定程度上发挥其影响力； 这是现实的定义之一。 如果您开始使用越来越多的数据泵送模型和仿真，那么很快就会发现，现实比其100％仿真要快。 这是对现实的另一种定义：存在的所有细节和自由度的最快版本。 如果您可以将所有分子建模为细胞以及人体中的所有细胞，那么模拟将不会像人体一样快。 不管您如何考虑，您都将需要时间进行试验，无论是实际系统还是仿真。
为了发挥作用，人工智能需要渗透到现实世界中，世界将决定其创新的速度。 如果没有进行实验，构建原型，错误和真实的实验，智能就会思考，但不会产生结果。 所谓的每分钟，每小时，每天或每年都没有即时发现。 预计不会出现“超人AI”。 当然，人工智能开发的成功将显着增加每单位时间的发现数量，特别是因为与人类不同，人工智能会问人们不会问的问题，但是与我们相比，即使是非常强大的智力也不能保证即时进步。 解决问题，不仅需要智能，还需要更多。
光靠智力不仅无法解决癌症和长寿的问题，也无法解决智力本身的问题。 奇异性支持者的典型口头禅是，一旦您制作“比人更聪明”的AI，他就会突然想到并发明“比自己更聪明”的AI，这反过来又会思考得更恰当，发明更多。智慧的AI，结果一切都会以几乎神圣的程度爆发出强大的智力。 我们没有证据表明仅考虑情报就足以创造新的情报水平。 这样的想法就是信念。 我们有很多证据表明，除了大量知识之外，我们还需要实验，数据，试验和错误，异常提出的问题以及除简单创造力之外的所有其他事物，才能发明出新型的成功经营思想。
最后，我要说的是我的发言可能是错误的。 我们还处于早期阶段。 我们可以发现一个通用的智力指标； 发现各个方向的无限。 由于我们对什么是智能（更不用说意识）了解甚少，因此某种AI奇异性的可能性超过零。 在我看来，所有证据都表明这种情况的可能性很小，但这种可能性非零。
因此，尽管我不同意它的可能性，但我同意
OpenAI的更广泛目标以及担心FDI的聪明人-我们应该创建友好的AI，并考虑如何向他们灌输与我们相匹配的价值。 尽管我认为外国直接投资是一个非常遥远的生存威胁（值得考虑），但我认为外国直接投资的小概率（基于现有证据）不应支配我们的科学，政治和发展。 小行星与地球的碰撞将是一场灾难。 它的可能性大于零（因此我们必须支持
B612基金 ），但是我们不应该让小行星撞击来管理我们的决策，例如在气候变化，太空旅行或什至在城市规划领域。
同样，迄今为止的证据表明，人工智能将极有可能不是超人类的，而是超人类的，这将是数百种与人类不同的新型思维，其中没有一种会成为通用的人工智能，也不会有一种成为上帝，立即解决我们所有的问题。 取而代之的是，我们将拥有有限的智能星系，工作在陌生的维度上，超出了我们许多领域的能力，并与我们一起解决现有问题并随着时间的推移创建新问题。
我了解SII神的魅力和吸引力。 这有点像超人。 但是，就像超人一样，这是一个神话人物。 超人可能存在于宇宙中的某个地方，但其存在的可能性非常小。 但是神话是有用的，并且在发明之后并没有消失。 超人的想法不会消失。 一旦产生了超人AI奇异性的想法也不会消失。 但是，我们必须了解，现在这是一个宗教观念，而不是科学观念。 如果我们研究当今掌握的有关人工和自然情报的数据，我们只能得出结论，关于神话般的SII神的讨论只是神话。
第二次世界大战期间，
密克罗尼西亚的许多与世隔绝的岛屿首次与世界其他地区接触。 外星神飞过天空，飞奔着喧闹的鸟儿，在岛上倾倒了食物和商品，没有返回。 宗教崇拜者出现在这些岛屿上，祈祷诸神归来并倾倒更多的货物。 即使到了五十年后的今天，许多人仍在等待退货。 SRI可能是另一种货物崇拜。 一百年之后，在信徒开始等待FIC出现的那一刻，人们将能够回顾我们的时代，这将给他们带来难以想象的收益。 十年过去了十年，他们正在等待外国直接投资的到来，并相信外国直接投资及其带来的好处将很快出现。
但是非超人类的AI已经在这里成为现实。 我们不断地重新定义该术语，增加其复杂性，并因此在将来得到保留，但是从广义上来说，在各种思维，思维，逻辑，教义和意识的不同范围内，外星人智力的定义-AI已经存在于地球上，并且将继续传播，深化，多样化和强化。 以前的发明无法与世界范围内的力量相提并论，到本世纪末，人工智能将触及并改变我们生活的方方面面。 但是，超人类人工智能的神话很显然会继续存在，它可以赋予我们丰富的财富或驱使我们进入超级奴隶制（或同时兼而有之），这种机会实在太神话了，无法拒绝它。