库尔特·冯内古特（Kurt Vonnegut）的几本小说都带有虚构的特拉法玛多星球。 它的居民生活在四个维度，从头到尾一直都在看。 他们知道宇宙是如何开始的，也知道它将如何死亡：特拉法玛多的测试科学家将发射一个超级引擎，它会爆炸并摧毁一切。 但是他们甚至没有试图防止灾难。 在他们的想法中没有暗示需要改变事件的进程。 他们继续朝着这个引擎前进，因为在他们的世界中，所有发生的事情都已经发生了。
有时在我看来，我们也只是自觉少了一点。 进步不能停止的想法使我们感到不可动摇的乐观。 如果您不停下来，那么一切都将如期进行，并且不断取得无尽的成功。 我们必须放松，顺应潮流。 甚至令人不安的场景也会在意识的一角反应出浪漫的喜悦。 “汽车会变得聪明并杀死所有人吗？” 上课！ 像电影一样！” 它用严重的悲观主义来指代这一点-几乎是精神错乱。
显然，现实总是比小说更无聊，并且危言耸听的人和路德主义者通常在进步证明他们的恐惧之前就死了。 但是，根据一些未来学家的说法，即使在我们一生中，我们也可以成为大量无回报点的见证，我们很乐意全速奔波。
最近，
fillpackart在现代编程语言中写了
一篇有关抽象级别的
专栏 。 据称，在代码和硬件执行之间，有太多的自动化解释和编译层，我们开始失去对底层事物的控制。
我们讨论了很多这个话题，当然，我们不认为所有程序员都应该放弃熟悉的语言，而改用烙铁锤。 抽象很棒。 现代化的功能，轻松解决问题的能力和舒适度-一切都很好。 成为开发人员可能是前所未有的酷。
但是世界充满了悖论。 考虑十年内行业将会发生什么似乎很重要。 但是在60–70–170之后-不知何故了。 好像它与我们无关。 即使我们能够生存，到那时，大气压力和孙辈的呼唤对我们来说也将变得更加重要。 但是至少要想一秒钟，想象一下，如果不断增加抽象的厚度并增加编程的舒适度，将会发生什么。 如果自动化，然后自动化，然后自动化。
我认为，在这种情况下，我们后代的后代将继承“黑匣子”（black box），这项技术可以独立运作，只有对它以及对我们以及长死的创造者（他们留下了某种老式的不可读文档）理解起来。 技术不需要知道，只需要服务即可。 而且我确信，IT业务将在此基础上树立文化，每份宣言都将写成：“不要进入技术的核心，而要让它解决问题。”
只需想象一下2199年的对话会是什么样子。可能是一种精神：“根据我们的观察，如果我们将系统中的“实现”一词说成是“完成”，那么结果将比我们说“完成”快0.8秒。 而且，如果您在主题演讲结束时暂停三秒钟，然后添加“芦笋”，转换率将增加3％。”
如果您对人性有更好的看法，请在第一个评论中查看在Facebook上添加链接的人员。 今天，如果只有流行的算法仅使我们稍微堵墙，我们就可以开始用铃鼓在火上进行“合理合理的”舞蹈。
真正重要的问题不是“技术会变成黑匣子”，而是“什么时候会发生”。 而且有些人比我聪明，他们相信魔法而不是科学会比我想象的更早开始。
去年夏天，我在大型数据会议上听了MTS的Leonid Tkachenko的讲话。 起初，他谈到电信的死亡，然后他给人们以预言：
有一个关于技术奇点的理论。 人工智能的增长非常缓慢，而人工智能的增长却很快。 我们正在以直率的方式前进，当外表喜欢某个人并且人类进化缓慢时，它们会意外地交配。 我们和一百五十万年前一样。 大脑发展很长一段时间，因为一切都是随机发生的。
当我们谈论AI时，我们会对其进行有目的地培训，以使其变得越来越好。 他不会偶然与任何人交配；他会做我们想要的。 并且据估计，人工智能将在2030-40年赶上人类。
这意味着技术进步将会进一步。 他不会停止。 但是AI会移动它。 我们将无法理解他的想法，他将继续取得技术突破。
还有一个单独的道德问题-对我们不利吗？ 我们能控制他多少？ 毕竟，他会更坚强。 他是否会为我们的利益而努力，还是我们会变成母牛。
牛生活在地球上，没有人能消灭它们。 但是母牛甚至不了解人们仍然生活在地球上，只要他们愿意就可以使用它们。 是的，奶牛并没有从地球表面消失，但是生命的主人，当然，我们与您同在。 在某些时候，其他人可能成为所有者，这可能发生。 现在就到了。
列昂尼德（Leonid）这么说的时候，是依靠弗农·温格（Vernon Vinge）和雷蒙德·库尔茨维尔（Raymond Kurzweil）的预测。 Vinge是一位作家，尽管“技术奇点”一词属于他，但他的预测过于乐观（悲观？）。 据称，到2030年，我们将失去对技术进步的控制。 库兹韦尔（Kurzweil）是一名工程师，并且在2045年之前还花费了更多时间。
他们的两个预测均基于摩尔定律，即处理器频率不断增加。 “这完全是关于硬件和软件的，”库兹韦尔在2006年说。
在我的书《奇点接近》中，我写道，我们需要每秒完成10次万亿次（10 16 ）运算，以便提供与大脑所有区域等效的功能-甚至少于某些估计。 一些超级计算机已经达到了约100万亿（10 14 ），并在本十年末达到了10 16 。
具有一百万次运算的超级计算机已经在该项目中，两家日本制造商计划在几年内达到10 16 。 到2020年，具有10万亿次运算的计算机将花费1000美元。
当我在1999年写第一本书时，铁具有这种能力的事实是有争议的，现在这是一个非常流行的观点。 现在，争议更多地围绕算法。
但是现在，在2019年，人们可以看到Kurzweil的预测（如果没有实现的话）至少会逐渐消失。 首先，抽铁的算法和方式略有不同。 大约在Kurzweil写这篇文章的同时，制造商开始转向多核架构，这使Mura的定律有些复杂。 如今，功能最强大的超级计算机已于2006年开始设计，每秒只能处理200万亿次操作。 完成大脑重建还有很长的路要走，甚至要花上一千美元。
库兹韦尔的其他预测似乎完全是奇妙的。 例如，推广虚拟现实的第一次尝试失败了，尽管几年前Kurzweil指望完全转向虚拟世界。 植入头部的纳米机器人会极大地提高我们的能力，并且仅存在于电影和书籍中。
另一方面-现在几乎所有的技术故障都得到了回答，“只是时间尚未到来”。 乐观，悲观和不可避免的感觉无法通过任何逻辑从脑海中浮现出来，就好像预测的一切已经在特拉法马多发生了一样，我们只是无法看到确切的日期。
如果“何时”问题仅由期望决定，那么“我们要乐观还是悲观”就必须由我们自己做出选择。
库兹韦尔似乎没有一滴恐惧心理。 他是一个罕见的乐观主义者，直到今天，他一直认为奇异性正在逼近，这不是问题，而是挑战，我们的放纵，最终开始用具有铁块和微处理器的东西来增强有机大脑。 在单一性的视野之外，这不是失去对技术的控制，不是人工智能被唤醒并杀死我们所有人的场景，而是革命，其结果是一个人最终将不再是纯粹的生物。
《国家地理》杂志起源节目的主持人杰森·席尔瓦（Jason Silva）认为，这已经发生了，我们只是没有注意到，因为它没有发生在科幻小说中，但是却像现实中一样发生-逐渐而平凡：
库兹韦尔（Kurzweil）和凯文·凯利（Kevin Kelly）表示，我们将继续扩大思路，提供越来越多的方式来处理非生物载体的信息。 人工智能不会反抗我们，我们将使自己的智慧越来越人为。
但是我们已经在人工载体上释放了一部分意识。 当我们在纸上写东西时，部分思考只是在纸上发生。 部分原因是我们移动了手柄。 当您查看自己的想法时，就会发生部分思考，当您将自己的想法抛在纸上并对自己写的内容做出反应时。
人工环境已经是思维设备的一部分。 哲学家戴维·查默斯（David Chalmers）和安迪·克拉克（Andy Clark）表达了有关“扩展意识”的论点，根据该论点，智能手机已经成为思维的补充，而思维不仅限于大脑，意识实际上存在于大脑，工具和环境之间的反馈回路中。 这就是为什么我们说我们的思想塑造了环境，而环境影响了思想。 我们创造的一切也创造了我们。 没有“我们反对他们”。 有一个大型的分布式智能，它由生物和非生物部分组成。
因此，我认为我们不必担心。 仅数十亿个小步骤即可扩展我们的创造能力。
他们的乐观态度是基于这样的事实：不会有新的事情发生，也不会失去任何控制权。 随着技术的发展，我们激发了自己的意识，而这些事情却是密不可分的。 如果仔细观察，这是有道理的。 最重要的是，例如，我完全基于工具构建的内在时间感令我震惊。
在发明并写下了“数小时”的小时，分钟和秒之后，我们开始下意识地对它们进行测量。 您可以将自己投入到任何事务中，而无需思考就能理解：“我花了三个小时。” 您可以随心所欲地观看这部电影，以免忘记一切，但是，在学分上，您显然感觉已经过去了两个小时。 但是，如果您带走了所有的环境，所有的工具和所有的工作，对时间的意识将开始从意识中溜走。 一个人在一个黑暗的洞穴中度过了一个星期，在评估几天的经过时间时会被误认为。 即使坐在空荡荡的房间里，也无法评估一个小时或两个小时过去了。 事实证明，时间的感觉不是存在于意识的内部，而是存在于意识的外部。
我们一直生活在这样一个事实中，即人类的知识早已不是存储在大脑中，而是存储在外部媒体中。 整个文明，基础设施，通信都建立在从内存中卸载的事物上。 这是正常现象，因为携带者似乎比我们自己的大脑更可靠，更容易理解。
但是现代技术是建立在一个有趣的悖论之上的。 人们不信任自己的意识，而是试图巩固其以外的一切，同时也认为人类意识是最可靠的控制者。 但是，如果一个人是如此不可预测，并且其机制是如此清晰可靠，那么为什么例如军事指令禁止在没有人为控制的情况下开发AI系统呢？
乐观之流中的非理性悲观主义？
控制是现代进步悖论的基石，尽管我们自己并不信任，但控制是我们准备给予外部环境的最后一件事。
我是一个悲观主义者，但我知道最好是乐观地看待一切。 技术越容易获得，越是自动化的事物-生活越容易。 问题会像疯了似的。 我对技术很乐观，就像在飞机上飞行一样。 为了舒适地飞行，您必须相信自己会降落。 这很容易，因为机会很高。 但是总是有丝毫的机会打破。 如果对他的信仰赢得乐观，那逃亡将变成地狱。
我相信，围绕进步对我们的影响而产生的乐观和悲观情绪都是在同一地方增长的。 我以飞机为例，因为我是有氧运动的人。 我试图消除自己的恐惧，并意识到，正是隐藏在其中的缺乏控制的恐惧。
当问题通过简单的心理技巧解决时，我讨厌大脑的原始性。 该应用程序提供了帮助，它可以监视飞机的状态并在旅途中解释其所有声音，倾角等。 在接受了知识形式的控制幻觉之后，我摆脱了焦虑，对我所有的理性和逻辑感到沙沙作响。 毕竟，从我知道的事实来看，突破的机会并没有减少百分之一，但是从心理上来说，这对我来说变得更加容易。
害怕失去控制并且没有信息是不合理的。 人们通常分为两种类型。 那些小时候睡着面对门的人会看到将要进入其中的怪物-他们背对着门，因此在任何情况下都不会看到他。 两种情况下，怪物都会把你吃光。 唯一的问题是不可避免的死亡之前收到的信息量很大，因此并不那么令人恐惧。 虽然，在全球意义上有什么区别？
如果我想创建一个应该由人控制的AI，我会尽一切努力使用户产生开放，理解和控制的幻觉。
在我看来，现代路德主义者和技术恐惧者的思维正是基于这种非理性的恐惧-不够了解。 乐观主义者可能对此保持冷静。 他们确信，他们将永远了解和控制尽可能多的东西，以使自己受益并过上舒适的生活。
粗略地说，如果编程变成了与语音系统的正常人类对话，并且确实有效，那么为什么不呢？ 悲观主义者会说：“我们如何知道系统是否足够了解所有内容。” 乐观主义者将保持沉默，显示已成功解决的问题并扔麦克风。
对知识缺乏的恐惧在于对知识的存在的理解，但无法被认识。 毕竟，不知道自己不知道的东西并不那么可怕。
1984年，托马斯·潘琼（Thomas Pinchon）撰写了文章“
成为一名路德主义者是正常的吗 ”，即使如此，他仍然说无知的根源在于知识太多。
在现代世界中，只要有时间，能力和金钱来支付访问费用，任何人都可以获取他或她可能需要的任何专业知识。 实际上，问题在于如何花时间阅读我们自己专业以外的内容。
在文本中，Pinchon了解对技术的恐惧如何随时间而改变。 在工人罢工（因此得名“ Luddites”）罢工后，他们捣碎了织布机以带走他们的工作，在作者的书中最好地记录了对技术的恐惧感。 的确，与科学家不同，作家认为无知是不可避免的，周围有很多事情是他们永远不会理解的。 科学家们时刻都清楚地知道什么将使他们将来能学到更多。 即，绝对所有知识的公开都是时间问题。 如果说这很不礼貌，作家们认为他们没有什么可控制的，科学家们认为他们控制了尽可能多的控制。
在大屠杀和工业革命成为热门话题的那些年代，玛丽·雪莱（Mary Shelley）创作了小说《科学怪人》（Frankenstein）或现代普罗米修斯。 一口气说出来-这是第一部科幻小说，并且马上讲述了这位科学家是如何被他的创造杀死的（抱歉，破坏者）。
从那以后，在关于技术的科幻小说中，悲观主义和乐观主义不断发生变化，因为飞入太空很酷，核轰炸是不好的-但所有这些都是现代进步的结果。 随着时间的流逝，作家的恐惧心理从恐怖变成了越来越奇怪的事情。 无论是意识到它们是错的，还是您不必担心技术。 反之亦然-因为一切都已经消失了，无可挽回的点已过去，悲观情绪变成了绝望的感觉。
大型机会吸引和织机一样多的敌对注意力吗？ 我对此表示强烈怀疑。 各种各样的作家慌忙逃离以获得文字处理器。 这些机器已经变得如此易于使用，以至于即使适应能力最差的路德人也可以被它们吸引住，以至于他们放下了旧的大锤，然后敲了敲琴键。
有了正确的预算和计算机时间分配，我们就可以治愈癌症，使人类免遭核破坏，为每个人种植足够的食物，抵消小贩行业对环境污染的影响-简而言之，实现我们这个时代所有可悲的梦想。
如果我们的世界得以生存，那么将面临另一个重大挑战，这是值得注意的：当人工智能，分子生物学和机器人领域的所有研发曲线融合时，您将第一次听到它。 想一想！这将是令人惊讶和不可预测的，甚至我们衷心希望的最大老板们也会感到惊讶。当然，这将是所有模范路德主义者都期待的东西，如果上帝愿意，我们将活在这一刻。
就是说，对技术恐惧症的恐惧不仅转变为绝望的感觉，而且还使人们对科学家的鼻子感到乐观。当贪婪的知识和自信将横摆。
我现在失去的悲观情绪似乎是很多疯子，他们根本不了解任何东西（如果您是技术恐惧症患者，那就去森林里生活，不要打扰）。他转变为“我们想要最好的，但我们将一如既往地做到”。但是习惯上考虑将来时态中的无回报点。认为它们已经完成，尤其是在不像计算机，甚至不是书面语言的时代，这绝对是荒唐且毫无意义的。人类学家尤瓦尔·诺亚·哈拉里（Yuval Noah Harari）在《智人：人类简史》一书中表达了这种不受欢迎的观点。据他说，一万年前，当我们进行农业革命时，我们想到了Tralfamador超级引擎，从那以后，我们的发展方向相反。据称，这名男子聚集了历史上最发达的大脑，生活得更加舒适和快乐。但是后来他种了小麦，开始依赖它。土地革命决不是新的，轻松的生活的开始-古代农民的生活比收集者更加艰苦，有时甚至更加饥饿。猎人和采集者过着更健康的生活方式，没有那么努力地工作，发现自己更加多样化和有趣的活动，很少遭受饥饿和疾病的折磨。由于土地革命，人类消耗的食物总量肯定增加了，但是更多的食物并不一定是更健康的饮食。不，由于人口激增和精英的崛起，普通的牛饲养员或农民比普通的猎人或采集员工作得多，吃得更差。土地革命是历史上最大的骗局。
. . – , , . : «, . ! - . . - !»
– , - , – - .
但是根据哈拉里（Harari）的说法，种下她的古代人并没有陷入陷阱。最初的农民一切都很好，他们确实简化了生活，并带来了祖先寻求了数百年的安慰。这成为了他们的曾曾曾曾曾丧失过祖先生活和选择最好祖先的素质的陷阱。他们只剩下农业，他们逐渐被新生活方式的所有缺点所吸引。该理论是投机性的，紧张的并且充满了投机性。也许一次超级注射系统的创建将解决我们后代在不久的将来的所有问题，将被认为是有害的。但是我们还是会创建它。因为进步，生产力和持续增长是一种新的宗教和无神论时代的意义。如果现在我们越来越好，那为什么要徒劳呢？我们仍然相信，再多一点，一切都会变得完美。您只需要多做一些工作即可。但是，如果您一秒钟淹没了乐观情绪，并牢记有解决主义的“技术解决了他们自己创造的问题”，将会发生什么？只是，也许您意识到自己并没有自己走，而是被拖到了超速驾驶的火车后面。一个小小的思想实验。想象一下，您看到了未来，并且知道一百年来，这项技术将失去控制，超级引擎在经过测试后将炸毁整个宇宙（或者至少将后代变成不发达的白痴）。你会改变一些吗？停止进行技术开发？或这里有更多细节。如果您对进度产生了非常大的影响，在这种情况下您会停止吗？如果是这样，您是否会为自己的选择已经记录在时间表中而感到尴尬？对未来不存在什么影响？这些知识并没有真正给予控制-仅仅是出于知识的考虑，从整体上讲，它只会给被动进入房间的怪物以消极的思考。当我试图回答自己时，我只会感到被束缚。这是查找有关您已经在其中飞行的飞机坠毁的方法。您可以做的最好的事情就是不要惊慌地尖叫，而是要喝伏特加酒和烟，尽管这是被禁止的。我们的大多数生活都是谦卑的，有着莫名其妙的存在。如果您付出努力并有意识地决定享受这一无穷无尽的吸引力，那么一切都会变得更加轻松。毕竟，总是对某件事进行认真的思考，您会得出相同的结论：最好不要去考虑它。