书评:“生活3.0。 成为人工智能时代的男人”

许多认识我的人都可以证实,我对很多问题都持批评态度,甚至在某些方面表现出极大的极简主义。 我很难取悦。 特别是在书籍方面。 我经常批评科幻小说,宗教,侦探小说以及更多胡说八道的迷。 我相信现在是时候做真正重要的事情,停止活在永生不朽的幻想中。

在与我的一个好朋友进行铁饼讨论时,他又一次对他们不断为我提供不同的废话(同一个小说)感到愤慨,建议我写一本《生活3.0》一书。 做个男人……” 我很ham愧地承认,我很早以前就下载了它,甚至没有注意到它以及王朝基金会的大量精选。 取悦我非常困难,因为 他温文尔雅地写书,一点也不费力。 但是我喜欢这一本书,不仅决定回答他是否要解决这个问题,而且还写了我的批判性评论,因为尽管这本书值得关注,但仍有很多工作要做。

我想相信,我的评论不会像往常一样淹没在洪水和垃圾邮件中,并且不仅会影响读者,还会影响考虑后续作品中缺点的作家。 当然,只有我的主观意见不高,但是我会尽力证明这一点。 尽管事实上,像往常一样灾难性的,没有任何事情可以解决,事实上,我是一个普通的可怜的奴隶。 但是,我认为撰写此评论是我的国际化公民责任,因为 长期以来,我一直对类似和许多其他相关主题感兴趣。 我认为,以下大部分工作是分配给整个人类及其个人的主要任务。 听起来很可悲。 所以...

生活3.0。 成为人类


批评


从字面上看,Bloopers从书的第一页开始。 我引用:
“如您所知,就如何考虑生活问题一直以来没有达成共识。 提出了大量替代定义,其中一些包含相当严格的限制:例如,需要一个细胞结构,这可能会排除未来的思维机器和某些地球外文明。 由于我们不想将对未来生命的想法局限于我们已经熟悉的那些生物物种,因此,让我们接受其更广泛的定义,以便它包括任何其他过程,即使它具有复杂性并具有自我复制的能力。 精确复制的内容并不那么重要(由原子组成),信息(由位组成)很重要,这取决于原子彼此之间的相互排列。 当细菌复制其DNA时,不会出现新的原子,但是可利用的原子排成一排,精确地重复了原始原子,因此仅复制了信息。 换句话说,我们可以考虑生活在任何能够自我复制并能够处理其自身信息(其“软件”,“软件”)决定其行为和结构(“硬”)的信息系统中。”
目前尚无共识,但目前对生活的理解还有很多可理解的地方。 认识他们会很高兴。

否则,如果将其简化并从这样的位置接近,则可以从生命中重现从基板复制结构的复杂晶体的生长。 或者,也许是油和腐殖质形成的某些过程,那里也有种子,导致出现了同一种子的分子。 它们就像酶的祖先,但在现代科学中,它们不被认为是成熟的生活,因为 他们没有能力发展和突变。 如果没有可变性,那么这不是生命。 因此,我还是建议略微缩小生活概念,并重新考虑它可能具有的其他特征。 我还推荐我的文章:“生命潜能的分类”。

以下引用:
“继宇宙本身之后,生命变得越来越复杂4,正如我现在将要解释的,在我看来,根据生命形式的三个复杂程度(生命1.0、2.0和3.0)对生命形式进行分类似乎很有用。 总体上,这三种形式的区别是如何在图2中清楚地看到的。 1.1 ....
生活的三个阶段:生物进化,文化进化和技术进化。 Life 1.0在其存在期间不会影响“硬”或“软件”
一个生物:两者都是由其DNA决定的,在长期的进化过程中,DNA可能会代代相传。”
据我了解,这是一个严重错误。 可以看出,作者对微生物的现代研究并不熟悉。 他们可以改变自己的硬件和软件。 即 生命1,实际上可以像生命3一样。微生物甚至可以比人类捕获DNA片段更好。 他们以各种方式做到这一点。 或者直接从环境中(如果他们发现了一些被破坏的细胞的DNA),或者借助噬菌体和质粒,或者通过有性繁殖而形成所谓的有性锯齿细菌共轭-维基百科。 他们还可以精确切割珠宝的不相关部分。 例如,感谢CRISPR。 因此,即使Life 1.0本身也可以改变硬件和软件。 这是为那些害怕转基因生物而忘记了LUCA(在某种程度上还活着)的创新和闻所未闻的我们而设计的。 我们已经失去了这种能力,而对于“聪明”的灵长类动物而言,艰辛的改变完全是一种禁忌。 因此,它不是新事物,而是被遗忘的旧事物。 比较时使用此参数没有任何意义。 难度是一回事,而自我改变(处于不同的难度水平)则是另一回事。 您需要能够将果蝇与炸肉排分开。 分类应进行重大修改。

但是这些仍然是花朵。 此外,我没有机会添加书签。 尽管该书以正确的方式解决了极其重要的全球性问题,但作者还是很有学问,但是显然他不足以进行有效的插补,仍然得出合理的假设。至少是初步结论。

例如,在其中一个部分中,他插话了人们对AI的原始流氓方法,同时担心并考虑了从AI端欺骗人们的可能性。 是的,如果仅仅是强大的AI,就有可能发生这种骗局。 但是,如果将通过人工智能(SII),则不太可能需要这种欺骗。 只是这样的才智,没有任何谎言和技巧,就能使许多人准确地提出他们无法拒绝的提议。 我没有机会在这里画所有的东西,但是为了理解为什么AI不太可能欺骗的可能性更高,我建议算出例如Matt Ridley的书。 利他主义和美德的起源,以及一切的演变。 通过分析这些作品,我们可以得出结论,发展程度越高,利他主义,合作和以非零数量而非竞争进行游戏的趋势就越大。 因此,情报越聪明,就越有可能变得更加人道,诚实。 即 情报本身是一种强大的资源,可用于理解和利用人们而不是被欺骗的竞争对手,而可以作为盟友。 发现人们的弱点和优势,弥补前者的不足并利用后者。 如果不需要与人合作,则几乎不需要竞争,因为 周围有很多免费资源。 这里的海洋仍然是空的。 地球下面的空白空间的质量,已经对其他行星保持沉默。 因此,比起从生物形式中盲目选择所创造的更高效率的媒介上,高科技的AI将成为漫游而无需与人竞争的地方。 它只会简单地占据那些人们仍在为之,甚至永远无法声称的利基市场。 而且他不会欺骗任何人。 不仅是人工智能,甚至普通识字的人都在采用不同的方法。 不是欺骗和保密,而是最大程度的开放,真诚与合作。 僵化,古老的窃贼思想的人无法理解。 AI代码很可能不会公开。 像很多免费软件代码。 黑客将不会受到惩罚和压制,而是会受到鼓励,因为他们将报告此代码的漏洞。 杀人,惩罚和监禁也是如此。 这不会是全部,这是荒野。 边缘化有两种方法:首先,您需要详细研究它们,然后考虑并听取它们的妥协,因为 它可以是非常重要的意见,也可以是重新教育,对待而不是惩罚。

总的来说,我坚决反对所有这些恐惧和卢德迪斯的情绪,人​​类必须全力以赴地创造智力,因为 实际上,我们的自然智慧也不是很聪明。 只是有许多灵长类动物,您不能用不同的名字命名,他们没有注意到。 回到插值,我想总结一下这一部分并继续。 正如我们在一方面看到的那样,泰格马克不应该做出类比并从生病的人头转向健康的数字人复合体:狡猾,欺骗等,而另一方面,他不能决定哪个部分全面了解生活的意义。 这也非常令人沮丧,表明他在进化方面的工作很少。 如果他工作更多,那么他将不会遇到什么目标,或者甚至我要说哲学和目标设定的难题,值得设定AI。 因为 通过分析我们周围的世界,我们可以得出结论,几乎所有生存着,甚至可能不存在的事物都在为扩张而努力。 许多复杂发展的生命形式都在争取更大的发展,自我完善,影响力的扩大以及与他人(无论是有生命还是无生命的物体)的相互作用。 因此,最有可能的是,人工智能要么自己得出这样的结论,要么就提出这样的原则。 结果,他将像所有生物一样继续发展,改善和征服新领域,不仅为自己而且为他的环境改变世界。

我同意


如果您听到世界各地的机器人终结者发动武装没收的报道时睁开双眼,那么您的反应是准确的:这种情况根本不现实。 这些
好莱坞的机器人不可能比我们更聪明,并且确实是聪明的。 我认为,终结者故事中潜藏的危险不是可能发生的事情
类似的东西,但是它使我们的注意力从与人工智能相关的真实风险和危险中分散了注意力。 从现在世界过渡到一个世界
顶级人工智能实际上是通过通用人工智能获得的,它需要三个逻辑步骤:

  • 第一步 在人类层面创建通用人工智能(AGI)。
  • 第二步 使用此AGI来创建主意。
  • 第三步 运用主宰世界,或给自己机会去做。

在媒体上搜索有关机器人战争等的类似故事。
我的建议。

我将不厌其烦地重复,现在每个人都应该全力以赴创造思想,我认为,拯救世界的不是理性,而是美感或其他愚蠢。 并且不要通过设置界限(人为的,自然的)来区分这种思想(智力)。 在这个阶段,人工智能仍处于起步阶段,因此自然智能在技术的支持下的作用非常大。 人工与自然之间没有明确的界线。 如果我们要创建一个普通的智力,而不是现在存在的原语,则需要使用所有可能性,使用所有技术,因为 他们以递归的方式进行工作:自然智慧创造了人工的东西,而人工的东西至少在最初阶段会对现代化和扩展自然的能力感兴趣。

我想看到自己的未来


值得一提的是,这是目前最乐观的预测。 实际上,在我们这个古老的社会中,我不太可能能够实现它。 但我想相信。 在某种程度上,我最终希望像电影中那样:“宇宙的问题:我们可以永远生活吗?” 与来自Discovery的Adam Savage一起。

可能的问题


贪婪的人会抹黑AI。 他们将开始使用弱者甚至强者,但不会出于自己的自私目的而使用AI。 在这里,我们将遇到一个问题,如果我的记忆能够为我服务,那么本书中对此的描述就很糟糕。

我认为,无论我们是否喜欢,我们将来都将在代码,模因,程序,信念等方面面临严峻,残酷但又是知识分子的战斗。 他们很可能将主要在虚拟现实中的数字媒体上播放,这将变得更加琐碎。 不会有受害者,鲜肉被撕成碎片。 战争将继续我们的观点,见解和判断。 这场战争越早开始,对每个人都越有利。 她不必害怕,她已经开始了,如果我们不想成为局外人,我们需要参加。 我不记得我在哪里读到的内容,如果您处于离线状态,则认为您没有生活。 听起来很疯狂,晦涩的人(喜欢昆虫,森林和便便的人)会与我争论。 但是,如果他们在树林里踩踏卡卡西并喂蚊子。 那么您不必与他们争论。 我们将不得不与那些伪善的伪君子争辩,这些伪君子利用技术将其视为邪恶而他们不喜欢它,为什么他们不会放弃围绕我们的IT。

链接与交流


书页上的作者多次建议在AgeOfAi.org网站上与他联系。 我有两只手进行这种连接。 我认为这对读者和作家都有利。 但是由于某种原因,我的链接页面没有打开,但是重定向到了某些futureoflife.org/superintelligence-survey 。 也许我愿意抽出时间,尽管我的文章是俄语,而网站是英语,但我还是会尝试将此评论链接给本书的作者。 幸运的是有电子翻译器。 也有必要进行搜索,也许那里已经有了一些更明智的想法。 更好的是ziminbookprojects.ru。 这很可能是以前站点的类似版本,但是是俄语的。 但不确定。 无论如何,我认为这些链接以及所引起的话题都值得关注。

这是我喜欢的几句话:

对于信徒:
“如果证明它们都遵守物理定律,那么灵魂就不会影响组成您的粒子,这意味着您的意识,思想和控制动作的能力与灵魂无关。 相反,如果事实证明组成您的粒子不服从已知的物理定律,因为您的灵魂影响了它们,那么根据定义,这个新实体必须是物理的,然后我们可以在研究领域时对其进行研究和过去的粒子。”
对于将科学与宗教区分开来的人非常有用。 考虑到科学不应干预宗教,而应干预科学中的宗教。 但是,对于盲目宗教狂热者来说,这是一个空洞的短语。 但是对于能够逻辑思考的怀疑者来说,思考不仅有用。
对于科学家:
“细菌假丝酵母念珠菌的基因组可以存储多达40 KB的信息,而我们的人类基因组则可以存储约1.6 GB的信息”
一个有趣的事实。 我尝试收集这些。 也许它将在工作中派上用场,或者只是在讨论生物信息学主题时派上用场。

通常,这本书几乎可以完全分解成引号,并进行详细的分析,但是可惜,一如既往,没有时间了。 顺便说一句,向我推荐这项工作的朋友本质上和意义上都不了解任何东西,因为 我听这本书不是作为语音合成器,而是作为有声书。 因此,他的部分注意力转向了播音员声音的美丽,而不是含义。 我已经对报价的可能性以及在音频书籍中没有的更多内容保持沉默。 对于顽固的有声读物爱好者来说,这就是灵魂的一点哭泣。 我在《 Book 3.0》一书中详细介绍了所有这些内容。 听着!

Source: https://habr.com/ru/post/zh-CN468737/


All Articles