埃隆·马斯克（Elon Musk）和Y Combinator如何计划制止计算机暴政
他们将资助一个新的组织OpenAI，以创建最先进的人工智能类型-然后将结果提供给社会。
仿佛AI开发领域缺乏竞争-Google，Apple，Facebook，Microsoft之类的巨头，甚至Toyota这样的汽车制造商已经在尝试聘用研究人员-它可以欢迎新的参与者，但不是一个简单的参与者。这是一个非营利性组织OpenAI，该公告于2015年12月宣布，并誓言将所有工作成果（包括专利）提供给公有领域-避免因计算机在人的智力方面超群而引起的反乌托邦。资金将由一群技术名人提供，包括Elon Musk，Reid Hoffman，Peter Thiel，Jessica Livingston和Amazon Web Services等人。从长远来看，他们计划共同花费10亿美元。 Y Combinator的主管Musk和Sam Altman（其研究团队也将做出贡献（Altman也将参与））将领导该项目。在本系列中看到以批评AI而闻名的《面具》也就不足为奇了。但是Y Combinator呢？创业孵化器于10年前作为一个夏季项目开放，为六家创业公司提供了资金。孵化器向创始人支付了工资，并为业务发展提供了宝贵的建议。自那时以来，YC已帮助包括Dropbox，Airbnb和Stripe在内的近一千家公司成立了研究部门。在过去的两年中，它一直由奥特曼（Altman）管理，奥特曼的公司Loopt成立于2005年，2012年以4,320万美元的价格出售。尽管YC和Altman创立了OpenAI，并且Altman还是该企业的主管，但它仍然是独立的。从本质上讲，OpenAI是一个旨在对付大型公司的研究实验室，这样大型公司就无法通过接受AI来赚取太大的利润。该项目还将与可以利用人工智能增强其权力并压迫公民的政府合作。这听起来太理想化了，但是该团队已经聘请了一些认真的人，包括前Stripe首席技术专家Greg Brockman（他将担任OpenAI的技术负责人）以及世界一流的研究人员Ilya Sackweaver，他曾在Google工作并属于著名的年轻科学家小组，在神经网络先驱Jeff Hinton的领导下在多伦多学习。他将担任研究部主任。其他空缺由才华横溢的年轻人担任，其简历包括研究项目，Facebook AI和DeepMind的工作。该公司还拥有明星顾问，其中包括计算机科学的先驱之一艾伦·凯。项目负责人与我讨论了他及其抱负。首先，我与奥特曼交谈，然后在马斯克和布罗克曼的陪同下与他交谈。我将它们合并为一篇文章。这一切是如何开始的？
萨姆·奥特曼（Sam Altman）：一个半月前，我们成立了YC研究团队，但是关于AI的想法已经像Ilona一样访问了我很长时间。如果您考虑到整个世界的未来最重要的事情，那么在我看来，好的AI将是其中最重要的事情。这就是为什么我们创建OpenAI。该组织将尝试开发以人为本的AI。而且由于它是非营利性的，所以全世界都会拥有它。埃隆·马斯克（Elon Musk）：您知道，一段时间以来，我一直对AI感到恐惧。我和Sam和Reid [Hoffman]，Peter Thiel等人聊了很多。我们认为：“没有办法确保或至少增加人工智能给我们带来任何好处的可能性吗？”谈话的结果是，我们认为组织一个NPO是一个好主意。我们将非常认真地致力于安全性。从哲学的角度来看，有一个重要因素：我们需要一种广泛的AI。有两种意见-我们需要大量的AI还是仅需要少量AI？我们认为很多更好。可以将它们表示为人类意志的延伸，这是很好的。人的意志？
IM：AI是自我的延伸，也就是说，一个人与AI共生，而不是AI是某种中央情报。您如何看待Internet上的应用程序-您拥有电子邮件，社交网络和移动应用程序。从本质上讲，它们使您成为超人，并且您不会将它们视为独立的事物，而是将它们视为自己的延伸。因此，在我们可以朝这个方向进行AI的范围内，我们希望做到这一点。我们发现许多志同道合的工程师和AI研究人员也有相同的想法。SA：我们相信，如果AI朝着提高个人能力和改善人才的方向发展会更好，并且所有人都可以使用，而且不是唯一一个比人的能力高一百万倍的实体。由于我们的公司是非营利性组织，因此我们将不专注于增加股东利益，而是专注于对人类未来最有利的事物。但是Google不会像机器学习那样与公众分享开发成果吗？
SA：他们有很多共同点。但是随着时间的流逝，随着我们越来越接近超越人类智能，Google决定分享什么的问题就出现了。您的项目将不会超越人类的智慧？
SA：我是这样认为的，但这将是一个开放源代码项目，任何人，不仅仅是Google，都可以使用。小组将开发的所有内容将提供给所有人。如果您进行这项工作并根据需要进行调整，则不必共享结果。但是我们所做的一切将对所有人开放。如果我是Evil博士，并出于自己的目的使用它？你不帮我吗？
IM：这是一个很棒的问题，我们对此进行了很多争论。SA：关于这个问题有很多想法。正如人们通过很多人并且只有一名医生来保护人类免受邪恶医生的侵害一样，我们认为我们的计划将奏效，其中许多AI将与稀有恶棍对抗。这种方案比只有一种AI的方案要好，比其他任何方案都要强大。如果这个强大的东西飞起来，或者Evil博士控制了它，而他却没有反对的话，那将是一个大问题。您会控制OpenAI的发展吗？
SA：我们希望随着时间的推移建立一个控制系统。到目前为止，只有我和艾隆。真正的AI的发展距离还很遥远。我认为我们将有足够的时间来创建控制功能。IM：我将每周或两周与办公室的项目团队一起度过一段时间，学习更新，表达我的看法，并了解AI的发展程度以及我们与危险事物的距离。就个人而言，我将非常重视安全性。我对此很担心。而且，如果我们发现一些危险的时刻，我们一定会公开宣布。你有邪恶的人工智能的例子吗？
SA：有很多科幻小说，在实施之前还存在很多年了-终结者之类的东西。我不担心很快就会发生这种事情。但是，尽管这不是邪恶的AI，但是将要面对什么样的问题，而通用自动化和工作的消失将是什么样。邪恶的AI的另一个例子是，当人们谈论比人类更好地破解计算机的智能程序。这已经在发生。您是否从某种现成的系统开始工作？
SA：不。这项研究将在任何实验室中开始，并且在很长的一段时间内，它将看起来像一个实验室。到目前为止，还没有人知道如何构建它。我们已经有八名研究人员，并且数月之内还将有几名研究人员加入该项目。到目前为止，他们将在YC办公室工作，随着他们的成长，他们将搬到自己的办公室。他们将玩弄想法并编写软件，以了解他们是否可以发展当前创建AI的艺术水平。外面的人会参加吗？
SA：当然可以。开放计划的好处之一是实验室可以与任何人合作，因为他们可以自由共享信息。与Google员工合作非常困难，因为他们有大量的隐私限制。Sam，如果OpenAI将在YC办公室工作，您的初创公司是否可以访问其工作结果？
SA：如果将OpenAI开发为一种有趣的技术，并且每个人都可以免费使用它，那么这对任何一家技术公司都是一个好处。但仅此而已。但是，我们将要求我们的初创公司提供他们认为适合OpenAI的尽可能多的信息。Ilon还将考虑Tesla和SpaceX可以共享什么。例如，可以共享的信息是什么？
SA：很多事情。例如，Reddit上的所有数据都是很好的训练集。特斯拉机器人移动培训视频也将非常有价值。大量数据非常重要。人们通过阅读书籍变得更聪明。但是一个人只有自己读书，才能变得更聪明。例如，如果其中一台特斯拉机器发现了有关新情况的信息，那么所有特斯拉机器都会自动从中受益。IM：总的来说，我们没有很多具体计划，因为该公司还处于起步阶段。她处于胚胎状态。但是，特斯拉确实拥有来自现实世界的大量数据，这要归功于我们车队每天积累的数百万英里。特斯拉拥有的现实世界数据可能比世界上任何其他公司都要多。
人工智能需要强大的计算能力。您将拥有什么基础设施？
CA：我们与Amazon Web Services合作。他们提供了一个非常大的容量项目。该项目将获得十亿美元？
IM：我们可以说还会有更多。我们没有给出确切的报价，但是所有这些人都将获得可观的收入。现在几点
SA：创建系统所需的时间。我们将节省下来，但是该项目显然是设计了数十年，并且将需要大量的人员和设备。利润对您来说不是强制性的吗？
IM：是的。这项投资没有利润。收入可能会在将来出现，就像斯坦福大学的非营利研究所所收到的一样。将来可能会出现收入，但不会有任何利润丰富共同所有者，不会有股票和其他东西。我们是这样认为的。Ilon，据我所知，您之前曾投资DeepMind AI公司，原因大致相同-跟随AI的发展。然后Google买了它们。这是第二次尝试吗？
IM：从通常意义上讲，我实际上不是投资者。我不以赚钱为目的进行投资。我投资于我要帮助创建的公司，并且我可以出于我所追求的某个目标或出于使我兴奋的目的而帮助一个朋友。在物质上，我不会在公司以外进行多元化经营。但是，我对DeepMind的“投资”是为了更好地理解AI及其监视（如果您愿意）。您是否会与可以在DeepMind，Facebook或Microsoft工作的最好的科学家竞争？
SA：到目前为止，招聘进展顺利。研究人员对自由，开放和分享工作成果的机会感到非常满意，而这并不是在常规生产实验室中进行的。我们已经组建了一支高素质的初始团队，其余人员仅会与他们一起共同工作。我也认为我们的使命，愿景和结构在人们中很受欢迎。您需要多少研究人员？几百个？
SA：也许吧。让我们回到这样一个想法：一般使用AI可以使我们免受负面影响。是否存在使它更易于访问会增加您的潜在危险的风险？
SA：我想算一下我与Ilon和其他人争论的所有时间。还有100％我不确定。您不确定100％？但是尝试不同的开发选项。在技术方面，通过保密进行安全保护很少起作用。如果有人孤单，如何确定谁拥有Google，美国政府，中国政府，ISIS（俄罗斯禁止的组织-大约翻译），或者谁？世界上有很多恶棍，但是人类正在蓬勃发展。如果其中一个人比另一个人强大十亿倍，会发生什么？IM：我认为防止AI使用不当的最佳方法是武装尽可能多的人。如果每个人都具有AI功能，那么将不会有那么少的人拥有超级能力。伊隆，您是两家公司的董事，并且是第三家公司的董事会成员。似乎您没有太多时间可用于他的新项目。
IM：是的。但是AI的安全性一直压在我的脑海上太久了，我认为为了我的安心，我会与自己打交道。 Source: https://habr.com/ru/post/zh-CN396621/
All Articles