OpenAI开发人员将通过Reddit训练AI

Nvidia首席执行官Jen-San Huang向OpenAI的联合创始人Ilon Mask展示了DGX-1。OpenAI是

一家从事人工智能领域研究的开源非营利组织，它从Nvidia 获得了 DGX-1超级计算机。 OpenAI专家目前正在研究“弱”形式的AI。科学家正在开发可以处理大量原始数据，产生结构化信息数组的系统。这需要功能强大的计算机，而DGX-1是非常强大的计算中心。 Nvidia声称DGX-1基于新一代GPU，其提供的数据处理速度堪比250 x86架构服务器。

OpenAI的创造者是Elon Musk和Sam Altman。该组织的主要目标是吸引AI领域的科学家进行合作。计划将研究结果开放给所有参与者。根据创始人的说法，所有这些都将有助于防止“邪恶的”人工智能的出现。马斯克已经多次指出这种威胁。

DGX-1被定位为世界上第一台具有足够的计算能力来开发AI的深度学习超级计算机。使用这种超级计算机，OpenAI研究人员将能够比传统服务器更快地学习弱形式的AI。在第一阶段，将教AI了解人的文本交流。在这种情况下，一个宝库将充当Reddit。资源的消息将“喂饱” AI，他将学会理解各个单词，其组和句子之间的关系。带有Reddita的文本充满了行话，缩写的事实使任务变得复杂，这些不是专业文本。

OpenAI研究人员Andrej Karpathy表示，随着时间的流逝，自学习AI将会变得更加智能。他说：“深度学习是一类特殊的模型，因为模型本身越大，效果越好。”

语言仍然是人工智能开发人员的重要问题。尽管已经解决了许多问题，但仍有许多问题需要解决。不久前，谷歌进行了一项实验，使用电影中的对话对自学系统进行了培训。一段时间后，事实证明，人工智能为相对复杂的问题提供了可以容忍的答案。有时尝试使弱势的AI和人们更加接近会产生意想不到的结果。今年三月，微软推出了然后在推特上，十几岁的机器人泰（Tay），他一天之内​​就学到了不好的东西。之后，Microsoft员工认为最好删除几乎所有的Tay邮件，然后将其送入睡眠状态。

OpenAI科学家希望了解机器人是否可以通过与现实世界中的人互动来学习语言。 Reddit的实验是预期的一系列实验中的第一步。感谢DGX-1，培训将比计划的要快得多。可以在大于计划的数据阵列的示例上训练AI。除文本外，还将通过反复试验对AI进行培训，以执行许多操作。此方法可用于教授人工智能玩视频游戏。也许他将能够理解，许多游戏中游戏币的积累使您能够增加赚取的积分数量并提高角色的能力。



为什么这一切都是必要的？实际上，可以在许多领域中使用弱形式的AI。例如，创建一个能够做家务的机器人。随着时间的推移，这样的机器人会不断学习，因为它能够学习。还需要一种弱形式的AI来改善包括Google在内的许多公司正在开发的自动驾驶汽车的性能。至于AI的强大形式，值得一提的是，正如马斯克一再提到的那样，他没有开始为自己的目的而使用人。

许多研究人员质疑OpenAI创建“良好”人工超级智能的使命的可行性。根据组织本身的代表，创建恶意AI的威胁已被所有人都能获取技术和开发成果的事实所抵消。同时，牛津大学的科学家尼克·博斯特罗姆（Nick Bostrom）认为，开放会导致负面结果。博斯特罗姆说，人人与人分享研究结果这一事实可能是个问题。 “如果您有一个“让每个人都感到不舒服”的按钮，则您不太可能希望与所有人共享它。” Bostrom说。但对于OpenAI，此按钮将向所有人开放。如果组织隐藏其认为危险的工作结果，则OpenAI的存在将失去意义，因为组织将不再开放。

尽管如此，博斯特罗姆认为应该有积极的结果。主要结果是，在使用强大形式的AI的情况下，控制公司超级智能的可能性降低。垄断强大形式的AI是不好的，OpenAI可能会减少此类事件发展的可能性。

Source: https://habr.com/ru/post/zh-CN396947/