杀手机器人摧毁无辜人民的反乌托邦听起来很糟糕，但直言不讳：这全是科幻小说
Slaughterbots电影中的场景，在一个反乌托邦的未来中，自动杀手无人机落入恐怖分子手中落入恐怖分子手中的杀手级无人机正在组织屠杀无辜者。 大规模毁灭性机器人武器造成了破坏和恐惧。 这部短片是由自动武器禁令的支持者创作的，目的是让您相信这种反乌托邦
已经非常接近 ，必须今天就采取行动。 电影《屠杀机器人》于2017年11月与联合国自主武器大会同时发行。 联合国会议并未以任何具体的结尾而结束，但是视频正越来越受欢迎。 它已经被超过200万人观看，并
发表了
数十篇文章 。 它可以完美地用作宣传。 坚决接受禁止自动武器的禁令，这根本无法应付。
当然，恐怖分子可以向无辜人民发射大量杀手级无人机的世界将是可怕的，但是电影中的未来是否现实？ 美丽的图画有助于掩盖逻辑上的空白。 这部电影使观众沉浸在反乌托邦的噩梦中，但直言不讳地说：这都是科幻小说。
这部电影的主要假设是，未来，军方将制造具有
累积电荷的自治微电子轰炸机，这些微炸药可以飞到一个人的头部并激活爆炸物，从而杀死他。 在影片中，这些杀手机器人迅速落入恐怖分子之手，导致世界各地大量死亡。
主要概念在现实中具有基础。 在我们的世界中，伊斯兰国[俄罗斯联邦一个被禁止的恐怖组织]
使用现成的购买的直升机 ，其中装有少量炸药，袭击伊拉克部队，造成数十名士兵伤亡。 当今的恐怖无人机大多是远程控制的，但是业余无人机变得越来越独立。
最新的模型已经知道如何独自飞越固定目标，绕过障碍物以及独立跟踪和跟随运动物体。 如Slaughterbots电影所示，原则上，配备面部识别系统的小型无人机可以自动搜索并摧毁某些人。 在搜寻互联网的短短几分钟内，我发现了一些资源，您可以在其中下载和训练免费的可识别人脸的神经网络。 尽管没有人将这些技术结合在一起，如电影中所示，但所有组件都是真实的。
但我想声明：我们无法阻止这项技术落入未来的恐怖分子手中。 这是可悲的，但必须理解。 就像恐怖分子可以并且确实使用汽车来冲撞人群一样，将业余无人机变成粗鲁的自备武器所需要的技术已经非常广泛，无法制止。 这是一个问题，对此的最佳回应将是集中于保护性措施，这些措施使我们能够使用监视系统对付无人机并逮捕恐怖分子。 ”
这部电影使用了这个问题，但夸大了它的规模，声称无人机可以被恐怖分子用作大规模杀伤性武器，并杀死数千人。 幸运的是，这种噩梦场景与
HAL 9000一样有可能，后者会阻止您进入网关。 视频中显示的技术是现实的，但其他所有东西都是垃圾。 视频中有以下假设：
- 各国政府将开始大规模生产微型无人机，以用作大规模毁灭性武器。
- 没有有效的防御手段来防御致命的微型电子设备。
- 政府无法抵抗恐怖分子的军队武器。
- 恐怖分子有能力发动大规模的协同攻击。
这些假设从有争议的到奇妙的。
当然，视频本身就是虚构的，负责国防建设的人们经常使用
虚构的场景来帮助政客考虑可能发生的事件的后果。 我是一名智囊团的国防分析师，在我以前在五角大楼的工作中，我参与了战略规划。 我用虚构的场景来说明美军应该投资的军事技术选择。 但是，为了使这些方案有用，它们至少必须是可能的。 这一定是有可能发生的。 电影《屠杀机器人》中使用的脚本无法考虑到政府使用军事技术的政治和战略现实。
首先，没有证据表明政府计划大规模生产小型无人机以杀死大量平民。 在我即将出版
的《无人军：自主武器与战争的未来》 [
无人军
：自主武器与战争
的未来 ]中，我研究了世界各地国防实验室中建造的后代武器。 俄罗斯，中国和美国都参加了自治和人工智能竞赛。 但是他们制造武器，大部分是为了与军队作战。 这些武器的目的是打击军事目标[
抵消力量 ]，而不是打击其他资产，包括平民[
抵消价值 ]。 第一类自动武器固然有其自身的问题，但是它们并不是以大规模杀伤平民为目标而开发的，因此无法对其进行重新配置。
其次，视频讲述了可以克服任何“反作用”的无人机。 电视专家大喊“我们不能保护自己”。 这甚至不是小说，而是闹剧。 对于每种军事技术，都有对立，对小型无人机的反对甚至不能被称为假设。 美国政府正在
积极开发射击，干扰，油炸，破坏，诱捕和其他对抗小型无人机的方法。 视频中的微型无人机可以像丝网一样简单地成功对付。 视频显示重型无人机在墙壁上刺穿了其他人可以穿透的孔-但是简单的多层防御可以帮助解决这个问题。 军事分析家正在研究防御与攻击的价值，在这种情况下，优势显然是静态防御。
在恐怖分子定期使用简易无人机进行攻击的世界中，人们不太可能忍受创建可靠的防御结构带来的不便，就像人们没有穿防弹背心来保护射手不太可能命中一样。 但是，如果一个不友好的国家/地区建造了成千上万的无人驾驶飞机，可以将整个城市从地球表面抹去，那么您可以肯定，如果没有网络，一切都将无法完成。 该录像带提出了一个真正的问题：恐怖分子用无人机袭击-并在不考虑其他方反应的情况下进行缩放。 如果开始以工业规模生产致命微电子管，则针对它们的保护和对策将成为国家优先考虑的事情，在这种情况下，对策就很简单。 可以用金属丝网保护的任何武器都不被视为大规模杀伤性武器。
第三，该录像带暗示军方无法阻止恐怖分子获得军队级武器。 但是今天，我们不向恐怖分子提供手榴弹，反坦克步枪或机关枪[是的，即使是
汤姆·克鲁斯 （
Tom Cruise）担任最后一个
传记片，也没有反驳这一说法。 翻译]。 恐怖分子用无人机攻击使每个人都兴奋，因为他们使用附在完成技术上的自制炸药。 这是一个实际的问题，但是视频再次将此威胁扩展到了不切实际的数量。 即使军方开始制造致命的微型无人机，恐怖分子也能够比其他任何军事技术都更容易获得大量微型无人机。 武器确实逐渐落入了在反面进行的敌对行动的参与者的手中，但是仅仅因为叙利亚装满了反坦克寻的导弹，并不意味着它们很容易在纽约碰面。 恐怖分子之所以使用飞机和卡车，恰恰是因为将军用武器走私到西方国家并不容易。
电影中的杀手级微型无人机第四，视频暗示恐怖分子有能力以难以置信的精确协调进行攻击。 在一个情节中，两个人从货车门上释放了50架无人驾驶飞机。 这个情节本身是很现实的。 自主武器的问题之一是，一小群人可以发起比常规武器更大的攻击。 拥有50架无人机的货车是足够合理的选择。 但是这部电影使这个主意变得荒谬。 据称，约有8,300人在同时袭击中丧生。 然后，如果携带货车的人描绘了一次典型的袭击，那么对于这种破坏，恐怖分子将不得不在全球范围内进行约160次袭击。 恐怖分子确实确实经常进行有组织的攻击，但他们的人数通常
不超过十 。 该视频不仅假定存在超级武器，而且还假定它落入了超级反派之手。
在电影中，炒作和恐惧被用来克服批判性假设，结果干扰了对恐怖分子获得
自动武器的风险的理性讨论。 从视频中可以明显看出我们应该害怕。 但是为什么要害怕呢？ 武器是自己选择目标的（顺便说一下，视频中并非所有内容都很清楚）？ 武器没有对策？ 恐怖分子可以使用武器吗？ 自主武器能力可以扩大攻击范围？ 如果您想引起对杀手机器人的恐惧，那么此视频非常适合您。 但是，当您尝试彻底分析问题时，即使进行简单的研究也无济于事。 该视频没有给出任何论据，但是却在制造廉价的感觉并加剧恐惧。
当然，该视频的目的是鼓励观众表现出恐惧。
该视频以加利福尼亚大学伯克利分校的一位教授
Stuart Russell的话结尾，警告了自动武器的危险，并敦促观众采取行动，以免这种噩梦不成现实。 我非常尊重Stuart Russell，他既是AI研究人员，也是致力于自动武器争端的人。 我邀请罗素（Russell）
参加新美国安全中心的 活动 ，在那里我从事与
人工智能和全球安全有关的研究计划。 我毫不怀疑罗素的观点是真诚的。 但是，该视频试图说服观看者，但制作了不受支持的应用程序。
更糟的是，
提议的解决方案 -
禁止自动武器条约 -不会解决随着武器自主性发展人类面临的实际问题。 该禁令不会阻止恐怖分子制造自制的机器人武器。 此外，视频中显示的对此类武器的禁令不会影响与军事中出现自动武器有关的风险。 实际上，电影中展示的武器是否会落入这样的禁令甚至还不清楚，因为在那里它的作用非常有选择性。
该影片着重于极端和不太可能的场景，实际上阻碍了解决围绕自动武器的实际问题的进展。 研发机器人武器的领导人中的国家很可能会注意到基于这部电影的恐惧。 这部电影为
那些声称对自动武器的恐惧是不合理的并且容易引起过度炒作的
人们倾注了很多心血。
自主武器提出了有关遵守战争法，风险和控制以及人民在敌对行动中的道德角色的重要问题。 这些都是值得认真讨论的重要问题。 当罗素（Russell）和其他人就这些问题进行激烈
辩论时，我欢迎这样的讨论。 但是指定的电影不属于这一类。 该录像带已成功吸引了媒体的注意，但其引起轰动的倾向阻碍了就自动武器这一主题需要进行的认真的智力讨论。
Paul Sharr是新美国安全中心（CNAS）的高级研究员，技术和公共安全总监。 从2009年到2012年，他领导了美国国防部的工作组，该工作组制定了在军备中使用自主权的准则。