什么可能是危险的自主武器
作为前五角大楼的一名雇员，他参与了自动武器使用策略的制定工作，这暗示着在现实条件下它是不可控制的，并且有可能被敌人入侵，替代和操纵。近来，廉价的传感器和新的人工智能技术变得更加实用，这使得在自动武器系统的开发中使用它们成为可能。nytimes.com报道，所谓的“杀手机器人”的幽灵已经在联合国引发了一场抗议和讨论的国际运动，以限制这种系统的开发和实施。该报告由Paul Sherry撰写，他在新美国安全中心（哥伦比亚特区华盛顿）负责“未来战争”计划。从2008年到2013年，Sherry在美国国防部长办公室工作，在那里他帮助制定了使用自动武器的战略。 2012年，他成为国防部指令的作者之一，该指令制定了使用此类系统的军事政策。在周一发表的题为“自主武器和操作风险”的报告中，雪莉警告了与完全自主的武器系统相关的许多实际风险。它与无需人为干预就能杀死的全自动系统相比，在选择和击中目标（即使用操作员）的过程中“使人们保持知情”的武器。Sherry曾在美国陆军担任游骑兵并参与了伊拉克和阿富汗的行动，他专注于全自动系统中可能发生的潜在错误类型。为了突出军事意义，该报告列出了高度自动化的军队和商业系统中发生的故障。“任何人都放弃了自动电话支持服务的支持，将闹钟错误地设置为“晚上”而不是“早晨”等等，经历了自动化系统中存在的“脆弱”问题，” Sherry写道。他报告的依据是自主武器系统缺乏“灵活性”，即在执行这样的系统的过程中，任务可能会发生人们本可以避免的错误。完全自主的武器开始出现在各个州的军事武库中。例如，韩国沿着与朝鲜的非军事区安装了一个自动炮塔，而在以色列，有一辆无人驾驶飞机正在服役，它被编程为在发现敌人的雷达系统时对其进行攻击。美军不使用自主武器。但是，国防部今年要求洛克希德·马丁公司远程反舰导弹生产近10亿美元的武器，这被称为“半自主”。尽管操作人员会首先选择目标，但与人员进行外部接触后，它将自动识别并攻击敌方部队。重点是计算机系统行为方面的许多意外情况，例如崩溃和错误，以及与环境的意外交互。“在太平洋上进行首次测试时，Y2K计算机系统在超过日期线的八架F-22战斗机中完全失效“报告说。 “所有机载计算机系统都发生了故障，结果几乎是灾难性的-飞机损失了。尽管日期线的存在早已为人所知，但与软件交互的结果尚未得到充分测试。”作为一种全自动武器的替代品，该报告主张使用所谓的“半人马战”（联合武器？实际上是不可翻译的双关语。）。 “半人马座”一词已用于描述人与计算机紧密集成的系统。例如，在国际象棋中，同时使用人和人工智能程序的团队在与仅使用人工智能的团队的竞争中占主导地位。然而，在一次电话采访中，雪莉承认只有操作员“按一下按钮”是不够的。他说：“仅仅让一个“通知”人员了解机器的动作是不够的。“他们（人）不能只是系统运行算法的一部分。一个人必须积极参与决策。”Source: https://habr.com/ru/post/zh-CN391285/
All Articles