员工敦促Google停止开发五角大楼战机的机器视觉



“我们认为Google不应成为军事行业的一部分。 因此,我们要求公司取消Maven项目,并发布并应用一项政策,明确规定Google和其承包商均不会建造军事技术,”写给雇主的集体信件的开头,该信已由Google员工大量签署。 据“ 纽约时报”报道 ,该文件已经被超过3,100人签名。 编辑得到了文本(pdf)

众所周知,一个月前,这家搜索巨头与美国国防部签署了一项合同 。 作为Maven项目的一部分,到 2017年底,计划“将先进的计算机算法引入政府平台,以识别大量运动图像或静止图像中的物体。” 实际上,这是用于军用无人机的机器视觉系统。

在信中,Maven项目被简要描述为“一种定制AI引擎,它使用美国政府无人驾驶飞机收集的广域运动图像数据来检测车辆和其他物体,跟踪其运动并将识别结果传输给国防部。”

在普通的Google员工中, 对该项目讨论至少持续了一个月 。 信中说,起初他们试图在公司内部讨论问题。 谷歌黛安·格林(Diane Greene)董事长致辞。 她向Google保证,该技术不会“控制无人机”,也不会“用于发射武器”。 这些事实似乎足以使所有人放心。 但是没有 实际上,该技术可以用于许多其他军事应用,包括携带致命武器的作战无人机。 而且,没有人保证无人机运营商会在收到Google的数据后决定使用这种武器。 普通的民用程序员,机器视觉和人工智能专家不愿承担这种责任。

在2017年秋天的人工智能和全球安全系统峰会上,埃里克·施密特(Eric Sc​​hmidt) 担心这种先进的机器视觉系统和AI可能会“被军方滥用以杀人。” 据他说,在技术行业中对此存在一些担忧,因为通常来讲,IT公司根本不开发机器视觉系统。 来自AI的大学和系的许多科学家和研究人员不建议以这种方式使用他们的开发。

五角大楼认为并非如此。 《 华尔街日报》 写道 ,Maven项目于2017年4月启动,去年美国国防部在与人工智能相关的领域共投资了74亿美元。 现在,所有有关购买设备和软件以及AI系统实施的工作都在Maven项目的框架内进行了协调。 主要任务是对侦察无人机拍摄的大量视频帧进行对象识别和分析处理。 基于此信息,可以做出销毁目标的决定。

信中说:“这项计划将无可挽回地损害品牌和谷歌在劳动力市场上竞争的能力。” -由于人们越来越担心偏向和武装的AI,Google已经在努力维持公众信心。 通过签署此合同,Google将加入Palantir,Raytheon和General Dynamics等公司的行列。 微软和亚马逊等其他公司也参与该项目的说法并不能降低谷歌的风险。 “谷歌的独特历史,座右铭“ 作恶 ,以及对数十亿人生活的直接影响,使谷歌无法想象

员工认为, 不可能将未经许可的技术使用责任转嫁给未经授权的人员 。 Google陈述的价值观清楚表明每个用户都信任公司。 您永远不会冒险。 该合同危及Google的声誉,直接与核心价值相抵触。 信中说:“创造这种技术来协助美国政府提供军事情报,甚至可能导致死亡,是不可接受的。”

因此,数千名签署信的员工要求管理层:

  1. 立即取消该项目。
  2. 设计,发布和执行明确的政策,规定Google及其承包商均不会创造战争技术。

为了回应公众的抱怨,Google 取消了五角大楼使用“任何Google Cloud用户都可以使用的免费软件”的预订 。 该技术“用于识别一个人要研究的候选图像,旨在挽救生命,并使人们免于繁琐的工作。”

根据可获得的信息,在不久的将来,谷歌,亚马逊和微软将争夺价值数十亿美元的合同,向美国国防部提供云服务。

Source: https://habr.com/ru/post/zh-CN411323/


All Articles