亚马逊,谷歌和微软员工抗议与军警的合作

亚马逊,谷歌,微软的员工反叛。 与Petagon,反移民服务和执法机构的合作使他们感到愤怒,因此,科技巨头的领导必须遵循道德考虑。 这剥夺了该公司与政府签订的繁重合同。

哈伯(Habr)-不是政治场所,而是讨论某些问题的伦理道德的地方。 让我们了解一下,雇主的看法与公司的雇员不同。



微软,Saleforce和非法移民与儿童的分离


美国爆发了一桩丑闻:公众和媒体批评总统府唐纳德·特朗普(Donald Trump)对移民采取的强硬政策。 “ 零容忍 ”策略规定了不受任何缓解情况影响的法律规定的最大可能限制和制裁。 美国当局对非法入境的移民使用该政策,并将他们与自己的子女分开。 当成年人处于孤立状态时,儿童被安置在特殊的儿童营中。 6月20日,在人权活动家和记者的压力下,特朗普仍然签署了一项法令,以终止将非法移民家庭分开的做法。

然而,在签署法令之前,当儿童仍被带离父母时,人权活动家采取了行动。 在丑闻的背景下,几家公司倒闭了。 微软因与美国移民和海关警察(ICE)合作而受到批评 。 该公司遭到自己员工的反对。

原因是该公司于2018年1月宣布与当局在面部识别技术实施领域的合作。 然后,在微软的新闻稿中,它表示:“这项新技术将使基于云的身份识别和访问服务的使用成为可能,为美国移民和海关官员以及公民提供服务。 这将帮助员工更快地做出决策。 “ Azure政府将帮助他们利用深入的学习机会来改善面部识别和识别技术。”

为了抗议, 超过300名员工签署了一封公开信 ,拒绝成为孩子与父母分离的帮凶。 后来,微软负责人Satya Nadella 表示 ,合作只涉及对电子邮件,日历和工作流的支持。

6月26日,由于相同的原因,开发同名CRM系统的公司Salesforce.com的员工反对了雇主,这是众所周知的。 650人向公司负责人马克·贝尼奥夫(Mark Benioff)发出呼吁,批评与边境和海关部门的合同:“鉴于儿童与边境父母的不人道分离,我们认为平等的基本价值受到威胁,Salesforce应该审查与该服务签订合同,并反对使用该服务。” 该服务使用Salesforce.com的产品来雇用员工和其他与本主题没有直接关系的工作。

由于一个问题,名为Sam Lavigne的激进主义者根据LinkedIn上的可用信息编制了一份有关为ICE工作的人的信息清单,并将其发布在Github上,并将其报告给Medium。 两种资源都删除了该数据

亚马逊和警察


美国公民自由联盟( ACLU要求亚马逊停止开发人脸识别系统。 在得知该公司正在警察和任何私人公司提供其认可的发展之后,美国公民自由协会开始了调查。

该技术使您可以识别,跟踪和分析人脸,并确定一个人忙于做什么-无论是开车还是踢足球。 一切都是实时发生的。 该组织有信心这种技术将影响许多人,并使其受到监视,从而侵犯了他们的权利。 在它的帮助下,将有可能找出该人何时,去哪儿看医生,他是否在教堂或是否参加过集会。

一些组织发现使用AI来持续监视人类是不可接受的原因之一是测试结果,该结果表明现有系统经常被称为犯罪分子,是肤色比白人不同的人。 根据ACLU的说法,“人们应该能够沿着街道行走,直到当局跟随他们为止。”


人权组织的活动产生了影响。 与微软一样,亚马逊员工也反对警察技术转让。 在致亚马逊首席执行官杰夫·博佐斯(Jeff Bozos)的公开信中,他们还回顾说,在云中,亚马逊网络服务由Palantir租借到服务器,这有助于美国移民和海关警察。 除了冻结合作之外,员工还呼吁采取开放措施,以便将来清楚哪些执法机构使用亚马逊服务。

亚马逊与警察之间的合作真的崩溃了。 在奥兰多,测试Rekognition系统的几个警察部门之一不会扩展该试点项目。

致力于人脸识别技术的公司Kairos的创始人确信,不会在美国各地引入这种系统。 他认为,技术将严重影响各个种族人民的生活,此外,其工作的事实将是侵犯公民的私人生活。 它回顾了中国新兴的社会信用体系 。 在美国,相同的“评分”可能会产生偏见,导致无辜者被捕,并有可能被执法人员杀害:“在充满抗议的社会环境中,人们担心对监狱的过度拘留和非法警察行动,软件的介入“显然还没有准备好在执法中使用平民,它将无法为公民服务,只会造成新的动荡。”

Google的7条AI道德规范


Google已与美国国防部签订合同,开发计算机视觉算法,这是Project Maven的一部分。 该技术专注于使用神经网络的机器视觉的发展,这将允许识别来自无人机的图像,从而提高美国陆军分析人员的效率。 自己的员工开始收集反对军事技术发展的签名并退出公司。

另一批Google工程师对他们的经理们感到惊讶,他们只是拒绝使用“空气间隙”来开发安全系统。 这样的系统的开发将使Google可以竞争有趣的州合同:要获得使用特殊服务的敏感信息的认证,公司需要物理隔离的系统。 在Amazon和Microsoft Azure云中,这些技术已经存在。 尽管这很重要,包括对金融组织而言,但程序员不确定开发是否旨在发动战争,因此抵制了该项目。

Google领导层的让步包括宣布公司承诺遵守的人工智能开发领域的一系列原则 ,以及一系列Google人工智能不可接受的技术:

  • 造成或可能造成普遍伤害的技术;
  • 武器或其他技术,其主要目的或实施的主要目的是造成或直接减轻对人类的伤害;
  • 收集或使用监视信息的技术违反了国际公认的标准;
  • 目的与国际公认的国际法和人权原则背道而驰的技术。

此外,合同到期后,Google 在2019年之后退出 Project Maven。

双重用途技术


可供消费者使用的20世纪许多技术最初都是为军事目的而开发的。 如今在厨房中发现的聚四氟乙烯过去曾用于宇宙飞船,由于需要养活士兵而使产品升华,并且为军方创建了卫星导航。

“双重使用技术”的概念出现在1980年代,现在许多国家的特殊立法对它们的出口进行了管制。 此类产品包括用于民用目的的产品,但可用于军事用途。 机器人技术,生物技术,其加工的材料和方法,电子学,激光,导航-这些以及其他许多领域的发展都是在国家命令的框架内进行的,从而推动了科学技术的进步。 历史证明,有时公司会受到公众及其雇员的批评,这迫使他们重新考虑在与当局合作方面的立场。

亚马逊在公司的声明中表达了自己的立场:“如果仅仅因为有人想禁止新技术而取缔新技术,生活质量就会大大恶化。 想象一下人们无法购买计算机,因为它可以用于非法目的吗?”

一些公司的负责人批评“零容忍”政策。 蒂姆·库克 Tim Cook 反对她:“许多移民在苹果公司工作。 作为DACA计划的一部分(防止童年入境行动,该计划旨在防止小孩子来美国的移民被驱逐出境),我们雇用了300名员工。 我支持他们。”

最近的冲突,甚至是员工罢工,仅反映了技术巨头公司与政府组织之间的合作日益加剧的社会焦虑感。 不仅是技术爱好者,也是普通百姓都惊骇地看到中国的监控基础设施发展得如此之 。 西方文明文化的差异迫使我们制定对监控技术传播的公共控制规范。

Source: https://habr.com/ru/post/zh-CN415251/


All Articles