开发者的十诫

一开始就是这个词。 这个词就是代码。


在第一世界的国家中,高科技管理着电源和物流,提供了获取信息和服务的途径。 距患者数千公里的医生使用机器人工具对大脑进行操作。 我们可以随时与亲戚和朋友交谈,他们都在地球的背面。


以及代码控制冲击无人机的行,其操作员并没有特别选择受攻击的人是武装分子还是非战斗人员。 它们形成了在社交网络中保持注意力的机制,从而导致上瘾的行为场景,FoMO(害怕错过,多巴胺倦怠和抑郁)。 管理DarkNet的电子药品和武器市场。



IT开发人员的职业已经成长和成熟-在享有权利和特权之后,现在应该出现责任和限制了。 所以以前是和医生在一起,过去是和军队在一起。


到障碍!


开发人员下班回来,在他的头顶上有一张妻子的清单:“购买白菜全面包黄油香肠香脂用于牛海绵,维纳斯剃须刀使用新的Cosmo号”-由于他在远雪天的代码,他甚至都没有想到多边形沿着边缘的山丘移动。 同时,开发商回忆说,该清单还包括“约翰逊婴儿油和有益细菌的酸奶”。


IT架构师坐在舒适的皮椅上,对着穿制服的男人望着,抑制了本能地吠叫“先生,先生!”的欲望。 而且,他也含糊其词,尽管大致知道他的团队的代码最终会去哪里。


公司老板已经在喝着格兰菲迪1937啤酒,还有一个十星级的将军,已经在计算联合项目的利润。


集体责任是好话。 但这在现实中很难适用。 一个普通的表演者从来没有真正考虑过他的成就是如何被普遍使用的。 此外,“ 给我们感动的现实 ”暗示,绝对善与绝对邪恶的概念是非常武断的,不仅取决于时代和文化背景,而且有时还取决于地理坐标和政治要求。


值得考虑道德问题,主要是不要溜进著名的曲棍球:


男人渴望男性的肉。
我一个人站在火枪手的斗篷里用剑站立。
远离恶毒的乐趣。”


好公司和项目专家


在2018年3月,众所周知谷歌正在帮助五角大楼开发人工智能,该人工智能分析了实时战斗无人机视频。 Google最高管理层称赞该项目的价值-预算达到2.5亿美元。


Project Maven是用于高空航空摄影的专业软件,能够识别运动物体,跟踪其运动路径并将信息实时传输到美国国防部的服务器。


大约四千名Google员工签署了一份请愿书,要求“好公司”停止参与Project Maven项目,并避免将来与五角大楼共同开展项目。 Google在一份请愿书中说:“ 我们认为Google不应从事军事业务。 因此,我们要求您废除Project Maven,以及准备,发布和实施明确,准确的政策,使Google及其承包商永远不会创造战斗技术 。”



Google开发人员在一封公开信中的请愿书得到了从事人工智能领域工作的90位知名科学家的支持。 此外,在加利福尼亚州和华盛顿州召集IT工作者的非营利组织Tech Workers Coalition已呼吁其他大型IT公司拒绝与美国国防部合作。


反对Maven项目的Google员工解释了他们的立场:由于错误的成本太高,人员而不是人工智能应该分析战机上的信息。 毫无疑问,人工智能可以将移动的物体与静止的物体区分开,将活的生物与无生命的物体区分开。 但是,要确定一个人是好战分子还是非战斗人员,是不可能的。


显然,五角大楼已经深深地错开了星云,将有多少平民遭受人道主义轰炸。 但是,正如Google的反应所显示的那样,开发人员不在乎其代码的使用方式。


Gizmodo引用Google的消息来源,分享了信息,结果大约10名员工出于道德原因离开了公司。


其中一位退出者说:“ 在某个时候,我意识到我无法知道我所知道的情况而自愿建议任何人去Google。 如果我不能再向其他人推荐这家公司,那我为什么还留在这里?


Google的代表并未开始与媒体讨论解雇雇员的问题。 但是在2018年6月,该公司拒绝履行五角大楼的订单。


无论如何,美国国防部得到了想要的东西。 开发服务不是Google而是由Anduril Industries提供,其所有者是Oculus Rift虚拟现实头盔的发明者,Oculus VR的创始人之一Palmer Lucky,他显然并不十分关注军事技术开发中的道德问题。


Good Corporation和中文搜索引擎


少有名气的是关于中国搜索引擎发展的故事。 中国的信息政策众所周知-金盾计划(Golden Shield)禁止访问许多外国站点,未经特别许可,中国媒体无法链接到外国新闻站点获取的新闻,搜索结果中的页面用与国家安全相关的关键字过滤。 实际上,“中国大防火墙”是第一个在网络上进行深度审查的案例,是对未来“精彩新世界”的一种问候。



2018年8月,超过1,500名Google开发人员签署了一封集体信,抗议为中国开发经过审查的搜索引擎。 开发商说,谷歌内部存在一个秘密项目来创建这样的搜索引擎,它将按照北京的要求审查内容,这引发了复杂的道德和伦理问题。


长期以来,谷歌一直希望回归中国市场。 建立这样的搜索引擎是谈判的条件之一。 为了扩大中国市场,Google愿意偏离言论自由原则,并服从中国当局的要求。


为此,公司成立了一个单独的团队,自2017年春季以来,该团队一直在开发代号为Dragonfly(“蜻蜓”)的项目。 2017年12月,Google首席执行官Sundar Pichai与来自中国的政府高级官员会面时,更多的资源转移到了该项目中,并尽可能地加快了速度。


在开发人员提出抗议之后,Google管理层不得不暂停该项目并向员工解释。 Sundar Pichai在会议上试图向Google开发人员保证:“ 我们离在中国推出搜索产品还差一点。 到底我们是否会做,以及我们是否会做,还不清楚 。”


显而易见的结论


与所有诚实的人一样,Google开发人员从在线出版物The Intercept的页面上了解了Dragonfly项目,该出版物由eBay的创始人Pierre Omidyar资助。 再加上从Google手中夺取Project Maven的Anduril Industries的案例,我们看到道德问题经常在竞争中使用。 公司的拥有者IT伦理学不像国王企鹅那样对相对论感兴趣。


Google对于重返天帝国的信息空间非常重要。 从2006年到2010年,谷歌在中国安静地开展工作,并以与百度相同的方式限制信息的访问。


但是在2010年,发生了一些事情。 在Aurora行动期间,中国黑客入侵了Google,Yahoo,Adobe等大公司的服务器。 随后,谢尔盖·布林(Sergey Brin)抓住机会,描绘了侮辱性的纯真,并说他不会容忍审查制度-尽管从2006年到2010年,谷歌是中国审查制度的一部分-并将公司撤出了中国市场。


神秘的真正原因。 要么美国政治,要么谷歌无法融入复杂的东方关系体系,要么中国人将其挤出,不信任美国领土上的美国体系-谷歌只是在一场糟糕的比赛中表现出色。


但是现在,谷歌显然对这一决定感到遗憾。 原因:Android和Google Play。



根据App Annie的报告,此应用总计下载,并按国家/地区分类。


2018年,全球应用程序下载总数超过1940亿次-其中50%以上来自中国。 2019年第一季度,中国移动应用平均安装数量为每人52个应用。 谨在此提醒您,Google Play在中国无效。



根据App Annie的报告,用户在世界各地的应用商店中以及在不同国家/地区分别花费用户。


2018年,用户在应用程序商店上的支出超过1010亿美元.2018年,用户支出的40%是替代中国商店。 这些天文数字由Google传递。 是可耻的吗? 就这样


因此,人们非常怀疑谷歌没有停止与中国政府的联系。 甚至使外部员工放心。 “良善结合”的领导在非公共领域留下了巨大的回旋空间-从创建忠诚的员工将在其中工作的独立子单位开始,最初同意开发不完全符合道德目的的技术,最后是将技术转让给中国同志。 赌注太高了。 正如托马斯·邓宁(Thomas Dunning)所说:“ 提供10%的资金,并且同意任何使用,以20%的资金变得活跃,以50%的资金积极准备打破僵局,以100%的价格违反所有人类法律,在300%的国家没有此类犯罪,只要不怕绞架,他就不会冒险 。”


南桥伦理


当您评估其他公司的职位时,您必须走到“您”的位置并坦率地说。 而且,由于他们提出了这个话题,所以值得一提的是我们如何解决公司的道德问题。


我向南桥首席执行官伊戈尔·奥莱姆斯基(Igor Olemsky)问了这些问题。


指导我们公司的青绿色原则旨在为客户,员工和外部世界做得更好。 尽我们最大的能力。

自然,我们不会与提供我们支持直接违反俄罗斯联邦法律的服务的客户合作。 甚至没有什么要讨论的。 出售武器,出售香料,提供贴心服务的门户,带有色情内容的门户。

但是,还有一个灰色地带,不受法律管制,但不会引起特别的热情。 例如,在线赌场或金字塔计划。 合乎逻辑的是,这种活动不会使世界变得更美好,并且与绿松石原则背道而驰。 当然,公司必须赚钱,但是重要的是,这不要与团队的内部信念相矛盾。

最近有一位客户想要使用池中的IP欺骗来解析站点。 他报告说,他完全在法律领域行动。 我们拒绝-公司反对此类活动。

没有回报的点


全球IT市场存在独特的情况。 高技能开发人员的赤字很高。 IT领域的快速发展,当时大学根本没有时间来创建合适数量的专家。 几乎所有经济领域都依赖IT专家。 大型国际公司的成功和盈利能力取决于内部开发团队。


开发人员可以在这里和现在为习惯于指挥自己的人指定术语。


在人类社会中,道德规范通常出现在与人们的生活和健康相关的职业中。 在俄罗斯,有一个军事誓言,有一个俄罗斯医生的誓言。


遗憾的是没有政治誓言-正是由于他们的决定,个人恐惧和幕后游戏,地球上才有大量人丧生。 有时似乎政治不是职业,而是精神偏差。


现在,当人们的身心健康取决于专家时,IT开发人员的职业已接近极限。


不幸的是,在少数情况下,开发人员会提出复杂的道德问题。 在大多数情况下,人们宁愿不考虑工作的后果。


Slerm DevOps的特邀演讲者爱德华·梅德韦杰夫(Eduard Medvedev) 在最近的一次采访中回答了一个问题 :“ ...不幸的是,我不认识专门针对网络上新的道德和伦理问题的大型社区。 我怀疑它们是存在的,因为它们不能不存在。 但是,尽管我对这个问题很感兴趣,但我不了解他们的事实仍然说明了一些事情 。”


我认为,迟早,IT专家之间将进行广泛的讨论,这样就不会针对特定公司的可疑项目提出道德问题,也不会“落空”以使员工放心。 这样,“从下面”运动就形成了简单明了的规则,这些规则可能不会使世界变得更好,但不会使世界变得更糟。


开发人员Decalog


让我们尝试在思维博弈的框架内,想象一下21世纪开发人员的原则听起来如何:


  1. 开发人员不能伤害他人,也不能通过无为而伤害他人。
  2. 开发人员必须服从团队负责人的所有工作任务,除非这些命令违反《第一法》。
  3. 在不违反第一或第二定律的前提下,开发商必须注意自己的安全。
  4. 开发人员不应在没有需求的情况下获取他人的代码。
  5. 开发人员无法创建可能危害人类生活和健康的代码。
  6. 开发人员无法创建能够限制基本人权(言论,思想和信仰自由)的代码。
  7. 开发人员无法创建将用于限制人们访问可靠信息的代码。
  8. 开发人员无法创建使用人员的神经生理和心理漏洞来控制其行为和时间的代码。
  9. 开发人员必须为没有任何事情总是可以正确和符合道德的事实做好准备。
  10. 开发人员必须为所有可能出错的事实做好准备。
  11. 等等等...

Source: https://habr.com/ru/post/zh-CN469927/


All Articles