Tungsten Labs首席技术官Eduard Medvedev:“我们已经发展到技术可能造成巨大伤害的地步”

如果您突然不知道,今天您可以提升服务器,启动和回滚部署,只需向Telegram bot发送消息即可掩盖群集。


Tungsten Labs(德国)的CTO Eduard Medvedev在Slurm DevOps的第三天发表了主题为“使用ChatOps自动化基础结构”的演讲,并谈到了即时通讯程序与管道的集成。 喝完一杯咖啡后,他接受了采访。


我指望着一个有趣的技术的故事,但最终,谈话变成了IT伦理学的话题。 关于一个人如何变成实验老鼠,每天如何在成瘾和注意力控制算法的迷宫中奔跑,战争如何自动化,武器和毒品贸易如何达到匿名和可访问性的新水平,IT人员如何编写破坏社会和个性的代码-像世界一样古老地躲藏着“我们只是执行了命令”。



让我们像往常一样从头开始。 曾几何时,这里曾是人们居住,编码和部署的地方...告诉我你的道路,你是如何来到现在的位置的?


他长而困惑。 在去德国之前,我搬了很多东西,在挪威学习了一段时间,在美国的一家初创公司工作了一段时间,这些公司大多位于偏远地区。 我认为在俄罗斯,自由职业是一个完全典型的故事,我在泰国生活了一段时间。 我来德国几乎是偶然的-原因更多是出于个人原因而不是工作。 他最终来到了柏林的钨实验室。 现在我回到俄罗斯已经很短了,我在托木斯克呆了很多时间-我喜欢在那里。


您在此过程中可以突出哪些重要步骤?


这是一个棘手的问题。


让我们从高等教育开始吧?


但这是一个简单的问题。 我没有 我从高中开始从事一些兼职工作,先是担任布局设计师,然后是前端开发人员,然后又改用后端架构。 我喜欢学习新的东西,不能坐着不动。 很多自由职业者,然后他全职从事不同项目的远程工作。 通常,当您是自由职业者时,您会学习自律,然后在远程工作一整天时会有所帮助。


您现在是钨实验室的CTO吗?


直到最近,但不再。 是的,最近的全职工作是在Tungsten Labs的STO,但现在我建议更多。 钨实验室包括。


因此,您决定成为一名自由猎人?


到目前为止。


您能记得您经历过的一系列技术吗? 像步骤。


我可以尝试。 我从布局开始,因此是HTML和CSS。 我们在后端选择了一些PHP。 前端有很多JS,后端有Node,还有Python。 对于最后两个,我仍然最舒服,尽管最近我经常不得不为Go编写或添加一些内容。


现在,Go被认为是一种很有前途的语言。 您对此有何看法?


我认为Go周围有很多炒作,只有一部分是有道理的,但是该语言仍然不错并且很有前途。 我现在甚至不会开玩笑。



如此您就学会了某种技术,某种语言-并且它们变得死了吗? 就像同一个Perl。


我认为不是。 当我学到一些东西时,我总是尝试着重于一般概念,无论如何这些概念以后都会派上用场。 因此,我对语言的了解不是很深,但是与此同时,对我来说,学习和使用新知识要容易得多。 我在Elixir上做了一个小项目,在Haskell上写了一些东西,用Tensorflow重建了ML模型。 为了比赛,我不得不在Brainfuck上写一次。 在熟悉一些通用原理,结构和算法的情况下,所有这些操作都容易得多-通常,已经奠定了基础。 因此,我认为没有死的知识。


哪些项目和任务最近成为您的专业挑战? 是什么让您对决策和实施感到特别高兴?


我参加了很多信息安全竞赛,CTF(夺旗)等活动。 甚至是一个小团队。 有一次,我在拉斯维加斯的DEF CON赢得了其中一场比赛的第一名。 DEF CON是此类会议中规模最大,最著名的会议之一。 将近3万名访客,非常庞大。 数百人参加了比赛。 我是第一个。 这是出乎意料的,非常酷。 现在,我可以随时免费进入DEF CON,这对获胜者来说是一个很小的特权。


任务是什么? 简而言之。


简而言之,这不是一项任务,而是数十种不同的任务:Web应用程序中的漏洞,二进制漏洞利用,流量分析以及从磁盘或内存映像中提取密钥。 入侵Wi-Fi网络,捕获无线流量。 密码学。 通常,有必要在很短的时间内吸收和应用许多不同的知识。 我所喜欢的一切,我们已经讨论过了。


什么是价值,对您而言是成功的指标?


对我而言,个人成功的一个重要指标是以下问题:“如果我不在这里,将会发生什么变化?” 就是说,如果我不在那,我所做的事情就会发生,例如,是否在我的工作中。 如果有人在没有我的情况下这样做,那么我的出现似乎并不那么重要。 但是,如果我做了一些没有我的事情就不会出现,或者其他人做得更糟的事情……另一件事。


您认为现在从俄罗斯进入西方IT市场更容易或更困难?


如果您搬家,很容易下车。 空缺很多,专家仍然很少,因此他们经常准备帮助签证,支付旅行费用。 如果您在偏僻的地方,这会更加困难-您可能会遇到这样的事实,即您经常被视为“来自俄罗斯的家伙”。 这意味着您可以支付更少的费用-您生活在相对贫穷的国家/地区,您需要多少钱? 这意味着您没有西方人拥有的任何专业和文化背景(所有这些会议,社区,会议),并且您使用的语言略有不同,使用其他概念和价值观。 它看起来并不那么重要,因为您可以编写代码并编写,但是当您是团队的正式成员时,它会影响。 在俄罗斯,这种情况仍然完全不同,尤其是在莫斯科或圣彼得堡。 在我出生和成长的托木斯克,没有特别的IT社区。 有好几家好公司,有些人,难得的事件。 但是很少有mitaps或社区定期开会。 会议-每年一两次。


没想到要整理东西吗?


我定期组织或提供帮助,但通常不在托木斯克。 问题不是组织,而是聚集有兴趣的人。 同样,在上下文中。 当您不断参加此类事件时,您会积累一定的上下文,而当您转移知识时,您将从人们也处于此上下文中这一事实出发。 因此,我在俄罗斯说要比在欧洲说要难得多-情况完全不同,必须努力理解需要更详细地解释什么,跳过什么,关注什么。 最困难的事情是告诉根本没有这种背景的人,这些人以前没有参加过任何社区。 我佩服知道如何很好地告诉新来者的人。 通常,与遥控器存在相同的问题-一切都取决于上下文。


在安全领域,您如何看待AI解决许多问题的可能性? 您作为信息安全顾问,您在这方面看到了什么?


2016年,由美国国防部高级研究计划局(DARPA)资助举办了网络大挑战赛。 当团队获得具有预先计划的漏洞的系统映像时,我已经谈论了一些CTF,任务是相互利用这些漏洞,并尽快发现并修补自己的漏洞。 因此,CGC是相同的比赛,但是AI无需任何人工干预即可参加。 就是说,AI的出现不仅仅是“可能”,它已经在发展并且非常活跃-机器人破坏了机器人,机器人受到机器人的保护。 许多漏洞已被利用,并且只是自动的广泛扫描。 模糊测试-输入错误数据以搜索漏洞进行测试-几乎是完全自动化的。 人工智能既有攻击性也有防御性。 但是与此同时,信息安全既是关于人的故事,也涉及汽车。


你是说社会工程学吗?


我的意思不仅是社会工程学,还包括任何人为因素。 我们现在生活在一个时代,在现代系统中,最脆弱的地方不是软件,也不是机器,而是一个利用所有这些以及他所犯错误的人。


您目前在研究什么领域的趋势?


我看到道德和伦理问题对整个环境有非常强烈的影响。 当人们不仅编写代码,还要考虑为什么要使用此代码。 对于人们来说,它所要使用的东西比以前变得更加重要。 因为您的代码有可能(很明显)杀死他人,您的代码将被用于歧视或侵犯他人的权利,代码中的错误可能会剥夺一个人的住所或使其入狱。 在我看来,人们过去很少考虑这些事情,因为我们没有足够的技术来依靠他们的帮助来做出此类计划的决策。 因此,人们开始更多地考虑这些问题。 不久前,Google员工大规模抗议加入Project Maven(美国国防部的AI开发项目),因此合同被取消。


同时,正如他们在某些媒体中所说,谷歌领导层正在与情报机构合作。 而且,同一Google电子邮件服务上信息的真实机密性有时会引起疑问。


这更可能与领导无关,而与开发人员有关,与普通“普通”员工有关。 我知道基本上不会参加(并且已经拒绝参加)此类项目的人。


也就是说,您认为网络正在逐渐发展。 无忧无虑的鲁childhood童年时代过去了。


是的 我们已经发展到技术可以带来非常真实,非常有形,非常巨大的破坏的地步。 直到那一刻,IT公司已经发展壮大,他们可以在没有外部帮助的情况下做到。


长期以来,我一直对操纵,令人上瘾的情景以及社交网络的道德问题感兴趣。 大型社交网络使用多种技术来影响注意力的吸引,保留……在某些情况下,它们会形成一个人的成瘾,从而导致多巴胺的倦怠,沮丧甚至最终导致自杀。 也就是说,代码可能导致真实死亡。 我注意到,美国共和党参议员约什·霍利(Josh Hawley)最近提出了《减少社交媒体成瘾技术法》(SMART)法案。 霍利(Hawley)要求社交网络出于自身目的停止“利用人类心理学或大脑生理学”。 该法案列出了大型社交网络实施的四种“禁止做法”:自动下载出版物流中的数据以及无法滚动到结尾,内容过多的攻击,对社交网络上的活动的奖励以及自动播放音乐和视频的功能。 您是否认为在不久的将来会形成21世纪的网络道德? 还是大公司会以各种方式抵抗和阻止此类倡议?


在我看来,大公司将永远抵抗。 这是一项业务,其主要目标始终是赚钱。 当然,最简单的方法是如果人们经常使用您的产品来赚钱,是的,他们将依赖它。


事实证明,只有为这些大公司工作但又为开发人员树立新道德的开发人员与只对利润感兴趣的大公司之间存在冲突。


已经有很多引人注目的大规模案例,其中开发人员由于道德差异而停止为特定的公司工作-相同的Maven。 它们仍然很少见。 但是在我看来,它们还会更多。 因为优秀的开发人员总是有选择的余地,而IT现在是一个这样的市场,在这个市场中,很有可能不是公司,而是决定条件的开发人员。 道德和道德标准的这种强迫可以从下面开始,然后又上升,这种情况现在正在普遍发生。


现在,开发人员可以决定条件,因为市场上非常缺少有才华和经验丰富的开发人员。 随着开发人员数量的增加,赤字将减少,这意味着公司将能够做出决定。


也许是,也许不是。 经验丰富的开发人员将增加。 但是目前经验丰富的开发人员也将增长。 对这个级别的需求也会出现。 毕竟这个行业还比较年轻。 但是转折点是的,现在。 也许这一时期将很快结束。


您看到什么趋势?


我看到了从员工到员工的从底部到顶部的整个趋势。 他们试图迫使领导层接受某些目标,这些目标不仅与利润有关。 公司必须做出改变,这不仅是因为它是对的,而且是正确的,而且还因为人们会去找他们,而现有员工会留下来而不去其他地方。 我认为,直到某个时候,这将获得动力,最终将形成一些道德和伦理标准和规范,这些标准和规范将为每个人所接受。 在招聘方面也存在同样的歧视。 如果我们谈论的是多样性,而现在西方一直在讨论这个问题,那么大多数倡议只是来自下面。 人们说:“我不会被没有人了解我,长得像我,遇到过与我相同的问题的公司雇用。” 或者他们说:“我不太可能从会议中拿出很多有用的东西,因为所有发言人的背景彼此相似,而与我的背景却截然不同。” 公司必须改变。 从许多方面来看,这再次是文化背景的问题,在俄罗斯,这一问题现在已经减少了。


您是否听说过社区正在努力为开发人员乃至整个网络树立新的道德规范?


为多样性而战的团体如此之多,参与在线行动,反审查和在线政治迫害的人也很多。 这些人主要是与新闻界和非营利组织接近的人。 例如,互联网自由节就是一个很好的会议。 但是,不幸的是,我不认识那些专门处理网上新道德和伦理问题的大社区。 我怀疑它们是存在的,因为它们不能不存在。 但是,尽管我对这个问题很感兴趣,但我仍然不知道这些事实,但这确实说明了一些事情。


PS:对话给人留下了有趣的印象:为了自由地谈论这些话题,您需要一个居住在欧洲或美国的人。 其中之一是,我在面试过程中的小镇部分认为:“ IT道德,破坏活动……他们在那儿窃笑了一下。” 另一个普遍的回答说:“也许有一天我们会长大的。”

Source: https://habr.com/ru/post/zh-CN468071/


All Articles