Artem Astafurov:“我们从烙铁开始,但是停在了云端”



IoT DataArt实践的负责人讲述了过去三年物联网的变化,新的工程挑战和市场人员配备的困难,DeviceHive平台的发展方向以及大数据学院。

-几年前和今天的物联网-两个完全不同的故事?

-大约四年前,我们开始了这一旅程,然后从连接到Internet和“智能家居”的传感器开始了IoT的发展方向。当然,现在很多当时看起来很重要和原始的东西看起来都太幼稚了。但总的来说,正是从一开始到今天完成的工作为我们提供了可以依靠的经验。今天,物联网是继大数据之后的第二大炒作。我们可以说,一旦每个人都在谈论企业中的大数据,他们就立即开始谈论大型公司将如何将物联网付诸实践。

但是,实际上,一件事是另一件事的逻辑延续:在物联网中,我们正在处理大量需要实时分析的数据和事件,然后从中得出结论。我们正在处理过去仅称为分析的内容,现在称为预测分析-我们需要根据过去和现在的事件来预测未来情况将如何变化。而且,当今时代许多最重要和最有趣的工程问题的根源实际上都是来自物联网,因为与金融,在线广告和社交网络一起,正是物联网产生了最多的事件和数据。对于DataArt,企业乃至整个IT社区而言,最重要的只是收据,传输,分析和存储。

最初有一个假设,即我们将帮助设备连接到Internet并提供与这些设备进行交互的工具-这就是DeviceHive的诞生。实际上,事实证明,一些最有趣的任务围绕这些设备生成的大量数据而发生。因此,我们的任务进入了创建分布式系统的领域,这些系统可以通过自身泵送这些数据,并有可能在其基础上构建各种分析,以便对复杂事件做出不同的响应。

-事物能够生成强大的数据流,但是我们在谈论什么样的卷?

-我们谈论的是TB级甚至PB级的信息。我们谈论的是很长时间以来无法容纳在单个服务器上的数据,并且坦率地说,在我们要解决的任务的框架内,服务器的概念已不复存在。我们使用云基础架构的概念进行操作,其中,随着任务变得更加复杂且信息量增加,只需添加必要的资源即可。我们甚至不知道我们在哪里执行特定任务,因为我们从来没有分开看过这些机器。我们使用了数十种,有时甚至数百种,而对我们来说,正是计算能力通过我们自己抽取了我们的数据。

-将来是否会在数量有限的平台上合并必要的功能?并会加剧平台之间的竞争吗?

-是的现在已知的主要参与者是:亚马逊,微软,谷歌和IBM。此外,我们可以长期辩论该行业在五年内的状况,但是值得承认的是,我们根本不知道这一点。例如,许多人认为IBM落后于时代。但是,让我们回想一下80年代IBM和个人计算机的情况。苹果随后打开了这扇门,并在十年中已经失去了这一利基市场-它被IBM和Microsoft占领。因此,没人能预测同一部亚马逊将如何发展。企业化他们-所有公司都希望摆脱他们自己的支持而改用Amazon基础设施。但是我们仍然必须查看IBM将使用哪种卡。

-微软?

-您绝对不应该忘记他-最近,他在一般背景下看起来非常有力。我想知道他们在购买LinkedIn后下一步将做什么。因为据我们所知,我们不仅在谈论业务应用程序和分析的基础架构,而且还在谈论数据-有关此数据的位置以及对业务意味着什么。从LinkedIn到Microsoft Azure的大量信息可以使对许多想使用云的用户来说,使其成为一个有吸引力的交易。

-为特定任务量身定制的本地平台是否已成为过去?

-您只需看一下操作系统的发展情况。最初有很多本地选择,然后出现了主要参与者,几乎覆盖了整个行业。他们占据了自己的位置-有些是个人计算机,有些则是互联网繁荣时期快速发展的服务器系统。借助云技术,我们可以得到类似的图像-在一个或另一种基础架构的帮助下解决的大量问题已经浮出水面。
就像我说过的那样,大多数大公司都想要亚马逊,更保守的公司想要IBM,并且正在等待他的报价。但是,提出此建议后,尚不清楚所有有志于亚马逊的人的行为方式。许多人担心会完全依赖Amazon并构建其系统,以便将它们从云转移到云-这是我们帮助客户解决的另一项重要任务。

-公司内部实践所面临的挑战是否随着行业而改变?

-总的来说,物联网的历史将我们带到了一个非常有趣的地方,我们根本没想到它会出现:我们的公司只是向世界开放,这就是为什么我们被带到这里。现在,我们谈论的是并行计算,处理大量数据,机器学习,云系统和云系统设计。原则上,所有这些改变了我们对事物的看法。当然,这里需要认真的准备,因此,我们将开源平台DeviceHive转向了同一方向。

三年前,我们在制作DeviceHive时就牢记了一点:我们将其视为一种Web服务器,设备将连接到该Web服务器并发送可使用Web应用程序读取的消息。然后我们意识到旧的设计不太适合实际的IoT任务-我不得不以不同的方式看待架构。我们吸取了教训,并开始开发DeviceHive,几代人的团队参与了这一工作。随着它的发展,DeviceHive成为了一个学习平台。现在,拥有在DeviceHive工作中积累经验的新专业人员将帮助我们的客户构建可扩展的分布式系统。

-DataArt的IoT实践现在为客户解决什么任务?

-在我们的大多数项目中,我们不仅充当开发人员,而且还充当顾问。当客户要求我们提供拥有所有现代云技术的人员的简历时,我们会尝试将对话转向公司需要解决的特定问题。我们提供基于实际情况的经验,共同考虑实际情况,并决定如何提供帮助。由于物联网是一个非常火爆的市场,在这个市场上人员严重短缺,因此他们通常会对这样的建议做出很好的反应。

-您真的需要业内专家吗?

-我们使用DeviceHive培训人员,新工程师有机会参与该平台的开发并将其写在我们的简历中。由于该领域本身是一个非常新的领域,因此我们很难仅在为客户进行的项目上积累专业知识。确实,为了声明经验,您需要拥有经验,为此,您需要能够执行任务的客户,通过解决这些问题,我们将获得经验。这方面的标准解决方案才刚刚开始出现,到目前为止,我们必须自己进行大量培训。一方面,我们了解如何更好地改善DeviceHive,另一方面,工程师们正在学习如何使用我们自己的项目解决问题。

DeviceHive网站上出现了另一个有趣的结构-大数据学院,该学院聚集了关心大数据和分布式系统以及云计算主题的人们。有课程,讨论主题,任务,论坛,您可以在其中寻求建议或分享有趣的信息。在此站点上,有一些团体参加例如机器学习竞赛。

-确实对物联网领域的工程师的要求特别高吗?

-是这样,但是需求的增长是整个行业与生产工具的发展相关的大趋势。我什至将其称为工业革命中的工业革命,这是用自动化或更创新的方法代替更传统,经典的方法。大约同样的事情发生在我们身上。现在可以通过不太先进的技术来解决许多任务,但是它们有其​​自身的局限性,一定的支持成本以及一些潜在的问题,到目前为止,这些问题在特定项目的框架内可能并不那么重要,但随后变得更加频繁。在这种情况下,您需要调头,寻找新的人员,并尽力帮助您的专家掌握技术,与已经获得必要经验的人员进行更多的交流。为此,我们想到了大数据学院,任何好奇心都能得到的地方。没有入学考试-每个人都可以查看他是否对该主题感兴趣。

但是总的来说,对人员的要求正在变化,这使我们对劳动力市场的工程师产生了兴趣,这些工程师以前对我们的建议似乎并不那么感兴趣。毕竟,不能说这些人员不是原则上的人-不久前,我们还没有如此复杂的任务。现在,可以真正吸引工程专家的任务范围已经大大扩展。

-即IoT-真正极客的方向吗?

“以某种方式。”这对我们向客户提供服务的方式进行了某些调整。我们看到面试和履历的次数减少了,越来越多的我们立即获得工作帮助,开展试点项目并将其转变为长期的关系。我必须说,我们小组中的许多工作确实活着并呼吸着这一切。

— DeviceHive . IoT-? ?

“是的,当然。”直到最后,我们都能准确地感觉到包括DeviceHive在内的物联网项目的敏捷实践。在制定了年度计划之后,随着时间的流逝,您只能嘲笑它,并且总的来说,您会对自己对工作的看法感到满意。自然,您需要进行基本限制,以免尝试同时解决所有问题。但是,拥有一个完全面向未来的结构是“一种灵活的开发方法”。有些事情,在创建DeviceHive时进行的重要工作似乎很重要,而今天却显得微不足道:某些技术只是作为行业的标准惯例而逐渐消失,甚至不再得到支持。团队正在发生变化-毕竟,我们正在服务公司内部编写一个平台,即使从组织的角度来看,这也是困难的。但是由于我们准备好进行更改,因此我们将DeviceHive与时俱进。这是一种梦幻般的感觉。

— IoT? ?

“毕竟,我们都是人类。”如果我们看一下马斯洛金字塔,我们肯定会在它的基础上找到安全性。现在有些人喜欢在底部添加wi-fi,但仍然没有人否认安全是我们每个人的基本需求。我们不断地,越来越多地面临与物联网相关的主题。这些不再是“智能家居”和可穿戴设备,而是我们周围的几乎所有技术:用于发送使用情况统计信息的电话应用程序,来自公共交通工具的遥测技术(可跟踪维护周期),从空中飞机获取的数据以及发生的事件在广告平台等上。我不会说在安全性方面,所有这些看起来都很乐观。我们会活着,但是,也许一切都可以考虑得更好。

现在,我们只是在准备将于10月发布的下一个DeviceHive版本-涉及安全性的一大堆更改。原则上,首先,我们关注彼此密切相关的安全性和性能。这是一个动态的系统,在其中一个被扭曲的情况下,您可能会在另一个系统上损失很多–从安全的角度来看,不会引起任何问题的平台的生产效率很低。

而且,如果我们谈论的是成千上万的设备,那么这种系统的基础设施成本将简直令人望而却步。因此,主要问题是优化:我们查看威胁是真实存在的,如何预防威胁,威胁将如何影响基础架构和服务成本,并最终确定其部署是否真实。出于安全原因,一些与医学有关的项目并未大量部署。可能我们所有人都希望佩戴可以告诉医生何时需要接受检查的设备。但是有很多限制-创建这种设备的可能性只是问题的一半。第二部分是安全地传输所有这些信息。同时,工程师可以更成功地处理第一部分,因为第二部分也受到监管机构的监控。但是技术在不断发展,我认为,除其他外,我们将很快看到面向大众市场的新一代设备,它们可以收集和传输健康信息。

-IT部门通常多少了解IoT工程师的工作?

-我认为在那些与我们没有太多重叠的人中,有很多人将物联网工程师视为疯狂的烙铁。三年前,这确实是部分正确的,因为我们开始使用设备并将其连接到云。但是我们最终得到了云和数据-我们计划待在这里。在这个领域,与其他做法,大客户需要的东西有更大的协同作用-并且存在以公司方便赚钱的形式存在的钱。

Source: https://habr.com/ru/post/zh-CN396101/


All Articles