HighLoad ++ 2018的最佳报告

朋友,我们同意Ontiko公司的意见,我们将在YouTube频道上发布他们会议中的最佳报道,并与您分享。 因此,我们不仅要传播知识,还希望帮助我们的读者和观众专业发展。 捕获在Highload ++ 2018上做出的15份最佳报告中的一部分。

Tarantool复制:配置和使用


Mail.ru集团Georgy Kirichenko


Tarantool复制用于通过备份服务器或群集服务器以实现负载平衡来提供高可用性,还可以用于执行升级操作。 Tarantool的最新版本具有几个附加功能,可轻松在集群中配置和使用复制。

该报告检查了设备的基本原理以及Tarantool中异步复制的功能。 我们关注状态向量的内部结构-vclock。 他们讨论了确保数据一致性并使用新功能的方法。 考虑了配置的基本原理,它们的适用性和最常见的错误,并讨论了解决配置和操作问题的方法。

在俄罗斯阻止互联网的技术方面。 挑战与前景


菲利普·库林(Philip Culin),深林


锁的技术细节。 由于锁定机制现已组织起来。 谁,什么,在哪里,何时何地。 为什么这么有组织。 为什么ILV会阻塞整个网络。 从技术角度来看,当前的锁定机构存在什么问题。 在最小的变化框架内,我们应该从技术的角度转向当今的监管框架。

使用梯度提升(lightGBM)预测在线商店的销售


OZON.RU的亚历山大·阿列克谢采夫(Alexander Alekseytsev)


该报告是关于自动仓库补给系统的。 该系统的大脑是用于销售预测的ML:设置任务和选择损失函数,使用属性,生成数据集,选择模型,lightGBM学习过程的陷阱,评估结果。 系统框架-Spark / Hadoop:每天交付/验证数据,提高了系统的可靠性。 商品采购的业务现实:供应商选择,保险库存,与供应商服务水平的斗争。

亚历山大还谈到了使用经过训练的lightGBM模型来评估以市场营销活动计划为代价的商品需求弹性及其效果。 不同类型的功能依赖于不同类型商品的价格需求,而作为主要作用的“副作用”则更多。

我们如何努力实现Lua实现的稳定性


安东·索达托夫(Itonweb)


IPONWEB使用Lua描述业务逻辑已有10多年了。 在2015年,他们分叉了LuaJIT,此后一直致力于自己的语言实现。 技术堆栈的这一部分对于业务至关重要,因此,其稳定性受到了特别的关注。

安东(Anton)告诉他们如何从头开始建立测试基础; 整理了几种情况,结果证明在测试系统复杂之前,测试是无能为力的,结果,战斗服务器突然“不规则”地发生了故障。 他们在解决此类错误中获得的经验可以应用于与LuaJIT一起工作。 最后,安东分享了他们的公司在调试时使用的工具和技巧。

行级安全性在高负载项目中的位置


亚历山大·托卡列夫(Alexander Tokarev),DataArt


有关在何处以及如何最佳地为高负载项目组织行级安全性的报告。 他描述了如何在高负载的企业项目中实现行级安全性的选择(4000个用户,同时10000个请求,事务和olap负载)。 他分析了Oracle DBMS中用于行级安全性的三种实现技术,以及为什么在数据库中而不是在应用程序服务器上将其选择为安全性。 他谈到了做出的选择,问题和未来计划。

我们如何使用Intel DPDK和前缀树制作自己的Netfilter


亚历山大·萨莫洛夫(Alexander Samoilov),安全代码


Linux Netfilter是大量ITU(开放式和商用)的核心。 这是一种行之有效,可靠的解决方案,最近甚至是非常有效的解决方案。 但是在现代现实中,当通常必须通过ITU传递数十亿的流量,并且过滤规则的数量可能超过一千时,Linux Netfilter成为了瓶颈。

Alexander谈到了他们如何重写Linux网络子系统,事实证明该子系统非常快-数十个状态和无状态过滤,会话跟踪,NAT和路由的千兆字节,易于管理-教会了子系统理解众所周知的iproute2和nftables实用程序的命令,而不管其数目如何过滤规则。

VShard-Tarantool中的水平缩放


弗拉迪斯拉夫·什皮列娃(Tlaantool)


直到2018年,Tarantool DBMS的水平缩放的唯一方法是Shard-一个实现分片的模块,这是水平缩放的一种特殊情况。 分片从主键按功能实现分片,支持更改群集拓扑,重新平衡。 同时,他具有三个重大缺陷,这些缺陷使Shard无法在其中一个重要项目中使用。

年初,新的VShard模块的开发完成了-这是分片的另一种实现。 其中,重新平衡是分阶段执行的,您可以设置任意分片函数以确保关联数据的局部性,分片函数的计算结果存储在每个记录中,而无需重新计算。 弗拉迪斯拉夫谈到了VShard的内部设备,子系统及其使用示例的实现以及VShard 0.2的新功能。

BBM的150M +用户从Oracle向Postgres迁移而无停机


阿尔瓦罗·埃尔南德斯(Alvaro Hernandez),OnGres(英语)


BBM(Black Berry Messenger)是全球最大的即时通讯工具之一,具有文本,语音和视频通讯功能,其用户群超过1.5亿。 他研究了本地DBMS Oracle。 我们通过实时复制将其迁移到GCP上运行的PostgreSQL,几乎没有停机。 Alvaro详细描述了在不停机的情况下将Oracle迁移到PostgreSQL的过程和陷阱,技巧,技术和最佳实践。 今天,许多人都对这种迁移很感兴趣,但是它需要很高的资格,并需要参与许多困难的过程。

现代核电站的高负荷分布式控制系统


Vadim Podolny,物理仪器


从此报告中,您将了解用于核电站的分布式控制系统的新平台,以及如何管理世界上最复杂的自动化设施。 实时控制150多个专门负责核电站各种技术过程的子系统的工作。 来自传感器的100K数据源和多达500K的计算参数。 5种物理过程。

在有些偏差的情况下,整个系统将变成有用的诊断信息的巨大DDoS源,这会干扰对象的正常控制。 您将了解我们如何“解决”此类问题,了解诸如备份和复制之类的系统的硬件和软件架构,以及为什么需要数据冗余和技术多样性。 如何提供负载管理,QoS如何工作。 如果关闭正常的操作系统,例如在福岛,将会发生什么。

4K百万在线流媒体平台


亚历山大·托博(Alexander Tobol),同学


Odnoklassniki的服务视频-Runet的第二个视频观看站点:每天有6亿次观看。 现在,流媒体平台OK允许您以4K进行专业广播,从手机流向FullHD,并为用户提供超过3 Tb / s的流量。

亚历山大讲述了:

  • 数百万在线的4K视频流传输管道;
  • 内容交付系统架构
  • 用于4K分发的TCP调整;
  • 您如何以及为什么需要放弃ffmpeg以及有关在GPU上剪切视频的信息;
  • 如果容量用完并且用户不断来该怎么办;
  • TCP上的流问题;
  • 视频流的未来。

从DBA角度看Linux IO堆栈的最新变化


Ilya Kosmodemyansky,数据白鹭


自从存在数据库以来,I / O性能问题一直是数据库管理员的日常工作。 Linux,可能是最流行的数据库操作系统,在过去几年中已经对IO堆栈进行了全面改革。

Ilya谈论了正在发生的事情,为什么需要对IO堆栈进行紧急改进以及这可能对数据库产生什么影响。 如何改进新的NVMe和blk-mq驱动程序。 作为有用的备忘,Ilya提出了PostgreSQL和Linux设置的清单,以最大程度地提高新内核中I / O子系统的性能。

关于建筑和工作的常见问题解答VKontakte


VK阿列克谢·阿库洛维奇(Alexey Akulovich)


阿列克谢提出了人们“从外部”提出的许多话题和问题。

例如:

  • 服务器交互的一般体系结构。
  • VKontakte中是否有“常规” PHP,在何处以及为什么。 还有使用了什么其他核武器?
  • 如何在几秒钟内更新数万台服务器上的代码。
  • 服务器不断中断的Memcache群集的容错能力。
  • 为什么VKontakte有自己的引擎(DB),其中有多少,以及如何与它们一起生活。
  • binlog与快照有何不同,以及如何“回滚DELETE”。
  • 您如何监视所有这些。

Facebook DNS


Oleg Obleukhov,Facebook


Oleg谈到了Facebook如何平衡负载,DNS基础结构与它有何关系,资源记录如何落入Facebook的全球基础结构以及该公司如何在狗食组织中使用DNS。

数据库和Kubernetes开发和操作


德兰特里·斯托亚洛夫(Dmitry Stolyarov)


德米特里分享了他的经验,并举例说明了在哪种情况下将数据库(通常是有状态的应用程序)放置在Kubernetes中是合理的,并且这种做法是不合理的,甚至是有害和危险的。



该选择位于我们的Technostream Youtube频道上 。 我们创建它是为了共享各种教育材料,包括我们的教育技术项目的讲座。 我们已经在Habré上写了有关Technostream的文章,因此,如果您还没有听说过, 请阅读 。 经常回来,有趣的事情不断出现。

Source: https://habr.com/ru/post/zh-CN458474/


All Articles