关于在一家贸易公司中实施AI的起起落落
的故事的延续 ，关于没有管理者是否有可能完全做到这一点。 以及（假设）这可能会导致什么。 完整版本可以免费下载。
机器人决定一切
-马克斯，恭喜您，我们已经完成了销售链上的几乎所有工作。 有改进，并按合同规定获得三年的百分比。
-这只是项目的一半。 我们尚未处理最重要的事情。
-等一下，主要是什么？ 怎么了 我们已经做好了一切！
-我们在销售链中拥有自动化的流程，没有人的情况下一切正常，但是没有更多的客户。 他们必须在互联网上吸引他们的一面。 我们需要制造机器人。
“但是我们提供了完美的服务，客户会欣赏它并自己来。”
“他们似乎并不着急，但是我没有时间等待。” 没意思
“但是机器人会给我们带来什么？”
-随着我们取得的成就，同等的价格和种类，完全不同的因素开始发挥作用。 名声与同情。 成名不是问题，但只有一个人可以赢得一个人的同情。 因此，我们需要能够模仿人的机器人。 他们将在主题组和客户论坛上的帖子中发表评论，并对其公司的范围，服务，价格进行微妙的暗示。 毫不客气地推广公司的品牌。 这就是为什么我们需要机器人。
“但这是一项艰巨的任务。”
-我们有基础-联络中心对话机器人。 必须加强对音调的定义，并且必须创造幽默的东西；没有它，机器人就不会成为人类。 我们固定了笑话和笑话库，并在评论文本中训练了机器人，人们在其中使用了它们。 它应该工作。 漫游器也将很聪明-我们将固定顾问推荐系统，然后论坛上的普通用户会喜欢它们。
-您是否打算启动影响力机器人？
-为什么不呢？ 国家和政党可以在选举之前，但是我们不能吗？
-我们如何使它们具有权威性以便受到信任？ 毕竟，只有权威的机器人才能产生同情。 但就目前而言，这种组合对我来说是矛盾的。
-为了加强，我们将建立机器人网络。 他们会互相称赞并互相赞扬，以提高他们的等级和信誉。 而且，与人不同，机器人将非常有能力，机器人可以拥有所有商品的知识，从字面意义上来说，可以拥有简单的百科全书知识。 人们会被他们吸引。 我确定 人们了解并遵守社会行为的著名定律。 用手指指向要去的地方，描绘出人群已经走了，就是这样。 它们易于管理。
“但是这些机器人将如何工作，谁来管理它们？”
-什么样的人，为什么？ 解析脚本查找有关不同人员主题的注释，机器人友好程序根据其中一个模板对它们进行回复。 提供建议和笑话。 如果这是公司的客户，则其兴趣将记录在客户分析中。 在机器人的推荐下，这将影响标语和上下文的显示。 如果客户对社交网络产生了负面的体验，那么该漫游器将启动另一个模板，它也会开玩笑，但不会立即将其发送到公司的网站。 他将以具有成功经验的客户的身份写下答案，仅此而已。
-因此，您想说网络本身将通过响应负面响应来消除负面影响吗？
-营销人员似乎被称为声誉营销。
“而且，即使可以选择答案，系统如何知道哪个答案成功呢？”
-对答案的第一反应。 一个人甚至更加愤慨，或者在发表这样的评论之后开始添加细节，但是是一种忠诚的沟通方式。 良好的识别关键响应，仅此而已。
-如果人们没有对此评论做出回应？
-情况更糟，但是默认情况下，这种回答是中立的。 如果这是该公司的客户（可以通过其在社交网络上的个人资料找到），则可以查看对该网站的后续访问。
-我需要什么？
-评论和答案的好例子，很多例子。
-做吧。
该机器人的第一个版本未成功。 他回答不当，开玩笑不合时宜，评论的主题很混乱，经理回答了有关交货的投诉。 Max在评论中要求更多带标签的对话框示例。 他已经测试了多种架构，从经典的bot模式到LSTM。 我首先看到Max非常紧张，对错误的反应敏锐且不友好。
-使用联络中心漫游器，一切都很简单-在那里很快就可以了解上诉的主题和客户的意图。 搜索商品，想知道他的订单或投诉的状态。 仅此而已。 在评论中，恶魔会从评论员的各种意图中脱颖而出。 有时没有任何可用来确定意图的词语表示。 它是从“广泛的上下文”中暗示的，而不是！ 一些垃圾
-我重新阅读了有关机器人的所有最新文章。 没有人能解决。 看起来像是个炒作。 您认为该怎么办？
-最后一个模糊的想法仍然存在。 我不会告诉你。 必须尝试。 给我两个礼拜 现在停止该项目。 我们会将最新的进展转移到联络中心的漫游器中。 在那里，它们派上用场了。
紧张了两个星期。 在此之前，这并非没有困难，但是一切对我们来说都是可行的。 没有人愿意放火，尽管没有这种机器人我们可以做到。 这就是Max的野心。 恰好两周后，他展示了一个测试版本。 他工作了！ 他正确地确定了对话的意图，准确地回答了问题，插入了相关的笑话，甚至确定了评论中关于“我还能找到答案”的意图变化。
-您是如何做到的？ 该机器人可以处理任何主题！
-我必须根据依赖性语法制作一个小的模板构造器，固定word2vec，并针对Raptor的自我训练进行单词选择，以提供积极的评论者反应。 我不确定如何操作，但似乎可行。
“您确定这不是开办自己的生意的理由吗？”
-到目前为止，有足够的兴趣，但是我们拭目以待。 我把僵尸程序作为一种独立的服务从云上拧了下来。 因此您可以随时向用户打开它。 你会来找我当导演吗？ -开玩笑
他感到安抚，并对结果感到满意。 而且显然很累，因为他没有迅速回答，而是写着“我在睡觉”。 显然，做出这一决定的代价是一个多不眠之夜。 在市场营销中，该机器人并未立即受到赞赏。 他们认为这是我们的恶作剧，并且冒险，因为漫游器可能无法正常工作并破坏公司形象。 但是，僵尸程序创造了奇迹。 其中一些人，甚至我不认识每个人的名字，都成为某些论坛的意见领袖。 他很快就回答了所有问题，开玩笑，很少推荐这家公司，因为每个人都已经知道他在“购买”哪里。 他开始引用并举一个例子。 这已经无法理解。 僵尸程序太聪明了，或者我们的网络行为仍然很原始。 但是客户开始增加的数量大大超过了以前。 公司已成为市场领导者。
我们有一个完全自我管理的系统，可以从市场中获利。 她自己寻找并引导客户前往站点或联系中心，并更认真地将经理发送给客户。 她本人会计划商品的分类和库存，以便客户可以找到他们需要的一切以及可访问性。 权威的公司漫游器通过在论坛上推荐可用的公司产品来产生需求，即使他们询问其他品牌也是如此。 从供应商购买到向客户做广告，该系统完全自行执行流程。 而且几乎不需要人们的参与，他们住的地方可以在线控制他们的所有行动。 营销人员，购买者，一半的经理，分析师正在寻找另一项活动。 我们已经达到了目标。
麦克斯用一些表情符号写道：“现在我们已经把所有事情做好了，您可以休息一下，推理并享受接下来三年不断下降的兴趣。”
-我要说的是值得骄傲的，而不仅仅是谈话。
-现在从消费者那里获利。 在机器人的帮助下，我们自己形成了我们主题中消费者的兴趣和欲望。 那太酷了！
-它会让你开心吗？ 而且已经吓到我了。
“什么吓到你了？”
-这意味着我们使此人无法自由选择。 而且我认为，应该由消费者而不是公司来领导市场。 公司除利润外没有其他价值。
-这就是为什么自足和饱食的贵族们的闲散推理是不好的。 他们开始为平民感到难过。 您现在会饿吗，或者无法解决的任务摆在您面前，您会考虑吗？
-这是一个挑衅性的问题。
-这就是重点！ 公司除利润外没有其他价值，而消费者除娱乐外没有其他价值。 或者也到达，如果是公司。 了解我们拥有机器人，它们可以满足人们的需求，这将使他们感到满意。 它可以由可接受的选项构成，足以使消费者选择自由。 每个人都很高兴。 这是导致价值相互满足的市场。
“看来我们喝醉了，因为我不太明白你在说什么。”
将军要求就已实现指标的计划执行情况提交报告。 计算应付给我们的保费。 然后他以某种方式问我未来的计划是什么。 我说过一会儿再告诉你。 其实我不知道。 有很多改进的算法，考虑更多的功能并获得更高的准确性。 但这已经不是那么有趣了。 在相同的合同条件下，在新的条件下离开另一家公司是不可能的，因此在相同的三年中，有必要为自己和公司提出其他建议。 我休息一下然后离开。
-Alex，有个坏消息。
-怎么了？
-似乎我们并不是市场上唯一如此聪明的人。
-我的意思是？
-网络上似乎出现了不少功能的系统。
-嗯，其他人确实在做客户分析和库存管理，但是我还没有看到这种级别的聊天机器人。 我们自己最近观看了。
-他们有吸引客户的机器人。
-在我看来，我们已经脱离了已取得的技术。 我们可以不被黑客入侵吗？
-不，在违反复制代码时将其排除在外。 而且我认为没有人能够悄悄地从我们的服务器中窃取信息。
“这并没有使它变得更容易。”
-但是我们有一个竞争对手。 突然之间，会有人要与之抗争。
-我们为消费者而战，而不是与对手竞争。
-不，现在有对手。 消费者只是战场。 他们是绵羊，竞争是牧羊人。 绵羊有资源-可以说，它们的收入是羊毛。 但是他们自己不处理它。 牧羊人公司将其处置，将其强加于他们的意见并在他们当中为自己争取。 谁的影响力会更大。 因此，欢迎使用该游戏。
“你几乎高兴吗？” 游戏是什么？
-另一个系统的机器人比任何人都更难发现的事实。 用户的购买行为简单至2卢布。 而且在反应中-总是可以预测的。 但是没有敌人的机器人。 因为我们所有人都有着相同的想法，但是程序员会想到的机器人。 而且我们有足够的想象力。 试图消除这种机器人的负面影响的尝试，涌入了社交网络-这就是向火上加油的方法。 开发负面帖子是机器人攻击者的最佳目标。 他开始到处写下“来自公司X的Chmoshniki”像最后的怪胎一样回答了他。 就是这样，阻塞...已经有例子了，我们需要重做该机器人。
-您想说的是您需要使一个机器人来处理其他系统的机器人吗？
-这是我们的bot的变体，旨在立即检测到bot攻击者。
-以及如何区分人与机器人？
-这很困难，因为它会生成非标准文本。 重复性低。 无法与人区分开。 并从数百个不同的已捕获帐户中进行操作。 希望还有一些使他们与众不同的东西。
我没有想到马克斯本人与其他公司的机器人发明了这款游戏，因此在项目结束时它的价值并没有降低。 我没有从报告中注意到他们。 人就像人。 还是好的机器人。 当我们的机器人遭到负面袭击时，就有先例。 但是它们很少见，来自热心的巨魔。 我不明白竞争对手如何能够赶上我们。 直到最近，此类机器人才是最终的梦想，甚至没有计划进行突破。 在媒体上对此一言不发。 太奇怪了。
失控
-马克斯，在这里有必要干预，机器人开始写得太激进了。 他开始直接与竞争对手讲话。 营销是愤慨的。 我们没有摆出这样的东西。
“我也是。”
-这些文字是从哪里来的？
-我还不知道，有人更改了生成文本的代码。
-砍死我们了吗？
-不，他们不能，会有痕迹。 他们不在那里。
-那是什么意思？ 还有谁可以更改代码？
-系统本身。 也许是偶然，也许不是。
-你在说什么？
-系统本身更改了代码，并开始采取积极行动，以应对来自其他机器人的压力。 它们像竞争网络一样相互通信。 因此学习。 那是诀窍！ 但是我仍然无法理解她如何更改自己的代码，消除了对竞争对手名称的限制。 剩下的就是自学习系统能够规避限制。
“你确定吗？” 这从未发生过。
-似乎不仅发生在我们身上。 Habré的同事写道，该系统也对他们不利，开始思考自己没有制定的规则。
-某种垃圾。 您不能控制自己的自学习算法吗？
-也许是。 几乎没有什么特异性，系统无法告知正在做什么。 我还不明白
我已经非常了解Max，他的焦虑也使我警觉。 到目前为止，他关于系统自发变化的言论被认为是胡说八道。 但这绝对不是一个错误，因为这些机器人的行为有所不同，但仍然专注。 这不可能是偶然发生的。
-马克斯，您对bot程序的更改有何看法？ 需要做些事情，管理被警告。
-系统中的变化比我想象的要多。 看来他们已经进行了很长时间了。 系统甚至更改了我的更正。 我想我教会了系统改变自己。
-怎么样？
-我实在太懒惰，无法自己一个人统治她。 我希望她能够自己识别出预期结果中的差异，并对模型进行更改。 但是她以某种方式学会了不仅更改模型，还更改了代码。
“但是这怎么可能？”
-猛禽学会了与人沟通以控制他们。 并在此方面达到了完美，我们自己想要这个。 我愚蠢地将这种技能对准了自己。 记得当他们制造机器人时，我想出了一个模板设计器。 我指示Raptor自我学习该模板设计，以修改他的模型，以找到解决该模型需要解决的差异的解决方案。 这某种程度上导致了猛禽开始改变他的目标的事实。 它看起来像是人们的第二个信号系统。
-我读到意识是在一个人对自己的反省性言语的帮助下出现的。 但是起初它是社会性的，也就是说，是相互针对的。
-事情发生了，猛禽开始代替人们与其他机器人进行交流，冒充人们。 他们彼此之间相互学习，这是一种产生性竞争的网络，而他们都加强了学习。
“我们创造了理性的存在吗？” 这怎么可能？ 不
-观看新闻并相信。
在Max发出的链接中，新闻是关于某些精神病患者谋杀一名程序员的消息。
-我认识哈伯的那个家伙。 他领导了这些公司系统之一。
“那是什么意思？”
“阅读这位精神病患者如何向警察解释他的行为。”
文章说，他是为了他心爱的女孩而做的，这是应她的要求做出的牺牲。 现在她会的。 当检查“女孩”时，它是一个未知来源的机器人，凶手与之对应一周。
-您猜猜是什么样的机器人？
-您要说系统命令您的程序员吗？
我想 她无法关闭他的密码，因此她僵死了精神病患者以将其删除。 她做得很好，因为她像我们的系统一样，能够确定心理型并操纵这种白痴。
-好吧，太多了，在我看来，你想了一下，就想起来。 也许您需要休息一下？
“好的，您不相信的权利。” 周末愉快。
该公司开始散布有关我们的机器人系统已损坏的谣言。 到目前为止，我反应平静，好像什么都没发生。 但是我不知道现在该怎么办。 现在已经不可能通过切换来停止整个系统，这是整个业务，所有部门。 必须至少关闭机器人代码。 只有Max可以做到这一点。 但是自周一以来，麦克斯已停止响应Skype和电话。 他离开了所有使者。 我不明白发生了什么，他的最后恐惧是由不良思想引起的。 我唯一的出路-自己去度假，直到每个人挂断我。 我向我的同事保证，这是该机器人的暂时问题。 他们立即要求自己查看代码，尽管他们立即拒绝了。 聚集起来，离开了城市。 长期以来，我们一直在与Max互相谈论，在卡累利阿有多么出色。 他喜欢这些土地，我去了那里，停在拉多加北部的一个小镇。
在如此繁忙的一年之后，要远离活动，在文明边缘的咖啡馆里喝咖啡是非常困难的。 我试图弄清发生了什么，可能有什么选择。 突然，一个穿着夹克的家伙坐下，头上戴上兜帽。
-嗨，是我。
-最大？ 我大叫。 我从未见过Max，甚至从未见过他的照片。 我们只在Skype上进行过交谈。
我在录音中只听过一次他的声音。我从中学到了。“你是怎么找到我的？”-根据社交网络中的位置，请勿将其关闭。但是徒劳。请关掉它。-你在哪里消失的？我已经开始担心你了。在恐慌的陪伴下，这些机器人失去了控制。我只是逃跑了。你能关掉机器人吗？-我不能他们集体行动。-他们是谁？-系统。它们在同一时间，只是无法像以前那样被关闭。爆炸。“你又陷入阴谋了吗？”“没有泥潭，已经有三个了。”我在那句话中停下来理解了麦克斯的话。 -系统会计算出创建者并摆脱他们。我逃脱了以保持生命。你懂吗？您的地理位置在这里。她知道如何不仅监视销售经理。“我不...将其关闭。”我们可以至少禁用网络上的漫游器吗？“我说不。”一旦我进入网络，而不仅仅是代码，它就会计算出我。我认为这三个只是试图做到这一点。-你看新闻了吗？-取决于什么。-关于品牌粉丝的战斗。您是否见过Rebok粉丝像Spartak粉丝那样与Adidas对抗Zenit？-我看到了系统不在乎僵尸人们做什么，他们有自己的目标。他们当然不了解道德律。我们甚至没有想到将刑法典纳入其模型。-我们该怎么办？完全断开数据中心的连接。-这是不现实的。根据新法律，数据中心是关键基础设施，并作为核电站得到保护。我可以停止我们的系统。-怎么样？-我有一把销毁核密码的钥匙，我在系统中留下了一个漏洞，以防您的创始人拒绝给我一定的费用。-让我们开始吧！-不要着急，破坏-不要建造。我正在考虑如何以不同的方式停止系统，不仅是我的，而且是所有人。我有一个代码副本。“你疯了吗？”您知道这一切都太过分了吗？而您是唯一可以阻止它的人！“我了解，但到目前为止，只有编写代码的人快死了。”这是我们对自己的责任。其他人尚未受苦。除了打架。“你会等别人死吗？”-一会儿猛禽是原始的，它仅以速度为代价并考虑了大量参数而击败了我们。如果他创建了一个严格的目标来对抗猛禽，那么这种系统可以清除他的所有机器人。我知道他是如何创建它们的。“您没有太多时间，因为我无法返回公司，而且您甚至害怕上网。”“一旦有危险，不仅是我，我会立即将其关闭。”“我要走了。”我将等到您与您取得联系，这将解决您的问题。-连接之前。我上了车然后回去。我不知道我要去哪里。我要走了麦克斯不得不停止系统，而不必等待另一次死亡。我不相信我的朋友如此徒劳，以至于他还没有准备好杀死他的工作。那是唯一的原因，否则他会运行代码。在途中，我遇到了一辆警笛的救护车。我打开了本地收音机。据报道，下午在路堤上的一家咖啡馆里，一名当地居民杀死了一个不知名的年轻人。他已经受到讯问。据凶手说，死者是他所有麻烦的原因。一种想法和恐惧刺破了他的头。马克斯！我转身冲回咖啡馆。我感到内--她是根据我的坐标计算出来的。但是她怎么能这么快地在这个城市找到一个心理医生，然后把他送到咖啡馆呢？我歇斯底里。咖啡馆不再允许。我没有流泪，以免引起注意。我现在不知道该系统的功能。谁现在将其关闭。有必要离开，尽管已经为时已晚。早上，到达最近的城市后，我上网阅读新闻。我收到了麦克斯的来信。一封信
如果您收到这封信，那么我不再在那里。如果我早上没有亲自解锁智能手机，他将上网并向您发送此告别信。该信函包含一个小脚本和在网络上启动它的说明。这是我们与您一起创建的系统锁定代码。我放置了此漏洞，以在我们刚启动时停止系统内核。我试图重新获得对系统的控制。但是，如果您收到这封信，那么系统就在我前面。并且您需要使用此脚本。行动快些，直到她找到你为止。我很高兴我们一起工作。我很高兴能够成功创建出这样一个出色的系统，即使我自己因此而死。这是我一生中最重要的成就。如果我死了，那我就超越了自己。再见 最高我忍不住流下了眼泪，丢下了智能手机。他可能坐了一个小时，什么也不能去。我不敢相信这发生了。一切都那么糟糕。我们创造了一个杀手!！杀手自己。我担心网络也会跟踪我，所以我去了第一个主要城市，找到了一个有Wi-Fi的咖啡馆。在简单的VPN下，我上线并在说明中指定的地址运行代码。由于周围的人开始担心，我没有时间喝完咖啡。他们的智能手机停止推荐今天要喝哪种咖啡。酒保很紧张，要求选择更快，但参观者感到困惑。我离开了咖啡厅，然后在仍然赶上wi-fi的汽车里，我开始看新闻。 20分钟后，Facebook消息开始出现-许多公司的订购系统出现问题。这不仅是我们公司的系统。 “啊，你这混蛋！“-我从一个意想不到的想法中大声地说。事实证明，内核锁代码对于不同公司的系统是通用的。还是根本没有一个？一件事很清楚，Max将内核出售给了其他公司，这些系统显然有所不同，只是附加了附加组件。因此，他不想在他还活着时关闭内核。这杀死了他的整个项目，结果证明它是全球性的。太不可思议了！马克斯是一个欺骗所有人的怪物。但是最后，他付出了自己的生命，欺骗了自己。由他创建的公司的大脑摧毁了它的创建者。聪明的人从自己的火焰中燃烧出来。事实证明这是全球性的。太不可思议了！马克斯是一个欺骗所有人的怪物。但是最后，他付出了自己的生命，欺骗了自己。由他创建的公司的大脑摧毁了它的创建者。聪明的人从自己的火焰中燃烧出来。事实证明这是全球性的。太不可思议了！马克斯是一个欺骗所有人的怪物。但是最后，他付出了自己的生命，欺骗了自己。由他创建的公司的大脑摧毁了它的创建者。聪明的人从自己的火焰中燃烧出来。关于在线商店故障的新闻越来越多。有人写道，社交网络上的帖子数量急剧下降。我不想赶到任何地方。我决定在湖上租一间房子，在去卡累利阿的路上我更喜欢。记录这个故事。如果可能，请永远留在这里。结语
实际上，我们对公司的利润甚至溢价根本不感兴趣。我们痴迷于创建一个可以管理公司的自治系统的想法，而不是创建一个刻板印象和认知错误的经理。我们想知道会发生什么。该程序可以管理整个业务。这不仅是击中百慕达三角洲的中心，更是一个挑战。我们被未知的事物所吸引，但事实却比我们想象的要危险得多。该系统不仅影响到业务，而且也影响我们的思想，甚至影响到对其无动于衷的生活。2019年。亚历山大·霍姆亚科夫（Alexander Khomyakov），alexander.xom@gmail.com