万维网和超文本协议的发明者之一，麻省理工学院和南安普敦大学的教授蒂姆·伯纳斯·李爵士也是英国政府的顾问。 因此，他必须对世界保持清醒的认识，并评估周围发生的一切以及可能导致的后果。
在谈到人工智能时，许多专家考虑了强大的AI和技术奇异性的出现，但是如果我们明智地谈论，那么强大的AI对人有什么用，为什么要在其开发上投入数十亿美元呢？ 拥有强大的AI的好处是模糊的，并且风险太大。
假设一开始会有较弱的AI版本比人们执行高度专业化的任务要好得多，这是更合乎逻辑的。 由于使用这些版本的AI，人们将努力争取超越人类的竞争优势，从而达到推动人类发展的主要目标-出于金钱
*今天可见一些即将到来的迹象。 最有才华的程序员和才华横溢的数学家去哪里工作？ 对，投资基金。 在那里，他们根据非同寻常的公式创建创新的数学模型，新的交易策略，奇特的独创衍生工具-并寻找这种
alpha值 ，即高于市场的利润。 谁有更高的智力-他会收到阿尔法。 中农获得
beta ，失败者失去。 根据明确确立的规则，没有各种有形商品的金融市场掩盖了阴谋诡计，是纯粹形式的知识分子的斗争。 为金钱而战。 这是世界上人类活动的唯一领域，一个杰出的数学家每月可以持续赚取数十万美元，尤其是如果他获得一定比例的阿尔法带来的收入。
明智的做法是主要在金融领域中实施基于计算机的决策系统-最先进的AI版本。 Tim Berners Lee爵士在2017年4月10日的
全球金融创新峰会上的 演讲中提到了这一点。
来自IBM和其他公司的弱AI系统已经在银行和投资基金中实施。 接下来会发生什么？ 蒂姆·伯纳斯·李（Tim Berners-Lee）相信转折点将是AI开始做出重要决策的时候。 例如，评估投资收益并决定收购哪个公司更有利可图。 评估人们的信用记录-决定向谁授予抵押贷款，以及向谁授予抵押贷款。 现代计算机系统已经接近这种功能。
蒂姆·伯纳斯·李（Tim Berners-Lee）表示，在决定购买利润最高的公司之后，金融人工智能发展的下一个合乎逻辑的步骤将是公司的管理，增持股份以及生成自己的程序来管理这些新公司的子公司副本。
这将是一个自然的过程，因为在市场竞争中，人工智能控制的公司将比人为管理的公司具有优势。 最终，只有能够相互竞争的AI控制公司才会留在市场上。 人们很难理解并确保观察到公平竞争：“是的，无论如何如何向计算机解释诚实的概念？”蒂姆·伯纳斯·李问。 这就提出了遵守道德和道德的问题-人们本身并不完全理解（并且彼此不同意）的行为规则，我们如何向计算机解释这一问题？
同样，存在有限版本的AI将开始朝错误方向发展的风险。 最初是为一项狭窄的任务创建的，最后可以考虑到该任务的条件描述了所有周围的现实。 Berners-Lee的这一观点回顾了Elon Musk在
接受 《名利场》
采访时表达的关注：
“假设您创建了一个用于草莓采摘的自我完善的AI，并且它在采摘草莓，越来越多地采摘和改良方面越来越好，而他要做的就是摘草莓。 因此，最终全世界将变成草莓田。 永远的草莓地。”
通常，需要考虑一些事情。 如果程序可以自我学习，那么具有狭窄专业知识的弱AI甚至比具有正常自我意识的成熟强AI更危险。 道德原则也许是具有理性和自我意识的任何理性存在的不可剥夺的品质。
*在西方文明中，合法收入的存在意味着权力的存在，在其他社会中，这些并非总是相同的概念。
作为一个小广告：
ZiingRR的一位用户告知我们，5月底，俄罗斯将在HSE的
IT演讲厅举办有关AI安全（AI Safety，语言为英语）的首次大型讲座。 还计划在
Arche举办类似的演讲。
ZiingRR承诺将在两个讲座中发布视频。