为什么人工智能不能解决所有问题



围绕人工智能(AI)未来的歇斯底里已经席卷全球。 关于AI如何治愈疾病加速创新提高人的创造力的新闻不容错过 。 如果您阅读媒体的头条新闻,则可以确定自己已经生活在AI渗透到社会各个方面的未来中。

尽管不能否认,人工智能为我们打开了一系列充满希望的机遇 ,但它也导致了思想的出现,这可以说是对人工智能无所不能的信念。 根据这种哲学,如果有足够的数据,机器学习算法将能够解决人类的所有问题

但是这个想法有很大的问题。 它不支持AI的进步,而是危害了机器智能的价值,忽略了重要的安全原则,使人们对AI功能的期望不切实际。

相信AI万能


在短短的几年内,人们对AI的无所不能的信念已经从硅谷的技术传播者的对话变成了全球政府代表和立法者的思想。 从我们的AI破坏人类的反乌托邦概念到我们的算法救世主到来,乌托邦信仰开​​始了摇摆。

我们已经看到政府如何为国家AI发展计划提供支持,以及如何在技术和言语军备竞赛中竞争 ,从而在蓬勃发展的机器学习(MO)领域取得优势。 例如,英国政府已承诺投资3亿英镑用于人工智能研究,以成为该领域的领导者。 法国总统伊曼纽尔·马克龙Emmanuel Macron)着迷于AI的变革潜力,决定将法国转变成国际AI中心 。 中国政府正在通过一项政府计划,到2030年创建一个价值1500亿美元的中国AI产业,来提高其AI能力。 对人工智能无所不能的信念正在获得发展,并且不会放弃。



神经网络-说起来容易做起来难


尽管许多政治言论大肆宣传即将到来的“ 人工智能革命 ”的变革性影响,但它们通常低估了在现实世界中引入高级MO系统的复杂性。

神经网络是AI技术最有前途的品种之一。 这种形式的机器学习是基于对人脑神经结构的模仿,但规模要小得多。 许多基于AI的产品都使用神经网络从大量数据中提取模式和规则。 但是,许多政治家并不理解仅将神经网络添加到问题中,我们并不一定能立即获得解决方案。 因此,将神经网络添加到民主制度中,我们不会立即使它变得更少歧视,更诚实或更具个性化。

挑战数据官僚主义


人工智能系统需要大量数据才能工作,但是在公共部门中,通常没有合适的数据基础架构来支持高级MO系统。 大多数数据存储在脱机归档中。 少数现有的数字化数据源被官僚机构淹没。 数据通常散布在各个政府部门,每个部门都需要获得特殊许可才能访问。 除其他事项外,公共部门通常没有足够的人才配备必要的技术能力来充分利用AI好处

由于这些原因,与AI有关的耸人听闻的行为受到了很多批评。 伯克利大学计算机科学教授斯图尔特·罗素(Stuart Russell)长期以来一直在提倡一种更现实的方法,专注于AI的最简单日常应用 ,而不是由超智能机器人假设地占领世界。 同样,麻省理工学院的机器人学教授罗德尼·布鲁克斯Rodney Brooks)写道 :“几乎所有机器人和AI创新都需要比实际应用所需的时间长得多的时间,这是该领域的专家和其他所有人所想象的。”

部署MO系统的许多挑战之一是AI极易受到攻击 。 这意味着恶意AI可以攻击另一个AI,迫使其发布错误的预测或以某种方式采取行动。 许多研究人员警告说,如果不准备适当的安全标准和保护机制 ,就不可能立即推出AI。 但是到目前为止,人工智能安全的话题尚未得到应有的重视。

机器学习不是魔术


如果我们想获得AI的好处并最大程度地降低潜在风险,就必须开始思考如何将IO有意义地应用于政府,企业和社会的某些领域。 这意味着我们需要开始讨论AI道德规范和MO 许多人的不信任感

最重要的是,我们需要了解AI的局限性以及人们仍然需要控制的地方。 您需要退后一步, AI 实际技术功能与魔术分开,而不是对AI功能的描述不真实。

长期以来, Facebook认为可以从算法上识别并制止诸如散播虚假信息和煽动仇恨之类的问题。 但是在立法者的压力下,该公司很快承诺要用10,000名审查员组成军队来取代其算法。



在医学上,他们还认识到不能将AI视为解决所有问题的方法。 IBM Watson for Oncology计划是一种AI,旨在帮助医生对抗癌症。 尽管它旨在提供最佳建议,但专家们发现很难信任该机器 。 结果,该程序在大多数试运行的医院中被关闭

算法在美国法院用于宣判句子时,在立法领域也会出现类似的问题。 算法计算风险值并为法官提供有关句子的建议 。 但事实证明,该制度加强了结构性种族歧视,之后被抛弃。

这些示例表明,没有针对所有事物的基于AI的解决方案。 为了实现AI本身而使用AI并不总是有效或有用的。 并非所有问题都可以使用机器智能来最好地解决。 对于每个打算增加对政府AI开发计划的投资的人来说,这是最重要的一课:所有决策都有代价,而并非所有可以自动化的东西都需要自动化。

Source: https://habr.com/ru/post/zh-CN416759/


All Articles