谷歌:我们的“电话”人工智能还不够危险



不久前,Google 演示了数字助理Google Duplex的工作,该产品可以通过电话进行通话,可以在旅馆,理发店或饭店中代替个人预定位置。 有点像虚拟秘书,声音很人性化。 如此人性化,新闻资源开始发布有关助手可能存在的危险的信息。

最近,Google代表试图尽一切努力说服那些担心自己后代安全的人。 该公司无意放弃该项目。 此外,在今年夏天,该助手的功能将对部分Google Assistant用户可用。 助手将帮助您在餐厅预订餐桌,或选择合适的时间在最近的理发店理发。

该系统功能的演示使许多人惊讶。 不仅由于助手清楚地回答了问题并普遍支持对话,而且还由于很难将机器与人的通信与人与人的通信区分开。 程序仔细模拟的所有这些“是”,“嗯”,“ nuuuu”(显然,在所有这些感叹号的英文版中)与一个人在谈话中的行为非常相似。

那怎么了 好吧,该程序自言自语,并说,如果这一切看起来像人与人之间的对话-更好,那么计算机系统的进步就显而易见了。 实际上,信息安全专家和普通人担心语音助手会被攻击者或各种特殊服务的代表用于各种目的。 区分计算机和人几乎是不可能的。

嗯,借助这样的系统窃取个人信息要容易而不容易,因为它知道如何说服。 无论如何,在演示中,一切看起来都是这样。


“随着技术的演示,出现了许多问题。 其中之一:“你们创造了一种高阶AI,可能非常像人类,包括电话吗?” Google工程副工程师Scott Huffman说。 霍夫曼说,事实上,数字助理离人类还很远。 “我们实际创建的是三个经过自动训练的”系统,每个系统都有一个明确的任务:询问时间表,保留和设置理发时间。 霍夫曼说,这就是机器所能做的。

除了其他功能外,Google还为该系统的功能添加了演示文稿仪式。 机器报告说它是机器,因此对话者应该在了解情况时不会遇到问题。

至于该技术不能完全用于积极目的这一事实,谷歌员工已经大声疾呼。 Google副总裁尼克·福克斯(Nick Fox)说:“许多技术既可以造福人类,也可以造福人类。” 他还认为,让用户知道当前确切的呼叫者非常重要。

为了创建这样的系统,Google团队要求普通的呼叫中心员工在餐厅保留桌子或在理发店理发。 在“交流”过程中,必然会发生某种对话,Google员工会记录并用于AI教学。 乍一看,结果还不错。


现在,Duplex可以匿名处理表的保留。 但是,Google有一支可以在现场进行操作的操作员团队。

有趣的是,Google认为系统当前的通信能力不是很高。

总体而言,谷歌现在正试图证明其项目中“没有个人的事,只有生意”。 从原则上讲,很可能是这种情况,因为该公司不太可能尝试发展一种会在一段时间后猎杀人类的人工智能。 不,这里的重点是纯粹的贸易,大概这个问题很快就会得到解决。

Source: https://habr.com/ru/post/zh-CN415801/


All Articles