Uber神经网络识别处于“异常”状态的用户

2018年6月7日,Uber Technologies,Inc. 提交了名为“ 使用机器学习预测用户状态 ”的美国专利申请号为20180157984的申请。

专利申请描述了一种自学习系统(神经网络),该系统不断监视特定人员如何使用Uber应用程序-并识别该人员异常的行为。 该系统接受了许多输入信号的培训,包括:

  • 文字中的错别字数量;
  • 点击链接和按钮的准确性;
  • 设备倾斜角度
  • 步行速度(可能是GPS记录的数据);
  • 数据输入速度;
  • 星期几和一天中的时间;
  • 旅客地址

尽管该专利申请并未提及该系统的特定目的,但是可以从神经网络的训练参数中假设该系统具体确定谁。 显然,我们正在谈论确定醉酒严重的乘客。

该专利申请包含具有输入数据的各种值的示例的表,以及系统在“异常用户状态的标识”(1或0)列中产生的结果。 也许Uber已经真正测试了机器学习模型-专利申请表明了其工作的真实结果。



该表中的结果与真实神经网络的结果非常相似,因为它们并不总是显而易见的。 例如,用户编号5以平均速度移动时快速而准确地收集数据。 但是系统仍然将其归因于“异常”状态(结果1)。 通话时间和星期几可能很重要(星期六,凌晨1:38)。 换句话说,在星期六的这个时间,很难向神经网络证明自己清醒。

如果实施了该系统,则在接收到驾驶员的命令后,作为支持信息,可以显示警告,该命令可能已经以“减少的充足性”从乘客到达。 因此,驾驶员可以同意这样的旅行,也可以拒绝。

也可以假设该公司将尝试对运输醉酒的乘客实行特别提高的关税。

没错,关于如何欺骗系统的方法立即浮现在脑海。 例如,用户可以要求一个清醒的朋友从该应用程序下订单,以便该系统不向他提供更高的报价。 可能会出现特殊的漫游器-程序可以通过用户的语音命令独立地调用Uber中的出租车。 在这种情况下,许多输入信号将产生失真的图像:文本中的错别字数量将为零,单击链接和按钮的准确性将是完美的,并且打开程序与致电出租车之间的时间将最少。

但是,其他输入参数仍然无法隐藏。 例如,如果一个人在饮酒场所内或附近在2晚晚上叫出租车,那么即使没有任何神经网络,出租车司机也可以得出正确的结论。

该专利明确指出,神经网络的结论会影响Uber向用户提供的服务。 可以警告驾驶员该乘客的状况。 专利申请书说,如果“乘客出现异常情况的可能性相对较高”,那么他的申请将不会进入普通保险库,而只会“经过适当的经验或培训”后发送给驾驶员。

对于Uber司机来说,与醉酒的乘客共事是其专业活动的主要缺点之一。 如果上个世纪的普通出租车司机甚至可以因为这样的乘客而高兴,因为它答应了他额外的收入,那么在自动的路线规划,收费和无现金支付系统中,Uber很难从醉酒的乘客那里获得额外的钱。 因此,在中毒的情况下增加关税似乎是合理的。

“如果司机有更多的钱来运送醉酒的乘客,那将是很好的。 RideShare Guy博客的作者哈里·坎贝尔(Harry Campbell) 说: “醉酒的旅客和清醒的旅客之间并没有太大的区别,但是经过数十次这样的旅行之后,肯定可以增加驾驶员的头发。”

Source: https://habr.com/ru/post/zh-CN413657/


All Articles