英国警方决定对AI嫌疑犯



英国城市达勒姆(Durham)的警察打算使用专门的认知系统来帮助他们做出重要决定-嫌疑犯应被拘留还是可以保释。 该系统是专门为警察开发的,称为Hart(危害评估风险工具)。 Hart将通过相当简单的风险系统来评估嫌疑人:未来犯罪的低,中和高风险。

该系统本身尚未得到充分利用;警察仅在测试其某些功能,以查看其如何有效地处理罪犯和犯罪。 如果一切顺利,那么在接下来的几个月中它将投入运行。 哈特可以用来解决其他问题。 例如,为了确定拘留嫌疑人所需的时间,确定释放他(或她)保释的可能性,以及其他重要事项。

哈特基于神经网络的工作,该网络接受了达勒姆警察从2008年至2013年收集的数据的培训。 在评估过程中,该服务使用诸如特定人员的犯罪历史,所犯罪行的严重性等因素,并计算犯罪嫌疑人可能躲藏的可能性。

该系统已经开发了几年,2013年进行了首次测试。 在开始该项目之前,其作者调查了罪犯的行为长达两年。 之后,数据被输入到计算机系统的内存中,该计算机用于分析信息并预测犯罪嫌疑人的进一步行为。 同时,预测非常准确。 哈特几乎没有犯错,给出了最低的威胁等级(准确性为98%),只有一点点犯错,给出了最高的威胁等级(88%)。

当前,来自不同国家/地区的警察正在尝试使用最新技术来调查犯罪和预防犯罪。 然而,在某些情况下,很难对被捕的犯罪嫌疑人进行评估。 此外,对落入警察手中的人们的过去进行研究还需要很多时间。 但是计算机能够在几秒钟或几分钟内获得必要的数据,立即参与预测犯罪嫌疑人的行为。

Hart一切都很好,但是事实证明 ,英国城市警察使用的软件非常泄漏。 这不仅适用于上述软件平台,还适用于警察使用的其他软件和硬件监视和分析工具。 致力于为执法人员创建软件平台的开发人员首先对他们的正确和可靠的工作感兴趣,然后对防止外部影响感兴趣。 也许这就是为什么警察软件的保护如此差的原因。

当然,现在可以为包括谷歌在内的各种商业公司带来利益的其他认知系统也处于危险之中。 Facebook,Microsoft,Google使用了类似的软件。 要绕过保护并获得公司的机密数据,您不仅需要成为计算机天才,还必须是幸运的天才。

有了警察系统,事情就容易了一些。 意识到这一问题,执法人员决定通过限制神经网络对罪犯和达勒姆犯罪数据库的访问来确保国家数据的安全。 此外,该软件平台将从今年的网络(而不是外部来源)接收其他数据。 网络安全专家认为,该公司做了正确的事情,因为如果需要的话,攻击者将能够在几分钟之内获得必要的数据。



首先,人们会仔细研究系统的解决方案,以了解这些解决方案是否足够。 将来,机器人会分析接收到的数据,是的,但是人们会检查所有决策,并检查事物的真实状态。

在“牢记”系统之前,您不应该信任它。 毕竟,她会错误地释放罪犯。 因此,还有待等待支持团队完成系统的定型。 同时,用于分析犯罪嫌疑人行为的认知平台将作为达勒姆警察的辅助工具。 顺便说一下,由于该平台被“监禁”到一个地区,并基于同一地区的犯罪数据对系统进行了培训,因此Hart无法分析其他地方的可疑犯罪。

不过,如果系统运行良好,则可以稍后将其连接到英国各个地区的其他警察数据库。

Source: https://habr.com/ru/post/zh-CN403849/


All Articles