亚马逊承认承认28名美国国会议员为罪犯



美国公民自由联盟(ACLU)继续反对联邦机构和警察使用面部识别系统的运动。 ACLU坚持认为,这些系统的质量太差,无法实际使用。 结果,将出现许多误报,这将导致无辜人民受苦。 为了说服美国国会禁止使用这些系统,人权捍卫者采取了大胆而有效的行动:他们通过面部识别系统Amazon Rekognition对所有美国国会议员进行了制裁 。 结果有点可预测:系统将28位国会议员确认为罪犯 。 上方屏幕快照中“英雄”的照片。

亚马逊积极推广其面部识别系统。 最近,人们知道该公司已与华盛顿县,俄勒冈州和佛罗里达州的警察局签订了合同 。 公司首席执行官Jeff Bezos将Rekognition定位为实时进行面部识别的有效工具,其中包括来自警察制服中可穿戴式摄像机的视频流。

这使人想起了今年开始在中国的一些城市进行测试的系统,包括郑州市(中国中部东部的河南省)。 在那里,给警察配备了带有摄像机的特殊眼镜,这些摄像机还与人脸识别软件相连。



小玩意首先发给了在繁忙的郑州东站工作的交警,因为大多数人都在眼前经过。 眼镜是专门为警察设计的,并连接到掌上电脑。 扫描过路人的面部之后,计算机将连接到中央数据库,在该数据库中搜索匹配项。 该实验证明了其有效性:到2月6日,警方设法找出了7名逃犯,他们被指控躲藏在事故现场和人口贩运现场。

但是在中国,对人权的保护更为宽松:已经有1.7亿个监视摄像头在街头运行,这些摄像头连接到一个人脸识别系统。 误报不会打扰任何人,尤其是如果该系统有助于抓捕真正的罪犯。

但是美国人权活动家认为,误报是该系统尚未准备好使用的证据。

ACLU测试结果表明,重新认识错误地为犯罪分子拍摄了28名无辜议员的图像。 有趣的是,对于黑色皮肤的人,错误的响应会失真。 在“受影响”的国会议员中,有39%,尽管实际上黑人议员仅占下议院的20%。 这些结果证实了美国国会黑人核心小组给亚马逊的信中有关黑人群体的担忧,即使用面部识别会对黑人,非正规移民和抗议者产生“深远的负面意想不到的后果”。 实际上,有迹象表明,在比较黑脸(尤其是女性)时,该系统更容易出错。

但是总的来说,每个人都受到来自全国不同地区的各个年龄层的民主人士,共和党人,男人和女人的控制。 所有这些都导致系统错误。

美国公民自由联盟的代表们相信,每一个错误的肯定都会危害人类的自由。 通过对警察进行讯问或搜查,可能会对警察产生偏见。



扫描是在Amazon Rekognition公共服务上执行的,服务成本为12.33美元。 为了与照片进行比较,有535名国会议员和参议员选择了25,000副戴着手铐的可公开获得的照片。 测试是使用默认设置进行的。 28个错误意味着大约5%的误报率。 从理论上讲,这可能是一个很好的结果,但是如果应用于成千上万的人,则意味着很多无辜的人由于程序错误而被搜索。

当然,程序的所有结果都将由人们检查,但是我们都知道,这种系统会很快失去控制并进入自动模式,就像发给超速罚单的系统一样。

美国公民自由联盟(ACLU)呼吁国会“暂停执行”这项技术,直到该技术开始产生可接受的准确性为止。

Source: https://habr.com/ru/post/zh-CN418509/


All Articles