据外媒 道,奥兰多执法部门不再使用亚马逊颇受争议的AI人脸识别软件Rekognition。据悉,这是这家公司第二次尝试在佛罗里达州中部地区部署该套技术。而奥兰多选择不使用该技术的原因是:这座城市没有必要的设备或宽带来使其正常运行且从未能对其展开现场测试。
这标志着一直饱受引发偏见监管、非法监视、种族歧视以及亚马逊将其卖给警察部门争议的Rekognition再次遭受重大挫折。
去年5月,由美国加州北部公民自由联盟(American Civil Liberties Union of Northern California)获得的一些文件首次曝光了执法部门在使用Rekognition的行为。当时,亚马逊正在向奥兰多和俄勒冈州华盛顿县的警察部门销售这套基于云计算的人脸识别平台,但这家公司并没有向执法部门公开解释,事实上,它还采取了保密协议等措施将其保密起来。
亚马逊的这一做法遭到了人工智能 区、活动人士和民权组织的强烈反对,他们担心其固有的缺陷会导致非法监视和其他侵犯人权的事情发生。研究表明,亚马逊的系统可能会返回大量的错误匹配,而且它还很难在肤色较深的个体和女性性别中做出准确的识别。
对此,亚马逊的说法是,Rekognition将被用作警方的辅助工具,只有当它以99%的准确率识别出匹配对象时警察才会采取它的意见。然而目前并不清楚亚马逊在监控参与其中的机构违反其服务条款这件事上究竟起到了多大的作用。亚马逊声称,这些条款允许它暂停或禁止非法或不道德使用Rekognition的组织和个人。
尽管遭到了来自公司内外的强烈指责,但亚马逊仍旧表示将继续向美国执法部门销售这款软件。
不过迫于压力,奥兰多跟亚马逊的合同似乎已经在去年6月底到期。然而但据Orlando Weekly 道,该试点项目又在去年10月再次启动,当时警方试图让这套系统在警察局位于市中心总部周围的四个摄像头以及位于 区娱乐中心外的一个摄像头上运行。
现在,这个项目又要被终结掉了。根据当地警方的说法,由于这款软件成本太高、安装起来太过麻烦,并且亚马逊员工甚至无法帮助他们建立一个可靠的实时流媒体进而让软件能够实时运行,于是他们决定放弃。
声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!