亚马逊引用积极的用例来反驳对其面部识别技术的指责,但人们真的会买账吗?

亚马逊引用积极的用例来反驳对其面部识别技术的指责

面部识别算法,特别是亚马逊的基于云的图像分析服务Rekognition,最近成为日益严格审查的主题,这已不是什么秘密。

在6月份致亚马逊首席执行官杰夫贝索斯的一封信中,近19组股东对该公司决定向佛罗里达州奥兰多市和华盛顿县(俄勒冈州)警长办公室提供Rekognition的决定表示保留,亚马逊员工,学者以及其他70多个团体抗议。7月,在ACLU 证明 Rekognition容易出错之后,三位民主党国会议员提出担心该技术将对隐私和公民权利造成危险。

亚马逊周四发布了一个案例研究,重点介绍两年前在2016年11月亚马逊Re:Invent大会上作为亚马逊网络服务(AWS)的一部分推出的Rekognition正在使用的案例研究,作为积极的用例进行了引用。

亚马逊写道,Marinus Analytics是一家成立于2014年的大数据分析公司,它正在使用包括Rekognition在内的AI工具帮助寻找人口贩卖受害者,并使其与家人团聚。

具体而言,它为各机构提供工具,帮助识别和查找性受害者。其中一项服务Traffic Jam拥有面部识别功能FaceSearch,利用Rekognition在几秒钟内搜索数百万条记录。另一个点击Rekognition的字符识别算法来检测图像中的单词和短语,提取它们,并将它们转换成机器可读的文本,它以可搜索的格式组织和整理。

亚马逊表示,FaceSearch帮助一名侦探在一张照片中找到了一个登记为性交易受害者名字的电话号码,从而确定了20名受害者,并在短短三个月内将肇事者绳之以法。在另一个例子中,它帮助加利福尼亚州的调查人员找到了一个失踪的16岁女孩。

Marinus Analytics的总裁兼联合创始人Emily Kennedy表示,“如果没有Traffic Jam,调查人员需要手动筛选数以千计的在线广告。这意味着他们坐在他们的电脑上,将受害者的照片贴在他们的屏幕上,并将他们在网上看到的每张照片进行比较,希望他们找到匹配,使用AI技术,如亚马逊识别技术,这个关键任务现在可以更精确地完成,并且在几秒钟内就可以完成,这对于在有限时间找到受害者的情况非常重要。”

亚马逊提请非营利组织索恩使用Rekognition和其他AWS产品识别和救援遭遇侵犯的儿童。通过其Spotlight工具,每天筛选成千上万的儿童性交易广告,它确定了5894名受害者,并帮助其中的103个。

Thorn首席执行官Julie Cordua表示,总体而言,机器学习算法将调查时间缩短了65%。

AWS已选择成为解决方案的一部分,合作利用其解决方案帮助更快地找到儿童并停止滥用。

案例研究是亚马逊推动反对Rekognition评论家的更广泛活动的一部分。今年6月,亚马逊网络服务总经理Matt Wood 写道,该服务的文本和语音分析能力防止人口贩运,抑制儿童剥削,让失踪儿童与家人团聚,以及为儿童建立教育应用程序,从而实质上使社会受益和通过多因素身份验证增强安全性,更轻松地查找图像或防止包裹被盗。

“据报道,没有任何针对亚马逊重新认知的执法滥用行为,”他写道。“新技术能力始终存在并将永远存在风险。选择使用技术的每个组织都必须采取负责任的行动,否则将面临法律处罚和公开谴责的风险。AWS认真对待自己的责任。”

然而,公共关系的努力将很难赢得那些认为其软件容易受到偏见的批评者。

比如美国公民自由联盟(ACLU)证明,当从“公共资源”获取25,000张照片并将其与国会成员的官方照片进行比较时,认可识别,确认28名犯罪分子。绝大多数的错误匹配都是有色人种。

亚马逊的一位发言人表示,ACLU的测试可能因校准不良而出现偏差。它使用了一个置信度阈值,即给定预测正确的可能性,为80%,低于亚马逊为执法应用推荐的95%。

但越来越多的研究表明,总体而言,面部识别系统往往容易从他们受过训练的图像数据集中获得偏见。

例如,2011年进行的一项研究发现,在中国,日本和韩国开发的面部识别系统难以区分白人面孔而非东亚人。2012年另一项研究显示,供应商Cognitec的面部算法对非洲裔美国人的识别率比白种人高5%至10%。

最近,众议院监督委员会关于面部识别技术的听证会显示,联邦调查局用于识别犯罪嫌疑人的算法在15%的时间内是错误的。与此同时,伦敦大都会警察部署的系统每次打击都会产生多达49个错误匹配。

美国最大的人体摄像机供应商之一Axon的首席执行官Rick Smith最近表示,面部识别对于执法应用来说不够准确。

他说:“他们需要在面部识别中做出运营决定。要么是你在技术上失败了,要么是灾难性的结果,要么是一些意想不到的用例,在长期使用技术的情况下,它最终是不可接受的。”

尽管对亚马逊的批评声音越来越大,但奥兰多本月决定与亚马逊续签一份协议,将其作为一项测试的一部分,该测试涉及来自该市警察部队的志愿者。华盛顿县用它来制造一款智能手机,让下属可以通过一个包括30万张面部的数据库来扫描照片。

ACLU在其测试结果的一份声明中表示,“身份识别,无论是否准确,都可能使人们丧失自由甚至生命。国会必须认真对待这些威胁,并暂停执法部门使用面部识别技术。”

本文为ATYUN(www.atyun.com)编译作品,ATYUN专注人工智能
请扫码或微信搜索ATYUN订阅号及时获取最新内容

发表评论