议员?罪犯?傻傻分不清楚

2019年08月27日 由 sunlei 发表 314403 0
这个时代到底有多快?

在曾经我们拿“刷脸”这个梗开玩笑的不远处,人脸识别已经成为现如今身份识别的主要方式了。无论在金融领域,还是安保、通行、娱乐、公安司法、自助服务、企业考勤会务等等都已得到普及。

当我们自信的以为人脸技术已经成熟到炉火纯青的地步的时候,亚马逊人脸识别产品Rekognition又双叒叕闯祸了。

Rekognition是亚马逊研发的一款图像分析软件。亚马逊已经将这项技术销售给了美国的几个执法机构,比如说华盛顿县治安官办公室,旨在利用软件的面部识别算法实时自动识别和跟踪犯罪嫌疑人;亚马逊也在争取将这项技术卖给美国政府。



Rekognition需要被辨识的脸部照片作为基础数据库,目前基础数据库的建设主要基于亚马逊的云服务AWS。当摄像头捕捉到现实中的人脸或用户上传对比照片后,Rekognition会自动将它们与基础数据库中的照片进行对比;如果相似度足够高,那么Rekognition就认为这个人属于基础数据库中的某个人。在软件中,将这个相似度称作“可信度阈值”,它的默认值为80%。



利用先进科技,让犯罪嫌疑人无处逃遁,想象一下就觉得似乎世界变得更美好了一点。然而,理想很美好,现实很骨感。

实际上,早在今年1月份Rekognition就陷入种族歧视风波。

据外媒新闻。该项研究的联合作者称,在2018年进行的实验中,Rekognition错误地将19%的女性图像识别为男性,将31%的深肤色女性图像识别为男性。相比之下,微软在识别深色皮肤人群性别时,将女性错认为男性的比例只有1.5%。



亚马逊对这项研究提出质疑。它表示,Rekognition升级版的内测结果显示,该技术对于识别性别的正确率不存在人种差异。此外,亚马逊认为这篇论文没有清楚地说明在实验中使用的置信度阈值,即Rekognition的判断被认为是正确而必须达到的最低精确度。

在向VentureBeat提供的一份声明中,AWS的深度学习和人工智能总经理Matt Wood博士区分了这两种情况:面部分析指的是在视频或图像中辨认出脸部,并确定其一般属性;而面部识别是将单个人脸与其它视像中的人脸相匹配。他说,根据“面部分析”的结果来判断“面部识别”的准确性是“不可行的”,而且他认为这篇论文所谈论的和“客户如何使用Rekognition”是两回事。



Wood博士说:“使用最新版本的Rekognition,从议会网站和Megaface人脸数据库下载百万张图像数据,我们发现,置信度阈值设置为0.99时,误报数为零。我们通过录入和反馈来不断改进这项技术,且支持创建第三方评估、数据集、衡量基准。”

简单的来说,亚马逊想表明的意思是,你使用方法不对,这锅我们不背!

然而,上面这一则只是亚马逊第二次因为Rekognition产生的偏见而陷于争议中。

让我们回顾第一次Rekognition闯的祸。

美国公民自由联盟(ACLU)使用亚马逊的这款人脸识别软件进行了一项实验,他们使用亚马逊的Rekognition人脸识别工具,扫描了全部535名美国国会议员的照片,并将它们与25000张警方公开的罪犯面部照片进行了比对。

结果,系统错误地将28名国会议员的照片与罪犯面部照片进行了配对。也就是说,亚马逊的人脸识别工具认为,535名国会议员中,有28名议员看起来像是罪犯。

在测试时,ACLU使用25000张公开的入监,照构建了一个面部照片数据库和搜索工具。然后,他们搜索了这个数据库,比对了所有现任参众两院议员的公开照片。他们使用亚马逊为Rekognition的默认匹配设置。



民主党众议员Sanford Bishop (D-Ga.) 被亚马逊人脸识别系统错误地判定为罪犯。

结果,产生了28个不正确的匹配——错误率达到5.2%。



但是时隔一年,经过亚马逊的不断努力,依然没有改变Rekognition对美国政要的偏见。

8月14日,ACLU再一次对它进行了一项测试,Rekognition的表现依然令人大跌眼镜:基于25000人的犯罪嫌疑人基础数据库,ACLU上传了120张立法者的照片让Rekognition一试身手,结果是,Rekognition用误判26名立法者为犯罪嫌疑人的结果,再一次证明了自己身手不佳。

ACLU之所以不断地去做实验,找证据,是因为美国民众极其强烈的反对和民权倡导者的严重质疑,已有超过15万人联名抗议。他们认为无处不在的面部识别软件可能侵犯人们的隐私,并造成一个无缝不入的政府监控系统。

ACLU还提供了以下声明:

亚马逊似乎忽略了(或拒绝承认)一个更广泛的观点:政府掌握的人脸识别技术已为滥用做好了准备,并引发了对公民权利的重大担忧。它可以允许——在某些情况下已经允许——警察确定那些人参加了抗议活动,令ICE(美国移民及海关执法局)继续监控移民,令城市可以定期跟踪居民,不管他们是否有理由怀疑犯罪活动。将阈值从80%更改为95%并不能改变这一点。事实上,甚至可能加剧这种情况。

旧金山议员丁右立(Phil Ting)提议禁止使用这个软件系统,并且表示这样的错误识别结果将会给人们带来巨大的负面影响,当你被人认为是一个罪犯, “可能会影响你找工作的能力、影响你买房租房的能力。”这远不是一项技术犯了一个可笑的错误那么简单,而是确确实实会有活生生的人们,受到这一错误带来的实际影响。

那么,面对再一次的重大失误,作为软件开发商亚马逊对此作何解释?福布斯这样报道:“当使用面部识别来判断调查中的嫌疑人时,执法部门应该使用推荐的99%的可信度阈值,并且仅将这些预测作为调查的一个要素(而非唯一决定因素)”。

ACLU表示这种解释无法让人信服。在测试中使用的80%的可信度阈值,实际上是软件提供的默认设置。既然99%的可信度阈值才是推荐使用值,为什么亚马逊不将默认可信度阈值设置为99%呢?然而对此,亚马逊并未给出答复。

未来,Rekognition将会走向何方,目前我们无法做出判断。

随着时代发展、科技进步,人工智能给我们的生活带来的方便和快捷不言而喻,但是科技作为工具,如何发挥最好的功效最终还是掌握在人的手里,说白了,AI只是个孩子,要学的还很多,而关键在于我们人类“家长”怎么去教育和引导。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消