3D模型也能做—CSAIL做出被谷歌AI识别成枪支的玩具乌龟

2017年11月06日 由 yuxiangyu 发表 590141 0
在过去,我们欺骗AI的对抗样本往往是平面图。而近日CSAIL(麻省理工学院的计算机科学与人工智能实验室)的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。

[video width="1280" height="720" mp4="https://www.atyun.com/uploadfile/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4"][/video]

从视频中我们可以看到,即使我们移动或翻转这只玩具龟,AI仍然认为这是一支来福枪。CSAIL研究人员表示,开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本,如果想要更加安全的自动驾驶技术,这无疑会成为接下来的研究焦点。

此外,3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范,可能会造成很严重的事故。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消