IBM开发AI病毒,以更好地了解并应对新型网络威胁

IBM开发AI病毒,以更好地了解并应对新型网络威胁

IBM开发了一种名为“DeepLocker”的新型攻击性工具,AI可以绕过网络安全保护,恶意软件使用AI来感染个人电脑。

虽然这看起来像是一个危险的先例,IBM声称由于网络犯罪分子已经在努力武器化AI,因此应对这种威胁的最佳方法是观察其运作方式。

虽然可以捕获正常的恶意软件并进行反向工程以找出导致其发生故障的因素(从而构建防护),但分析神经网络如何做出决策要困难得多。

该公司构建了DeepLocker,称其为“由AI驱动的新型高度针对性和规避性攻击工具”,以了解现有AI模型如何与恶意软件技术相结合来创建新型攻击工具。它的概念验证工具隐藏在其他应用程序中,直到它识别出它的受害者:当不幸的个体被标记(通过面部识别,地理定位和语音识别等指标)时,恶意软件就会进行攻击。

只有在识别出某些标准时,AI模型才会“解锁”恶意软件以开始攻击;这些属性可以基于任意数量的属性,包括视觉,音频,地理位置和系统级功能。几乎不可能确定所有可能的触发因素,使深度神经网络(DNN)的逆向工程变得困难。

为了测试DeepLocker,IBM在视频会议应用程序中隐藏了勒索软件,以便无法检测到它,并训练AI模型根据面部识别解锁它。

当DNN通过网络摄像头在PC前面看到合适的人时,它提供了打开有效负载并锁定受害者系统的钥匙。

IBM工作的一个聪明之处在于,它已经改变了黑盒AI的传统弱点——你不能看到内部理解它是如何决定的——将其变成一种力量。

IBM的Marc Stoecklin写道:“一个简单的’如果这样,那么’触发条件就会变成一个非常难以破译的AI模型的深度卷积网络。除此之外,它还能够将隐藏的触发条件本身转换为解锁攻击有效负载所需的’密码’或’密钥’。”

IBM将于周四的Black Hat USA 2018讨论研究进展。

本文为ATYUN(www.atyun.com)编译作品,ATYUN专注人工智能
请扫码或微信搜索ATYUN订阅号及时获取最新内容

发表评论