当前位置: 首页 > 安全资讯 > 正文

360杜跃进WAIC演讲:AI安全面临“七宗罪”挑战

在近期举办的世界人工智能大会上,《数据安全法》引起热议。“比起石油或者黄金来说,数据更像全球数字时代的血液,数据安全重要性不言而喻。”360集团副总裁、首席安全官杜跃进作了题为“数据与人工智能安全”的演讲。他表示,未来数字世界的三大基础是数据、智能(软件、计算)与网络,三者缺一不可构成数字时代,而数字时代则对安全提出了更大挑战,其中,数据安全和AI安全,是两个新的、相互关联的基础性安全领域,需要广泛协作与开放创新来解决其中的安全问题。

作为国内网安龙头,三六零(601360.SH,下称“360”)还携智能汽车、人脸识别、触控一体机、IoT等人工智能和网络安全前沿产品,集体亮相此次世界人工智能大会。

玩偶能通过人脸识别设备?AI安全面临“七宗罪”挑战

杜跃进指出,AI安全可以用“七宗罪”来形容,包括硬件、软件、协议、算法、数据、应用与社会。具体来说,硬件层面,人工智能元器件在物理层面缺乏安全设计;软件层面,任何软件都有漏洞;协议层面,很多专用通信协议设计缺乏安全考虑;算法层面,算法本身可以被欺骗、误导;数据层面,数据有可能被污染,被“投毒”;应用层面,人工智能技术可能被用于危害人类利益;社会层面,人工智能技术简单化地应用于解决社会问题,可能导致事与愿违。

以应用越来越广泛的人脸识别设备为例,“我们的AI安全研究团队总共分析了7个厂商的7款人脸识别设备,发现每台设备都有问题,包括存在后门、流量重放实现登录,DLL劫持、APK组件泄露隐私信息、低权限实现开门控制,模型文件泄露、服务端口开放、未授权访问等等。” 杜跃进举例说,360曾做过一次实验,可利用一台人脸识别设备的漏洞攻击算法模型,令其将小熊玩偶识别为人脸,并通过验证。

为此,360 AI安全实验室长期致力于研究人工智能基础设施领域的安全问题,目前共发现了150多个机器学习框架及供应链漏洞,涉及被广泛使用的Tensorflow,Caffe,PyTorch等主流深度学习开源框架,这些漏洞可造成任意代码执行、拒绝服务攻击、信息泄露等危害。

此外,风口上的智能汽车中也存在安全漏洞。“研究发现一些车辆可以通过互联网直接控制,比如突然开启车门、远程发动。”杜跃进表示。据悉,360 Sky-Go团队发现梅赛德斯-奔驰19个安全漏洞,利用漏洞可以构造攻击链,可以实现对多个系列200余万辆奔驰汽车的电力、动力系统的远程无接触控制,其控制场景包括对前后车门、车窗、车前灯、雨刷器的开启关闭。

大数据杀熟?数据安全面临被窃取、滥用和误用问题

今年6月,我国首部关于数据安全的法律《中华人民共和国数据安全法》获审议通过,并将于9月1日正式施行。

“数据安全,是当前最恐慌、最混乱的新问题。”在杜跃进看来,数据安全不仅是传统的数据文件保密、数字版权保护、数据库安全,也不仅是大数据平台的安全,而是大数据和智能化时代下,从不同视角关注的数据防窃取/破坏、防滥用、防误用三大问题。

具体来说,数据破坏,即黑客潜入其他主体的电脑,对文件加密、窃取或者删除;数据滥用,即用户的个人隐私和信息在别人手里,对方未经许可访问这些敏感信息;数据误用,即拥有大数据的主体对大数据的使用方法不当,导致用户权益受损。

不同角色视角下,数据安全面临不同的问题。杜跃进表示,对于个人来说,数据安全涉及隐私问题、不公正问题等,其中最典型的例子是大数据杀熟;对于企业和机构来说,数据安全则涉及资产损失、知识产权、利益分配、跨组织流动时的风险控制与合规要求;对于国家来说,数据安全则涉及国家安全问题。

开放创新,护航数据与AI安全

对于如何解决数据与人工智能安全问题,杜跃进表示,“没有成熟方案,只有最佳方法,即广泛协作、开放创新。” 因此,具体技术还需要迭代创新,而且在基本方法上要以数据为中心,以组织为单位,以能力成熟度为抓手;要从传统的管理体系转向社会化治理体系来应对解决;要建立复合机制,从只有处罚,转变为处罚、帮助、奖励并举。

杜跃进介绍道,为应对人工智能与安全面临的挑战,360发挥龙头企业优势,践行社会责任,承担了国家级开放创新平台的建设任务。一是建设“安全大脑国家新一代人工智能开放创新平台”,该平台致力于解决人工智能自身存在的安全风险、人工智能创新环境匮乏及在网络安全领域创新成果落地难等问题。同时,平台还将赋能中小初创安全企业、垂直行业、人工智能产业,提升国家人工智能安全整体防御能力,打造人工智能的“安全底座”。据悉,该平台是科技部批复的由企业牵头建设的15家“国家新一代人工智能开放创新平台”中唯一聚焦人工智能与安全的平台。

另一个是牵头构建大数据安全协同技术国家工程实验室。据悉,大数据协同安全技术国家工程实验室,是针对我国大数据环境下数据安全和系统安全监测、预警和控制处置能力不足等问题,围绕提升大数据安全分析能力和保障大数据系统自身安全的需求,建设大数据协同安全技术应用研究平台。

最后,杜跃进表示,数字经济还在快速发展变化中,因此,解决数据安全问题不能闭门造车,一定要从产业中来,到产业中去,在产业实践中找问题,找方法,并不断迭代和完善。

打赏

本文固定链接: https://www.moondream.cn/?p=2586 | 月梦工作室

该日志由 moondream 于2021年08月02日发表在 安全资讯 分类下, 你可以发表评论,并在保留原文地址及作者的情况下引用到你的网站或博客。
原创文章转载请注明: 360杜跃进WAIC演讲:AI安全面临“七宗罪”挑战 | 月梦工作室

360杜跃进WAIC演讲:AI安全面临“七宗罪”挑战:等您坐沙发呢!

发表评论

快捷键:Ctrl+Enter