前瞻经济学人 看懂未来新十年

打开APP

提升AI算法防御能力!清华阿里RealAI发布首个全面AI攻防对抗基准平台

Chloe Ma

随着AI技术的不断发展,在带来便利的同时,也带来了风险。诸如Deepfake等AI手段正为企业带来了不容忽视的风险。在6月3日的2021北京智源大会上,清华大学联合阿里安全、RealAI发布了首个公平、全面的AI攻防对抗基准平台。

想象一下,如果街道上自动驾驶的汽车因AI视觉系统受到AI算法诱导攻击,而引发行驶轨迹发生改变;或者有人通过AI技术模仿出跟你熟悉的亲朋好友一模一样的声音,找你借钱;亦或是家里的AI智能设备遭遇黑客入侵;甚至物联网更加智能的未来社会,有人植入AI智能心脏辅助设备也遭遇攻击,引发宕机,这些后果将会怎样?

清华大学计算机系教授、RealAI首席科学家朱军就指出,尽管人工智能技术取得长足进步,人工智能算法的安全性仍存在严重不足,对智能技术的应用带来较大的安全隐患。

该评测基准基于清华大学在2020年GitHub开源的ARES算法库,该平台致力于对AI防御和攻击算法进行自动化、科学评估。一个AI模型究竟是否安全,攻击和防御能力几何?只需提交至该平台,就可见能力排行。

1

恶意攻击的手段花样百出,“就像打仗一样,攻击者可能用水攻,也可能火攻,还可能偷偷挖条地道来攻打一座城,守城的人不能只考虑一种可能性,必须布防应对许多的攻击可能性。”参与该评测基准平台设计的阿里安全高级算法专家越丰这样比喻。

此前的类似防御模型基本只对一种攻击算法有效,并不能提供全面的保护。面对层出不穷的攻击算法,需要考虑模型在多种攻击算法下和更强的攻击下的防御能力,这样才能比较系统地评估AI模型的防御能力。

本次发布的AI攻防对抗基准基本上包括了目前主流的人工智能对抗攻防模型,涵盖了数十种典型的攻防算法。不同算法比测的过程中尽量采用了相同的实验设定和一致的度量标准,从而在最大限度上保证了比较的公平性。

“该基准评测平台利用典型的攻防算法和CVPR 2021比赛积累的多个性能优越的算法进行互相评估,代表当前安全与稳定性测量的国际标准。”RealAI副总裁唐家渝说。

清华方面介绍,本次发布的AI安全基准也是依托清华大学人工智能研究院研发的人工智能对抗安全算法平台ARES(Adversarial Robustness Evaluation for Safety)建立。ARES作为古希腊神话中的战神,双手持矛和盾是攻防合一的化身,集中体现了AI安全算法攻防博弈的特点。该平台对主流的攻防算法实现了模块化的设计,支持数十种主流攻防算法的实现,可以方便研究者和开发人员进行使用,有助于推动AI对抗攻防领域的发展。


立足学术前沿,远瞻产业发展。更多数据请参考前瞻产业研究院《2021-2026年中国人工智能行业市场前瞻与投资战略规划分析报告》,同时前瞻产业研究院提供产业大数据、产业规划、产业申报、产业园区规划、产业招商引资、IPO募投可研、招股说明书撰写等解决方案。


阅读全文

相关深度报告

2021-2026年中国人工智能行业市场前瞻与投资战略规划分析报告
15030人订制
打开APP,享受沉浸式阅读体验

提问研究员

一键提问研究员,零距离互动交流

我要提问
1

App数据库能为你做什么?

看看用户怎么说

2

App问答能为你做什么?

看看用户怎么说

3

App报告能为你做什么?

看看用户怎么说

4

App文章能为你做什么?

看看用户怎么说

相关阅读