安全靶场构建新型人工智能安防体系

2021-11-30 04:08:40 来源：

　　当前，人工智能产业正迎来新的发展高潮，但新技术也带来了特有的新风险，在发展与产业落地过程中催生出了对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。随着产业进程的深入，这些安全风险的边界迅速扩散，逐步蔓延至金融、互联网、安防、城市和社会治理各个领域，危害到社会安全与国家安全。

　　为有效应对人工智能新型安全风险，瑞莱智慧日前发布人工智能安全靶场RealRange，提供实战化、体系化的一站式人工智能攻防演练服务支撑，通过预设训练场景模型、对抗攻防实战竞演，帮助政企机构开展安全能力体系检验评估，培育新型安全人才，建设新型人工智能安全防御体系，全面提升人工智能时代新型安全威胁的应对能力。

　　新的安全问题需要新的解决方案。工信部发布《网络安全产业高质量发展三年行动计划（2021&mdash；2023年）（征求意见稿）》提出，人工智能安全作为面向新设施新要素的安全技术，需加快构建分类体系、制定检测与评估标准体系等，其中构建人工智能安全靶场也被列为重点投入方向。

　　自2008年美国筹建国家网络空间靶场（NCR）以来，靶场已经证明了其在安全保障方面对国家和社会各层面的重大推进作用。人工智能时代下，伴随智能产业的纵深发展，一系列前所未有的新型安全威胁正逐步影响到军事、政企、金融等关键领域，研制针对人工智能场景的模拟实战靶场也因此成为行业重点探索的方向。

　　清华大学人工智能研究员孵化企业、瑞莱智慧副总裁唐家渝表示，随着人工智能安全态势不断演化，新型攻击手段不断出现，单点产品只能解决滞后问题，对于未知威胁无法进行风险预判和策略调整，同时作为新兴领域，行业普遍面临专业人才不足与实战经验匮乏的双重困境。鉴于此，打造动态演化、科学调整的安全防御体系成为核心需求，也促使人工智能攻防靶场成为一项重要的新型基础设施。

　　类似于演兵场，安全靶场通过攻防实战演练将风险暴露前置，提前发现和适应不断升级、瞬息万变的新型攻击和高级威胁，动态提升团队软实力，快速弥补技术水平与经验的不足，实现&lsquo；让风险发生在靶场，让有效防御构建在安全事件之前&rsquo；。唐家渝说。

　　作为人工智能安全领域的领军企业，瑞莱智慧聚焦于算法攻防场景，率先推出人工智能安全靶场RealRange，用于构建真实网络环境的人工智能实战攻防演练，通过实战化、模块化的平台服务，帮助企业实现精准挖掘薄弱环节、验证攻防能力、敏捷迭代防御体系等全方位能力。