两组三中三澳门论坛

AI会让世界变得更好吗?

这是11月16日，百度安全总经理马杰在天府2018国际网络安全高峰论坛发表主题演讲时开场即抛出的问题。

对于这个问题，马杰给出的答案是，“一定会!”

以AI思维应对安全新挑战

基于大数据和云计算，AI正在驱动整个人类社会在组织、制度和经济上的全方位变革。但是，当我们绘制AI时代的宏伟蓝图，将思维模式从Think Mobile向Think AI转向时，也不可避免的迎来了全新的安全挑战。

在马杰看来，AI时代，一个很典型的特点便是软硬结合。大到智能汽车，小到智能音箱，几乎已经涉及到了终端设备制造商、第三方应用开发商、解决方案提供商、系统开发商、芯片厂商及云端服务商等全产业链环节。随之而来的安全威胁，也不再仅限于传统意义上的高危范畴，系统漏洞、设备劫持、云端风险、数据安全与隐私泄露，无时无刻不在威胁着你我的智能生活。

AI时代AI思维下的另一特征，是算法正在推动传统行业转型的进程，然而算法自己有时也会“犯错”。

如上图所示，马杰现场演示了百度安全关于交通安全标识AI识别的最新研究成果——同样是两个“停”的路标，但AI却将其中一个识别为限速60公里，即可以通行。“问题在于，图片在我们肉眼不可见的情况下被动了手脚，它不会影响到我们的判断，但会对AI产生严重的干扰。

“人工智能还是一个几岁小朋友的水平，只是在特定领域比较强，像这样复杂被干扰的图片是容易引起歧义的，这种研究如果不是我们做在前面，而是黑客做在前面，容易产生非常危险的事情。”

不过，问题的存在并不意味AI的时代不安全。相反，正如百度安全所坚持的理念，有AI，更安全。“我们需要让AI变得更安全，我们也需要通过AI让我们各种产品变得更安全。”而以技术赋能、标准驱动，生态共建为支点，百度安全也构建了一系列开放生态矩阵，由下至上覆盖基础层、平台层和生态层，以实现多层面的开放协作，共同应对AI时代所面临的全新且多维度的安全挑战，实现产业共赢。

“七种武器”助力开放共建

在基础层，百度安全今年推出了BASS下一代AI安全技术栈，将首创的七大技术全面开源汇成“七种武器”，全面解决云管端以及大数据和算法层面的一系列安全风险问题，助力AI生态。在演讲中，马杰系统地介绍了“七种武器”的来龙去脉和实际应用。

在终端层面，备受行业认可的首先是OASES KARMA系统自适应热修复，其目标是为了解决Android生态高度碎片化所带来的安全隐患。

众所周知，频繁迭代的Android系统对于旧版本的支持是有限的，大量厂商也缺乏精力和能力主动进行更新，这便造成大量已知的历史安全漏洞没有被修复，很容易成为黑客攻击的对象。“我们帮助终端厂商在系统层面直接解决掉这些问题，”马杰表示，“把漏洞用‘热补丁’补上。”换句话说，KARMA可以实现系统漏洞的实时修复，在减轻厂商成本的同时，还节省了用户时间。

作为业内首创，KARMA囊括了9项专利技术并已登陆BlackHat、USENIX等国际顶级安全会议，现已运行在覆盖多个行业近亿台终端设备中。

同在终端层面的还有MesaLock Linux内存安全操作系统，在马杰看来，“现在大部分高权限的安全漏洞，有非常高的比例是通过内存的问题导致的，这是安全行业的顽疾。”而MesaLock Linux则通过大量的审计工作和应用层系统内存安全语言重构，极大降低了整个系统的攻击面，并且使得剩余的攻击面可审计、可收敛。在保留Linux硬件兼容性的前提下，实质性地提升Linux生态的安全性。

在管道层面，MesaLink TLS提供了一个内存安全的下一代安全通信库。通过对整个加密通讯库进行内存安全语言的重构，MesaLink TLS实现了对Heartbleed等高危漏洞的免疫，同时兼容最新的TLS 1.3版本，使整个通讯效率有大幅提升。

在云端层面，百度安全则推出了OpenRASP下一代云端安全防护系统、HugeGraph大规模图数据库、AdvBox对抗样本工具箱和MesaTEE下一代可信安全计算服务。

OpenRASP将新兴的RASP安全防护技术普及化，挂钩敏感函数，实现对数据库全面监控和保护，有效抵御新生漏洞。而作为易用、高效、通用的分析型图数据库，HugeGraph提供毫秒级关联查询能力，可广泛应用于欺诈检测、关联分析、知识图谱和数据治理等场景。

特别值得一提的是AdvBox对抗样本工具箱，其是在机器学习层面用于自动化攻击AI模型的开源工具。在演讲中，马杰以“人脸识别”为例，讲解了“训练”对于AI提升识别能力的重要性——在恶意的篡改下，别人的照片在AI看来有可能比你更像你。

这便是AdvBox对抗样本工具箱的意义所在，“我们把这个能力做成开源的工具分享给大家，不仅支持各家的深度学习平台，也支持多个主要的深度学习训练平台。让我们的工程师、我们的科学家可以自己生成更多的对抗样本，去分析学习和研究如何让我们的算法变得更强大，而不至于被这种东西所欺骗。”马杰表示，而AdvBox对抗样本工具箱的源代码向整个社区开放，百度安全将与社区共同努力，构建安全的AI生态环境。

当AI时代网络安全防御体系逐渐完善，甚至到密不透风，其也带来了一个现实的矛盾——在用数据给用户创造价值的同时，如何实现隐私保护并确保合规?百度安全给出的答案是MesaTEE，下一代可信安全计算服务。

基于百度HMS高级内存安全技术和英特尔SGX硬件防护，MesaTEE可以让云上数据得到芯片级的安全保障，数据可在放到其平台中进行综合计算。“我们互相既看不见对方具体的数据，又能用到对方数据的能力，从而实现数据保护与数据价值实现的兼顾和平衡。”

为行业也为全社会

基于以“七种武器”为代表的技术能力和在安全领域18年最佳实践的总结与提炼积累，百度安全在平台层为行业提供了一系列完整的开放解决方案。

首先，是智能终端。

即便是现在，我们身边也都已经有了不少智能终端设备。而这些设备一旦被劫持、篡改，将产生非常严重的危害——数据的泄露、支付的风险，甚至是对家庭财产和人身安全的损害。

整合设备端、管道和云端的技术能力，百度安全智能终端安全解决方案为行业提供了一个可靠而便捷的安全保障。截止目前，该方案已超过30家合作伙伴，囊括中外学界、业界的重要院校和企业，覆盖包括智能手机、智能电视、智能音箱、智能家居、智能车载和服务器等众多领域在内的超过1亿部设备。

第二，是智能车机。

当下，汽车产业已全面进入智能互联时代，作为中枢，智能车机承担着从娱乐、社交、支付等交互的应用到人类复杂语言指令的识别，再到对各类数据的采集、分析和自我学习等诸多至关重要的功能。但是，复杂的生态系统也对应带来了巨大的安全挑战，且这一挑战不仅涉及到你我个人的隐私和财产安全，也延伸到人身和公共利益层面。

百度安全联合百度Apollo信息安全实验室推出的智能车机安全解决方案正是为此而来，通过全面检测、纵深防御、安全可视、免召回修复四大特色能力，帮助厂商有效应对智能车机面临的各类安全风险，全面确保云、内外部通信、操作系统、应用、硬件、数据和手机终端安全，提供4S全生命周期的安全保障。

第三，则来自社会治理层面。

利用开源的HugeGraph大规模图数据库及所掌握的部分非法人员信息数据，包括不久前在公安机关“滤网行动”中配合侦破国内首例手机访客营销黑产在内，百度安全迄今已协助破获全国多起电信诈骗、DDoS黑产、撞库黑产、伪基站黑产、流量劫持黑产、用户隐私窃取黑产等重大案件。全方位实现从警务数据整合治理到分析挖掘，助力智慧公安新业态。

我们都是蓝军

AI时代，AI思维，从与国内外顶尖高校建立联合实验室开展前沿技术研究，到借助人工智能技术助力智慧警务;从连续五年支持中国安全战队走向全球舞台，到将具有26年历史的国际顶级极客大赛DEF CON首度引入中国，百度安全始终坚信开放、合作的力量，也在努力践行自己的社会责任。

“安全不是任何一家公司、一个社区、一个生态能够独立解决的事情，需要以更开放的态度，更广泛的合作与共享应对，在开放包容、多元互鉴中寻求共赢。”在马杰看来，“万物皆变，归根结底，人是最重要的因素。我们要做的，是集结所有安全圈的力量，共同为安全生态建设贡献力量，让这个世界变得更加美好，让中国的网络安全生态更强更繁荣。”

当我们再次回看开篇时的那个问题，AI会让世界变得更好吗?你的答案会是什么?也许你会变得更有自信，YES，AI DO!YES，WE DO!因为我们是这个世界的蓝军!