关注算法安全新兴领域，清华团队RealAI推出业界首个AI模型“杀毒软件” 业界首个针对AI在极端和对抗环境下的算

　　近日，清华大学AI研究院孵化企业RealAI(瑞莱智慧)正式推出首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台——RealSafe人工智能安全平台。该平台内置领先的AI对抗攻防算法，提供从安全测评到防御加固整体解决方案，目前可用于发现包括人脸比对等在内的常用AI算法可能出错的极端情形，也能预防潜在的对抗攻击。

----关注算法安全新兴领域，清华团队RealAI推出业界首个AI模型“杀毒软件”//----

　　业界首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台

　　“对抗样本”成新型病毒，算法安全问题亟待解决

　　随着人工智能技术的高速发展，人工智能在诸多场景正逐渐替代或协作着人类的各种劳动，它们可以成为人类的眼睛、耳朵、手臂甚至大脑。

　　其中，机器视觉作为AI时代的基础技术，其背后的AI算法一直是各科技巨头和创业公司共同追逐的热点。然而在机器视觉诸多主流应用场景的背后，往往也藏着由技术性缺陷导致的算法安全风险。

　　例如，在一些训练数据无法覆盖到的极端场景中，自动驾驶汽车的识别系统可能出现匪夷所思的决策，危害乘车人的人身安全。从2016年至今， Tesla、Uber等企业的辅助驾驶和自动驾驶系统就都曾出现过类似致人死亡的严重事故。并且这类极端情形也可能被恶意制造并利用，发动“对抗样本攻击” ，去年7月，百度等研究机构就曾经通过3D技术打印出能让自动驾驶“无视”的障碍物，让车辆面临撞击风险。

关注算法安全新兴领域，清华团队RealAI推出业界首个AI模型“杀毒软件”。　　而以上攻击之所以能成功，主要是机器视觉和人类视觉有着很大的差异。因此可以通过在图像、物体等输入信息上添加微小的扰动改变(即上述故意干扰的“对抗样本”) ，就能导致很大的算法误差。此外，随着AI的进一步发展， AI算法模型将运用金融决策、医疗诊断等关键核心场景，这类AI“漏洞”的威胁将愈发凸显出来。

　　近年来，包括清华大学人工智能研究院院长张钹院士、前微软全球执行副总裁沈向洋等均提倡要发展安全、可靠、可信的人工智能以及负责任的人工智能，其中AI的安全应用均是重点方向。

　　而且， AI安全作为新兴领域，在开源社区、工具包的加持下，对抗样本等攻击手段日益变得复杂，相关防御手段的普及和推广却难以跟上。并且对抗样本等算法漏洞检测存在较高的技术壁垒，目前市面上缺乏自动化检测工具，而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。

　　从安全测评到防御加固， RealSafe让AI更加安全可控

　　就如网络安全时代，网络攻击的大规模渗透诞生出杀毒软件， RealAI团队希望通过RealSafe平台打造出人工智能时代的“杀毒软件” ，帮助企业高效应对人工智能时代下算法漏洞孕育出的“新型病毒” 。

　　目前， RealSafe平台主要支持两大功能模块：模型安全测评、防御解决方案。