关注算法安全新兴领域，清华团队RealAI推出业界首个AI模型“杀毒软件”( 二 ) 业界首个针对AI在极端和对抗环境下的算

　　其中，模型安全评测主要为用户提供AI模型安全性评测服务。用户只需接入所需测评模型的SDK或API接口，选择平台内置或者自行上传的数据集，平台将基于多种算法生成对抗样本模拟攻击，并综合在不同算法、迭代次数、扰动量大小的攻击下模型效果的变化，给出模型安全评分及详细的测评报告(如下图) 。目前已支持黑盒查询攻击方法与黑盒迁移攻击方法。

----关注算法安全新兴领域，清华团队RealAI推出业界首个AI模型“杀毒软件”//----

　　防御解决方案则是为用户提供模型安全性升级服务，目前RealSafe平台支持五种去除对抗噪声的通用防御方法，可实现对输入数据的自动去噪处理，破坏攻击者恶意添加的对抗噪声。根据上述的模型安全评测结果，用户可自行选择合适的防御方案，一键提升模型安全性。另外防御效果上，根据实测来看，部分第三方的人脸比对API通过使用RealSafe平台的防御方案加固后，安全性可提高40%以上

　　随着模型攻击手段在不断复杂扩张的情况下， RealSafe平台还持续提供广泛且深入的AI防御手段，帮助用户获得实时且自动化的漏洞检测和修复能力。

　　准确度99.99%也难逃被“恶意干扰” ， RealSafe高效应对算法威胁

　　考虑到公众对于对抗样本这一概念可能比较模糊， RealSafe平台特意选取了公众最为熟知的人脸比对场景(人脸比对被广泛用于金融远程开户、刷脸支付、酒店入住登记等场景的身份认证环节)提供在线体验。

关注算法安全新兴领域，清华团队RealAI推出业界首个AI模型“杀毒软件”。　　并且，为了深入研究“对抗样本”对人脸比对系统识别效果的影响， RealAI 团队基于此功能在国内外主流 AI 平台的演示服务中进行了测试。