AI被一件T恤蒙蔽“双眼” 见识不够是根本原因( 二 ) AI|T恤|双眼|人体识别|目标检测

　　王金桥解释说，这些简单的变换，在产生静态目标的对抗样本时往往比较有效，但是针对行人这种非刚体的动态目标则容易失效。动态目标由于运动以及姿态变化，将导致这些简单变换发生较大的改变，从而使得对抗样本丧失原有的性质。

　　“相比过去设计的对抗样本，本次攻击的成功率更高。 ”福州大学数学与计算机科学学院、福建新媒体行业技术开发基地副主任柯逍博士指出，为应对人体移动造成的T恤形变，科研人员采用“薄板样条插值”的方法来建模行人可能发生的各种形变。同时，在训练阶段使用T恤上棋盘图案的格子来学习形变控制点位置变化关系，使得产生的对抗样本更加真实，对人体形变的贴合度更高。

　　AI视觉系统受到多方因素干扰

　　除了对抗攻击之外，在实际应用中的很多环境因素和人为因素，都可能导致AI人体检测出现失误。

　　如在自动驾驶场景下，由于天气条件恶劣（如大雪、大雾等）或者光线及路况复杂，导致前方人员成像模糊等，会极大影响前方目标检测性能。在监控场景下，可疑人员可能通过衣物、雨伞等的遮挡来干扰人工智能算法。

　　“排除本身紧急制动功能问题，具备行人检测功能的汽车也存在着无法及时、准确地检测出小目标人体等问题。 ”柯逍举例说，美国汽车协会曾对具备行人检测功能的多个品牌车辆做过一个测试，测试中用到的被撞目标包括成人假人与儿童假人。当车前出现儿童或汽车时速达到48千米时，仅一个品牌有一定概率检测出行人，其余3家品牌在两个场景下均未检测到行人。

　　为何在AI视觉识别技术下的目标检测模型如此脆弱？“在人类眼中，轻微的图像干扰并不会影响最终的判断，但对于AI模型来说却不是如此。 ”柯逍举例说，有相关实验表明，一个测

　　试表现良好的图像检测与识别分类器，并没有像人类一样学习与理解目标图像真正底层的信息，而只是在训练样本上构建了一个表现良好的机器学习模型。

　　据了解，现有的AI视觉识别技术通常采用深度神经网络，本质上是一种特征深层映射，只是学习数据的统计特征或数据之间的关联关系，对数据量以及数据本身的丰富程度依赖较高，数据越多越丰富，则机器学习到的用于识别目标物的特征越具有判识度，也越能反映关联关系。

　　王金桥表示，但真实情况是，数据往往非常有限，使得神经网络学习到的模式也比较有限，难以让神经网络模型“见多识广” ，导致其面对从未见过的数据时表现往往不尽如人意。另一方面，这种统计特征分布以及关联关系，一旦被攻击者获知或者破解，就有可能针对性地修改输入样本，从而改变模型的输出，达到攻击的目的。

　　AI视觉失灵易引发安全问题

　　穿上特殊T恤，达到所谓的“隐身”效果，其实就是混淆AI的视觉系统。 AI目标检测技术的这种缺陷是否会导致安全问题的发生？

　　柯逍表示，美国汽车协会的汽车辅助驾驶案例中，行人被漏检或者未能及时被检测到，都可能导致交通事故的产生。此外，安防监控漏检危险人物与物品也可能导致安全隐患，不法分子可以利用对抗攻击来发现目标检测系统的漏洞，并进行攻击。