「澎湃新闻」百度安全事业部总经理：人工智能时代需要应对四大安全威胁人工智能|百度安全|百度|马杰

人工智能（AI）技术的不断进步在推动各行各业持续发展的同时，也催生了隐私泄露、网络黑产等网络安全问题。

10月15日，在百度安全事业部举行的媒体沟通会上。百度安全总经理马杰表示，面对AI时代的四大安全威胁，分别涉及模型安全、数据安全与隐私、系统与网络安全、安全生态，百度安全将以更开放的态度联合更多的合作伙伴一起应对AI时代全新的安全挑战。

马杰介绍，以模型安全为例，自动驾驶技术对于目标物体的识别和判定将直接影响自动驾驶系统的操作判定，如果有人通过伪造交通标识、伪造不存在的障碍物对系统的识别造成干扰，就可能导致车辆在原本不需要刹车的地方进行了刹车，在原本需要减速的地方没有减速，这都会造成很大的安全隐患。这些问题，都已经是百度安全提前思考并已经解决的问题。

「澎湃新闻」百度安全事业部总经理：人工智能时代需要应对四大安全威胁。马杰指出，在新技术新应用不断涌现的今天，安全问题涉及到方方面面， “无人车里面有车脑，这个系统如何去保护它的安全？车连到云端，比如说需要获取一些地图数据，云端的接口是不是安全？再加之各种传感器也存在被破解的安全隐患。 ”

据介绍，目前百度安全事业部的主要研究方向涉及五个方面：人工智能（AI）安全、移动安全、云安全、数据安全以及业务安全。百度安全在技术层面已经有了很多前沿的研究积累。目前，百度安全在AI、大数据以及云计算等技术层面获得了多项全球专利，相关学术论文也多次入选全球顶级安全会议，如Black Hat、DEF CON等。

针对不少网民所关心的网络黑产侵犯用户利益的问题，马杰表示，相关网络黑产是行业顽疾，百度安全一直以来都在不遗余力地进行打击，迄今为止已经针对黑产发起了超过100起的专项打击行动，并配合公安机关破获过多起黑产相关的案件。

网络黑产也一直是百度安全打击的重点。目前，百度安全每天会为用户提供100亿次实时的访问保护，每年会拦截用户搜索风险411亿次，同时，百度安全累计已经开展了超过100起的黑产打击专项行动，并配合公安机关破获了多起网络黑产相关的案件。

“黑产的逐利性决定了我们与黑产的对抗是永无休止的。 ”马杰表示，在巨大的经济利益驱动下，网络黑产也在不断升级技术，未来甚至可能将会出现“AI对AI”的局面。这就要求我们加大AI安全的研发力度、不断迭代更新技术，同时像攻击者一样思考，提升安全防护能力和效率。

马杰也分享了一些典型案例：例如有些用户在使用百度搜索时，偶尔会发现搜索结果里的某些网址下方会用黄色的字体标注出风险提示信息。对此，马杰表示，百度安全会对收录网页进行7×24小时的监测，当系统发现网站被入侵、篡改时，就会及时上线用户提示信息，避免用户损失。

他指出，上述类似行为大部分是网络黑产所为，他们通过篡改页面信息、甚至植入恶意代码侵犯用户利益。一些网民所反馈的在搜索并点击某个结果之后，不久就会接到营销电话的情况，就是被这些网络黑产所影响。

「澎湃新闻」百度安全事业部总经理：人工智能时代需要应对四大安全威胁。“进入AI时代，整个安全行业将会迎来很多全新的挑战。 ”马杰表示， “基于百度领先的AI布局和技术，百度安全也做好了相应的准备。但是，安全从来就不是任何一家公司、社区、生态能够独立解决的事情，所以，百度安全也会秉持一直以来的开放态度。从开放产品、技术，到开源核心代码，百度安全希望通过全面开放的诚意，和更多的合作伙伴一起构建一个开放的AI安全生态，共同应对新时代的安全挑战。 ”