AI技术被黑客利用( 四 )


马杰说。

为了不当背锅侠,他们是怎么做的呢?

组团打怪的人都知道,要解决自己搞不定的事情,一般需要“联盟”。酝酿了大半年,百度终于在2017年底主导推出了“AI 联盟”。

它主要在倡导一套技术标准,包括:安全的 Linux 内核、补丁热修复技术、安全通信协议、身份认证机制、自动攻击拦截五大技术。这几乎涵盖了文章第二部分所说的“人工智能面临的五大威胁”。而这其中有不少技术都是百度首席安全科学家韦韬团队“X-team”的心水之作。(想对大神韦韬有更多了解的,可以查看我之前写的文章《韦韬:从内存战争到黑产战争》)

这段生词有点多,简单总结,就是百度搞出了一整套人工智能安全方案,可以随 DuerOS 附赠。鉴于现在智能硬件厂商普遍比较低的安全能力,说附赠不太贴切,用马杰的话叫做“强制附赠”——只要使用 DuerOS,就必须采用 AI 联盟认证的安全方案。这样省时省力,皆大欢喜。

从这个角度说,应用 DuerOS 的硬件,安全性是有底线保障的。

2、再来说说 Apollo

李彦宏说,通过Apollo平台实现无人驾驶车量产的时间是2019年。

目前,作为开源自动驾驶系统的 Apollo 正在按部就班地迭代(懂代码的可以到Github上监督一下他们的进度),而每一次新版本发布前,都是百度安全同学熬夜的季节。因为他们要负责审核代码的安全性,找找里面是否存在漏洞。

这就是“软件安全”。

AI技术被黑客利用

apollo 系统
人人都喜欢老司机,因为他们“稳”。在自动驾驶世界,人工智能的角色就是司机。Apollo 如果不“稳”,如何齁住秋名山。讲真,无人驾驶安全的重要性,要超过卧室里“上传录音”的净化器。

无人车是公认人工智能的第一个大战场。从科学规律上来讲,无论是哪个公司的无人车,只有它越普及,才越可能暴露出来安全问题。

在现阶段,连业内第一梯队的百度无人车都处在研发中,直接脑补《速度与激情8》里的场景,未免有些脱离现实。如果你问我,汽车中的人工智能会面临怎样具体的攻击姿势,最科学的答案就是:我还不知道。

可以说:对于无人车安全,挑战更大,但时间窗口未到。

AI技术被黑客利用


四、我们该用什么姿势来恐惧?

正如刚才所言,人工智能很多具体的风险可能还未知。而未知天然就会引发恐惧。

我们是否该纵容自己的恐惧呢?

文章开头我提到了汽车代替马车的故事,其实这个故事还有更多细节:

150年前,汽车刚被发明出来,它被认为是怪物。

那时候伦敦城满街跑的都是马车,从旁边冷不丁杀出一辆汽车,经常会挑战马儿脆弱的小心脏。受惊的马引发了不少事故。汽车本身的安全性也堪忧,翻开一张英国报纸,一张漫画映入眼帘:汽车爆炸,坐车的人血肉横飞。

用这种危险的玩意儿代替伦敦城优雅又萌萌哒的十万匹马,人们不答应。

听取了群众的呼声,1858年英国实施了“红旗法”,规定汽车在郊外的限速是4码,市内的限速是2码(你没看错,比走路还要慢),还要在汽车前面有专人步行手持红旗,提示大家“危险将近”。
AI技术被黑客利用


“红旗法”颁布之后,伦敦街头的景象。

你看,今天随处可见的普通汽车,曾经被人当做洪水猛兽一般对待。当时人们的恐惧,在后人看来近乎笑谈。


推荐阅读