AI技术被黑客利用( 四 )
马杰说。
为了不当背锅侠,他们是怎么做的呢?
组团打怪的人都知道,要解决自己搞不定的事情,一般需要“联盟”。酝酿了大半年,百度终于在2017年底主导推出了“AI 联盟”。
它主要在倡导一套技术标准,包括:安全的 Linux 内核、补丁热修复技术、安全通信协议、身份认证机制、自动攻击拦截五大技术。这几乎涵盖了文章第二部分所说的“人工智能面临的五大威胁”。而这其中有不少技术都是百度首席安全科学家韦韬团队“X-team”的心水之作。(想对大神韦韬有更多了解的,可以查看我之前写的文章《韦韬:从内存战争到黑产战争》)
这段生词有点多,简单总结,就是百度搞出了一整套人工智能安全方案,可以随 DuerOS 附赠。鉴于现在智能硬件厂商普遍比较低的安全能力,说附赠不太贴切,用马杰的话叫做“强制附赠”——只要使用 DuerOS,就必须采用 AI 联盟认证的安全方案。这样省时省力,皆大欢喜。
从这个角度说,应用 DuerOS 的硬件,安全性是有底线保障的。
2、再来说说 Apollo
李彦宏说,通过Apollo平台实现无人驾驶车量产的时间是2019年。
目前,作为开源自动驾驶系统的 Apollo 正在按部就班地迭代(懂代码的可以到Github上监督一下他们的进度),而每一次新版本发布前,都是百度安全同学熬夜的季节。因为他们要负责审核代码的安全性,找找里面是否存在漏洞。
这就是“软件安全”。
apollo 系统
人人都喜欢老司机,因为他们“稳”。在自动驾驶世界,人工智能的角色就是司机。Apollo 如果不“稳”,如何齁住秋名山。讲真,无人驾驶安全的重要性,要超过卧室里“上传录音”的净化器。
无人车是公认人工智能的第一个大战场。从科学规律上来讲,无论是哪个公司的无人车,只有它越普及,才越可能暴露出来安全问题。
在现阶段,连业内第一梯队的百度无人车都处在研发中,直接脑补《速度与激情8》里的场景,未免有些脱离现实。如果你问我,汽车中的人工智能会面临怎样具体的攻击姿势,最科学的答案就是:我还不知道。
可以说:对于无人车安全,挑战更大,但时间窗口未到。
四、我们该用什么姿势来恐惧?
正如刚才所言,人工智能很多具体的风险可能还未知。而未知天然就会引发恐惧。
我们是否该纵容自己的恐惧呢?
文章开头我提到了汽车代替马车的故事,其实这个故事还有更多细节:
150年前,汽车刚被发明出来,它被认为是怪物。
那时候伦敦城满街跑的都是马车,从旁边冷不丁杀出一辆汽车,经常会挑战马儿脆弱的小心脏。受惊的马引发了不少事故。汽车本身的安全性也堪忧,翻开一张英国报纸,一张漫画映入眼帘:汽车爆炸,坐车的人血肉横飞。
用这种危险的玩意儿代替伦敦城优雅又萌萌哒的十万匹马,人们不答应。
听取了群众的呼声,1858年英国实施了“红旗法”,规定汽车在郊外的限速是4码,市内的限速是2码(你没看错,比走路还要慢),还要在汽车前面有专人步行手持红旗,提示大家“危险将近”。
“红旗法”颁布之后,伦敦街头的景象。
你看,今天随处可见的普通汽车,曾经被人当做洪水猛兽一般对待。当时人们的恐惧,在后人看来近乎笑谈。
推荐阅读
- 山西太原把ETC收费技术引入高铁站停车交费快至0.27秒
- 长沙航院向部队输送逾六千名专业技术士官居全国高职院校之首
- 河北承德危险废物综合利用处置率达100%
- [技术创新]苏州创建国家级充换电技术创新中心 助力新能源行业发展
- 黄金时间■黄金时间丨打造海绵城市:节水从利用雨水开始
- 黄金时间■新技术加持!江苏高标准农田灌溉效率大幅提升
- 用生物技术排地雷东北林业大学学子斩获国际金奖
- 疫苗|值得你摘下“有色眼镜”【转基因的另一面】转基因技术
- |淮阴水政充分利用“双随机”平台 促进执法公平公正
- 特斯拉|热评 | 加强OTA技术召回监管将有助于汽车产业健康发展
