江苏龙网

  1. 首页 > 生活 > >

『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住( 三 )



同时 ， 他们还将更新方向限制在了灰度范围内 ， 假装是一个正常(但肮脏的)道路补丁 ， 这样可以更加隐蔽地发起攻击 。
那么问题来了 ， 在现实世界中 ， 发生这种攻击性的可能性如何？该如何应对？
该如何应对攻击？ 研究团队称 ， 这一攻击适用于任何基于深度神经网络的车道保持系统 ， 接下来将会进一步完善攻击的适用性 ， 进一步研究车道保持辅助系统中的漏洞 。
他们在论文中说 ， 如果有人可以刻意为之 ， 比如出于商业或者金融目的 ， 或者是企业之间的竞争 ， 在现实世界中恶意发起攻击也不是不可能 。
毕竟某社交平台的运营合伙人 ， 刚刚因为恶意举报友商被抓 ， 再次证明竞争无所不用其极……
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

既然如此 ， 那么这个问题又该如何应对呢？论文作者之一沈骏杰从研究者的角度 ， 给出了可行的方案 。
他说：“这几年确实有很多研究者提出多种不同的防御手段 ， 例如对抗训练 ， 随机改变输入大小和填充等 。 ”
但这些防御手段只能对这个问题提供一定程度的缓解 。 “目前还没有任何一种防御手段能完全解决对抗样本的问题 。 ”他说 。
一种可能的方向 ， 是借助车辆辅助系统里面的其他信息 ， 来交叉验证车道检测的结果 。 比如 ， 用雷达对于周围车的估计来判断本车的横向偏移 。
所以 ， 即便在现实中发生类似攻击的情况可能性很小 ， 但在安全性没有办法得到保证的时候 ， 自动驾驶能否完全可依赖 ， 还需要采取审慎态度 。
在极端情况下 ， 会要命 。 比如2016年5月 ， 特斯拉的Autopilot因为卡车车体反光 ， 摄像头并未识别对向的卡车 ， 从而导致处于自动驾驶状态的Model S发生事故 ， 导致驾驶员死亡 。
道路千万条 ， 安全永远是第一条 。
加州大学欧文分校领衔 ， 字节跳动参与 最后 ， 解答下开头提出的“字节跳动之疑” 。 字节跳动并非布局自动驾驶 ， 而是很前瞻性地把其中一名作者揽入麾下 。
本次研究作者团队 ， 来自加州大学欧文分校、字节跳动和东北大学 ， 一共有6名研究人员 。 其中任教于美国东北大学的Xue Lin ， 本科毕业于清华 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

两位同等贡献第一作者来自加州大学欧文分校 ， 分别是Takami Sato和沈骏杰 。
沈骏杰 ， 2013年本科毕业于杭州电子科技大学通信工程专业 ， 2015年在北卡罗来纳州立大学获得计算机工程硕士学位 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

2016年前往加州大学欧文分校攻读博士学位 ， 指导老师是陈齐——论文通讯作者 。
陈齐于2012年毕业于南京大学计算机科学专业 ， 之后前往密歇根大学读书 ， 师从茅斫青教授 ， 2018年在获得系统和网络安全博士学位 ， 同年7月加入加州大学欧文分校 ， 担任助理教授 。
Takami Sato是沈骏杰的同门师弟 ， 本科和硕士毕业于东京工业大学 ， 于2019年在加州大学欧文分校攻读博士学位 。 此外 ， 作者中还有一位加州大学欧文分校博士生 ， 名为Ningfei Wang 。
据沈骏杰介绍 ， 他们主要专注于计算机安全研究 。 从2018年以来 ， 围绕自动驾驶和智能交通系统的攻击和防御一共发布10多篇相关论文 ， 分别在ACM CCS、Usenix Security、ICLR、EuroSys、NDSS发布 。
这篇基于深度学习的车道保持辅助系统的安全性研究 ， 是他们团队的最新成果 。 陈齐团队的研究人员之外 ， 字节跳动的贾云瀚参与了这项研究 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住


推荐阅读


上一篇：『新飞集团』新飞要求河南新飞太阳能立即停止无偿使用商标权

下一篇：『美好，一直在身边』恒大健康：2021年恒驰全系列产品陆续量产 财务表现将大幅改善