江苏龙网

  1. 首页 > 生活 > >

『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住


乾明 十三 发自 凹非寺 量子位 报道 | 公众号 QbitAI
汽车越来越智能 ， 越来越方便 ， 但也带来新安全隐患 。
车道保持辅助系统 ， 即LKAS ， 之前以L2自动驾驶核心功能为卖点 ， 开长途、开高速环路 ， 都能让人类司机更轻松 ， 现在成为各大智能车标配 。
但就这样一个智能驾驶系统 ， 在攻击下只需要1.3秒——稍一疏忽的时间 ， 就会失控 ， 从而在高速行驶中转向其他车道 。
该结论来自安全领域顶级会议NDSS上的新研究 ， 得到了Best Poster Award（top 1/30） ， 研究者里有多位中国小哥 。
而且在自动驾驶领域鲜有发声的字节跳动 ， 出现在作者机构和致谢名单中 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

咦？难道？还是……？
不妨先一起深入看一看这项新研究 ， 而且我们也找到了论文作者进行了答疑 。
车道保持辅助系统秒秒钟失控 论文主要由两位加州大学欧文分校的作者领衔 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

在论文中 ， 他们使用不覆盖车道线的“脏路补丁”作为攻击载体 ， 在最先进的开源车道保持辅助系统OpenPilot上测试：攻击126公里时速的车辆 ， 只需要0.9秒就能让它失控；72公里时速行驶下的汽车 ， 只需要1.3秒 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

而通常情况下 ， 人类司机发现车辆失控 ， 并采取措施的时间是2.3秒 。 目前 ， 一共有15个汽车品牌的52个车型支持OpenPilot ， 包括大众高尔夫、丰田凯美瑞、本田CR-V等 。
受到波及的并不仅仅只有使用了OpenPilot的车 。 研究团队表示 ， 这一攻击适用于任何基于深度神经网络的车道保持系统 ， 比如特斯拉的Autopilot ， 也可能会受到影响 。
除了攻击方法具有广泛性 ， 攻击效果也很明显 。
论文中在3个场景中试验了攻击有效性 。 前两个场景采用的是comma2k19-1和comma2k19-1数据集 ， 是真实世界高速公路场景 。
第三个场景来自LGSVL-1数据集 ， 模拟高速公路逼真度可达到工业级别 ， 整体结果如下：
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

研究团队只针对前两个测试制作了演示视频——由变换后的摄像机图像 ， 经过小车运动模型库输入生成 。
换句话说 ， 就是在BEV(俯视图)图像上放置了“脏路补丁” ， 从BEV生成摄像机输入 ， 然后根据汽车运动模型更新下一帧状态 。
首先看一下自动驾驶车辆在高速行驶 (126km/h)的情况 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

在没有攻击的时候 ， 车辆行进还非常平稳 ， 能保持在自己原有的车道 。 但经过添加了脏路补丁后 ， 车辆（我们在车里的视角）就像“喝醉了酒”一样 ， 迅速驶出自己的车道 。 下面是正常情况和添加攻击后的视角对比情况：
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

第二个场景 ， 是自动驾驶车辆中速行驶 (105km/h)的情况 。 进行攻击后 ， 虽然没有高速情况下“醉”得那么夸张 ， 但还是能够看出行驶位置迅速发生了偏移 。
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

对比情况如下：
『无人驾驶』1.3秒让智能车高速“出轨”，最先进车道保持辅助系统都hold不住
本文图片

在第三个模拟场景中 ， 自动驾驶车辆行驶速度为72km/h ， 在相对较为低速的情况下 ， 造成攻击所用的时间为1.3s 。


推荐阅读


上一篇：『新飞集团』新飞要求河南新飞太阳能立即停止无偿使用商标权

下一篇：『美好，一直在身边』恒大健康：2021年恒驰全系列产品陆续量产 财务表现将大幅改善