江苏龙网

  1. 首页 > 生活 > >

AI技术被黑客利用

毕竟人的精力是有限的，AI和信息安全交叉人才是很难得的。大部分人的选择都是精通某一个方向，这个方向咱们把它称作职业，隔行如隔山，两者兼顾，可能你仅仅能站在两山的山谷，当然，会有那样天才的给AI挖出漏洞的，毕竟写代码的是人，是人就会有犯错误的时候...
■网友
今天我想讨论的，是另一种更实际的恐惧：人工智能本身会存在安全问题吗？

2017年，百度李厂长把无人车搞到五环路上，还因为违反交规收到了罚单。虽然后来证明“实线并道”“不打转向灯”这种神操作，都是人类驾驶员的行为，但还是让很多吃瓜群众感觉有点惊险。

未来人工智能可是要帮我开车、帮我治病的啊，如果被黑客入侵做出什么“傻事”，后果还是挺严重的。随便开个脑洞：

如果自动驾驶的“大脑”被入侵，在四环路上就会瞬间多出一千匹“野马”，带着其中的乘客上演《速激8》的戏码。

如果自动手术的“机器医生”程序错乱，本来准备开一厘米的微创，结果做成了一米长的开膛。。。
这种情况究竟会不会发生呢？


AI技术被黑客利用



一、天生安全的工具存在吗？

按照我的套路，要回答人工智能是否安全，得先定义一下它的属性：

无论是有人车还是无人车，它们本质上和锤子、打火机一样，都是“工具”。因为我们对世界的理解是渐进的，所以工具的安全性也是渐进提高的。随着它的“利”慢慢大于“弊”，这种工具也会渐进式普及。
举几个例子吧：

1、美国在1910年颁布法律禁止酒驾；1968年才颁布法律强制司机系安全带。在汽车普及过程中，经历了一百年事故频发生率缓慢下降的阶段。今天才算是到了90分。

2、作为世界公认最伟大的工具，互联网也经历了十年安全性极低的阶段。在网络大面积普及的2000年前后，出现了红色代码、震荡波、熊猫烧香等等一系列病毒。一个病毒只需要十几小时就能占领全世界的电脑，比1942年的蝗灾可怕多了。经过这么多年发展，如今的网络安全水平，大概也到了80分。

3、人工智能免不了也会面临一样的命运。历史不会重演，但会押韵。与其祈祷人工智能的完美，还不如脚踏实地去研究怎么把它变得安全。

说到这，就得让今天的主角，互联网巨头百度登场了。两年前就“重仓”人工智能的百度，已经在这个赛道上领跑了。世界还是挺公平的：跑得快的人，就会先遇到坑。所以，百度在“人工智能安全”上也积累了不少经验。

AI技术被黑客利用


李彦宏乘坐自动驾驶汽车，走在北京五环路上。


不久前，我见到了百度安全事业部总经理马杰和百度安全产品部总经理韩祖利，和他们聊过之后，我相信有两件事会发生：

1、下一个大规模普及的人工智能产品，可能来自百度；

2、有了大规模的用户，才会让问题暴露并引起广泛关注。所以第一个遇到并着手解决人工智能安全问题的，也可能是百度。
那么，目之所及，人工智能会面临哪些具体的风险呢？
AI技术被黑客利用

马杰（画左）和韩祖利（画右）

二、人工智能有哪些安全问题？

韩祖利把人工智能面临的问题，分成了五大类。

1、传感器欺骗

2017年的极棒黑客大赛上，来自百度安全实验室的小灰灰用A4纸打印的人脸就骗过了人脸解锁装置；同样的 A4 纸，打印之后也可以用于破解虹膜识别；还是 A4 纸，竟然也可以破解“指静脉识别”这种被用于社保系统的“高安全等级”技术。


推荐阅读


上一篇：想买mate9pro，但是在过几天骁龙835的s8和p10就发布了，到底现在要不要买手机，还是再等等

下一篇：四新■抢占直播电商风口，助力南京“四新”行动——溧水直播电商产业基地启幕