人工智能发展简史——从理论走向应用( 二 )


2016年 , 随着谷歌旗下Deepmind公司基于深度学习开发的AlphaGo以4:1的比分战胜了国际顶尖围棋高手李世石 , 深度学习的热度一时无两 。后来 , AlphaGo又接连和众多世界级围棋高手过招 , 均取得了完胜 。

人工智能发展简史——从理论走向应用

文章插图
AlphaGo战胜李世石 , 再次证明了深度学习的能力
正是由于DL在理论上的成功以及GPU硬件的发展 , DL在工程实践上开始证明价值 , 催生了一批以人工智能(机器视觉为主)的科技公司 , 比如国内耳熟能详的AI四小龙:商汤、云从、依图和旷世 , 都有将AI技术应用于实际的落地案例 。
从DNN到多样化的结构
人工智能发展简史——从理论走向应用

文章插图
全连接DNN
如上图所示 , 全连接DNN的结构里相邻两层的神经元之间都能够形成连接 , 从而导致参数数量膨胀 。这不仅容易过拟合 , 而且极容易陷入局部最优 。
由于图像中存在固有的局部模式(如人脸中的眼睛、鼻子、嘴巴等) , 所以将图像处理和神经网络结合引出卷积神经网络CNN 。CNN是通过卷积核将相邻层进行链接 , 大幅降低了输入层到隐藏层的参数 。
另外DNN无法对时间序列上的变化进行建模 , 而样本的时间顺序对于自然语言处理、语音识别、手写体识别等应用非常重要 。为了适应这种需求 , 就出现了另一种神经网络结构:循环神经网络RNN 。
在RNN中 , 神经元的输出可以在下一个时刻作用到自身 , 即第


推荐阅读