江苏龙网

  1. 首页 > 资讯 > 科技 > >

「算法」AI芯片和传统芯片到底有何区别？( 二 )


可能有人要说 ， 搞研究慢一点也能将就用 。目前来看 ， 神经网络的尺寸是越来越大 ， 参数越来越多 ， 遇到大型NN模型 ， 训练需要花几周甚至一两个月的时候 ， 你会耐心等待么？突然断电 ， 一切重来？曾经动手训练一个写小说的AI ， 然后 ， 一次训练（50轮）需要大约一天一夜还多 ， 记得如果第一天早上开始训练 ， 需要到第二天下午才可能完成 ， 这还是模型比较简单 ， 数据只有几万条的小模型呀 。
修改了模型 ， 需要几个星期才能知道对错 ， 确定等得起？突然有了TPU ， 然后你发现 ， 吃个午饭回来就好了 ， 参数优化一下 ， 继续跑 ， 多么爽！
计算速度快 ， 才能迅速反复迭代 ， 研发出更强的AI模型 。速度就是金钱 。
GPU的内核结构不清楚 ， 所以就不比较了 。肯定的是 ， GPU还是比较快的 ， 至少比CPU快得多 ， 所以目前大多数都用GPU ， 这玩意随便一个都能价格轻松上万 ， 太贵 ， 而且 ， 功耗高 ， 经常缺货 。不适合数据中心大量使用 。
总的来说 ， CPU与GPU并不是AI专用芯片 ， 为了实现其他功能 ， 内部有大量其他逻辑 ， 而这些逻辑对于目前的AI算法来说是完全用不上的 ， 所以 ， 自然造成CPU与GPU并不能达到最优的性价比 。
谷歌花钱研发TPU ， 而且目前已经出了TPU3 ， 用得还挺欢 ， 都开始支持谷歌云计算服务了 ， 貌似6点几美元每小时吧 ， 不记得单位了 ， 懒得查 。可见 ， 谷歌觉得很有必要自己研发TPU 。
目前在图像识别、语音识别、自然语言处理等领域 ， 精度最高的算法就是基于深度学习的 ， 传统的机器学习的计算精度已经被超越 ， 目前应用最广的算法 ， 估计非深度学习莫属 ， 而且 ， 传统机器学习的计算量与 深度学习比起来少很多 ， 所以 ， 我讨论AI芯片时就针对计算量特别大的深度学习而言 。毕竟 ， 计算量小的算法 ， 说实话 ， CPU已经很快了 。而且 ， CPU适合执行调度复杂的算法 ， 这一点是GPU与AI芯片都做不到的 ， 所以他们三者只是针对不同的应用场景而已 ， 都有各自的主场 。
至于为何用了CPU做对比？
而没有具体说GPU 。是因为 ， 我说了 ， 我目前没有系统查看过GPU的论文 ， 不了解GPU的情况 ， 故不做分析 。因为积累的缘故 ， 比较熟悉超标量CPU ， 所以就用熟悉的CPU做详细比较 。而且 ， 小型的网络 ， 完全可以用CPU去训练 ， 没啥大问题 ， 最多慢一点 。只要不是太大的网络模型 。
那些AI算法公司 ， 比如旷世、商汤等 ， 他们的模型很大 ， 自然也不是一块GPU就能搞定的 。GPU的算力也是很有限的 。
至于说CPU是串行 ， GPU是并行
没错 ， 但是不全面 。只说说CPU串行 。这位网友估计对CPU没有非常深入的理解 。我的回答中举的CPU是IBM的POWER8 ， 百度一下就知道 ， 这是超标量的服务器用CPU ， 目前来看 ， 性能已经是非常顶级的了 ， 主频4GHZ 。不知是否注意到我说了这是SIMD？
这个SIMD ， 就代表他可以同时执行多条同样的指令 ， 这就是并行 ， 而不是串行 。单个数据是128bit的 ， 如果是16bit的精度 ， 那么一周期理论上最多可以计算八组数据的乘法或加法 ， 或者乘加 。这还不叫并行？只是并行的程度没有GPU那么厉害而已 ， 但是 ， 这也是并行 。
【「算法」AI芯片和传统芯片到底有何区别？】不知道为啥就不能用CPU来比较算力？
有评论很推崇GPU 。说用CPU来做比较 ， 不合适 。GPU本来是从CPU中分离出来专门处理图像计算的 ， 也就是说 ， GPU是专门处理图像计算的 。包括各种特效的显示 。这也是GPU的天生的缺陷 ， GPU更加针对图像的渲染等计算算法 。但是 ， 这些算法 ， 与深度学习的算法还是有比较大的区别 ， 而我的回答里提到的AI芯片 ， 比如TPU ， 这个是专门针对CNN等典型深度学习算法而开发的 。另外 ， 寒武纪的NPU ， 也是专门针对神经网络的 ， 与TPU类似 。


推荐阅读


上一篇：『cnBeta.COM』联力推出升级版DK-04F/05F电脑桌机箱 起售价1500美元

下一篇：『地球』月球公转一圈要27天，地球公转一圈要1年，太阳公转一圈需要多久