江苏龙网

  1. 首页 > 资讯 > 科技 > >

[]深度学习框架的灵魂( 二 )


软件的灵魂 ， 也取决于研发团队的精气神 。开发复杂软件系统是一个马拉松 ， 研发团队需要有情怀才能坚持 ， 需要倾注极大的热情才能出彩 。几百上千个日夜 ， 苦心孤诣 ， 精雕细琢 ， 对问题本质的探索精益求精 ， 像艺术家一样 ， 不是为了取悦别人 ， 只是达到自己的心满意足 。
夜深人静 ， 程序员孤独的坐在电脑前 ， 大脑里可能正发生热烈的化学反应：哦 ， 这是一个有趣的问题 ， 哦 ， 我可能想出来了世界上最巧妙的解决办法 ， 我要亲手把它实现出来 。迫不及待要看到效果 ， 半夜灵感来了 ， 都可能翻身起来噼里啪啦敲代码 。当然也可能为解决一个bug绞尽脑汁 。
[]深度学习框架的灵魂
文章图片

文章图片

团队协作免不了碰撞 ， 一个抽象 ， 一个设计 ， 都为了追求真善美 ， 据理力争 ， 面红耳赤 ， 或者因为观点没有被接受而愤懑 ， 或者因为互相挑战 ， 思路螺旋上升 ， 找到了更好的办法 。坚持原则 ， 谦逊开放 ， 绝对都是美德 。
深度学习框架的灵魂
深度学习框架作为一种复杂软件系统 ， 自然也是有灵魂的 。在研究各个框架的过程中 ， 除了关注技术细节 ， 还会琢磨框架背后的人和组织 ， 以及由此决定的灵魂 。时至今日 ， 世界上主要的深度学习框架玩家都已露面 ， 谷歌 ， 脸谱 ， 亚马逊 ， 百度 ， 华为 ， 旷视 ， 可以对各个框架的灵魂做一个盘点了 。以下分析带有很强的个人主观想象 ， 特别是可能说一些负面的评价 ， 希望不要带来感情的伤害 ， 毕竟每个框架背后都凝聚了一批工程师的数年的心血 。
Cuda-convnet：
Alexnet横空出世依靠了史前的cuda-convnet ， 其核心理念是解决大规模数据集上深度学习模型训练速度问题 ， 就是追求怎么把CNN借助GPU跑的快 ， C加CUDA ， 模块化不够好 ， 不好使用 。
Caffe和Caffe2：
Caffe使用业界沉淀下来好的编程实践（基于GooglestyleC++ ， 面向对象编程 ， 加上一些设计模式）打造了一个模块化、更灵活的变成框架 。Caffe的灵魂在于抽象和模块化 。Caffe2沿袭了Caffe的一些理念 ， 吸收了Tensorflow里计算图的抽象 。Caffe,Caffe2项目的核心理念具有高度的一致性 ， 在工程质量上 ， 体现了一种偏好简洁的审美观 ， 排斥过度抽象 。但是没有在创新上完成自我超越 。
Minerva：
班底来自微软亚洲研究院 ， 知道这个框架的人不多 ， 但Minerva可能是最早基于数据流图抽象来实现的深度学习框架 。Mapreduce这种大数据系统发展到数据流图 ， 用DAG表示 ， 微软的Dryad系统是这方面的先驱 ， 微软亚洲研究院肯定对这种技术驾轻就熟；Minerva的一个目标是 ， 希望搭建神经网络能像使用Matlab那么好用 。可惜的是 ， 在一些关键环节上没有解决好 ， 导致整个系统使用体验欠佳 。
MXNet：
MXNet前身是几个项目合并而来 ， CXXNet,Minerva,Parameterserver,Purine2 ， 代表了华人留学生、开发者的精锐 。MX表示mix ， 兼容并包 ， 主打轻量级 ， 不像Tensorflow那么宏大的设定 。核心贡献者来自不同的单位 ， 没有绑定关系 ， 是一种松散的合作形式 ， 带头人对全局的设计及技术取舍没有特别强的权威 ， 希望把每位专家的聪明才智都贡献出来 ， 集百家之长 ， 不是Topdown的工作方式 ， 是Bottomup的方式 ， 这种方式是有好处的 ， 但同时带来一些副作用 ， 譬如缺乏顶层设计 ， 有拼接感不够浑然一体 ， 概念一致性这一点上是欠缺的(譬如包含重复功能的代码 ， 以及未及时淘汰过时代码) 。研发人员兴趣逐渐转移 ， 主创团队的变更 ， 不利于项目稳定发展 。
Tensorflow：
由程序员之神JeffDean领衔的GoogleBrain研发 ， 之前有Mapreduce,Distbelief等系统 ， 对大型C++项目有精纯的掌握 。Tensorflow目标极其宏大 ， 体现了Google作为地表最强团队的雄心壮志 ， 但事实证明 ， 目标过于宏大了 。


推荐阅读


上一篇：『』设计干货：到底什么是交互设计？

下一篇：『』苹果廉价iPhone或将到来，最全配置信息汇总，香吗？