同为ParameterServer,微软的DMTK(包含LightGBM)与腾讯的ANGEL主要区别

【同为ParameterServer,微软的DMTK(包含LightGBM)与腾讯的ANGEL主要区别】 只讨论在GBDT这块的区别。
LightGBM没有用到parameter server。主要的原因是GBDT并不会产生单机存不下的model,没有使用parameter server的必要。LightGBM的并行是基于collective communication,用的也都是state-of-the-art的并行算法。另外LightGBM在单机上也做了很多优化,从各种benchmark的结果来看,在保证精度的情况下,LightGBM目前还是最快的。

Angel的GBDT是基于parameter server的,虽然这个parameter server是用于通信的中介。从angel的实验来看,是比xgboost的并行效率要高,但没有和LightGBM对比的结果。


    推荐阅读