搜狐新闻|速度堪比Adam,准确率媲美SGD,还能稳定训练GAN:全新优化器成为NeurIPS爆款( 三 )


本文图片

虽然效果看起来不错 , 但论文发布后也引发了一些质疑 , 比如:「在Cifar10和Cifar100的数据中 , SGD的性能在150个epoch之后才开始下降 。 他们在150个epoch处进行了微调 。 在此之前 , AdaBelief并没有其他优化器性能好 。 」
搜狐新闻|速度堪比Adam,准确率媲美SGD,还能稳定训练GAN:全新优化器成为NeurIPS爆款
本文图片

如果你也有类似疑问 , 可以向论文作者提出反馈(联系方式见论文介绍界面) 。
转载请联系本公众号获得授权


推荐阅读