tensorflow在显存不足的情况下,怎样使用较大的batch进行训练

楼主的问题解决了吗?我也遇到了类似问题,求解决办法。

■网友
假如你的pcie带宽足够,你可以把参数放在cpu上,梯度在cpu上更新。

■网友
【tensorflow在显存不足的情况下,怎样使用较大的batch进行训练】 我也在找一个类似caffe下iter_size的方法 难道要自己写.
____添加:
how to implement iter_size like caffe in tensorflow
建议是用多卡替代iter_size吧,毕竟硬件解决是最简单的解决方法。如果单卡显存只有2G,那优化也是很困难的(稍大一点的模型都跑不起来)。
方案:推荐使用slim吧,简单使用多GPU

■网友
使用更少的层,更小的单个样本大小,channel由3纬度变为1.或使用squeeze net等,压缩模型


    推荐阅读