腾讯优图:带噪学习和协作学习,不完美场景下的神经网络优化策略( 五 )


问:noisy label 对自动标注数据有用吗?
答:这个是有用的 , 包括现在一些业务场景 , 我们用一些方法筛选出来哪些数据是值得标的 , 或者说我们通过 noisy label 的一些方法将 noisy label 的样本先检测出来 , 之后再进行有效的中心标注 , 所以 noisy label 对自动标注数据还是有业务价值的 。
问:grafting 对于小型 network 的效果如何?
答:其实我们在做很多实验的过程中发现 , grafting 对小型网络的提升是没有对于大型网络的提升高 。 因为无效 filter 的数量很可能出现在大型网络上的比较多 , 小型网络无效 filter 的数量比较少 , 我们的实验结果可以看到 grafting 是在大的数据网络上效果是比较明显的 。


推荐阅读