字典学习和深度神经网络的相同和区别在于哪儿

谢邀。
【字典学习和深度神经网络的相同和区别在于哪儿】 这个问题并不是我特别熟悉的领域,说错了请勿见怪。字典学习可以看作传统矩阵分解的推广形式,带上L1或者L2 regularization terms,本质上上一种降维算法,很接近奇异值分解(SVD)。深度学习也有专门用来降维的模型,叫antoencoders,在hidden layer用少量结点压缩数据,不过大部分深度神经网络复杂度很高,也很难从数学上解释,我也不清楚做autoencoders的人给出了怎样的解释。
如果叫我做降维,我会选择一些数学上明确告诉我们降维前后两个空间关系的办法,线性降维比如PCA,非线性降维比如multidimensional scaling (MDS), Isomap,locally linear embeddings (LLD)

■网友
谢邀,其实对这个问题,我只是略知一二。
推荐个博客吧,个人觉得写的比较清楚
深度学习(三十)贪婪深度字典学习 - hjimce的专栏 - 博客频道 - CSDN.NET

■网友
http://koray.kavukcuoglu.org/research.html
最下面那篇论文。


    推荐阅读