卷积神经网络中的白化要咋理解
在一个三维世界中，有一道光从一个矩形状平面物体（不考虑其厚度）的一边照过来，把矩形平面物体的影子打在了另一边的墙上。那么问题来了这个光是按照什么规则把矩形投影到了墙上呢？我又怎么通过影子回去找原来的物体呢？这就是我们要解决的问题。在三维空间中，我们有长宽高构成一个立体。在n维线性空间（ 【卷积神经网络中的白化要咋理解】
)中，存在第1,...,n个维度，问题来了这个光很刁钻，它不是把一条线段投影（放缩）成另一条与原来的线平行的新的线段，新的线段与原来的线段会成一个存在于n维空间的夹角。现在一道光扫过，原来代表n个维度的n条线性独立（任一维度里的元素不可经由其它
个维度的线性组合而得到）的线段变成了n维空间里留不同的n条线段，你想知道他们原来的n条直线分别是哪n条线段，突然你瞄到了表弟的初中数学书，好了，还记得以前是怎么解多元方程组的吗？你用差不多的方法把关于n个变量的n个方程拆成了分别只有一个变量的方程：
,这里
就是拿道光，
是代表第
个维度的单位线段，
是光对于该线段的放缩效果，在线性代数里把它叫做特征值（eigenvalue)。大致可以这么理解，但这个很粗糙且不严格，从二维上单单白化的进程大致是下图中间到右边的过程，其实在白化之前中间那一步就已经完成了decorrelate的过程，白化可以理解为是在进一步normalize（把这些经过放缩的线段变回原来的单位线段）：
图源自CS231n Neural Nets Notes 2如果有耐心把理论认真过一遍的话可以参考下面这些内容：CS231n Convolutional Neural Networks for Visual RecognitionWhitening transformationCovariance matrix如果翻不了墙的话百度看看能不能找到其它关于白化转换和协方差矩阵的介绍。
■网友
CNN不需要这种东西吧，data augmentation才实在。
推荐阅读
- 鄂温克冬季马赛-30℃极寒开赛：寒冬中的火热派对
- 大雪@大雪腌肉 适当进补 今日大雪
- |电商事业中的“闪光少年”
- hadoop中的mapreduce链接（mapreduce chaining）怎样避免中间文件的产生
- 经观汽车|日系车企中的“异类”？东风日产将导入e-POWER技术大干增程式混动 | 经观汽车
- 中年|这些东西，比你想象中的还要大得多！
- 请问杨毅微博中的这两人是谁
- 某些公司招聘要求中的精通mysql是啥程度
- 宝宝|婴幼儿游泳——宝宝人生中的第一健身运动
- 汽车|你眼中的未来出行世界——YiMagazine x 道达尔