关于lenet-5卷积神经网络C3层与S2层的连接方式的疑问

你如果仔细看论文,你会发现,就是简单的用一个核卷积3个S2的输出,然后把得到的3个10x10的矩阵相加即可。
■网友
【关于lenet-5卷积神经网络C3层与S2层的连接方式的疑问】 谢谢题主的问题,我也看到这里来了,并且不理解的是,即使算法是这样组合的,在用tensorflow实现的时候,只简单的写了这一层的卷积参数是(5*5*6*16)的shape,也就是提供了所有16到6的映射,没有提过6幅图之间的组合,那工程上又是怎么实现LeNet的呢。还是说我搭的这一个网络,就是用全映射来训练的,而不像算法中所说那样,有选择性地组合。

■网友
每个卷积核的大小是这样的 size=(卷积核长度x卷积核宽度x上一层特征图个数),那么上一层有3个14*14的特征图,一个卷积核的参数就有(3*5*5)个,经过一个卷积核卷积,14*14经过5*5的卷积(每个卷积核同时在3个特征图上滚动加权求和),最后再3个卷积后的10*10求和,就变成1个10*10的特征图了。不知道您清楚了吗?我也是最近刚看的。有错误请指正哈。
■网友
15组卷积特征图(题主图片中的第12号特征图缺失,不然0~15应该一共16组卷积特征)
其中
6组:3个相邻的S2
4组:4个相邻的S2
4组:4个不相邻的S2
1组:6个全部的S2.

这里3个s2,4个S2的组合方式显然没有穷尽全部的组合方案,不然C3就远不是16个特征图了

■网友
(6* (3*25+1) +6* (4*25+1) +3* (4*25+1) + (25*6+1) =1516)
■网友
我算是看明白了,就是 C3 层的 16 个滤镜,都分别对不同数量,以及不同跨度的 S2 层上的不同特征图进行卷积。譬如,C3 上的第 12 个特征图,是分别取 S2 上的第 0,1,3,4,这 4 个图进行卷积,并进行矩阵相加而得到。
这样做的目的,应该是为了抽取 S2 层上的特征之间的空间关系,并让这些空间关系,形成新的特征图集 C3 。
这真是一个很有创意的想法!不知道当初设计者们是怎么想到的?:)

■网友
原来是用一个卷积核对以前的3个S2层进行卷积,卷积之后得到3个C3\u0026#39;层,然后通过矩阵相加得到C3层


    推荐阅读