㈠ 卷积神经网络的三个思想根源包括:局部性、____、 ____。
卷积神经网络的三个思想根源,分别是局部感受野、权值共享和池化。
1、局部感受野:这个思想是基于生物学视觉系统的工作原理,即视网膜上的每个神经元只能感受到有限的区域,这个感受区域被称为局部感受野。在卷积神经网络中,同样也采用了这个思想,每个卷积核只对输入数据的一个特定区域进行卷积操作,这样可以提取局部的特征。
2、权值共享:权值共享是指卷积神经网络中,每个卷积核在输入数据的不同位置都使用相同的权值,这样可以减少网络的参数量,同时也可以避免过拟合现象。这个思想的启发来自于人类视觉系统中视觉神经元的工作方式,即每个神经元对不同的视觉输入都使用相同的权重。
3、池化:CNN中的池化层可以对卷积之后的特征图进行降维处理,减少模型的参数量和计算量,同时在一定程度上可以防止过拟合。
4、多层结构:CNN可以有多个卷积层和池化层,每个卷积层和池化层都是对前一层的输出进行处理,最终得到的特征图形象地描述了输入图像的特征信息。
5、逐层提取特征:CNN采用了一种图像特征的“分层提取”思路,即先通过一个简单的卷积层来提取最基本的特征,然后逐渐深入到后续的卷积层中提取更加复杂和抽象的特征信息。
㈡ 哪些神经网络结构会发生权重共享
说的确定应该就是训练方法吧,神经网络的权值不是人工给定的。而是用训练集(包括输入和输出)训练,用训练集训练一遍称为一个epoch,一般要许多epoch才行,目的是使得目标与训练结果的误差(一般采用均方误差)小到一个给定的阈值。以上所说是有监督的学习方法,还有无监督的学习方法。