《深学习史上最详细的卷积循环神经网络学习教案》由会员分享，可在线阅读，更多相关《深学习史上最详细的卷积循环神经网络学习教案（19页珍藏版）》请在装配图网上搜索。
1、会计学1深学习史上最详细的卷积循环神经网络深学习史上最详细的卷积循环神经网络第一页，编辑于星期二：二点 三十九分。第1页/共19页第二页，编辑于星期二：二点 三十九分。数据输入层/ Input layer卷积计算层/ CONV layerReLU激励层 / ReLU layer池化层 / Pooling layer全连接层 / FC layer第2页/共19页第三页，编辑于星期二：二点 三十九分。该层要做的处理主要是对原始图像数据进行预处理，其中包括：去均值：把输入数据各个维度都中心化为0 归一化：幅度归一化到同样的范围 PCA/白化：用PCA降维；白化是对数据各个特征轴上的幅度归一化卷积神经
2、网络（CNN)介绍第3页/共19页第四页，编辑于星期二：二点 三十九分。 卷积神经网络（CNN)介绍去相关与白化效果图：第4页/共19页第五页，编辑于星期二：二点 三十九分。 卷积神经网络（CNN)介绍这一层就是卷积神经网络最重要的一个层次，也是“卷积神经网络”的名字来源。在这个卷积层，有两个关键操作： 局部关联。每个神经元看做一个滤波器(filter) 窗口(receptive field)滑动， filter对局部数据计算第5页/共19页第六页，编辑于星期二：二点 三十九分。 卷积神经网络（CNN)介绍这个带有连接强弱的红色方框就叫做filter或kernel或feature detect
3、or。 而filter的范围叫做filter size，这里所展示的是2x2的filter size。第6页/共19页第七页，编辑于星期二：二点 三十九分。 卷积神经网络（CNN)介绍第7页/共19页第八页，编辑于星期二：二点 三十九分。 卷积神经网络（CNN)介绍第8页/共19页第九页，编辑于星期二：二点 三十九分。卷积运算的特点：通过卷积运算，可以使原信号特征增强，并且降低噪音第9页/共19页第十页，编辑于星期二：二点 三十九分。 同一个图片，经过两个（红色、绿色）不同的filters扫描过后可得到不同特点的Feature Maps。 每增加一个filter，就意味着你想让网络多抓取一个特
4、征。第10页/共19页第十一页，编辑于星期二：二点 三十九分。激励层把卷积层输出结果做非线性映射CNN采用的激励函数一般为ReLU(The Rectified Linear Unit/修正线性单元)，它的特点是收敛快，求梯度简单第11页/共19页第十二页，编辑于星期二：二点 三十九分。激励层 和前馈神经网络一样，经过线性组合和偏移后，会加入非线性增强模型的拟合能力。 将卷积所得的Feature Map经过ReLU变换（elementwise）后所得到的output就如下图所展示第12页/共19页第十三页，编辑于星期二：二点 三十九分。池化层池化层夹在连续的卷积层中间，用于压缩数据和参数的量，减
5、小过拟合。简而言之，如果输入是图像的话，那么池化层的作用就是压缩图像。池化层用的方法有Max pooling 和 average pooling，而实际用的较多的是Max pooling对于每个2*2的窗口选出最大的数作为输出矩阵的相应元素的值，比如输入矩阵第一个2*2窗口中最大的数是6，那么输出矩阵的第一个元素就是6，如此类推。第13页/共19页第十四页，编辑于星期二：二点 三十九分。池化过程第14页/共19页第十五页，编辑于星期二：二点 三十九分。池化过程第15页/共19页第十六页，编辑于星期二：二点 三十九分。全连接层两层之间所有神经元都有权重连接，通常全连接层在卷积神经网络尾部。也就是跟传统的神经网络神经元的连接方式是一样的：当抓取到足以用来识别图片的特征后，接下来的就是如何进行分类。 全连接层（也叫前馈层）就可以用来将最后的输出映射到线性可分的空间。 通常卷积网络的最后会将末端得到的长方体平摊(flatten)成一个长长的向量，并送入全连接层配合输出层进行分类。第16页/共19页第十七页，编辑于星期二：二点 三十九分。第17页/共19页第十八页，编辑于星期二：二点 三十九分。 End第18页/共19页第十九页，编辑于星期二：二点 三十九分。
深学习史上最详细的卷积循环神经网络学习教案
