六大基础深度神经网络之CNN
左侧是传统卷积网络输入的是一列像素点，右侧是卷积神经网络，输入的是具有长宽通道数的原始图像
下图为整体架构。卷积层可以认为提取特征，池化层是压缩特征。全连接层是把图像展平然后计算10个类别的概率值
给出一张图像不同区域的特征不同，我们需要提取出来这些不同。下图从一张32*32*3的图像中提取一张5*5*3的小区域，第一步将左上角三乘三的区域与区域右下角小字的权值矩阵
进行内积计算，就是对应位置相乘，即3*0+3*1+2*2+0*2+0*2+1*0+3*0+1*1+2*2=12，然后每次把3*3的区域与权值相乘，最终得到绿色的矩阵。
常见图像是彩色的就是三通道，上图中的32*32*3中的3也就说明是彩色图像，若为1则是黑白图像
对于每个彩色图像的卷积来讲，rgb每个通道都会卷积计算的一个矩阵，再把三个矩阵对应相加就是彩色图像的卷积结果
其中W1、H1表示输入的宽度、长度; W2、 H2表示输出特征图的宽度、长度;F表示卷积核长和宽的大小; S表示滑动窗口的步长;P表示边界填充(加几圈0)。
池化目的是减少特征图的信息量，下图为最大池化，选取2*2的过滤器步长为2，选取每个2*2区域内最大的数
D为vgg较主流版本，其中maxpool会损失信息，为了弥补损失的信息，在下一次卷积中会使特征图翻倍
在CIFAR-10数据集中发现56层卷积比20层更效果更差，为了避免层数增加导致的效果变差引入残差网络
