计算机系统应用教程网站

网站首页 > 技术文章 正文

祺溢通:人工智能入门篇--池化层与全连接层

btikc 2024-10-09 08:40:29 技术文章 13 ℃ 0 评论

要坚持一件事情,还是得看兴趣,平时除了上班就是看看网络上的技术资料。接着上一篇继续讲解基础名词。



池化层:

对输入的特征图进行压缩,一方面使特征图变小,简化网络计算复杂度;一方面进行特征压缩,提取主要特征,如下:

池化操作一般有两种,一种是Avy Pooling,一种是max Pooling,如下:

同样地采用一个2*2的filter,max pooling是在每一个区域中寻找最大值,这里的stride=2,最终在原特征图中提取主要特征得到右图。

(Avy pooling现在不怎么用了(其实就是平均池化层),方法是对每一个2*2的区域元素求和,再除以4,得到主要特征),而一般的filter取2*2,最大取3*3,stride取2,压缩为原来的1/4.

注意:这里的pooling操作是特征图缩小,有可能影响网络的准确度,因此可以通过增加特征图的深度来弥补(这里的深度变为原来的2倍)。

全连接层:

连接所有的特征,将输出值送给分类器(如softmax分类器)。

CNN网络中前几层的卷积层参数量占比小,计算量占比大;而后面的全连接层正好相反,大部分CNN网络都具有这个特点。因此我们在进行计算加速优化时,重点放在卷积层;进行参数优化、权值裁剪时,重点放在全连接层。

大家可以仔细看一下文中的图片,不理解的地方到公司公众号里面留言,我空闲了统一来解答。希望能够把技术转化为生产资料,而不是单纯的代码语言。

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表