网站首页 > 技术文章 正文
东北石油大学电气信息工程学院的刘伟、王凯,在2023年第5期《电气技术》上撰文,针对传统电能质量扰动分类方法人工特征选择困难、准确率低的缺点,在传统卷积网络的基础上,借鉴Inception、残差的思想,结合混合池化和高效通道注意力机制,提出一种基于通道选择多尺度融合深度残差网络(CSSF-ResNet)的电能质量扰动识别方法。使用多尺度卷积提取不同尺度的特征,将全局混合池化与高效通道注意力机制相结合,在通道维度进行特征筛选,挖掘有效特征,并引入残差连接,构成CSSF-ResNet。仿真结果表明,所提方法具有分类准确率高、噪声鲁棒性强等优点。
随着社会经济的发展,快速控制设备和非线性负荷在电力系统中的占比日益提高,电能质量问题频发。因此,如何准确地对电能质量扰动进行自动识别和分类,成为近年来的研究热点。
传统的电能质量扰动分类方法先对电能信号进行人工特征提取,再输入选定的分类器来做类别甄判,它需要对信号进行人工特征提取,提取结果的好坏依赖于经验和技巧。因此,寻找一种可以自动提取所需特征并进行分类的方法,成为近年来的研究趋势。
有文献将电能质量信号转化为二维灰度图,使用卷积神经网络(convolutional neural network, CNN)进行自动特征提取和分类;有文献使用侧输出融合的CNN,把卷积低、中、高层的特征融合,实现扰动分类;有文献使用三个不同的卷积子模型来完成特征提取和特征融合,并利用BP神经网络完成扰动分类。
上述方法虽然减少了扰动分类的难度,但未充分利用CNN强大的特征提取能力。本文提出基于通道选择多尺度融合深度残差网络(channel selection multi-scale fusion deep residual network, CSSF- ResNet)的电能质量扰动分类方法,使用多尺度卷积来获取不同尺度的特征,将全局最大池化与全局平均池化结合,组成混合池化高效通道注意力机制,更精确地对有效模式进行筛选,抑制低效和冗余的特征,同时引入残差连接,缓解模型加深时的网络退化现象,实现对电能质量扰动信号的准确识别。
1 多尺度卷积模块
传统的卷积神经网络存在卷积核单一、只能获取某种固定尺度的特征的缺点,鉴于此,Szegedy C等提出Inception模块,以多分支卷积提取多尺度特征,增强网络的特征提取能力。借鉴Inception思想,本文设计的多尺度卷积模块如图1所示,使用大小分别为3、5、7的卷积核并行卷积,提取多尺度特征,使用大小为1的卷积减小通道数并在通道维度叠加。
2 残差模块
在传统的卷积神经网络中,人们往往通过堆叠网络结构来加深模型,以提高模型性能,但模块堆叠可能引发网络退化和梯度异常等现象,加大网络训练难度。为此,He Kaiming等提出残差网络(residual neural network, ResNet),使网络在加深的过程中,函数的类总是在原有基础上扩充,总是越来越接近全局最优解。残差模块如图2所示。
3 高效通道注意力模块
传统卷积神经网络对各通道特征图一视同仁,实际上,并不是所有特征图都有益于分类,需要对有效特征进行筛选。Wang Qilong等于2019年设计出高效通道注意力机制(efficient channel attention for deep convolutional neural networks, ECA-Net)。ECA-Net的结构如图3所示。
ECA-Net是指使用一维卷积在不降维的基础上实现个相邻通道的局部跨信道交互,相较于传统通道注意力方法,网络复杂度大大降低。ECA-Net中求取通道注意力权重的表达式为
4 通道选择多尺度融合深度残差网络
4.1 混合池化高效通道注意力模块
标准ECA-Net采用全局平均池化来实现下采样,在池化的过程中对每一个特征图取均值,一定程度上会损失部分信息。为解决这一问题,对ECA- Net进行改进,将特征压缩过程中使用的全局平均池化(global average pooling, GAP)替换为全局最大池化(获取整张特征图的特征最大值)与全局平均池化(计算整张特征图的特征平均值)组成的全局混合池化,构成混合池化高效通道注意力模块(mixed pooling efficient channel attention module, MECANet),其结构如图4所示。
从图4可以看出,在MECANet中,输入特征图被分为两个分支,其中一个分支用来计算通道维度的注意力权重,在这部分中,输入的特征图分别经过全局平均池化(全局特征灵敏度高)和全局最大池化(局部特征灵敏度高)进行Squeeze操作,得到具有全局感受野的特征,随后经自适应一维卷积跨通道交互后相加,实现信息融合,再经sigmoid激活函数得到通道维度的注意力权重,与另一分支的输入特征图相乘,可放大有效特征,抑制无效特征,实现通道维度的特征选择。
MECANet中以全局最大池化与全局平均池化组成的全局混合池化替代原有的全局平均池化,可以减少下采样过程中的信息丢失,得到更精确的通道维度注意力权重。
4.2 通道选择多尺度融合残差模块结构及参数
通道选择多尺度融合残差模块(channel selection multi-scale fusion residual module, CSSFR block)中引入大小分别为3、5、7的卷积分支,分别提取三种尺度各异的特征,并对不同尺度的特征在通道维度上做叠加,实现特征融合。
经过如上操作后,虽能提取不同尺度的局部高维特征,但存在冗余特征,很大程度上增大了训练难度和计算时间,因此引入MECANet,获取若干尺度特征的注意力权重,选择对分类效果增益大的特征。同时,为组建深度网络,借鉴残差思想,将输入的原始信号与经上述操作得到的信号相加,得到CSSFR block的输出。CSSFR block的结构如图5所示。
4.3 通道选择多尺度融合深度残差网络结构及参数
本文所使用的CSSF-ResNet结构如图6所示。其中,每个卷积层后都使用ReLU激活函数进行激活,并且使用批量归一化(batch normalization, BN)层加速网络收敛。
CSSF-ResNet结构参数见表1。输入信号的规格为64×1×784,经过第一个卷积层16个卷积核的卷积操作后,数据长度减半,通道数变为16,之后经过步长为2的最大池化层,使信号长度减半,规格变为64×16×196,随后经四个CSSFR block,提取信号的多尺度特征,并随着迭代的进行,向着减小网络损失值的方向,自动学习各通道权重,对有用特征对应的通道赋予较大权重进行放大,无用特征赋予小权重进行弱化,得到规格为64×256×12的输出,经GAP操作后,特征得到压缩融合,再经全连接(fully connected, FC)层实现对于电能质量扰动信号的分类。
5 仿真实验分析
5.1 数据集的建立
本文根据IEEE Std 1159—2019标准设置不同的参数,使用Matlab软件随机生成十四类电能质量扰动信号,其中包括一类标准信号、七类单一扰动和六类复合扰动。各扰动按标签0、1、…、13顺序来排列,具体包括:正常信号、谐波、电压暂降、电压暂升、电压中断、电压闪变、暂态振荡、暂态脉冲、电压暂降+谐波、电压暂升+谐波、电压闪变+谐波、电压暂降+暂态振荡、电压闪变+暂态振荡、暂态振荡+谐波。
将采样频率设置为3.915kHz,取十个周期数据构成一个样本,即采样周期为0.2s,采样点为784个,每种类别生成1000个样本,共计14000个样本。随机取60%的样本数据作为训练集,取20%的样本数据作为验证集,取20%的样本数据作为测试集,通过One-hot编码构建扰动标签。
由于实际测量的电能质量信号存在很多干扰因素,因此为更好地模拟真实电能质量信号,提高网络的泛化性能,在采样信号中加入噪声,获取信噪比为50dB、40dB、30dB的信号,分别输入网络进行训练。
5.2 网络训练过程分析
数据无噪声的情况下,CSSF-ResNet训练曲线如图7所示。从图7可以看出,随着训练过程的进行,训练集和验证集的损失逐渐下降并趋向于0,分类准确率逐渐上升并趋向于1,在第30次迭代左右,分类准确率便可达到99%。
不难看出,随着迭代次数的增加,两曲线的波动越来越小并逐渐趋向稳定,最终分类准确率稳定在较高水平,即CSSF- ResNet在训练过程中不断进行参数优化,模型的稳定性逐渐增强。此外,随着迭代的进行,训练集和测试集的变化趋势相同,没有出现因模型复杂度过高而导致的过拟合现象。
测试集的混淆矩阵如图8所示。图8中,行代表预测标签,列代表真实标签,0~13分别对应5.1节给出的十四种扰动类型。对角线元素为各类扰动正确分类的样本数量,对应的同行中的非零元素为误分类为其他类别的样本数量。
从图8所示混淆矩阵可以看出,本文所提模型在测试集上的分类表现良好。其中,正常信号、谐波、电压暂升、电压中断、电压闪变、暂态振荡、电压暂升+谐波、电压闪变+谐波、电压闪变+暂态振荡这9类信号的分类准确率为100%,电压暂降分类准确率为99%,暂态脉冲分类准确率为99.5%,电压暂降+谐波分类准确率为99.5%,电压暂降+暂态振荡分类准确率为98.5%,暂态振荡+谐波分类准确率为99.5%。总体测试集2800个样本中,2792个样本分类正确,总体分类准确率为99.71%。
故可以得出,在数据为无噪声的前提下,本文所用的CSSF-ResNet具备良好的特征挖掘能力,可以关注到扰动分类的关键特征,在电能质量扰动信号识别任务中获得了较高的准确率。
为检验CSSF-ResNet的抗噪能力,在不同信噪比的条件下,验证模型对于14种电能扰动信号的分类准确率。各信噪比条件下的分类准确率见表2。从表2可以看出,在无噪声条件下,CSSF-ResNet对于电能质量扰动信号的分类准确率平均值为99.71%,在信噪比为30dB时,分类准确率平均值能达到98.90%。仿真结果表明,CSSF-ResNet具有较好的抗噪性能。
5.3 不同模型结果对比
为对比CSSF-ResNet相较于其他网络的性能,使用层数相同的深度卷积神经网络与深度残差网络对电能质量扰动信号进行分类,对比三者在不同信噪比条件下使用相同数据做训练任务时所获得的分类准确率。不同信噪比条件下三种模型的分类准确率见表3。
从表3可以看出,在不同信噪比条件下,CSSF-ResNet相较于其他网络具有更高的分类准确率,这是因为CSSF-ResNet能提取多尺度特征,且可以在特征维度进行选择,因此具备更强的特征提取能力。
6 结论
针对残差网络卷积核尺寸单一且固定、特征提取能力不足的问题,提出了基于通道选择多尺度融合深度残差网络的电能质量扰动识别方法,并与深度卷积神经网络和深度残差网络相对比,仿真结果表明,CSSF-ResNet能够提取电能质量扰动信号不同尺度的特征,同时能够有效关注关键特征,可以提高对于电能质量扰动信号的分类准确率。
该方法在不同信噪比条件下的分类准确率均高于深度卷积神经网络与深度残差网络:在无噪声的情况下,总体分类准确率可以达到99.71%;在信噪比为30dB的情况下,总体分类准确率可以达到98.90%,证明了CSSF-ResNet的良好性能。
本工作成果发表在2023年第5期《电气技术》,论文标题为“基于通道选择多尺度融合深度残差网络的电能质量扰动识别”,作者为刘伟、王凯。
猜你喜欢
- 2024-10-12 「AAAI oral」阿里北大提出新attention建模框架
- 2024-10-12 CVPR 2020 | 港中文、上交大、商汤联合提出两种轨迹预测新方法
- 2024-10-12 「独家解读」谷歌会议app背景模糊和替换技术解析
- 2024-10-12 如何在深度学习模型内部做特征选择?
- 2024-10-12 深度时空网络、记忆网络与特征表达学习在 CTR 预估中的应用
- 2024-10-12 揭秘 BERT 火爆背后的功臣——Attention
- 2024-10-12 MViT:性能杠杠的多尺度ViT | ICCV 2021
- 2024-10-12 CTR预估系列(5)–阿里Deep Interest Network理论
- 2024-10-12 「论文阅读」 Residual Attention: Multi-Label Recognition
- 2024-10-12 MeMViT:记忆增强的多尺度ViT做长时视频识别
你 发表评论:
欢迎- 最近发表
- 标签列表
-
- oraclesql优化 (66)
- 类的加载机制 (75)
- feignclient (62)
- 一致性hash算法 (71)
- dockfile (66)
- 锁机制 (57)
- javaresponse (60)
- 查看hive版本 (59)
- phpworkerman (57)
- spark算子 (58)
- vue双向绑定的原理 (68)
- springbootget请求 (58)
- docker网络三种模式 (67)
- spring控制反转 (71)
- data:image/jpeg (69)
- base64 (69)
- java分页 (64)
- kibanadocker (60)
- qabstracttablemodel (62)
- java生成pdf文件 (69)
- deletelater (62)
- com.aspose.words (58)
- android.mk (62)
- qopengl (73)
- epoch_millis (61)
本文暂时没有评论,来添加一个吧(●'◡'●)