基于CNN和DBN的电缆故障类型识别

《基于CNN和DBN的电缆故障类型识别》由会员分享，可在线阅读，更多相关《基于CNN和DBN的电缆故障类型识别（12页珍藏版）》请在装配图网上搜索。

1、基于CNN和DBN的电缆故障类型识别张一哲（西安科技大学 电气与控制工程学院，陕西 西安710054）摘要: 现阶段电缆故障的诊断仍以离线的方法为主，在线诊断方法多仍处于探索研究阶段，很多理论尚存在很多问题,难以达到新时期形势下电缆故障在线诊断的要求。针对以上提出的问题，本文建立一个地下电缆分布系统仿真模型用于采集不同情况下不同故障类型的电压和电流信号，引入深度学习的概念来分析电缆故障的类型，创建基于深度学习理论的深度信念网络(Depth Belief Network, DBN)和卷积神经网络(Convolution Neural Network, CNNs)用于电缆故障的识别。该深度神经网络

2、利用大量的故障数据能够自动完成故障信号特征的分类并提取将故障准确地定位到具体电缆上并识别出故障类型。实验结果表明基于深度学习理论的深度神经网络对电缆故障的识别优于浅层神经网络例如BP神经网络、支持向量机等。关键词：电缆故障诊断；深度学习；深度信念网络；卷积神经网络Research on Cable Fault On - line Diagnosis Method Based on DBN and CNNZhang yi-zhe(School of Electrical and Control Engineer Xian University of Science and Technology,

3、 Xian 710054)ABSTRACT:At present, the diagnosis of cable fault is still dominated by off-line method, online diagnostic methods are in the stage of exploratory research and many theories exist many problems. At present, the diagnosis of cable fault is still dominated by off-line method, online diagn

4、ostic methods are in the stage of exploratory research and many theories exist many problems,The depth belief network (DBN) and convolution neural network (CNN) based on depth learning theory are set up for cable fault identification. The depth neural network can complete the classification of fault

5、 signal automatically and locate the fault accurately on the specific cable by using a large number of fault data.The experimental results show that the depth neural network based on depth learning theory is superior to the shallow neural network such as BP neural network, support vector machine and

6、 so on.Keywords:Cable fault; Deep learning; Deep Belief Network; Convolutional Neural Network1 引言电力电缆(power cable)，用于传输和分配电能的电能，常用于城市地下电网、发电站的引出线、工矿企业的内部以及过江过海的水下输电线。电力电缆是在电力系统的主干线路中用于传输和分配大功率电能的电缆产品1。其中包括1-500KV及以上各种电压等级,各种绝缘的电力电缆。相比于架空线的电力传输，地下电缆拥众多的优点，例如占用空间小，不易受到环境的干扰，有利于城市环境的建设和美化，根据2015年中国电线电缆

7、行业深度调研报告2-3，近10年以来电缆的产量及增长量都逐渐升高如图1所示：图1 2006-2015年中国电力电缆产量及增长率一般认为电力电缆在正常情况下的使用年限为20到30年，但是因为电缆经常被安置于地下沟道或直接埋在土里,它的建设环境和使用的情况使它的寿命发生了很大的变动4-6。由于长期处于土壤中与水分、潮气充分接触导致其渗入电缆的绝缘层遭遇腐蚀，再加上在安装电缆过程中的磨损，很容易对以后电缆的运行造成故障隐患。一旦地下电缆发生故障。判断其故障点很困难,不仅会造成人力物力的损耗,还可能会导致停电事故的产生。若故障不能及时排除,将会对经济和社会带来或多或少的影响，因此如何准确、迅速的查找电

8、缆故障便成了供电部门日益关注的问题。电缆故障诊断技术分为故障识别和故障定位，主要分为离线和在线诊断模式，就目前来讲使用离线诊断的方法居多，离线检测的方法就是在电缆发生故障后切断电源使之断电，使用各种设备来检测电缆故障，这种做法不仅耗费大量的人力及时间、实时性差，而且会对电缆造成一定的损伤。因此在线检测方式是未来电力电缆故障诊断的趋势。深度学习(Deep Learning, DL)是指使用有多层网络构架的模型,对数据进行特征计算、信号变换、模式分类等7。深度学习的思想就是将数据分布分成多层进行学习，每一层的分布都采用简单函数来表示，这样复杂的数据分布就可以用这些简单的函数来表达成非线性的复杂函数

9、来学习了。随着电力电缆故障检测智能化的发展，必然会产生大量的信息被收集，这就需要复杂的工具去分析这些信息,因此深度学习作为一种有力的工具很适合用来分析电缆故障。2 提出的方法本文所研究的对象是一个多电缆、多故障类型的分布系统，数据较多、特征复杂由此给故障识别带来了一定的困难，使用传统的浅层网络对于海量数据的处理能力有限，难以获取故障信号的特征，尤其对于信号深层次的特征。因此采用基于深度学习算法的深层神经网络，通过海量的电缆故障数据来训练，学习到更多的特征，从而最终提升电缆故障分类的准确性。各种基于深度学习的模型和方法被人们挖掘出来，主要由自动编码器(Auto Encoder, AE)，稀疏编码

10、(Sparse Coding, SC),限制波尔兹曼机(Restricted Boltzmann Machine, RBM)，深信度网络(Deep Belief Networks, DBNs)，卷积神经网络(Convolutional Neural Networks, CNNs)8-10。本文主要采用DBNs和CNNs完成对电缆故障的分类识别。2.1 深度信念网络深度信念网络是由多个RBM单元叠加形成的如图2所示，可视层v为输入层，有3个隐含层h，可视层v与第一个隐层h1构成一个RBM单元，第二个隐层h2与第三个隐层h3构成一个RBM单元，第三个隐层h3与输出层构成一个RBM单元，其中，隐层h

11、1的输出作为第二个RBM单元的输入，隐层h2的输出作为第三个RBM单元的输入。图2 DBN结构受限波尔兹曼机(RBM)是一种概率生成模型,可用于对各种数据进行建模11-12。RBM的应用主要作为构造深度信念网络的学习模块。RBM是一种由两层结点组成的网络，禁止可视层与隐含层的内部节点连接，只允许在可视层和隐含层之间的节点连接，得到的简化模型就是受限波尔兹曼机，如图3所示，其中可视层有m个节点，其中第j个节点的输入用vj表示，隐含层有n个节点，其中其中第i个节点的输入用hi表示。可视向量v = (v1, v2, vm)T隐含层向量h = (h1, h2, , hn)T。标准的RBM是二值的即所有

12、的可视节点和隐含节点均为二值变量(vj0, 1, hi0, 1)。图3 受限波尔兹曼机图4 CD-k算法表1 RBM训练算法输入：RBM(v1, v2,vm, h1, h2, hn), 训练集S=v(l), 1lN输出：梯度近似 Dwij、Daj、Dbi, 其中i=1, 2, n, j=1, 2, m初始化：q=w a b, Dwij = Daj = Dbi=0 for all the v(l) S do g(0)v(l) for t=0, k-1 do for i=1, 2, n, do h(t)i p(hig(t), q) end for for j=1, 2, m, do g(t+1)j

13、 p(vih(t), q) end for end for for i=1, 2, n, j=1, 2, m do DwijDwij+p(hi=1g(0), q)g(0)j -p(hi=1g(k), q)g(k)j end for for j=1, 2, m do DajDaj+(g(0)j-g(k)j) end for for i=1, 2, n do DbjDbj+p(hi=1g(0), q) -p(hi=1g(k), q) end forend for了快速计算受限玻尔兹曼机的对数似然梯度，采用一类称为对比散度(Contrastive Divergence, CD)的算法13-14如图4

14、所示，最常用的是k步对比散度算法(k-step Contrastive Divergence, CD-k)。虽然CD-k在计算受限波尔兹曼机的对数似然梯度时是一种有偏的随机梯度方法，但其中的偏差会在k趋于时消失。在实际应用中，常常只需取k=1，就可以达到足够好的效果。图5 DBN的训练DBN 是由多层 RBM 组成的一个神经网络，它既可以被看作一个生成模型，也可以当作判别模型15，其训练过程是DBN的训练就是一个逐层训练的方案如图2.7所示,从最下面一层一直到最上一层。RBM1最先训练，然后是RBM2，依次类推，那么在这个训练过程中的特征是逐层抽取的，并逐层向上传播的，训练的目标或者是方向是使

15、每个RBM的P(vl)达到最大。在预训练的过程中，每个RBM都是只对自己的这一层负责，而不牵涉到其他层的参数的改变。整个训练过程主要分为无监督的预训练和有监督的参数调优如表1所示，无监督的预训练类似于聚类的过程，它没有标签数据，将具有相同特征的信号分类。采用分层独立训练，首先从可视层v开始向第一个隐层h1传递，调节网络参数使得RBM的P(vl)达到最大即隐层的输出尽可能与输入相，这样就完成了第一个RBM的训练，将第一个隐层的输出作为第二个RBM的输入进行下一层的训练，依次下去得到每层网络的参数。有监督的参数调优过程就是建立一个简单的神经网络，在预训练过的网络中加入标签数据重新训练，采用简单的B

16、P算法即可完成对参数的微调，由于网络采用预训练得到而不是随机选取的参数，因而能快速准确的获取全局最优参数。整个训练其实就是一个特征提取加分类的过程，无监督预训练是为了得到一个最优的初始参数，有监督的训练就是得到全局最优参数使得网络达到最好的性能。表1 RBM训练算法阶段1：无监督的预训练1. 对于采集的样本数据进行归一化处理，样本处理的目标为均值为0，方差为1的标准整体分布。2. 确定DBN的结构，隐含层的层数r，用接近0的随机数初始化网络参数(Wi, bi) (1 i r+1)。3. 对于1 i r-1，hi-1作为第i个RBM的可视层，把hi作为第i个RBM的隐含层，使用CD-k算法逐层训

17、练RBM。4. 对于i = r，把hr-1和标签y的整体作为可视层，把hr最为隐含层，构造一个分类RBM， 使用CD-k算法进行训练。阶段2：有监督的参数调节1. 使用有监督算法例如BP算法对预训练得到的深层信念网络进行参数调节2. 用另外的数据集验证所建立的深层神经网络，若存在过拟合则返回步骤一2.2 卷积神经网络卷积过程有三个二维矩阵参与，它们分别是两个特征图和一个卷积核：原图I、输出图C卷积核K。卷积过程可以理解为卷积核K覆盖在原图I的一个局部的面上，K对应位置的权重乘于I对应神经元的输出，对各项乘积求和并赋值到C矩阵的对应位置。卷积核在I图中从左向右，从上至下每次移动一个位置，完成整张

18、I的卷积过程。卷积过程如图6所示。图6 卷积计算子采样有两种形式，一种是均值子采样（mean-pooling），一种是最大值子采样（max-pooling）。两种子采样看成特殊的卷积过程，如图7所示。均值子采样的卷积核中每个权重都是0.25，卷积核在上层输出的特征图上的滑动的步长为2。均值子采样的效果相当于把原图模糊缩减至原来的1/4。最大值子采样的卷积核中各权重值中只有一个为1，其余均为0，卷积核中为1的位置对应上层输出的特征图被卷积核覆盖部分值最大的位置。卷积核在上层输出的特征图I上的滑动步长为2。最大值子采样的效果是把特征图缩减至原来的1/4，并保留每个2*2区域的最强输入。图8 CNN

19、对电缆A相接地故障的识别过程(a) 均值子采样(b )最大值子采样图9 两种子采样过程 (a) sigmoid函数 (b) tanh函数 (c)ReLU函数图10 三种激活函数及其导数输出激活函数可以有很多种如图10，最常见的是sigmoid函数和双曲线正切函数。sigmoid将输出压缩到0, 1，所以最后的输出平均值一般趋于0。所以如果将我们的训练数据归一化为零均值和方差为1，可以在梯度下降的过程中增加收敛性。对于归一化的数据集来说，双曲线正切函数也是不错的选择。近年来，ReLU函数变得越来越受欢迎，它的数学表达式为ReLU(x)=max(0,x) (2.19) (2.10) (2.21)

20、当信号小于0使，输入为0，输入大于0，输出等于输入。在二维输入的情况下使用ReLU函数效果如图11所示： 图11 使用ReLU的效果在使用了ReLU函数后迭代收敛速度会比sigmoid与tanh快很多而且是非饱和，只需要一个阈值就可以得到激活值。一般我们优化参数时会用到误差反向传播算法，即要对激活函数求导，sigmoid与tanh函数得导数从图11看出,导数从0开始很快就又趋近于0了，易造成梯度消失现象,而ReLU函数在求导数时，右端的导数不为，不会趋近于饱和，从而一定程度上梯度不消失，增加了网络的非线性能力，从而拟合更多地非线性过程。表2 CNN训练算法输入：训练集，网络结构，层数输出：网络

21、参数权值W偏置b 1：随机初始化所有权值和偏置 2：计算代价函数E 3：求取神经元的灵敏度d 4：计算 5: 对于卷积层计算输出映射值以及上采样第层灵敏度 6：计算卷积核权值的梯度 7：下采样层计算及灵敏度 8：计算采样层的乘性偏置b和加性偏置b的梯度 9：更新所有网络参数以A相电缆接地故障为例说明CNN神经网络对故障类型的识别如图8所示，首先输入信号分别与四个故障卷积核K1、K2、K3、K4进行卷积计算得到卷积层C1，因为输入是一个接地故障，因此每个卷积核对应第一层卷积结果为(0 0 0 0)、(0 1 0 0)、(0 0 0 0)、(0 0 0 0)，由于数据量较少，在这里省略下采样的过程

22、。对C1,2与线选卷积核进行卷积计算得到卷积层C2，由于是A相故障，每个卷积核对应第一层卷积结果为(1 0 0)、(0 0 0)、(0 0 0)。输入与4个故障卷积核进行卷据计算得到4个卷积层，每个卷积层又分别于3个线选卷积核进行卷积计算，因此最后一层卷积层总共是12个输出，最后将C2的12输出作为特征进行全连接进行分类，识别结果为(0 1 0 0 1 0 0)。表3 不同故障下的网络输出结果无故障接地故障短路故障开路故障A(0 0 0 0 0 0 0)(0 1 0 0 1 0 0)(0 0 1 0 1 0 0)(0 0 0 1 1 0 0)B(0 0 0 0 0 0 0)(0 1 0 0 0

23、 1 0)(0 0 1 0 0 1 0)(0 0 0 1 0 1 0)C(0 0 0 0 0 0 0)(0 1 0 0 0 0 1)(0 0 1 0 0 0 1)(0 0 0 1 0 0 1)3 实验结果3.1模型搭建采用基于MATLAB的Simulink搭建仿真模型如图12所示，其中绿色代表电源部分，电压等级为20kv，无限大容量的理想模式；电缆采取派形模型总共16组；在电缆之间放置故障三相故障模块；其他蓝色为变压器模块采取Y-Y连接，20kv-380v，黄色代表负载。图12 Simulink仿真模型3.2网络训练待数据根据表5.1采集完成后，将样本随机交叉分布组成5个样本集，输入到网络进行

24、训练，等待训练完成对测试数据集进行验证。3.2.1 DBN训练经过无监督的预训练后样本聚类完成等待加入标签数据对训练参数进行微调使得网络输出与目标一致完成分类，即将最后迭代收敛的网络参数作为BP网络的初始权值与偏置完成DBN模型的训练。以1号电缆设置故障为例说明微调前后输出值与目标值的均方根误差。表4 不同故障下网络输出与目标值的均方根误差故障ABC预训练微调后预训练微调后预训练微调后-g0.5200.00110.4370.00100.1980.0017-sc0.4870.00320.2590.00120.0690.0020-oc0.0640.00130.6410.00250.5370.001

25、4由表4看出，预训练的结果很差基本无法满足要求的，这是由于预训练是没有标签数据的无监督的过程，其主要作用是将数据聚类，加入标签数据经过微调后能达到误差要求。3.2.2 CNN训练采用3c-s-3c-s-16c-s的结构如表5所示，即7个隐层的卷积神经网络，首先分别用三个故障类型卷积核与输入信号进行卷积操作，对其进行池化(下采样)去掉无用的信号较少数据维数，在这一层将获取到故障类型特征；然后使用ABC线选卷积核与池化后的信号做卷积操作，进而池化再减少数据维数，在这一层得到线选特征及识别出故障相，以上完成后对故障电缆的序号进行筛选；最后将这些特征组成一维向量全连接特征层，使用softmax作为最后

26、的激活函数去完成分类。表 5 卷积神经网络参数设置层数种类个数长度0输入层(I)484001卷积层(c1)32002池化层(s1)1441003卷积层(c2)31004池化层(s2)372505卷积层(c3)16506池化层(s3)372*16257全连接层3728输出层144卷积层与下采样层的激活函数选择为ReLU函数，随机初始化卷积核的权值，再将偏置均初始化为0。依次训练5个交叉样本集，每次迭代大概需要200s左右，首次迭代误差很大，迭代100次后误差为1.2%多，最后经过500次能达到要求。五个交叉样本每次训练一个。样本作为一个大的迭代总共5次，每次迭代概需要24小时左右如下表6所示。表

27、6 训练时间S1S2S3S4S5总时间训练时间25.5h25.1h24.8h24.7hh22.6h121.7h迭代次数48750152248946824673.3网络测试将交叉样本S的测试数据Te分别输入到网络进行测试，从分布系统的不同区域挑选1、5、8、10、15、16号电缆做测试，测试正确率如下表7-10所示。表7 电缆测试正确率(%)故障交叉样本中1号电缆交叉样本中5号电缆S1S2S3S4S5S1S2S3S4S5-g90.893.489.789.491.288.287.991.589.889.2-sc92.491.890.788.791.488.386.289.285.991.6-oc9

28、8.597.696.897.496.393.791.395.795.190.5表8 电缆测试误差(%)故障交叉样本中8号电缆交叉样本中10号电缆S1S2S3S4S5S1S2S3S4S5-g88.690.089.392.590.885.587.190.788.8 84.4-sc87.390.087.190.789.891.288.187.587.086.0-oc93.191.392.2 94.093.491.894.795.993.0 95.0表9 电缆测试误差(%)故障交叉样本中15号电缆交叉样本中16号电缆S1S2S3S4S5S1S2S3S4S5-g89.284.985.287.490.88

29、6.387.988.289.785.7-sc86.086.290.388.489.390.786.590.884.989.4-oc94.093.393.994.395.893.391.993.694.595.8表10 电缆测试误差(%)故障交叉样本中1号电缆交叉样本中5号电缆S1S2S3S4S5S1S2S3S4S5-g91.493.492.789.491.289.293.991.589.887.2-sc92.491.890.788.791.491.492.589.285.991.6-oc97.595.697.197.493.393.891.695.495.790.5表11 电缆测试误差(%)故

30、障交叉样本中8号电缆交叉样本中10号电缆S1S2S3S4S5S1S2S3S4S5-g92.690.089.493.590.289.187.190.588.2 94.1-sc88.392.089.290.391.191.987.192.589.092.2-oc93.191.392.2 94.093.491.894.795.993.0 95.0表12 电缆测试误差(%)故障交叉样本中15号电缆交叉样本中16号电缆S1S2S3S4S5S1S2S3S4S5-g90.292.3.185.891.590.786.291.990.288.990.2-sc88.085.990.391.492.391.786.

31、590.184.887.2-oc94.092.393.489.695.893.391.995.996.595.1从表7-12结果看，两种网络的识别正确率基本高于85%，CNN的整体识别正确率比DBN要好一点，开路故障的识别率要高于接地和短路故障，这可能是由于接地和短路故障时的波形特征较为相似导致的，而开路故障的特征明显。4结论本文针对当前基于单一电缆故障检测方法不能满足新形势下电缆故障诊断技术的新要求，提出了基于深度学习理论的DBN和CNN深度神经网络来识别电缆故障；针对当前行波测距的方法存在行波难以采集的缺点，提出了基于相速度的电缆故障诊断方法。参考以前的论文大多数研究对象为单一电缆，而现实

32、中，电力电缆往往以分布式的连接传输电能，为此专门搭建了拥有16组电缆组成的分布式系统采集大量的故障数据，用于模拟电缆故障的诊断，此模型具有丰富的可调性能模拟大多数的故障发生情况，对实际电力电缆故障检测具有一定的参考意义。阐述了基于深度学习理论的DBN和CNN深度神经网络对复杂问题分类的优势，对其原理进行了分析并搭建DBN和CNN网络，用海量的数据训练网络，通过测试完成了电缆系统中复杂、多类别的故障识别，从而验证了深度神经网络对于电缆故障识别的有效性与正确性。参考文献1 彭小圣，邓迪元，程时杰等. 面向智能电网应用的电力大数据关键技术J. 电机工程学报，2015，35(4):503-511.2

33、Shimaa Barakat, Madgy B. Eteiba, Wael Ismael Wahba. Fault location in underground cables using ANFIS nets and discrete wavelet transformJ. Journal of Electrical System and Information Technology, 2014, 23(1):198-211.3 袁燕岭，周 灏，董 杰. 高压电力电缆护层电流在线监测及故障诊断技术J. 高电压技术, 2015, 41(4):1194-1203.4 王广柱,贾春娟,张立斌. 一

34、种带钢铠的低压电力电缆故障精确定位新方法J. 电力系统自动化，2014，38(3):161-165.5 姜芸,周韫捷. 分布式局部放电在线监测技术在上海500kV交联聚乙烯电力电缆线路中J. 高电压技术，2015，41(4):1249-1256.6 陈冬梅. 电力电缆在线监测技术与检测技术的研究与应用J. 电网技术，2015，8：1-3.7 Liang Rui, Fu Guoqing, Zhu Xueyuan. Fault location based on single terminal travelling wave analysis in radial distribution netw

35、orkJ. Electrical Power and Energy System, 2015, 66:160-165.8 姚海燕,张静,留毅. 基于多尺度小波判据和时频特征关联的电缆早期故障检测和识别方法J. 电力系统保护与控制，2015，43(9):115-123.9 汤小燕,刘之的,高曦. 油藏电缆地层测试压力信号的小波分析J. 西安科技大学学报，2015，35(2):229-235.10 范斌,刘辉,汪繁荣. 狼群算法优化BP神经网络的电缆故障测距算法J.云南大学学报(自然科学版), 2016, 38(6):873-878.11 田书,赵敏,基于小波分析和神经网络的井下电缆故障测距方法J

36、. 工矿自动化，2012，4(4):30-34.12 Silvio Giuseppe, Carlos Eduardo. Fault location method applied to transmission lines of general configurationJ. Electrical Power and Energy System, 2015,69:287-294.13 Ali Rafinia, Jamal Moshtagh. A new approach to fault location in three-phase underground distribution system using combination of wavelet analysis with ANN and FLSJ. Electrical Power and Energy System, 2014,55:261-274.14 孙静. 高压电力电缆局部放电检测技术研究D. 上海: 上海交通大学, 201315 崔晋军. 电力电缆故障定位方法研究及在线检测装置实现D. 北京: 华北电力大学，2015