遥感图像分类的多核SVDD算法

《遥感图像分类的多核SVDD算法》由会员分享，可在线阅读，更多相关《遥感图像分类的多核SVDD算法（7页珍藏版）》请在装配图网上搜索。

1、遥感图像分类的多核 SVDD 算法 陈赛英;何建农【摘 要】将 K 型核函数和指数径向基核函数分别与径向基核函数组合成多核函数,并利用其构造出性能更加优越的支持向量域描述(SVDD)算法.将提取的遥感图像各波段光谱特征组成特征向量,分别用基于径向基核函数和多核函数的 SVDD 算法进行遥感图像分类.仿真实验结果表明:改进核函数的 SVDD 分类算法提高了分类精度,缩短了训练时间.【期刊名称】华侨大学学报（自然科学版）【年(卷),期】2014(035)001【总页数】5 页(P36-40)【关键词】遥感图像;分类;支持向量域描述;K 型核函数;指数径向基核函数【作 者】陈赛英;何建农【作者单位】

2、福州大学数学与计算机科学学院,福建福州 350108;福州大学数学与计算机科学学院,福建福州 350108【正文语种】中 文【中图分类】TP751 遥感图像分类是模式识别技术在遥感技术领域的一个具体应用，是对遥感图像信息进行属性的分类，达到识别图像信息所对应的实际地物，最后提取所需地物信息的目的.支持向量域描述（SVDD）算法具有复杂程度低、扩充性强，以及对训练样本数据规模上要求不高等优点，已经广泛应用于故障诊断、异常检测、语音识别等多种领域14.SVDD 算法的核心部分是核函数的选择，传统 SVDD 算法通常是以径向基核函数为核函数，但径向基核函数存在计算量大、泛化性能较弱等缺点5.基于此，

3、本文分别将 K 型核函数和指数径向基核函数与径向基核函数组合成多核函数，构造 SVDD 的改进算法，并应用于遥感图像分类.SVDD 算法是基于贝叶斯最优决策理论的，其基本思想是通过非线性变换将数据点映射到高维特征空间，然后找到包含大部分映射到特征空间数据点的最小超球体（图 1）.令xiX 是数据空间 XRn 的一个给定训练数据集，用一个非线性变换 把 X 映射到某个高维特征空间，然后找到半径为 R 的最小封闭超球体，可描述为下列最优化问题，即 式（1）中：C1 是惩罚因子，调节超球体，控制误差；a 是球心；j 是松弛变量.为了解决这个问题，引进拉格朗日算式 令LR0 和La0，可分别得到.最后

4、将式（1）的问题转化为如下对偶问题，即 式（3）中：K（xi，xj）（xi）（xj）是核函数.只有满足 0jC 的点在超球体边界，称为支持向量（support vectors，SVs）.训练高斯核支持函数是用（x）到球心的平方径向距离来定义的，有 式（4）中：xf（x）R2为支持向量.2.1 K 型核函数 K 型核函数具有泛化能力强的优点，避免了径向基核函数复杂的指数运算，同时具有多项式核函数计算量少和径向基核函数逼近精度高的优点，性能更加优越7.K 型核函数的公式为 式（5）中：x（x1，xn）；y（y1，yn）；k0 反映 K 型核函数的宽度.2.2 指数径向基核函数 径向基核函数具有的优

5、势，指数径向基核函数也具有，同时还具有计算量比径向基核函数少的特点.指数径向基核函数8的公式为 式（6）中：是核函数参数.2.3 多核函数 为了权衡各种特征向量的差异，在单核函数的基础上，综合考虑引入多核函数.多核函数 1，多核函数 1 的公式分别为 式（7）中：1，20，1是多核函数参数；是径向基核函数.由文献10可知，上述多核函数是合理的核函数.径向基核函数、K 型核函数和指数径向基核函数具有各自的优势，将径向基核函数分别与 K 型核函数、指数径向基核函数组合得到多核函数可以将两者的优势互补.利用多核函数，可以构造出性能更加优越的 SVDD 算法.算法的基本思想是，利用光谱特征组合的特征向

6、量，采用基于多核函数 1 和多核函数 2 的 SVDD 改进算法对遥感图像进行分类.分类的实现主要分如下 3 个主要阶段：1）把训练样本输入 SVDD 进行训练；2）用训练好的 SVDD 对测试样本和待分类图像进行分类；3）对结果进行评价分析.算法的实现步骤：设标记样本集为训练集表示一个输入模式，yiY1，c表示对应的输出类.用 SVDD 算法进行多类分类的中心思想，是利用由 SVDD得到的领域描述信息来估计每个类的分布，然后通过贝叶斯决策规则对数据点分类6.算法的训练阶段有如下 3 个具体步骤.步骤 1 数据预处理及模型参数初始化.将提取各波段遥感图像的光谱特征组合成的特征向量作为训练集，初

7、始化惩罚因子C0.1，径向基核函数和指数径向基核函数的参数 3，K 型核函数的参数 k0.001 和多核函数参数 0.01，分别在（0，1），3，25，（0，1）和0，1内取 C，k 和，步长分别为0.1，1，0.001 和 0.01，使用网格搜索法找到最优参数组合使得分类精度最高.步骤 2 数据分区.根据输出类把给定的训练集分成 c 个不相交的子集例如，第 k 类数据集 Dk，包含 Nk 个元素，即 Dk（xi1，k），（xiNk，k），其中 xi 是第 k 类遥感图像的特征向量，k 是对应的类别标签.步骤 3 对每类数据集做 SVDD.对每类数据集 Dk，通过 SVDD 建立一个训练高斯核

8、支持函数.具体是解式（3）的对偶问题，记解为，l1，Nk，Jk1，Nk是非零的指标集合.每类数据集 Dk 的训练高斯核支持函数由下式给出 算法的测试阶段有 2 个具体步骤.步骤 1 为每个类构造伪密度函数.即为每个类 k（k1，c）构造伪密度函数对任意 fk（）的支持向量 xsk，rkR2（xsk）.步骤 2 用估计伪后验概率分布函数进行分类.即对每个类 k（k1，c）估计伪后验概率分布函数为 式（9）中：（xk）是从测试阶段的步骤 1 得到的伪密度函数.最后每个样本 x按照的值进行分类.首先对美国 Lanier lake 湖区 Landsat E TM遥感图像选取波段 3，4，5 组合成多波

9、段图像作为原始的遥感图像（图 2（a）；然后，对合成图进行降噪等预处理，并选择大小为 200px200px 的图像作为待分类图像（图 2（b），再次分别提取第 3，4，5 波段遥感图像（图 2（c，d，e）的光谱特征组合成特征向量；最后用特征向量进行训练和测试分类效果.参照土地利用图，采用目视解译，确定该地区地面覆盖类型为水域（W）、草地（G）、落叶林（D）、针叶林（P）、耕地（A）、居民区（U）和裸地（B）.对以上每类各选取 200 个样本，并将其中的 100 个样本作为训练样本，剩余 100 个样本作为测试分类样本.为了验证算法的有效性，在环境为 Matlab R2010b，机器配置为 P

10、entium（R）DualCore cpu T4400 2.20GHz，内存为 1.93GB 的计算机上进行仿真实验.利用实验得到的训练模型对分类图像进行分类，结果如图 3 所示.分类精度（P）是遥感图像中正确分类的百分比，而 Kappa 系数（K）是用来评价分类精度的多元统计方法12，在遥感图像处理中主要用于精确性评价和图像的一致性判断.分类精度、Kappa 系数越大，分类结果越可靠，其表达式分别为 式（10），（11）中：ai，i 代表分类混淆矩阵 A 的对角元素；N 为各样本总数；Ti和 Ti 分别表示 A 的第 i 行之和以及第 i 列之和.从待分类图像中 7 类地物的每一类中分别选取

11、 100 个样本点进行仿真，计算各个样本所属类别，并将每类样本分类结果数据看作矩阵，计算分类总精度（Ptot）及Kappa 系数.然后，将 3 次实验所得的分类混淆矩阵中的总体分类精度，Kappa 系数和训练时间（t）作为评价标准，结果如表 1 所示.从表 1 可知：基于多核函数 1 的 SVDD 算法具有学习能力强、泛化能力强和计算量小的优势；基于多核函数 2 的 SVDD 算法具有学习能力强和计算量小的优势.从表 1 还可以看出：和基于径向基核函数的 SVDD 算法相比，基于多核函数 1 和多核函数 2 的 SVDD 算法分类精度得到提高，训练时间也减少了.其中，基于多核函数 2 的 SV

12、DD 算法所用时间最短.文中首次将 K 型核函数和指数径向基核函数应用于 SVDD 算法中，并将构造的多核函数 SVDD 算法应用于遥感图像分类.通过对遥感图像的分类，验证了基于核函数改进的 SVDD 算法缩短了分类过程的训练时间，提高了分类精度，具有较强的现实意义.1 TAX D M J，DUIN R P W.Support vector data descriptionJ.Machine Learning，2004，54（1）：4566.2 李卫鹏，李凌均，孔维峰，等.正交小波变换支持向量数据描述在故障诊断中的应用J.机械科学与技术，2011，30（3）：466470.3 成宝芝，赵春晖，

13、王玉磊.结合光谱解混的高光谱图像异常目标检测 SVDD算法J.应用科学学报，2012，30（1）：8288.4 王震宇.基于支持向量数据描述的说话人识别研究D.杭州：浙江工业大学，2011：1350.5 汪廷华，赵东岩，张琼.多类核极化及其在多宽度 RBF 核参数选择中的应用J.北京大学学报：自然科学版，2012，48（5）：727731.6 LEE D，LEE J.Domain described support vector classifier for multiclassification problemsJ.Pattern Recognition，2007，40（1）：4151（do

14、i：10.1016j.patcog.2006.06.008）.7 孙翠娟.基于 K 型核函数的支持向量机J.淮海工学院学报：自然科学版，2006，15（2）：47.8 王春燕，夏乐天，孙毓蔓.基于不同核函数的 SVM 用于径流预报的比较J.人民黄河，2010，32（9）：3536.9 LIMA C A M，COELHO A L V，CHAGAS S.Automatic EEG signal classification for epilepsy diagnosis with relevance vector machinesJExpert Systems with Applications，2

15、009，36（6）：1005410059.10 杜培军，谭琨，夏俊士.高光谱遥感影像分类与支持向量机应用研究M.北京：科学出版社，2012：117118.11 王兴玲，李占斌.基于网格搜索的支持向量机核函数参数的确定J.中国海洋大学学报，2005，35（5）：859862.12 LAM K W K，LAU W L，LI Zhilin.The effects on image classification using image compression techniqueJ.International Archives of Photogrammertry and Remote Sensing，2000，33（B7）：744750.