《线性判别函数最新课件》由会员分享，可在线阅读，更多相关《线性判别函数最新课件（32页珍藏版）》请在装配图网上搜索。
1、线性判别函数 最新 模式识别模式识别 第四章非参数判别分类方法第四章非参数判别分类方法 线性分类器线性分类器线性判别函数（线性判别函数（1）线性判别函数 最新1.按贝叶斯决策理论设计分类器的步骤 这种方法跳过了统计分布的参数估计，没有使用统计参数作为依据，因此称为非参数判别分类方法。而以贝叶斯决策方法为基础的方法则称为参数判别方法。2.获取这部分是很困难的，实际问题中并不一定具备获取准确统计分布的条件，因此将模式识别的设计过程，主要是判别函数、决策面方程的确定过程改成第四章 线性判别函数4.1 4.1 引言引言线性判别函数 最新n按照基于统计参数的决策分类方法，判别函数及决策面方程的类别确定是
2、由样本分布规律决定的，例如，符合某种条件就可使用线性分类器。n利用样本集直接设计分类器的基本思想：q给定某个判别函数类，且假定判别函数的参数形式已知q用训练的方法来估计判别函数的参数值q分类决策n在非参数判别方法的设计中，使用什么典型的分类决策方法要预先由设计者确定，然后利用训练样本集提供的信息进行训练与学习，从而确定这些函数中的参数。这是参数与非参数判别方法的一个重要不同点。4.1 引言线性判别函数 最新4.1 引言线性判别函数 最新n例如下图：三类的分类问题，它们的边界线就是一个判别函数。123边界2x1x4.1 引言线性判别函数 最新n判别函数包含两类：q一类 是线性判别函数：n线性判别
3、函数n广义线性判别函数q（所谓广义线性判别函数就是把非线性判别函数映射到另外一个空间变成线性判别函数）n分段线性判别函数q另一类是非线性判别函数 线性分类器的三种典型方法 以Fisher准则为代表的传统模式识别方法，以感知准则函数为代表的机器自学习方法，以支持向量机代表的小样本学习理论。分段线性判别函数：近邻法 这种方法主要依据同类物体在特征空间具有聚类特性的原理。同类物体由于其性质相近，它们在特征空间中应具有聚类的现象，因此可以利用这种性质产生分类决策的规则。4.1 引言线性判别函数 最新4.1 引言线性判别函数 最新4.2 4.2 线性判别函数线性判别函数x的各个分量的线性函数或以x为自变
4、量的某些函数的线性函数。n对于c类问题：0)(wxwxgT0)(iTiiwxwxg利用样本集估计参数利用样本集估计参数wi和和wi0，并把未知样，并把未知样本本x归到具有最大判别函数值的类别中去。归到具有最大判别函数值的类别中去。第四章 线性判别函数线性判别函数 最新线性判别函数的基本概念线性判别函数的基本概念1212,.,.xwTTdd=x xx=w ww0()Tg xw xw设样本设样本d维特征空间中描述，则维特征空间中描述，则两类别问题两类别问题中线性判别函数的中线性判别函数的一般形式可表示成一般形式可表示成其中其中w0是一个常数，称为阈值权。相应的决策规则可表示成是一个常数，称为阈值权
5、。相应的决策规则可表示成 g(x)0就是相应的决策面方程，在线性判别函数条件下它对就是相应的决策面方程，在线性判别函数条件下它对应应d维空间的一个超平面。维空间的一个超平面。12g0g0g0 xxxxx(),则决策如果()xwyw xw xw 使用使用Fisher准则方法确定最佳线性分界面的方法是一个准则方法确定最佳线性分界面的方法是一个著名的方法，尽管提出该方法的时间比较早，仍见有人著名的方法，尽管提出该方法的时间比较早，仍见有人使用，如人脸识别中用于特征提取。使用，如人脸识别中用于特征提取。4.3 Fisher线性判别线性判别函数 最新例例1：设两类样本的类内离散矩阵分别为：设两类样本的类
6、内离散矩阵分别为 试用试用fisher准则求其决策面方程。准则求其决策面方程。解：解：由于两类样本分布形状是相同的（只是方向不同），因此由于两类样本分布形状是相同的（只是方向不同），因此 应为两类均值的中点应为两类均值的中点*12120122Tmmmmww *0210Tw xwx 4.3 Fisher线性判别线性判别函数 最新n例24.3 Fisher线性判别试用Fisher准则求取最佳投影方向，并对(1,2,1)T样本进行分类。线性判别函数 最新解：4.3 Fisher线性判别线性判别函数 最新解：4.3 Fisher线性判别1201200012221514420,1/20iiiiimmwmmwxwywxxx TTT其中，则若w则，反之因为(1,-1,-1)(1,2,1)，所以(1,2,1)
线性判别函数最新课件
