基于SVM的多故障分类器|和车神哥一起学系列

举报
府学路18号车神 发表于 2022/03/03 23:20:21 2022/03/03
【摘要】 车神哥是搞故障诊断、机器学习的,和车神哥一起学起来,来一起学技术!~ 前言针对因缺少大量故障数据样本而制约机械故障智能诊断的问题。改进了支持向量机多故障分类算法。依据此算法建立了多故障分类器,并应用于汽轮发电机组的故障诊断。应用结果表明,不必进行信号预处理以提取特征量‚只需要用少量的时域故障数据样本建立故障分类器。该故障分类器可实现多故障的识别和诊断,并且具有算法简单、可对故障在线分类和故障...

车神哥是搞故障诊断、机器学习的,和车神哥一起学起来,来一起学技术!~

前言

针对因缺少大量故障数据样本而制约机械故障智能诊断的问题。改进了支持向量机多故障分类算法。依据此算法建立了多故障分类器,并应用于汽轮发电机组的故障诊断。应用结果表明,不必进行信号预处理以提取特征量‚只需要用少量的时域故障数据样本建立故障分类器。该故障分类器可实现多故障的识别和诊断,并且具有算法简单、可对故障在线分类和故障分类能力强的优点。

目前比较常用的模糊诊断、专家系统和人工神经网络等智能诊断方法,往往需要大量的故障数据样本或先验知识‚而在机械故障诊断领域‚获取大量的典型故障数据样本非常困难。此外,这些方法还需要先通过数字信号处理以提取信号的特征量,而对于不同的故障到底应该提取哪些
特征和如何提取,则没有统一的规定。因而限制了这些智能诊断方法的推广应用。

二分类SVM原理

若给定的两类训练数据样本集为

x i ‚ y i , i 1 , 2 , , n , x R d , y {+ 1 , 1 ( x_i‚y_i), i =1, 2,…,n, x ∈ R^d,y ∈{+1,-1}

式中:n 为训练样本的个数;d 为每个训练样本向量的维数;y 为类别标号 (其值等于+1为一类‚等于-1为另一类)。
对于非线性分类‚首先使用一个非线性映射 Φ把数据样本从原空间 R d R^d 映射到一个高维特征空间 Ω,再在高维特征空间 Ω求最优分类面。高维特征空间 Ω的维数可能是非常高的,但是,支持向量机利用核函数巧妙地解决了这个问题。根据泛函有关理论‚只要一种核函数 K x i ‚ x j K( x_i‚x_j) Mercer 条件,它就对应某一变换空间的内积, 即 K x i ‚ x j )= Φ x i Φ x j K( x_i‚x_j) =Φ( xi)·Φ( xj) ,这样在高维空间实际上只需进行内积运算,而这种内积运算是可以用原空间中的函数实现的,无需知道变换 Φ( x) 的具体形式。因此‚在最优分类面中采用适当的内积函数 K x i ‚ x j K( x_i‚x_j) 就可以实现某一非线性变换后的线性分类‚而计算复杂度却没有增加。这样在原空间分类面的方程为 w Φ x )+ b 0 w·Φ( x)+ b =0 , 分类面应满足的约束为

y i w Φ x i )+ b 1 , i 1 ‚ 2 , , n y_i(w·Φ( x_i)+ b) ≥1 ,i =1‚2,…,n

式中:w 是分类面的权系数向量;b 为分类的域值 。
考虑到可能存在一些训练样本不能被分类面正确分类,因此引入一个松弛变量 ξi ≥0‚使分类面约束变为

y i w Φ x i )+ b 1 ξ i , i 1 ‚ 2 , , n y_i(w·Φ( x_i)+ b) ≥1-ξ_i, i =1‚2,…,n

使式(2)中等号成立的那些样本称为支持向量。使分类间隔 2 y i w Φ x i )+ b /‖ w ‖= 2 /‖ w 2|yi(w·Φ( xi)+ b)|/‖w‖ =2/‖w‖ 最大化的分类面为最优分类面。因此构造最优分类面的问题被转化为在式(2) 的约束下,求函数 1 / 2 w 2 C Σ i = 1 n ξ i 1/2‖w‖^2+ C(\Sigma_{i=1}^n=ξ_i) 的最小值‚即在确定最优分类面时折衷考虑最小错分样本和最大分类间隔‚其中常数 C >0控制着对错分样本的惩罚程度。而这是一个凸二次优化问题‚能够保证找到的极值解就是全局最优解‚可利用 Lagrange 函数使原问题转化为较简单的对偶问题:在约束条件 Σ i = 1 n y i α i C α i 0 , i 1 2 n \Sigma_{i=1}^n=y_iα_i 和 C ≥α_i ≥0,i =1,2,…,n 之下求解下列函数的最大值

Q α )= Σ i 1 n α i 1 / 2 Σ i , j = 1 n α i α j y i y j K x i ‚ x j Q(α) = \Sigma_{i-1}^n=αi-1/2 \Sigma_{i,j=1}^n=α_iα_jy_iy_jK( x_i‚x_j)

根据 Kühn-Tucker 条件‚通过式(3)求得的优化系数 αi须满足

α i y i w Φ x i )+ b )- 1 ξ i )= 0 , i 1 , 2 , , n α_i( y_i(w·Φ( x_i)+ b)-1+ξ_i) =0 ,i =1,2,…,n

因此‚多数 αi 值必为0‚少数值为非0的αi 对应于使式
(2)等号成立的样本为支持向量‚只有为支持向量的样本决定最终的分类结果。
利用式(3)求出优化系数 αi 后‚对于给定的测试样本x‚支持向量机分类器的分类函数一般形式为 f x )= s i g n Σ 支持向量 α i y i K x i ‚ x )+ b f( x) = sign{\Sigma_{支持向量}α_iy_iK( x_i‚x)+ b} (4)式中:sign{}为符号函数。由分类函数 f( x) 的正负即可判定 x 所属的分类。
选择不同的内积核函数形成不同的算法,目前在分类方面研究较多也较常用的核函数有四种‚即线性核函数、多项式核函数、径向基核函数和 Sigmoid 核函数。

多分类器SVM的原理及算法

基于二分类的多分类支持向量机算法主要有一对一和一对多两种,分别作简单介绍‚并予以分析比较。下面针对给定的 k 类训练数据样本集,
x i ‚ y i , i 1 , 2 , , n , x R d , y i 1 , 2 , , k ( x_i‚y_i),i =1,2,…,n,x ∈ R^d, yi ∈{1,2,…,k}
式中:
n 为训练样本的个数, d 为每个训练样本向量的维数, y i y_i 为类别标号, 介绍不同的多分类算法。

一对一的多分类算法

根据二分类算法,在 k 类样本中构造所有可能的两类分类器‚每个两类分类器只用 k 类中的2类训练样本进行训练‚这样可以共构造出 k k 1 )/ 2 k( k -1)/2 个两类分类器。

在对测试数据样本的分类中,采用“投票法”。将测试样本 x 输入给由 k 类中第 m 类样本和第 n 类样本构造的两类分类器‚如果分类函数

f m n x )= s i g n Σ 支持向量 a i m n y i m n K x i ‚ x )+ b m n f^mn( x) = sign{\Sigma_{支持向量}a^{mn}_i y^{mn}_i K( x_i‚x)+ b^{mn}}

的输出结果判定 x 属于第m 类‚则给第 m 类加一票;如果属于第 n 类‚则给第 n 类加一票。所有 k( k-1)/2个两类分类器对测试样本 x 分类后‚k 类中的哪一类得票最多(MaxWins)‚就判定测试样本 x 属于哪一类。

这种多分类算法的主要缺点是:
(1) 两类分类器的数目 k( k-1)/2随着类别数 k 的增加而急剧增加‚这样需要很大的运算量‚导致在训练和测试分类时速度很慢‚不能实现在线实时分类。
(2) 在测试分类中‚当某两类所得的票数相同时‚无法判定属于哪一类‚可能造成分类错误。
(3) 当测试样本不属于 k 类中的任何一类‚而属于其它类别时‚会出现分类错误。因为按照“投票法” k 类中总有某一类得票最多,这样就会将不属于 k 类中的任何一类的测试样本误分为某一类。

一对多的多分类算法

根据上节介绍的二分类算法‚可以构造 k 个两类分类器。在构造 k 个分类器中的第m 个分类器时(m ∈ yi)‚将第 m 类的训练样本作为一类‚类别标号为 ymi = m 是正数,将除去 m 类之外的其余所有类别的训练样本作为一类,类别标号为 ymi =-1。优化后可建立第 m 个分类器的分类输出函数为

f m x )= Σ 支持向量 α i m y i m K x i ‚ x )+ b m f^m( x) =\Sigma_{支持向量}α^m_iy^m_i K( x_i‚x)+ b^m

在对测试数据样本的分类中‚采用“比较法”。将测试样本 x 分别输入给 k 个两类分类器‚从分类输出函数上式可得 k 个输出结果,比较这 k 个数求出最大者‚则输出为最大的分类器的序号即为测试样本 x 所属的类别号。

这种多分类算法的主要缺点是:
(1) 在构造每个两类分类器时‚所有的 k 类 n 个训练样本都要参加运算;在测试分类时‚k 个两类分类器都对测试样本分类后,才能判定测试样本的类别。因此,当训练样本数 n 和类别数 k 较大时‚训练和测试分类的速度较慢。
(2) 当测试样本不属于 k 类中的任何一类,而属于其它类别时,会出现分类错误。因为按照“比较法”,k 个分类器中总有某一个的输出最大‚这样就会将不属于 k 类中的任何一类的测试样本误判为输出最大的分类器所对应的类别。


好了,今天就到这儿啦!

工作是做不完的,学习是自己的事

加油!~

愿所有人在2022能够找到属于自己的未来!!!



<div style="color:orange; border-bottom: 1px solid #d9d9d9; display: inline-block; color: #999; </center>
【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。