学习笔记|线性可分支持向量机的函数间隔和几何间隔

举报
darkpard 发表于 2021/11/24 20:30:34 2021/11/24
【摘要】 1. 函数间隔上图中的A,B,C三个点分别表示3个实例,均在分离超平面的正类一侧,预测它们的类。点A距分离超平面较远,若预测该点为正类,就比较确信预测是正确的;点C距分离超平面较近,若预测该点为正类就不那么确信;点B介于点A与C之间,预测其为正类的确信度也在A与C之间。一般来说,一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面ω⋅x+b=0确定的情况下,|ω⋅x+b|能够相对地...

1. 函数间隔

图片

上图中的A,B,C三个点分别表示3个实例,均在分离超平面的正类一侧,预测它们的类。点A距分离超平面较远,若预测该点为正类,就比较确信预测是正确的;点C距分离超平面较近,若预测该点为正类就不那么确信;点B介于点A与C之间,预测其为正类的确信度也在A与C之间。

一般来说,一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面ω⋅x+b=0确定的情况下,|ω⋅x+b|能够相对地表示点x距离超平面的远近。而ω⋅x+b的符号与类标记y的符号是否一致能够表示分类是否正确。所以可用量y(ω⋅x+b)来表示分类的正确性及确信度,这就是函数间隔的概率。

函数间隔可以表示分类预测的正确性及确信度。但是选择分离超平面时,只有函数间隔还不够。因为只要成比例地改变ω和b,例如将它们改为2ω和2b,超平面并没有改变,但函数间隔却成为原来的2倍。这一事实启示我们,可以对分离超平面的法向量ω加某些约束,如规范化,||ω||=1,使得间隔是确定的。这时函数间隔成为几何间隔。

2. 几何间隔

图片

由这一事实导出几何间隔的概念。

3. 函数间隔与几何间隔的关系

从函数间隔和几何间隔的定义可知,函数间隔和几何间隔有下面关系:

如果||ω||=1,那么函数间隔和几何间隔相等。如果超平面参数ω和b成比例地改变(超平面没有改变),函数间隔也按此比例改变,而几何间隔不变。

参考文献

【1】统计学习方法(第2版),李航著,清华大学出版社

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。