学习笔记|线性可分支持向量机的函数间隔和几何间隔
【摘要】 1. 函数间隔上图中的A,B,C三个点分别表示3个实例,均在分离超平面的正类一侧,预测它们的类。点A距分离超平面较远,若预测该点为正类,就比较确信预测是正确的;点C距分离超平面较近,若预测该点为正类就不那么确信;点B介于点A与C之间,预测其为正类的确信度也在A与C之间。一般来说,一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面ω⋅x+b=0确定的情况下,|ω⋅x+b|能够相对地...
1. 函数间隔
上图中的A,B,C三个点分别表示3个实例,均在分离超平面的正类一侧,预测它们的类。点A距分离超平面较远,若预测该点为正类,就比较确信预测是正确的;点C距分离超平面较近,若预测该点为正类就不那么确信;点B介于点A与C之间,预测其为正类的确信度也在A与C之间。
一般来说,一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面ω⋅x+b=0确定的情况下,|ω⋅x+b|能够相对地表示点x距离超平面的远近。而ω⋅x+b的符号与类标记y的符号是否一致能够表示分类是否正确。所以可用量y(ω⋅x+b)来表示分类的正确性及确信度,这就是函数间隔的概率。


函数间隔可以表示分类预测的正确性及确信度。但是选择分离超平面时,只有函数间隔还不够。因为只要成比例地改变ω和b,例如将它们改为2ω和2b,超平面并没有改变,但函数间隔却成为原来的2倍。这一事实启示我们,可以对分离超平面的法向量ω加某些约束,如规范化,||ω||=1,使得间隔是确定的。这时函数间隔成为几何间隔。
2. 几何间隔



由这一事实导出几何间隔的概念。


3. 函数间隔与几何间隔的关系
从函数间隔和几何间隔的定义可知,函数间隔和几何间隔有下面关系:

如果||ω||=1,那么函数间隔和几何间隔相等。如果超平面参数ω和b成比例地改变(超平面没有改变),函数间隔也按此比例改变,而几何间隔不变。
参考文献
【1】统计学习方法(第2版),李航著,清华大学出版社
【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)