【《机器学习》周志华学习笔记1.4】~机器学习中的“归纳偏好”是什么？

目录

还是举例子：

为什么会出现这样情况？

归纳偏好 

 还是举例子：

三种属性：{白色、黄色、黑色}+{眼睛颜色蓝色、眼睛颜色不一样}+{有铃铛、没铃铛}   判断是不是“猫”

通过机器学习，现在给了一幅“白色”“眼睛蓝色”“有铃铛”的动物，让计算机判断是不是猫

不同机器学习算法，在面对上述情况时，可能得到不同的结果。一部分可能判断这只动物是猫，一部分可能判断不是猫

为什么会出现这样情况？

通过学习得到的模型对应了的假设空间中的一个假设。

比如上面例子，其实属性很少， 同样属性的可以是一条小狗，而小狗对应的也是空间中的一个假设。

学习算法中，对某些属性可能更加有“偏好”，或者说更加在乎，给的权重更大，这将导致我们学习得到的模型更偏向于某种情况。比如假如算法给定只要是“白色”，那是一只猫的概率更大，这就是机器学习过程中对某种类型假设的偏好，称为“归纳偏好”

任何一个有效的机器学习算法必须要有其归纳偏好，否则它会在假设空间训练集上被“等效”假设迷惑，这将无法 产生确定的学习结果， 比如给了上述图片，机器判断是可能是猫，也可能是狗，你还不把机器砸了？

归纳偏好

• 归纳偏好对应了学习算法本身所做出的关于“什么样的模型更好”的假设，在具体的现实问题中，假设是否成立，即算法的归纳偏好是否与问题本身的匹配，大多数直接决定了算法能否取得好的性能。 
• 对同样一组数据集进行机器学习，然后采用样本A去进行测试，可能算法A比算法B结果好；那么，一定存在样本B，算法B一定比算法A好！（有人问，那你做的这个学习有啥用？空谈数据样本的话，本来就没用。很可能现实样本A占了80%，样本B只占20%， 让你在实际中选择算法A还是算法B？ 我们所有的假设都是概念性的，但遇到实际问题，要具体分析，不能专牛角，请自己再多读几遍，理解一下意思）

                                                                                【CV之城】

CV之城重点关注于前沿领域：带你领略机器学习、深度学习、人工智能中的算法和思想，以及相关资讯
同时会邀请相关人员分享项目经历和学习历程
让我们一起在计算机视觉领域进步！ 

文章来源: kings.blog.csdn.net，作者：人工智能博士，版权归原作者所有，如需转载，请联系作者。

原文链接：kings.blog.csdn.net/article/details/85088329