机器学习之利用极大似然估计解释最小二乘法

举报
sunriser 发表于 2018/12/31 20:46:04 2018/12/31
【摘要】 利用极大似然估计解释最小二乘法

   对于线性回归的基本形式image.png可将其转换为image.png形式,这样可将image.png认为是image.png的误差,根据中心极限定理可知:image.png是独立同分布的,它服从均值为0,方差为某定值image.png的高斯分布,即image.png。这样我们可以利用最大似然估计的方法解释最小二乘法,并且可得到损失函数(目标函数)从而求出参数。

image.png

在对数似然函数中,第一项为定值且方差image.png也为定值,对对数似然函数求极大值,相当于对image.png求极小值,这样令image.png为目标函数,对目标函数求偏导即可求出所需的参数image.pngimage.png,也就求出对应的image.pngimage.png






【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。