机器学习之利用极大似然估计解释最小二乘法
【摘要】 利用极大似然估计解释最小二乘法
对于线性回归的基本形式,可将其转换为
形式,这样可将
认为是
的误差,根据中心极限定理可知:
是独立同分布的,它服从均值为0,方差为某定值
的高斯分布,即
。这样我们可以利用最大似然估计的方法解释最小二乘法,并且可得到损失函数(目标函数)从而求出参数。
在对数似然函数中,第一项为定值且方差也为定值,对对数似然函数求极大值,相当于对
求极小值,这样令
为目标函数,对目标函数求偏导即可求出所需的参数
和
,也就求出对应的
和
。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)