第四章
线性回归 算法进阶
4.2
梯度下降法 求解多变量
线性回归梯度下降法
是对最小二乘法进行优化
求解
回归的一种
算法,它采用了迭代的形式来寻找成本函数J(θ)的最小值。其中J(θ):
4.2.1梯度下降的含义
定义:
来自于数学中的微积分,通过对多元函数参数
求偏导数,把
求得的各参数的偏导数以向量的形式写出来就是梯度。
几何意义:
函数变化增加最快的地方
梯度上升:
沿着梯度向量的方向更容易找到函数的最大值。
梯度下降:
沿着梯度向量相反的方向,梯度减小最快,更容易找到函数的最
到此这篇梯度下降回归(梯度下降回归推导)的文章就 介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/te-hg/17746.html