Coursera Machine Learning 学习笔记(7)

Coursera Machine Learning 学习笔记(七)

- Gradient descent for linear regression

       这里我们将梯度下降算法应用到线性回归模型中,我们先回顾一下梯度下降算法以及线性回归模型:

       Coursera Machine Learning 学习笔记(7)

       然后我们将梯度下降算法中的斜率也就是偏导数展开:

       Coursera Machine Learning 学习笔记(7)

       多数情况下,线性回归模型代价函数的分布形如凸面体,因此局部最小值也就相当于全局最小值:

       Coursera Machine Learning 学习笔记(7)

       下面是整个收敛以及参数确定过程:

       Coursera Machine Learning 学习笔记(7)

       Coursera Machine Learning 学习笔记(7)

       Coursera Machine Learning 学习笔记(7)

        Coursera Machine Learning 学习笔记(7)

       Coursera Machine Learning 学习笔记(7)

       Coursera Machine Learning 学习笔记(7)

       Coursera Machine Learning 学习笔记(7)

       Coursera Machine Learning 学习笔记(7)

       Coursera Machine Learning 学习笔记(7)