Andrew机器学习课程 章节4——多变量线性回归
Normal equation:(正规方程)
其中:X为1列值为1的vector(其对应额外的特征变量)+xi的转置合并的矩阵。
正规方程与梯度下降相比较的优缺点:
优点:1.不需要设置初试的学习率α
2.不需要进行多次迭代
缺点:1.梯度下降法在拥有成千上百万个特征时都能用运行的很有校(而正规方程,计算逆矩阵的复杂度为O(n3))
其中:X为1列值为1的vector(其对应额外的特征变量)+xi的转置合并的矩阵。
优点:1.不需要设置初试的学习率α
2.不需要进行多次迭代
缺点:1.梯度下降法在拥有成千上百万个特征时都能用运行的很有校(而正规方程,计算逆矩阵的复杂度为O(n3))