recursive least squares —— 递推最小二乘法

该方法是一种根据系统过去运行产生的数据估计当前时刻真实输出的方法,所以文章中所说的递归最小二乘估计、递归最小二乘辨识都是指这个方法。
它是一种基于ARX模型的方法,ARX模型的形式为用y(k) = -a1y(k-1)-a2y(k-2)-…-any(k-n)+b0u(k)+b1u(k-1)+…+bnu(k-n)+e(k),也可以写为recursive least squares —— 递推最小二乘法其中recursive least squares —— 递推最小二乘法这个模型形式在很多估计方法中都出现,就是根据k时刻之前的n个u和y估计k时刻输出y的模型。
将这个模型写成向量的形式:
recursive least squares —— 递推最小二乘法
这里矩阵recursive least squares —— 递推最小二乘法中的u项的标号不正确。

recursive least squares —— 递推最小二乘法
最小二乘估计的要求偏差的平方和最小,即它的目标函数为:recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法recursive least squares —— 递推最小二乘法
recursive least squares —— 递推最小二乘法上述算法的计算顺序为:先算K,再算theta和P。

此外,随着系统不断运行,产生的数据越来越多,会导致新产生的数据无法在最小二乘算法中发挥效果,有关学者提出了基于遗忘因子的最小二乘方法,遗忘因子可以使算法逐渐抛弃很久之前的数据,而使新产生的数据发挥更大的效果。
更多关于遗忘因子最小二乘算法的内容请参考:
Vahidi A, Stefanopoulou A, Peng H. Recursive least squares with forgetting for online estimation of vehicle mass and road grade: theory and experiments[J]. Vehicle System Dynamics, 2005, 43(1): 31-55.

Rodríguez-Blanco T, Sarabia D, Pitarch J L, et al. Modifier Adaptation methodology based on transient and static measurements for RTO to cope with structural uncertainty[J]. Computers & Chemical Engineering, 2017, 106: 480-500.