最小二乘法原理

设(X1,Y1),(X2,Y2),…,(XN,YN)是在直角平面坐标系中给定的一组数据,如果x 1 < x 2 & lt;…& lt;x ^ n,我们也可以把这组数据看成一个离散函数。根据观察,如果这组数据图像“酷似”一条直线(不是一条直线),我们的问题是确定一条直线y = bx +a,使其能够“最好地”反映这组数据的变化。

最小二乘法是处理各种测量平差观测数据的基本方法。

如果一个或多个未知量以不同的精度被多次观测,为了确定每个未知量的最可靠值,每个观测值必须加上校正数,以最小化每个校正数乘以观测值权重的平方和。因此称之为最小二乘法。所谓“权重”是一个权衡值,表示观测结果质量的相对可靠性。

法国数学家勒让德在1806年首次发表了最小二乘理论。事实上,德国的高斯已经应用这个理论计算了谷神星在1794年的轨道,但直到1809年才正式发表。之后,他提出了调整三角网的理论,并研究出了理解法方程的方法。为用最小二乘法进行测量平差奠定了基础。

最小二乘法也是数理统计中常用的方法,广泛应用于工业技术和其他科学研究中。

当我们研究两个变量(x,y)之间的关系时,通常可以得到一系列成对的数据(x1,y1,x2,y2...xm,ym);在x -y直角坐标系中绘制这些数据(如图1)。如果在一条直线附近找到这些点,这条直线的方程可以表示为(公式1-1)。

y米= a0+a1 X(公式1-1)

其中a0和a1是任意实数。

为了建立这个线性方程,必须确定a0和a1。应用最小二乘法原理,利用公式(1-1)计算出的实测值Yi与计算值(Y米= a0+a1 X)的偏差(Yi-Y米)平方和为'[∑ (Yi)。

阶数:φ = ∑(Yi-Y) 2(公式1-2)

将(公式1-1)代入(公式1-2)得到:

φ = ∑(Yi-a0-a1 Xi)2(公式1-3)

∑(Yi-Y米)的平方最小时,我们可以用函数φ求a0和a1的偏导数,使这两个偏导数等于零。

(公式1-4)

(公式1-5)(见附图)

即:

马A0+(∑ xi) A1 = ∑易(公式1-6)。

(∑Xi) a0+(∑Xi2) a1 = ∑(Xi,易)(公式1-7)。

关于a0和a1的两个方程未知。通过求解这些方程,我们可以得到如下结果:

A0 =(∑易)/m-a1(∑Xi)/m(公式1-8)。

A1 = [∑伊稀-(∑ xi∑易)/m]/[∑ xi2-(∑ xi) 2/m)](公式1-9)。

此时a0和a1代入(公式1-1),此时(公式1-1)就是我们回归的亚线性方程,也就是数学模型。

在回归过程中,不可能通过所有的回归数据点(x1,y1,x2,y2...xm,ym)。为了判断相关性,可以借助相关系数“R”、统计量“F”、残差标准差“S”来判断。“r”越接近1越好;“f”的绝对值越大越好;“s”越接近0越好。

R = [∑伊稀-m(∑Xi/m)]/sqr {[∑xi2-m(∑Xi/m)2][∑yi2-m(∑yi/m)2]}(公式1-65438+)

在(公式1-1)中,m为样本量,即实验次数;、易分别为任一组实验的x、y值。