曲线拟合的最小二乘法

问题的提出插值法是利用函数在一组节点上的值，构造一个插值函数来逼近已知函数，并要求插值函数P(x)与已知函数f(x)在节点处满足插值条件P(xi)=f(xi)(i=0,1,2,...,n)。在实际应用中往往会遇到这种情况：节点上的函数值并不是很精确，这些函数值是由测量或实验得来的，不可避免地带有误差，如果插值会保留这些误差，影响精度;另外若要预测以后某点的函数值,插值的误差也会较大.为了尽量减少这些误差的影响，从总的趋势上使偏差达到最小，这就提出了曲线拟合的最小二乘法。某种合成纤维的强度与其拉伸倍数有直接关系，下表给出的是实际测定的24个纤维样品的强度与相应拉伸倍数的记录。提示：将拉伸倍数作为x,强度作为y,在坐标纸上标出各点，可以发现什么?实例讲解编号拉伸倍数x强度ykg/mm2编号拉伸倍数x强度ykg/mm211.91.4135.05.522.01.3145.25.032.11.8156.05.542.52.5166.36.452.72.8176.56.062.72.5187.15.373.53.0198.06.583.52.7208.07.094.04.0218.98.5104.03.5229.08.0114.54.2239.58.1124.63.52410.08.1数据表格编号拉伸倍数x强度ykg/mm2编号拉伸倍数x强度ykg/mm211.91.4135.05.522.01.3145.25.032.11.8156.05.542.52.5166.36.452.72.8176.56.062.72.5187.15.373.53.0198.06.583.52.7208.07.094.04.0218.98.5104.03.5229.08.0114.54.2239.58.1124.63.52410.08.1实际测定的24个纤维样品的强度与相应拉伸倍数的记录0123456789024681012从上图中可以看出纤维的强度与拉伸倍数大致成线性关系，可用一条直线来表示两者之间的关系。解：设y*=a0+a1x，令δi=yi*-yi=a0+a1xi-yi，nii12为最小(n=24)yxyiy*i.xiδi=yi*-yi根据最小二乘原理，即使误差的平方和达到最小，也就是使)2102412412(yxiaaiiii即求使F(a0,a1)=有最小值的a0和a1的值.nii12为最小60.73161.8295.1271.1135.127241010aaaa计算出它的方程组得:所求直线方程为：y*=0.15+0.859x我们称求使δ达到最小的拟合曲线为曲线拟合的最小二乘法。解得：a0=0.15a1=0.859y*=a0+a1xi，令δi=yi*-yi=a0-a1xi-yi分别对a0,a1求偏导,得:2412412124102412411024iiiiiiiiiiiyxxaxayxaan=24节点个数使60.7311.11361.8295.1275.1272410aa正规方程组24124110241224124124iiiiiiiiiiiyxyaaxxx最小二乘原理当由实验提供了大量数据时,不能要求拟合函数P(x)在数据点(xi,yi)处的偏差为0，也即δi=P(xi)–yi≠0(i=1,2,…,n)，但为了使近似曲线尽量反映所给数据点的变化趋势，需对偏差有所要求，我们可采用下列标准来度量误差的大小：•曲线拟合的最小二乘法niiininii122111)3(max)2()1(通常选择(3)，要求偏差的平方和最小—最小二乘原理22||||此即称为最小二乘原理。我们称用最小二乘原理求拟合曲线的方法(即使||δ||22达到最小的拟合曲线)为曲线拟合的最小二乘法。由最小二称原理求得的拟合函数也称为最小二乘拟合函数.mimiiyxPii121222))((||||||通常选择(3)，要求偏差的平方和最小即：最小niiininiix122101)3(max)2()1(δi=P(xi)–yi•最小二乘拟合函数的求法对给定的一组数据(xi,yi)(i=1,2,...,n)设拟合函数P(x)的形式为1、线性拟合y=a0+a1x得到正规方程组:代入y=a0+a1x即可.解得aa10,)210112(yxiininiiaa求使F(a0,a1)=有最小值的a0和a1的值.niiiniiniiniiniiyxyaaxxxn111012112、m次多项式拟合yxyxyxyxxxxxxxxxxximiimiiiimmmimimimimimimiiimiiaaaan11102112112分别对ak求偏导，得到正规方程组：求使最小的aik=0,1,2,…,m求出ai(i=0,1,2,…,m),代入P(x)即可.P(x)=a0+a1x+a2x2+...+amxm设拟合函数为：m=1时就是线性拟合.))(2112niniiiyiaaaFxP(),,,(m10)(2112niniiiymiiaaaFxaxaam10),,,(m10下面举个例子以说明用最小二乘法解题的步骤。例1电流通过2Ω电阻，用伏安法测得的电压电流如表I(A)1246810V(I)1.83.78.212.015.820.2用最小二乘法处理数据。IaaV10解1)确定V=(I)的形式。作出数据点的散点图(如下图)，可以看出这些点在一条直线的附近，故用线性函数拟合数据，即2)建立方程组：例题4.442,7.61,221,31,6616161261iiiiiiiiiVIVIIn拟合函数经验公式4.4427.612213131610aa032.2,215.010aa则正规方程组为：3)求拟合函数，解所得正规方程组得：所求拟合函数为：V=-0.215+2.032I4.442,7.61,221,31,6616161261iiiiiiiiiVIVIIn注:二次多项式拟合的正规方程组是几元的?例：某化学反应中，测得生物浓度y(%)与时间t(min)的数据如下：t12345678y4.006.408.008.809.229.509.709.86t910111213141516y10.0010.2010.3010.4210.5010.5510.5810.60求y与t的近似函数关系。解：由观测数据(ti,yi)作图如下：由图可见，反应初期浓度增加很快，一段时间后趋于定值。所以考虑更一般的拟合函数：鉴于曲线有类似特点，tbaey•最小二乘拟合函数的求法对给定的一组数据(xi,yi)(i=1,2,...,n)设拟合函数P(x)的形式为1、线性拟合y=a0+a1x得到正规方程组:代入y=a0+a1x即可.解得aa10,)210112(yxiininiiaa求使F(a0,a1)=有最小值的a0和a1的值.niiiniiniiniiniiyxyaaxxxn111012112、m次多项式拟合yxyxyxyxxxxxxxxxxximiimiiiimmmimimimimimimiiimiiaaaan11102112112分别对ak求偏导，得到正规方程组：求使最小的aik=0,1,2,…,m求出ai(i=0,1,2,…,m),代入P(x)即可.P(x)=a0+a1x+a2x2+...+amxm设拟合函数为：m=1时就是线性拟合.))(2112niniiiyiaaaFxP(),,,(m10)(2112niniiiymiiaaaFxaxaam10),,,(m103、设拟合函数P(x)的形式为其中φ0(x),φ1(x),...,φm(x)为已知的一组线性无关的基函数.P(x)=a0φ0(x)+a1φ1(x)+...+amφm(x)(mn)则P(x)=a0+a1x+...+amxm(mn)即为m次最小二乘拟合多项式。特别地，若φi(x)=xi特别地,当φi(x)=xi时,P(x)即为m次多项式.niiiniimyxPaaaF121210))((),,,(达到最小.将P(xi)代入上式，得：设拟合函数P(x)的形式为P(x)=a0φ0(x)+a1φ1(x)+...+amφm(x)(mn)niiijmjjmyaaaxaF12010))((),...,,(求系数a0，a1，…，am，使得误差平方和使误差平方和||δ||22取最小值问题可转为求上述多元函数的极小值点（a0*,a1*,...,am*)，故上式两边对ak求偏导数，并令故上式两边对ak求偏导数，并令),,2,1,0(0mkaFk),,2,1,0()()()(011mkmjniniikiikijjxyxxa（*）niiijmjjmyaaaxaF12010))((),...,,(求系数a0，a1，…，am使得F(a0,a1,…,am)最小),...,1,0(0)())((210mkxxaikniiijmjjy得：))(,),(),((21njjjjxxx记：))(,),(),((21nkkkkxxx),,,(21nyyyfkinikkikinijkjdifxyxx)(),()()(),(:11若引入记号),,2,1,0(0),(mkdjkmjkja（*）式即为：改写为矩阵乘积形式为：mmmmmmmmdddaaa2010101210101000),(),(),(),(),(),(),(),(),(正规方程组(φj,φk)是向量的内积这是关于a0,a1,...,am的线性方程组，也称为正规方程组。由于φ0，φ1，...，φm线性无关，故上述方程组的系数行列式不为零，因此方程组有唯一解（a0*,a1*,...,am*)。代入后，得：P(x)=a0*φ0(x)+a1*φ1(x)+...+am*φm(x)即为所求曲线函数。),(),(),(),(),(),(),(),(),(101210101000mmmmmm系数矩阵为：常数项为mddd20“基”的度量矩阵mmmmmmmmdddaaa2010101210101000),(),(),(),(),(),(),(),(),(也称为最小二乘拟合函数.例：某化学反应中，测得生物浓度y(%)与时间t(min)的数据如下：t12345678y4.006.408.008.80