计算方法函数逼近与FFT曲线拟合的最小二乘法ch03dr.

1第三章函数逼近与FFT计算方法——曲线拟合的最小二乘法2本节内容曲线拟合曲线拟合基本概念最小二乘算法最小二乘拟合多项式3曲线拟合能否找到一个简单易算的p(x)，使得f(x)p(x)已知f(x)在某些点的函数值：xx0x1…xmf(x)y0y1…ym但是(1)m通常很大(2)yi本身是测量值，不准确，即yif(xi)这时不要求p(xi)=yi,而只要p(xi)yi总体上尽可能小4使最小使最小曲线拟合p(xi)yi总体上尽可能小使最小|)(|max1iimiyxpmiiiyxp1|)(|miiiyxp12|)(|常见做法太复杂不可导，求解困难最小二乘法：目前最好的多项式曲线拟合算法5最小二乘曲线拟合的最小二乘问题这个问题实质上是最佳平方逼近问题的离散形式。可以将求连续函数的最佳平方逼近函数的方法直接用于求解该问题。已知函数值表(xi,yi)，在函数空间中求S*(x)，使得22()00[()]min()mmiiiiiisxiiSxySxy其中i是点xi处的权。6最小二乘求解对任意S(x)=span{0,1,,n}，可设S(x)=a00+a11+···+ann(x)则求S*(x)等价于求下面的多元函数的最小值点2010(,,,)()mniiiiIaaaSxy200()mnijjiiijaxy0kIak=0,1,…,n最小值点7最小二乘求解njkkkjfa0),(),((k=0,1,…,n)这里的内积是离散带权内积，即0(,)()()mjkijikiixx0(,)()()mkiikiiffxx，000100010111110(,)(,)(,)(,)(,)(,)(,)(,)(,)nnnnnnnnnadadad,kkdf法方程G法方程8最小二乘求解法方程存在唯一解det(G)0Haar条件0,1,,n的任意线性组合在点集x0,x1,,xm上至多只有n个不同的零点，则称0,1,,n在点集x0,x1,,xm上满足Haar条件0,1,,n线性无关mn若0,1,,nC[a,b]在点集x0,x1,,xm上满足Haar条件，则法方程的解存在唯一9最小二乘求解设法方程的解为：a0*,a1*,,an*,则S*(x)=a0*0+a1*1+···+an*n(x)结论S*(x)是f(x)在中的最小二乘解10举例例：给定函数值表，求f(x)的最小二乘拟合函数S*(x)xi0.240.650.951.241.732.012.232.522.772.99yi0.23-0.26-1.10-0.450.270.10-0.290.240.561.00解：在坐标平面上描出上表中的数据点，根据点的分布情况，选取基函数012()ln,()cos,()xxxxxxe得法方程773.263827.26131.15.1002009.49259.63009.491084.53475.5259.633475.57941.6cba解得1.0410,1.2613,0.03073abc所以()1.0410ln1.2613cos0.03073xSxxxe11举例最小二乘问题中，如何选择数学模型很重要，即如何选取函数空间=span{0,1,,n}，通常需要根据物理意义，或所给数据的分布情况来选取合适的数学模型。12多项式拟合＝Hn=span{1,x,...,xn},即i=xi,则相应的法方程为miiniimiiiimiiinminiiminiiminiiminiimiiimiiiminiimiiimiifxfxfaaaxxxxxxxx000100201001020000此时为f(x)的n次最小二乘拟合多项式0()nkkkSxax多项式最小二乘曲线拟合13举例例：求下面数据表的二次最小二乘拟合多项式得法方程4015.44514.57680.83828.15625.1875.15625.1875.15.2875.15.25210aaaxi00.250.500.751.00f(xi)1.00001.28401.64872.11702.7183解：设二次拟合多项式为22102)(xaxaaxp解得8437.0,8641.0,0052.1210aaa所以此组数据的二次最小二乘拟合多项式为228437.08641.00052.1)(xxxp(1)若题目中没有给出各点的权值i，默认为i=1(2)该方法不适合n较大时的情形（病态问题）14正交多项式拟合带权正交（离散情形）给定点集以及各点的权系数，如果函数族满足miix000,(,)()()0,mkjikijiikkjxxAkj0()nkkxmii0则称关于点集带权正交0()nkkxmiix0mii0若0,1,,n是多项式，则可得正交多项式族15正交多项式拟合用正交多项式做最小二乘设多项式p0,p1,,pn关于点集x0,x1,,xm带权0,1,,m正交，则f(x)在Hn中的最小二乘拟合多项式为001122()()()()()nnSxaPxaPxaPxaPx其中,,kkkkpfappk=0,1,…,n误差222220()(),()nkkkkxfxa离散形式的2-范数16正交多项式的构造给定和权系数，如何构造正交多项式族)(,iixfxnkkxp0)(i可以证明：关于点集带权正交nkkxp0)(miix0mii0三项递推公式：k=1,…,n-1其中111(,)(,)(,)(,)kkkkkkkkkkxpppppppp(k=0,1,…,n-1)(k=1,2,…,n-1)011111()1,()()()()()kkkkkpxpxxpxxpxpx17几点注记(1)可以将构造正交多项式族、解法方程、形成拟合多项式穿插进行；(2)n可以事先给定，或在计算过程中根据误差来决定；(3)该方法非常适合编程实现，只用递推公式，并且当逼近次数增加时，只要将相应地增加程序中的循环次数即可。(4)该方法是目前多项式拟合最好的计算方法，有通用程序。011111()1,()()()()()kkkkkpxpxxpxxpxpx111(,)(,)(,)(,)kkkkkkkkkkxpppppppp,,kkkkpfapp001122()()()()()nnSxaPxaPxaPxaPx18举例例：给定数据点及权系数，求二次最小二乘拟合多项式xi00.50.60.70.80.91.0yi1.001.751.962.192.442.713.00i1111111解：000(,)7,(,)15.05ppfp012.15,0.64a通过直接计算，可得1()0.64pxx1211.98,0.36,0.094a22()0.980.12pxxx21.00a22001122()()()()1SxapxapxapxxxMatlab正交多项式最小二乘拟合函数:polyfit(x,y,n)Matlab曲线拟合工具箱：cftoolex34.m19非线性最小二乘有时需要其它函数，如，等拟合给定的数据，这时建立的法方程是一个非线性方程组，称这类拟合问题为非线性最小二乘问题。()bxSxae()bSxaxxi1.001.251.501.752.00yi5.105.796.537.458.46xi0.10.20.30.40.50.60.70.8yi0.61.11.61.82.01.91.71.3例：用指数函数拟合下面的数据bxaexy)(例：用函数拟合表中的数据bxaxysin)(20作业(1)教材第95页：习题17，使用下面的数据xi1925313844yi19.032.349.973.397.8(2)教材第96页：习题2（利用正交多项式计算二次最小二乘拟合多项式，采用相间隔的四组数据）