第三章平稳时间序列分析3s

3.3.4参数估计待估参数p+q+2个未知参数常用估计方法矩估计极大似然估计最小二乘估计211,,,,,,,pq矩估计原理样本自相关系数估计总体自相关系数样本一阶均值估计总体均值，样本方差估计总体方差111111ˆ(,,,,,)ˆ(,,,,,)pqpqpqpq1ˆniixxn22212212ˆˆˆ1ˆˆ1ˆxqpnxxniix122)(ˆ例3.10:求AR(2)模型系数的矩估计AR(2)模型Yule-Walker方程矩估计（Yule-Walker方程的解）ttttxxx22112112121112121ˆˆ1ˆ1ˆ212122ˆ1ˆˆˆ1．AR（n）模型参数的矩估计021221110nnnnnnnn21n21=nˆˆˆ211021221110ˆˆˆˆˆˆˆˆˆnnnnnˆˆˆ21nnaˆˆ...ˆˆˆˆˆˆ221102MA(1)模型方程矩估计11tttx2201111220111(1)11211ˆ2ˆ411ˆ2．MA（m）模型参数的矩估计mkakmmkkkkam,,2,1)...()...1(222112222210这是关于MA模型参数的m+1个非线性方程组成的方程组，低阶的可以通过解方程组直接求解，高阶的只能通过数值解法得到近似解，常用的数值解法有线性迭代法和牛顿-拉普森(Newton-Ranhson)算法例3.12:求ARMA(1,1)模型系数的矩估计ARMA(1,1)模型方程矩估计1111ttttxx11111120111211()(1)1211221221121ˆˆ21,2,242,24ˆ,ˆˆˆccccccc3．ARMA（n,m）模型参数的矩估计第一步：先用类似于AR模型参数矩估计的方法给出ARMA（n,m）模型的AR部分参数的矩估计第二步计算序列的自协方差函数}{tyntnttttXXXXyˆ...ˆˆ2211第三步：把近似看作MA(m)序列，利用MA参数的矩估计方法就可以得到ARMA（n,m）模型的滑动平均部分参数的矩估计}{ty对矩估计的评价优点估计思想简单直观不需要假设总体分布计算量小（低阶模型场合）缺点信息浪费严重只用到了p+q个样本自相关系数信息，其他信息都被忽略估计精度差通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值极大似然估计原理在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值1212ˆˆˆ(,,,;)max{();,,,}kkLxpx似然方程由于和都不是的显式表达式。因而似然方程组实际上是由p+q+1个超越方程构成，通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值()Sln0~)~(21~ln21)~;~(~02)~(2)~;~(2422SxlSnxl对极大似然估计的评价优点极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质缺点需要假定总体分布最小二乘估计原理使残差平方和达到最小的那组参数值即为最小二乘估计值211111)(min)~(min)ˆ(ntqtqtptpttxxxQQ条件最小二乘估计实际中最常用的参数估计方法假设条件残差平方和方程解法迭代法0,0txt221111()[]nntttiittiQxx对最小二乘估计的评价优点最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度高条件最小二乘估计方法使用率最高例2.5续确定1950年——1998年北京市城乡居民定期储蓄比例序列拟合模型的口径拟合模型：AR(1)估计方法：极大似然估计模型口径tttxx169.017.2517.16)ˆ(2Var例3.8续确定美国科罗拉多州某一加油站连续57天的OVERSHORTS序列拟合模型的口径拟合模型：MA(1)估计方法：条件最小二乘估计模型口径ttBx)82303.01(40351.4929.2178)ˆ(2Var例3.9续确定1880-1985全球气表平均温度改变值差分序列拟合模型的口径拟合模型：ARMA(1,1)估计方法：条件最小二乘估计模型口径119.0407.0003.0ttttxx016.0)ˆ(2Var在ARMA模型参数的三种估计方法中。矩估计法相对简单，计算量小，但精度低，只宜作为初估计。但对于AR模型，当样本容量充分大时，三种估计结果十分接近。最小二乘估计和极大似然估计精度高，一般称之为模型参数的精估计，但计算量都较大，计算复杂。3.3.4模型检验模型的显著性检验整个模型对信息的提取是否充分参数的显著性检验模型结构是否最简:模型识别模型的显著性检验目的检验模型的有效性（对信息的提取是否充分）检验对象残差序列判定原则一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序列反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效假设条件原假设：残差序列为白噪声序列备择假设：残差序列为非白噪声序列0120,1mHm：mkmHk，：至少存在某个1,01检验统计量LB统计量221ˆ(2)()~()mkkLBnnmnk例2.5续检验1950年——1998年北京市城乡居民定期储蓄比例序列拟合模型的显著性残差白噪声序列检验结果延迟阶数LB统计量P值检验结论65.830.3229拟合模型显著有效1210.280.50501811.380.8361参数显著性检验目的检验每一个未知参数是否显著非零。删除不显著参数使模型结构最精简方法利用多元线性回归分析回归系数的显著性检验。01:0,1,2,:0,1jjjjHjmHjm。假设：参数显著性检验在正态分布假定下，21ˆ(,),1,()()jjjjijmmNajmQXXa由于不可观测，用最小残差平方和估计22222()ˆ,())QnmQnm根据正态分布性质，有（参数显著性检验于是构造用于检验未知参数显著性的t检验统计量1/2()ˆ~()(),1jjjjnmTnmtnmaQTtP当或该检验统计量的值小于或大于时，拒绝原假设22认为该参数显著，不然，认为该参数不显著，剔除对应的自变量，重新建模例2.5续检验1950年——1998年北京市城乡居民定期储蓄比例序列极大似然估计模型的参数是否显著参数检验结果检验参数t统计量P值结论均值46.120.0001显著6.720.0001显著1例3.8续:对OVERSHORTS序列的拟合模型进行检验残差白噪声检验参数显著性检验检验参数t统计量P值结论均值－3.750.0004显著10.600.0001显著延迟阶数LB统计量P值结论63.150.6772模型显著有效129.050.61711例3.9续:对1880-1985全球气表平均温度改变值差分序列拟合模型进行检验残差白噪声检验参数显著性检验检验参数t统计量P值结论16.340.0001显著3.50.0007显著延迟阶数LB统计量P值结论65.280.2595模型显著有效1210.300.424711模型优化问题提出当一个拟合模型通过了检验，说明在一定的置信水平下，该模型能有效地拟合观察值序列的波动，但这种有效模型并不是唯一的。优化的目的选择相对最优模型例3.13:拟合某一化学序列序列自相关图序列偏自相关图拟合模型一根据自相关系数2阶截尾，拟合MA(2)模型参数估计模型检验模型显著有效三参数均显著ttBByield)31009.032286.01(17301.512拟合模型二根据偏自相关系数1阶截尾，拟合AR(1)模型参数估计模型检验模型显著有效两参数均显著Byieldtt42481.0126169.51问题同一个序列可以构造两个拟合模型，两个模型都显著有效，那么到底该选择哪个模型用于统计推断呢？解决办法确定适当的比较准则，构造适当的统计量，确定相对最优AIC准则最小信息量准则（AnInformationCriterion）指导思想似然函数值越大越好未知参数的个数越少越好AIC统计量)(2)ˆln(2未知参数个数nAICSBC准则AIC准则的缺陷在样本容量趋于无穷大时，由AIC准则选择的模型不收敛于真实模型，它通常比真实模型所含的未知参数个数要多SBC统计量(SchwarzorBayesianinformationcriterion,BIC或SBC)))(ln()ˆln(2未知参数nnSBC例3.13续用AIC准则和SBC准则评判例3.13中两个拟合模型的相对优劣结果AR(1)优于MA(2)模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.28663.4序列预测线性预测函数预测方差最小原则0ˆ()ttlitiixlxDx()ˆ100()min()ˆ()()tlxttltjltjtjtljjjVarelVarelxlGelG序列分解及性质111111ˆ()()tltltlltltltttxGGGGelxl预测误差预测值11ˆ(,,)()(,,)[()]tltttltttExxxxlVarxxxVarel误差分析估计误差期望方差1111)(tlltlttGGle1022)]([liitGleVar0)]([leEtAR(p)序列的预测预测值预测方差95％置信区间)(ˆ)1(ˆ)(ˆ1plxlxlxtptt22121)1()]([ltGGleVar12221112ˆ()1tlxlzGG例3.14已知某超市月销售额近似服从AR(2)模型（单位：万元/每月）今年第一季度该超市月销售额分别为：101，96，97.2万元请确定该超市第二季度每月销售额的95％的置信区间12100.60.3,~(0,36)tttttxxxN例3.14解：预测值计算四月份五月份六月份12.973.06.010)1(ˆ233xxx432.973.0)1(ˆ6.010)2(ˆ333xxx5952.97)1(ˆ3.0)2(ˆ6.010)3(ˆ333x