时间序列-AR模型

1四、自回归模型的阶数的估计五、自回归模型的参数的估计六、自回归模型的检验七、自回归模型的预报2时间序列分析最重要的应用是分析和表征观察值之间的相互依赖性与相关性，若对这种相关性进行量化处理，那么就可以方便地从系统的过去值预测将来的值。在数理统计中讨论的数据的线性回归模型,很好地表示了因变量yt的观察值对自变量观测值xt1,xt2,…xtp的相关性，解决了他们之间的相关性问题，但是，对一组随机观测数据，即一个时间序列内部的相关关系它却描述不出来。即它不能描述数据内部之间的相互依赖关系。3另一方面，某些随机过程与另一些变量取值之间的随机关系，往往根本无法用任何函数关系式来描述，这时就需要采用这个时间序列本身的观测数据之间的依赖关系来揭示这个时序的规律性。4一、自回归模型的定义定义2.1设{xt,t=0,±1,±2,…}为时间序列，白噪声序列为{εt,t=0,±1,±2,…}，且对任意的st，E(xsεt)=0,则称满足等式tptptttxxxx22110的时间序列为p阶自回归（Autoregression）序列,上式为p阶自回归模型，记作AR(p).易见,此自回归模型描述了数据序列内部的递推的线性回归关系。5例1.1单摆现象：单摆在第t个摆动周期中最大摆幅记为xt，由于阻尼作用，在第t+1个摆动周期中，其最大振幅为ttxx1其中为阻尼系数。若再受到外界干扰εt的影响，则实际上的最大振幅为tttxx1易见,此例即为一个一阶自回归模型AR(1)。6一般的,在AR(p)模型中的系数多项式ppuuuu22101)(称为AR(p)模型的自回归系数多项式。若α(u)=0的根都在单位圆外时，称此为平稳的AR(p)模型，否则为非平稳的AR(p)模型，或广义的AR(p)模型。注：条件α(u)=0的根都在单位圆外，称为平稳性条件。7例1.2如果时间序列xt满足,1,0321txxttt试问此xt是否为平稳的序列模型。解：因为其自回归系数多项式为uu321)(易见,α(u)=0的根为3/21,所以这是平稳的AR(1)模型。8例1.3如果时间序列xt满足,1,02521txxxtttt试问此xt是否为平稳的序列模型。解：由于其自回归系数多项式为2251)(uuu1()(1)(12)02uuu的根为u1=21与u2=1/21,故知其根不都在单位圆外，所以这是非平稳的AR(2)序列模型。9自回归模型是描述系统内部的回归关系，故称为自回归，与通常的线性回归性质是不一样的。10二、中心化AR(p)模型设{xt}为平稳序列，且有tptptttxxxx22110则对上式两端同取数学期望，即得tptptttEExExExEx22110由于{xt}为平稳序列，故0ttEEx且，常数11)(210p即得0210p1210)1(p因此得ttxw此时若令tptpttt2211则可得一个均值为0的新序列：此时wt称为xt的平稳中心化序列。12以后一般均讨论中心化的平稳模型或序列:tptptttxxxx22110,;00,tsttExtsEExt且，其中13三、平稳模型的平稳解设平稳AR(p)模型为tptptttxxxx2211式中{εt}为白噪声序列，00kExktt且系数α1，α2，…，αp满足平稳条件：系数多项式α(u)=0的根都在单位圆外。141后移算子若算子B满足等式:1ttxBx则称B为后移算子,即B作用xt后使其转化为xt-1类似的212)()(ttttxxBBxBxB,2,1,0kxxBkttk于是,AR(p)模型可以表示为ttpptttxBxBBxx22115ttppxBBB)(221ttxB)(即得一差分方程:其中α(B)为后移算子多项式,即称为自回归算子:ppBBBB2211)(16易见，滤波器成为一个对时间序列进行变换的实体，变换前的序列称为输入，经滤波器变换的得到的序列称为输出。自回归滤波器xtεt差分方程式可用框图表示:设想有一个滤波器，输入的是某种平稳序列，而输出的则是白噪声序列，即172AR(p)序列的平稳域与允许域定义2.2AR(p)序列的平稳域为其系数取值的集合：}0)(),,,{(21的根在单位圆外up其允许域为其自相关函数的前p个值的集合:})(,),2(),1({(11在平稳域内ppppdRbp其中矩阵Γp与Rp,向量α、b与d分别为：18)0()2()1()2()0()1()1()1()0(xxxxxxxxxpCpCpCpCCCpCCC))(,),2(),1((pCCCbxxxp),,,(21p)0(/)0(/xppxppCbdCR19}1|||{故其允许域为tttxx1/101uu的解为因为系数多项式}1|||{所以其平稳域为)0(/)1(1CC）（)()1(111tttttxExxExC)(111oCExxExtttt例如一阶自回归模型AR(1)：20ppppbb意味着1注:)()2()1()0()2()1()2()0()1()1()1()0(21pCCCCpCpCpCCCpCCCxxxpxxxxxxxxx实际上由平稳AR(p)模型:ttptpttxxxx221121即得：在其两端同乘以1txttttpttpttttxxxxxxxxx111212111再对两端取数学期望,并由性质:00,,2,1),1()(1kExiiCxxEkttxitt且)1()1()1()0(21xpxxxCpCCC22)1()1()1()0(21xpxxxCpCCC类似的,在平稳AR(p)模型两端分别同乘以即得：,,,,32ptttxxxttttpttpttttxxxxxxxxx22222212123ttttpttpttttxxxxxxxxx333232131tptttptptptpttptxxxxxxxxx12211再对两端取数学期望,并由上述性质可得:)2()2()0()1(21xpxxxCpCCC)3()3()1()2(21xpxxxCpCCC24)()0()2()1(21pCCpCpCxpxxx)()3()2()0()2()1()3()1()2()2()0()1(21pCCCCpCpCpCCCpCCCxxxpxxxxxxxxx其次,由于自相关系数等于:)0()()0()0()()()()()(xxxxxxxittCiCCCiCitDtDxxEi25意味着：ppdR)0()2()1()2()0()1()1()1()0()0(/ppppCRxpp)()2()1()0()2()1()2()0()1()1()1()0(21pppppp263AR(1)序列平稳解与自相关函数tttxxAR1)1(序列若对进行反复的迭代运算，则对任何自然数n，有ttttttxxx)(121tttx122ttttx12233ttntnntnntnx121112710nkktkntntxx于是对于平稳时间序列，如果有|α|1，则22210ntnnkktktxExE0)(22nntnxE11||01)(1uuu，其根时，因此，在28为一平稳线性序列此时100limnkktknkktktx即它是满足AR(1)模型平稳解.tkkttttBBBx22若用算子表示式：tkkBBB)1(22tB)(kkBBBB221)(0kkkB称为线性转移函数。29注意到麦克劳林展开式)()(11)(10BBBBkn)1|(|B可知线性转移函数是一阶自回归算子的逆算子。0kktktx又因为00kktktEEx故当k0时,其自相关函数：30)(),(kttxxxEkttR00llktliitiE00illktitliE00iklktitliE022ikiikl31类似的,当k0时,其自相关函数为0||22||)()(),(kkiktkktkttxxxExxEkttR02||2kik2||22||2111kk2||22||211),(),(kkxxkttRkttC于是2222111kk32特别地，AR(1)序列的方差函数为221)(tDx其自相关系数为||)()(),()(kxxxktDtDkttCk因为|α|1，故相关系数依指数规律向零衰减。33例2.1试求AR(1)序列tttxx18.0的平稳解与自相关函数。tttxx18.0因为解的系数多项式为08.01)(uu125.1u其根为故得其平稳解为08.0kktktx而自相关系数为||8.0)(kk)0(k344.AR(2)序列的平稳解与自相关函数ttttxxx22112211)(BBB其中ttxB)(即模型的平稳解为，则此设线性转移函数为)2()(ARBttBx)(因此,求AR(2)模型的平稳解,即化为求线性转移函数的权系数问题.35(1)线性转移函数的权系数求法1)()(BB因为1)1)(1(221221BBBB即对比上述等式两端B的同次幂的系数，可得系数方程组：1)()(12211211BB363,2,000221102112011kkkk易见权系数满足二阶齐次线性差分方程组110221113,,20kkkk373,,2,0)(kBk由上式可见有关的根与故kuuu2211)(分两种情形讨论:ⅰ)若自回归多项式有两个不等实根u1与u2时