第3章 平稳线性ARMA模型(4)--建立模型

3.3平稳序列建模•建模步骤•模型识别•参数估计•模型检验•模型优化•序列预测1建模步骤平稳非白噪声序列计算样本相关系数模型识别参数估计模型检验模型优化序列预测YN2•在ARMA(p,q)的建模过程中，对于阶数(p,q)的确定，是建模中比较重要的步骤，也是比较困难的。需要说明的是，模型的识别和估计过程必然会交叉，所以，我们可以先估计一个比我们希望找到的阶数更高的模型，然后决定哪些方面可能被简化。在这里我们使用估计过程去完成一部分模型识别，但是这样得到的模型识别必然是不精确的，而且在模型识别阶段对于有关问题没有精确的公式可以利用，初步识别可以我们提供有关模型类型的试探性的考虑。34•对于线性平稳时间序列模型来说，模型的识别问题就是确定ARMA(p,q)过程的阶数，从而判定模型的具体类别，为我们下一步进行模型的参数估计做准备。所采用的基本方法主要是依据样本的自相关系数（ACF）和偏自相关系数（PACF）初步判定其阶数，如果利用这种方法无法明确判定模型的类别，就需要借助诸如AIC、BIC等信息准则。我们分别给出几种定阶方法，它们分别是（1）利用时间序列的相关特性，这是识别模型的基本理论依据。5如果样本的自相关系数（ACF）在滞后q+1阶时突然截断，即在q处截尾，那么我们可以判定该序列为MA(q)序列。同样的道理，如果样本的偏自相关系数（PACF）在p处截尾，那么我们可以判定该序列为AR(p)序列。如果ACF和PACF都不截尾，只是按指数衰减为零，则应判定该序列为ARMA(p,q)序列，此时阶次尚需作进一步的判断；（2）利用数理统计方法检验高阶模型新增加的参数是否近似为零，根据模型参数的置信区间是否含零来确定模型阶次，检验模型残差的相关特性等；（3）利用信息准则，确定一个与模型阶数有关的准则函数，既考虑模型对原始观测值的接近程度，又考虑模型中所含待定参数的个数，最终选取使该函数达到最小值的阶数，常用的该类准则有AIC、BIC、FPE等。实际应用中，往往是几种方法交叉使用，然后选择最为合适的阶数(p,q)作为待建模型的阶数。自相关和偏自相关系数法•在平稳时间序列分析中，最关键的过程就是利用数据去识别和建模，根据第三章讨论的内容，一个比较直观的方法，就是通过观察自相关系数（ACF）和偏自相关系数（PACF）可以对拟合模型有一个初步的识别，这是因为从理论上说，平稳AR、MA和ARMA模型的ACF和PACF有如下特性：6计算样本相关系数•样本自相关系数•样本偏自相关系数nttkntkttkxxxxxx121)())((ˆDDkkkˆˆˆ7模型识别•基本原则选择模型拖尾P阶截尾AR(P)q阶截尾拖尾MA(q)拖尾拖尾ARMA(p,q)kkˆ8kˆ模型定阶的困难•因为由于样本的随机性，样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的或仍会呈现出小值振荡的情况•由于平稳时间序列通常都具有短期相关性，随着延迟阶数，与都会衰减至零值附近作小值波动？当或在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？kkˆkkˆkˆkkˆkˆkkˆ9样本相关系数的近似分布•Barlett•QuenouillennNk,)1,0(~ˆnnNkk,)1,0(~ˆ10模型定阶经验方法•95％的置信区间•模型定阶的经验方法•如果样本(偏)自相关系数在最初的d阶明显大于两倍标准差范围，而后几乎95％的自相关系数都落在2倍标准差的范围以内，而且通常由非零自相关系数衰减为小值波动的过程非常突然。这时，通常视为(偏)自相关系数截尾。截尾阶数为d。22ˆPr0.9522ˆPr0.95kkknnnn11例2.5续•选择合适的模型ARMA拟合1950年——1998年北京市城乡居民定期储蓄比例序列。12序列自相关图13序列偏自相关图14拟合模型识别•自相关图显示延迟3阶之后，自相关系数全部衰减到2倍标准差范围内波动，这表明序列明显地短期相关。但序列由显著非零的相关系数衰减为小值波动的过程相当连续，相当缓慢，该自相关系数可视为不截尾•偏自相关图显示除了延迟1阶的偏自相关系数显著大于2倍标准差之外，其它的偏自相关系数都在2倍标准差范围内作小值随机波动，而且由非零相关系数衰减为小值波动的过程非常突然，所以该偏自相关系数可视为一阶截尾•所以可以考虑拟合模型为AR(1)15例3.8美国科罗拉多州某一加油站连续57天的OVERSHORT序列16序列自相关图17序列偏自相关图18拟合模型识别•自相关图显示除了延迟1阶的自相关系数在2倍标准差范围之外，其它阶数的自相关系数都在2倍标准差范围内波动。根据这个特点可以判断该序列具有短期相关性，进一步确定序列平稳。同时，可以认为该序列自相关系数1阶截尾•偏自相关系数显示出典型非截尾的性质。•综合该序列自相关系数和偏自相关系数的性质，为拟合模型定阶为MA(1)19例3.9•1880-1985全球气表平均温度改变值差分序列20序列自相关图21序列偏自相关图22拟合模型识别•自相关系数显示出不截尾的性质•偏自相关系数也显示出不截尾的性质•综合该序列自相关系数和偏自相关系数的性质，可以尝试使用ARMA(1,1)模型拟合该序列23参数估计•待估参数•个未知参数•常用估计方法•矩估计•极大似然估计•最小二乘估计2pq211,,,,,,,pq2425设平稳时间序列tX是一个ARMA(,pq)过程，即11112,~0,,,0ttptpttqtqtstXXXWNstEX其中1,,p为自回归系数，1,,q为移动平均系数。26在ARMA(,pq)的建模过程中，关键的一步就是模型的参数估计问题，本章将讨论ARMA(,pq)模型的参数估计问题。根据ARMA(,pq)模型的特点，参数估计一般分为下列两步进行：粗估计和精估计。27ARMA(p,q)模型参数的矩估计设平稳时间序列tX是一个零均值因果ARMA(,pq)过程，现在要讨论的问题是基于样本观测值1,,Txx，给出自回归参数1,,p、移动平均参数1,,q和白噪声方差2的估计，本节将利用矩估计思想给出ARMA(,pq)模型的参数估计。矩估计•原理•样本自相关系数估计总体自相关系数•样本一阶均值估计总体均值，样本方差估计总体方差111111ˆ(,,,,,)ˆ(,,,,,)pqpqpqpq1ˆniixxn22212212ˆˆˆ1ˆˆ1ˆxqp2829自回归AR(p)模型参数的Yule-Walker估计根据AR(p)模型的特征，自回归系数1,,p由AR(p)模型的自相关系数惟一确定，即满足Yule-Walker方程：01121111022211220pppppppp301011110222120pppppp3111011110222120pppppp2011pkkk32用ˆ(0,,)kkp代替(0,,)kkp，根据定理6.1，只要样本观测值1,,Txx不完全相同时，相应的样本自协方差矩阵ˆp必为正定。33自回归系数1,,p的唯一解11101110222120ˆˆˆˆˆˆˆˆˆˆˆˆˆˆˆpppppp34201ˆˆˆˆ1pkkk称为自回归参数1,,p的矩估计或者为Yule-Walker估计例3.10:求AR(2)模型系数的矩估计•AR(2)模型•Yule-Walker方程•矩估计（Yule-Walker方程的解）ttttxxx22112112121112121ˆˆ1ˆ1ˆ212122ˆ1ˆˆˆ35362的矩估计为20112222221012211ˆˆˆˆˆˆ1ˆˆˆ1ˆˆˆ1ˆˆ1137移动平均MA(q)模型参数的矩估计设平稳时间序列tX是一个零均值MA(q)序列，211,~0,tttqtqtXWN基于样本观测值1,,Txx，给出移动平均系数1,,q和白噪声方差2的矩估计。38222012111,1,2,qkkkqqkkq39用ˆ(0,,)kkq代替(0,,)kkq，代入，得到22201211ˆ1ˆ,1,2,qkkkqqkkq由此可以给出参数的矩估计，但是此方程是非线性的，实际求解一般比较困难。例3.11:求MA(1)模型系数的矩估计•MA(1)模型•方程•矩估计11tttx2201111220111(1)11211ˆ2ˆ411ˆ40例3.12:求ARMA(1,1)模型系数的矩估计•ARMA(1,1)模型•方程•矩估计1111ttttxx11111120111211()(1)1211221221121ˆˆ21,2,242,24ˆ,ˆˆˆccccccc4142移动平均MA(q)模型参数的矩估计用ˆ(0,,)kkq代替(0,,)kkq，代入，得到22201211ˆ1ˆ,1,2,qkkkqqkkq由此可以给出参数的矩估计，但是此方程是非线性的，实际求解一般比较困难。43ARMA(p,q)模型参数的矩估计设平稳时间序列tX是一个零均值ARMA(,pq)序列，21111,~0,ttptpttqtqtXXXWN进一步地设模型是因果的和可逆的。1,,Txx是ARMA(,pq)序列tX的一个样本观测值。我们要讨论的问题是基于样本观测值1,,Txx，给出ARMA(,pq)模型参数1,,p，1,,q和白噪声方差2的矩估计。44ARMA(p,q)模型参数的矩估计根据ARMA(,pq)模型的自协方差系数的特点，1,,p满足如下方程组11211112221122qqqppqqqqppqqpqpqpqp45ARMA(p,q)模型参数的矩估计11111122212ˆˆˆˆˆˆˆˆˆˆˆˆˆˆˆqqqqpqqqpqqpqpqpqp46ARMA(p,q)模型参数的矩估计1,,q，2满足22201211ˆ1ˆ,1,2,qkkkqqkyykq其中00ˆˆˆˆ,0,1,,ppkijijkijykq对矩估计的评价•优点•估计思想简单直观•不需要假设总体