ARMA模型的几种定阶方法

I摘要本文针对自回归滑动平均（ARMA）过程的参数估计和定阶，把Box-Jenkins方法和BIC准则与系统的定阶方法加以结合，详细地介绍了基于线性估计和自回归定阶准则的方法(ARCRI)和公因子检验定阶改进法。并且把这两种方法和广义样本自相关系数函数定阶法（ESACF）加以比较总结。ARCRI在估计部分采用了两步回归法（two-stageregressionmethod），用自回归定阶准则来确定模型的阶。而公因子检验定阶改进法的参数估计是基于长自回归系数所组成的矩阵，模型阶数的确定则着眼于上述矩阵行列式是否为零。在方法的比较中，主要从样本大小，模型结构和参数值大小对模型合理性的影响三方面加以阐述。关键词：Box-Jenkins方法；BIC准则线性估计；自回归定阶准则；公因子检验IIAbstractThisarticleaimsattheestimationandorderidentificationoftheautoregressivemovingaverage(ARMA)models.AsperformingBox-JenkinsmethodBICandsystemorderidentificationtounifyweintroducedtheAutoregressiveorderdeterminationcriterionandcommonfactortestindetail.AndcomparethesetwomethodstoESACFattheend.Theformerusedtwo-stageregressionmethodinestimationandtheAutoregressiveorderdeterminationcriterioninorderidentification.Inthelatter,however,bothestimationandidentificationarebasedonamatrixformedfromthecoefficientsofautoregressiveapproximationtotheprocessofinterest.Weshowthatazerodeterminationofthismatrixisnecessaryandsufficientfortheexistenceofacommonfactorinautoregressiveandmovingaveragelagpolynomialsandthereforeforredundantparametersinthemodel.Inthemethodcomparison,mainlytheinfluenceperformsfromthesamplesize,modelstructureandparametervaluestotherationalityofthemodeliselaboratedKeywords:Box-Jenkinsmethod;Bayesianinformationcriterion;two-stageregressionmethod;Autoregressiveorderdeterminationcriterion;commonfactortestIII目录中文摘要……………………………………………………………………………………Ⅰ英文摘要……………………………………………………………………………………Ⅱ第1章ARMA模型定阶的背景及内容简介…………………………………………………1§1.1ARMA模型定阶的背景………………………………………………………………1§1.2内容简介………………………………………………………………………………3第2章基于线性估计和自回归定阶准则的方法…………………………………………4§2.1两段估计回归法………………………………………………………………………4§2.2自回归定阶准则………………………………………………………………………6§2.3建模的基本步骤………………………………………………………………………7第3章公因子检验定阶改进法……………………………………………………………11§3.1参数的估计……………………………………………………………………………11§3.2公因子检验定阶………………………………………………………………………14§3.3方法的阐述……………………………………………………………………………19§3.4关于方法的几点思考…………………………………………………………………19第4章广义样本自相关系数函数定阶法（ESACF）………………………………………20第5章方法的比较与总结…………………………………………………………………23参考文献……………………………………………………………………………………25后记………………………………………………………………………………………261第1章ARMA模型定阶的背景及内容简介§1.1ARMA模型定阶的背景在时间序列分析中，对于平稳序列有以下结论：如果自协方差函数()γ⋅满足0lim()0hhγ→=，则总可以求得一个ARMA过程使其自协方差函数()γ⋅满足对任意的整数0k，有()(),0,1,zhhhkγγ==。正因如此（当然还有其他原因），ARMA过程在时间序列数据建模中起着关键作[1]用。这类模型通常有如下表示：()()ptqtBZBaΦ=Θ（1.1）其中B是后移算子，mttmBZZ−=（mz∈）,{}ta0.1.2t=±±………为白噪声序列。()0taΕ=，2()taVaraσ=。1()1pjpjjBBφ=Φ=−∑，1()1qiqiiBBθ=Θ=−∑。当()pBΦ，()qBΘ的根都在单位圆外时，原过程即是平稳的又是可逆的。ARMA(p,q)过程即有无限阶滑动平均表示：0()tjtjjZBaψ∞−==Ψ=∑(1()()()pqBBB−Ψ=ΦΘ)，又有无限阶自回归表示：1()ttjtjtjBZZZaππ∞−==−=∑，即1tjtjtjZZaπ∞−==+∑。（1()()()qpBBBπ−=ΘΦ权jψ和jπ都是绝对可和的）。根据已经掌握的一组样本12,,NZZZ建立ARMA模型，其含义就是对模型的阶数(p,q)和参数（2,,jiaφθσ）做出判断和估计。一般称(p,q)的判断为定阶，而估计相应的2,,jiaφθσ称为参数估计。然而参数估计都是在假设自回归滑动平均模型的阶数事先已知的情况下进行的。但事实上这些阶数几乎总是不知道的。所以定阶成为其中有难度的一部分。用假定的某类模型来拟合量测的数据有各种不同的方法，而且即使是用同一组量测数据也可能得到不同的拟合模型。这一点并不奇怪，人们可以从各种准则出发——例如模型参数数目较小，便于实施计算，拟合残差昀小或其他准则昀优等——来选择自己认为昀合适的模型。所以，在过去二十多年的时间里，人们给出很多ARMA模型的定阶方法。Box和Jenkins昀早着眼于用序列的自相关系数函数（ACF）和偏自相关系数函数(PACF[1])来定2阶，以后不断有人在这方面提出新的方法。如Woodward和Gray的广义偏自相关系数函数（GPACF[2])，Tsay和Tiao的广义样本自相关系数函数（ESACF[3])等。由于Box和Jenkins昀早指出序列的自相关系数和偏自相关系数的不同表现性质决定了ARMA模型的类别，所以Box–Jenkins方法可以说是时间序列分析建模的启发式方法。还有一类方法是给出某种定阶准则，根据准则昀优来确定模型的阶。这始于Akaike的两种方法：基于预测误差方差昀小准则（FPE准则）或信息损失昀小准则(AIC、BIC准则[4])。在这之后Rissanen在1978年给出了S准则，Hannan和Quinn在1979年给出HQ准则，Geweke和Meese在1981年给出BEC准则[5]等。当然定阶问题不存在“万能公式”，我们所能做的就是用某种方法得到更接近于现实过程的模型。1985年Gooijer等人写了一篇很漂亮的综[5]述，总结了自1970年到1985年期间的13种方法：FPE准则、CAT准则、CVC准则、AIC准则、BIC准则、BEC准则、HQ准则、S准则、ACF和PACF、GPACF、ESACF、Corner方法、R-and-S-array。并把这些方法加以分类比较。分类的原则是：“主观”方法(Subjectmethod)和“客观”方法(Objectmethod)。主观方法通常认为是由人来做某种决定。如选择显著性水平，某统计量图表性质的观测；而客观方法则在建模过程中不必要加进人为因素。主观方法又分为两个子类：基于统计假设检验的方法和基于确定或随机理论的方法。客观方法又包括了一步预测误差、信息尺度和贝叶斯方法(当然也有另外的分类，比如Chio把Corner方法、ESACF等称为“模式定阶法[6]”(patternidentificationmethods)。在这篇文章的昀后，作者给出了几种方法的联系：1．AIC准则和似然比检验法有如下关系：AIC（s,0）-AIC(L,0)=LR(s)-2(L-s)(s=0,1,，L-1)2．IC准则和FPE准则有如下关系：AIC（p,q）→nlogFPE(p,q)3．AIC准则和CAT准则有如下关系：CAT（p）≤exp{-AIC（p,0）}单纯关于方法的比较，也有很多人发表了自己的看法。如：Koehler关于AIC与BIC的比[]7较，Kreisha关于Corner方法、基于线性估计和自回归定阶准则的方法(ARCRI)以及广义样本自相关系数函数定阶法（ESACF）的比[8]较……3§1.2内容简介1985年以后，不断有人提出了新的定阶方法，本文结合Box–Jenkins方法和BIC准则，详细阐述了1990年以后具有代表性的两种方法：基于线性估计和自回归定阶准则的方法()[9]ARCRI和公因子检验定阶改进[10]法。并且把这两种方法和广义样本自相关系数函数定阶法（ESACF）加以比较总结。ARCRI在估计部分采用了两步回归估计法（two-stageregressionmethod），这是一种线性估计，它的好处在于，简单易操作，在任何计算机上都可以实现。两步回归法见于Kreisha和Pukkila于1990年发表的文[11][12]、章。在这两篇文章中，作者给出了对于ARMA模型的若干种参数估计的方法。包括广义昀小二乘和线性估计。两步回归法分两步给出ARMA参数的估计：第一步用长自回归给出初估计，然后利用广义昀小二乘得到广义昀小二乘估计，再利用这些广义昀小二乘估计逐渐更新残差的协方差阵，反复应用广义昀小二乘，直到给出的估计收敛为止。这样给出的参数估计更有效。定阶遵循的是自回归定阶准则。它的基本思想是：如果建立的模型是合理的，那么残差{}tε应该是白噪声的。既然白噪声序列可以看成是AR(0)序列，那么如果某序列被判定为AR(P)(P)0)的，则此序列就可以认为是非白噪声的。所以，就可以把{}tε当作观测数据，用某种准则（如BIC准则）判断其是否为白噪声序列即可。公因子检验定阶改进法的参数估计是基于长自回归系数所组成的矩阵。如果ARMA模型是可逆的，那么就有AR(∞)表示，AR(∞)表示的系数也就包含了ARMA模型中的所有信息。实际中AR(∞)可以用AR(k)去近似。所以只要给出AR(k)近似的参数估计,就可以得到ARMA模型中参数的估计。阶数的确定则着眼于长自回归系数所组成矩阵的行列式是否为零。当上述行列式为零时，说明自回归多项式和滑动平均多项式有公因子，则所建模型的阶数要减小。本文在第二章详细阐述了基于线性估计和自回归定阶准则的方法。第一节介绍了两步回归估计法，第二节说明了自回归定阶准则的基本思想，第三节则结合了Box–Jenkins方法从昀简单的模型ARMA(1,1)开始详细阐述了建模的基本步骤。第三章主要介绍了公因子检验定阶改进法。这种方法的框架前人已经给出。这里所介绍的是一种改进的方法。在