ARMA模型解析

时间序列分析模型时间序列分析模型简介一、时间序列分析模型概述1、自回归模型2、移动平均模型3、自回归移动平均模型二、随机时间序列的特性分析三、模型的识别与建立四、模型的预测1时间序列分析模型【ARMA模型】简介ARMA模型是一类常用的随机时间序列模型，是一种精度较高的时间序列短期预测方法，其基本思想是：某些时间序列是依赖于时间的一族随机变量，构成该时间序列的单个序列值虽然具有不确定性，但整个序列的变化却有一定的规律性，可以用相应的数学模型近似描述.通过对该数学模型的分析研究，能够更本质地认识时间序列的结构与特征，达到最小方差意义下的最优预测.tARMA模型有三种基本类型：自回归（AR：Auto-regressive）模型移动平均（MA：MovingAverage）模型自回归移动平均（ARMA：Auto-regressiveMovingAverage）模型一、概述1时间序列分析模型【ARMA模型】简介1、自回归【AR】模型tX自回归序列：tX1122tttptptXXXXu如果时间序列是它的前期值和随机项的线性函数，即可表示为【1】pp【1】式称为阶自回归模型，记为AR（）注1：实参数称为自回归系数，是待估参数.随机项是相互独立的白噪声序列，且服从均值为0、方差为的正态分布.随机项与滞后变量不相关。12,,,ptu2注2：一般假定均值为0，否则令tXttXX1时间序列分析模型【ARMA模型】简介kBkkttkBXX212ptttpttXBXBXBXu记为步滞后算子，即，则模型【1】可表示为212()1ppBBBB令，模型可简写为()ttBXuAR（）过程平稳的条件是滞后多项式p()B的根均在单位圆外，即()0B的根大于1【2】1时间序列分析模型【ARMA模型】简介2、移动平均【MA】模型移动平均序列：tXtX1122ttttqtqXuuuu如果时间序列是它的当期和前期的随机误差项的线性函数，即可表示为【3】qq式【3】称为阶移动平均模型，记为MA（）注：实参数12,,,q为移动平均系数，是待估参数1时间序列分析模型【ARMA模型】简介引入滞后算子，并令212()1qqBBBB则模型【3】可简写为()ttXBu注1：移动平均过程无条件平稳注2：滞后多项式()B的根都在单位圆外时，AR过程与MA过程能相互表出，即过程可逆，【4】21201itittiwBwBXwBXu即为MA过程的逆转形式，也就是MA过程等价于无穷阶的AR过程注3：【2】满足平稳条件时，AR过程等价于无穷阶的MA过程，即21201jttjtjXvBvBuvBu1时间序列分析模型【ARMA模型】简介3、自回归移动平均【ARMA】模型【B-J方法建模】自回归移动平均序列：tXtX11221122tttptptttqtqXXXXuuuu如果时间序列是它的当期和前期的随机误差项以及前期值的线性函数，即可表示为【5】(,)pq式【5】称为阶的自回归移动平均模型，记为ARMA(,)pq12,,,p12,,,q注1：实参数称为自回归系数，为移动平均系数，都是模型的待估参数注2：【1】和【3】是【5】的特殊情形注3：引入滞后算子，模型【5】可简记为()()ttBXBu【6】注4：ARMA过程的平稳条件是滞后多项式()B的根均在单位圆外可逆条件是滞后多项式()B的根都在单位圆外1时间序列分析模型【ARMA模型】简介二、随机时间序列的特性分析1、时序特性的研究工具（1）自相关12,,,,ttttkXXXXkk构成时间序列的每个序列值相关关系称为自相关。自相关程度由自相关系数表示时间序列中相隔期的观测值之间的相关程度。之间的简单度量，121()()()nkttktknttXXXXXX注1：nkX是样本量，为滞后期，代表样本数据的算术平均值注2：自相关系数k的取值范围是[1,1]且||k越接近1，自相关程度越高1时间序列分析模型【ARMA模型】简介（2）偏自相关tX121,,,tttkXXXtXtkX偏自相关是指对于时间序列，在给定的条件下，与之间的条件相关关系。kk11kk其相关程度用度量，有偏自相关系数111,111,112,3,1kkkjkjjkkkkjjjkkkk其中是滞后期的自相关系数，1,1,,1,2,,1kjkjkkkkjjk1时间序列分析模型【ARMA模型】简介2、时间序列的特性分析（1）随机性如果一个时间序列是纯随机序列，意味着序列没有任何规律性，序列诸项之间不存在相关，即序列是白噪声序列，其自相关系数应该与0没有显著差异。可以利用置信区间理论进行判定。在B-J方法中，测定序列的随机性，多用于模型残差以及评价模型的优劣。（2）平稳性若时间序列tX满足1）对任意时间t，其均值恒为常数；2）对任意时间t和s，其自相关系数只与时间间隔ts有关，而与的起始点无关。那么，这个时间序列就称为平稳时间序列。和st1时间序列分析模型【ARMA模型】简介序列的平稳性也可以利用置信区间理论进行判定.需要注意的是，在B-J方法中，只有平稳时间序列才能直接建立ARMA模型，否则必须经过适当处理使序列满足平稳性要求在实际中，常见的时间序列多具有某种趋势，但很多序列通过差分可以平稳判断时间序列的趋势是否消除，只需考察经过差分后序列的自相关系数（3）季节性时间序列的季节性是指在某一固定的时间间隔上，序列重复出现某种特性.比如地区降雨量、旅游收入和空调销售额等时间序列都具有明显的季节变化.一般地，月度资料的时间序列，其季节周期为12个月；季度资料的时间序列，季节周期为4个季.1时间序列分析模型【ARMA模型】简介判断时间序列季节性的标准为：月度数据，考察12,24,36,k时的自相关系数是否与0有显著差异；季度数据，考察4,8,12,k系数是否与0有显著差异。时的自相关说明各年中同一月（季）不相关，序列不存在季节性，否则存在季节性.若自相关系数与0无显著不同，实际问题中，常会遇到季节性和趋势性同时存在的情况，这时必须事先剔除序列趋势性再用上述方法识别序列的季节性，否则季节性会被强趋势性所掩盖，以至判断错误.包含季节性的时间序列也不能直接建立ARMA模型，需进行季节差分消除序列的季节性，差分步长应与季节周期一致.1时间序列分析模型【ARMA模型】简介三、模型的识别与建立,,,dDpq,PQ在需要对一个时间序列运用B-J方法建模时，应运用序列的自相关与偏自相关对序列适合的模型类型进行识别，确定适宜的阶数以及（消除季节趋势性后的平稳序列）1、自相关函数与偏自相关函数（1）MA（q）的自相关与偏自相关函数自协方差函数22212111,0,10,qkkkqkqkkqkq2tDu是白噪声序列的方差1时间序列分析模型【ARMA模型】简介样本自相关函数1122011,0,110,kkqkqkkqkkqkqqkkqqMA（）序列的自相关函数在这种性质称为自相关函数的步截尾性；以后全都是0，随着滞后期k这种特性称为偏自相关函数的拖尾性的增加，呈现指数或者正弦波衰减，趋向于0，偏自相关函数1时间序列分析模型【ARMA模型】简介（2）AR（p）序列的自相关与偏自相关函数偏自相关函数,10,kkkkpkp是p步截尾的；自协方差函数k满足()0kB自相关函数k满足()0kB它们呈指数或者正弦波衰减，具有拖尾性（3）ARMA（,pq）序列的自相关与偏自相关函数均是拖尾的1时间序列分析模型【ARMA模型】简介2、模型的识别自相关函数与偏自相关函数是识别ARMA模型的最主要工具，B-J方法主要利用相关分析法确定模型的阶数.若样本自协方差函数k在q步截尾，则判断tX是MA（q）序列kkp若样本偏自相关函数在步截尾，则可判断是AR（tXp）序列若，都不截尾，而仅是依负指数衰减，这时可初步认为ARMA序列，它的阶要由从低阶到高阶逐步增加，再通过检验来确定.k在kkk，tX是但实际数据处理中，得到的样本自协方差函数和样本偏自相关函数只是k和kk的估计，要使它们在某一步之后全部为0几乎是而只能是在某步之后围绕零值上下波动，故对于k和kk不可能的，的截尾性只能借助于统计手段进行检验和判定。1时间序列分析模型【ARMA模型】简介（1）k的截尾性判断q1,,qqMMN对于每一个，计算（一般取左右），考察其中满足22011||2qkllN22012||2qkllN或的个数是否为M的68.3%或95.5%。如果当01kq时，k明显地异于0，而001,,qqM近似为0，且满足上述不等式的个数达到了相应的比例，则可近似地认为k在0q步截尾1时间序列分析模型【ARMA模型】简介（2）kk的截尾性判断作如下假设检验：0,:0,1,,pkpkHkMMN1:Hk0kkpkMp存在某个，使，且统计量2221pMkkMkpN2()MM2表示自由度为的分布的上侧分位数点对于给定的显著性水平0，若22()M，则认为样本不是来自AR（p）模型；22()M，可认为样本来自AR（p）模型。注：实际中，此判断方法比较粗糙，还不能定阶，目前流行的方法是H.Akaike信息定阶准则（AIC）1时间序列分析模型【ARMA模型】简介（3）AIC准则确定模型的阶数AIC定阶准则：S2ˆ2N是模型的未知参数的总数是用某种方法得到的方差的估计为样本大小，则定义AIC准则函数22ˆ()lnSAICSN用AIC准则定阶是指在,pq的一定变化范围内，寻求使得()AICS最小的点ˆˆ(,)pq作为(,)pq的估计。AR（p）模型：22ˆlnpAICNARMA(,)pq模型：22()ˆlnpqAICN1时间序列分析模型【ARMA模型】简介3、参数估计在阶数给定的情形下模型参数的估计有三种基本方法：矩估计法、逆函数估计法和最小二乘估计法，这里仅介绍矩估计法（1）AR（p）模型11111212212ˆˆˆˆ1ˆˆˆˆ1ˆˆˆˆ1pppppp白噪声序列tu的方差的矩估计为201ˆˆˆpjjj1时间序列分析模型【ARMA模型】简介（2）MA（q）模型22210211ˆˆˆˆ1ˆˆˆˆˆˆˆ,1,,qkkqkqkkq（3）ARMA(,)pq模型的参数矩估计分三步：i）求12,,,p的估计11111212212ˆˆˆˆˆˆˆˆˆˆˆˆˆˆˆqqqpqqqqpqqpqpqqpp1时间序列分析模型【ARMA模型】简介11ˆˆtttptpYXXXtYii）令，则的自协方差函数的矩估计为()000ˆˆˆˆˆ,1ppYkijkjiijtYqiii）把近似看作MA（）序列，利用（2）对MA（q）序列的参数估计方法即可1时间序列分析模型【ARMA模型】简介4、模型检验对于给定的样本数据1,,NXXAIC准则确定了模型的类型和阶数，用矩估计法确定了模型中的参数，从而建立了一个ARMA模型，来