01：计量经济学理论预备知识总结

1第一讲第一讲第一讲第一讲计量经济学理论预备知识总结计量经济学理论预备知识总结计量经济学理论预备知识总结计量经济学理论预备知识总结摘要：本课程要求学生具有微积分、概率论和线性代数的基础。本章只对其中的重要概念进行简单的复习。阅读材料：Jonhston的appendix;Wooldrige的AppendixA、B、C&D.Handbookofeconometrics,volume1,Part1.1、、、、概率概率概率概率论的复习论的复习论的复习论的复习在现实生活中，我们常常遇到许多事先不能确定结果的现象，例如抛硬币，抛之前无法确定是正面还是负面。世界的许多方面都存在随机性，所谓“随机性”就是事前无法知道结果，而一旦被揭示就会取定一个实现值，概率理论提供了有用的数学工具对随机性进行描述和定量分析。2.1随机变量与概率分布
样本空间所有可能结果组成的集合，通常记为Ω；在样本空间的每一个可能结果称为基本事件，记为ω。
随机变量定义在样本空间上的单值函数，即Χ(ω)，通常简化为Χ。
事件样本空间的一个子集，即一个可能结果或多个可能结果组成的集合就称为随机事件，简称事件。样本空间Ω是其本身的子集，称Ω为必然事件；空集∅也是Ω的子集，称∅为不可能事件。通常用随机变量的取值或者取值范围表示随机事件，例如{xX≤}。
概率描述事件发生可能性大小的数量指标。事件A的概率记为P(A)。概率的性质如下：（1）1)(0,≤≤∀APA事件；（2）P(Ω)=1；P(∅)=0；（3）对于任意事件A和B，若A⊂B，则有P(A)≤P(B)；（4）对于任意事件A，)(1)(APAP-=；（5）对于任意事件A和B，P(A+B)=P(A)+P(B)-P(AB)；若A和B不相容，则P(A+B)=P(A)+P(B)。通常研究的是随机变量各种取值情况的概率。随机变量的全部概率特征称为随机变量的概率分布。
离散随机变量的概率分布通常用一个二维表格直观描述离散随机变量X的概率分布其中11=∑=niip，10≤≤ip累计分布概率}{)(xXPxF≤=一个重要的离散分布：伯努尼分布X1x2x…nxP1p2p…np2ppX-=101
连续随机变量的概率分布用密度函数)(xf描述，它满足以下性质：xxf∀≥,0)(；1)(=∫dxxf；][)()()(bxaPaFbFdxxfba=-=∫累计分布函数∫∞-=≤=xdxxfxXPxF)(}{)(；它满足以下性质：)(1}{xFxXP-=；)()(xXPxXP=≥。
概率分布的数字特征期望期望期望期望记为)(XE或Xμ对于离散变量，∑==niiipxXE1)(；对于连续变量，∫=xdxxfXE)()(。方差方差方差方差记为)(XVar或2Xσ222))(()()))((()(XEXEXEXEXVar-=-=运算规则：给定任意常数c，0)(=cVar；)()(2XVarccXVar=.标准差标准差标准差标准差)(Xsd或Xσ；)()(XVarXsd=矩矩矩矩)(nXE称为变量X的n阶矩，1=n时就是X的期望。2.2联合分布联合分布联合分布联合分布、、、、条件分布与独立性条件分布与独立性条件分布与独立性条件分布与独立性本课程的计量经济学就是以客观经济系统中具有随机性质的经济关系为研究对象，也就是说我们研究的是带有随机性的经济变量的关系。那么如何描述随机变量之间的关系呢？
联合分布两个随机变量的联合分布的密度函数为),(yxf，那么，yxyxf,,0),(∀≥；∫∫=1),(dxdyyxf；],[),(dycbxaPdxdyyxfdcba=∫∫；X的边际密度函数的边际密度函数的边际密度函数的边际密度函数定义为∫=dyyxfxf),()(；Y的边际密度函数的边际密度函数的边际密度函数的边际密度函数定义为∫=dxyxfyf),()(。注意：如果是离散变量，则积分变为求和，密度函数变为离散变量的概率分布即可。参见书1.3.1节。
条件分布给定X，Y的条件密度函数定义为)(),()|(xfyxfxyf=；同理给出X的条件密度函数。
独立性3若)()(),(yfxfyxf=，那么称这两个变量独立独立独立独立。。。。这等价于)()|(yfxyf=。
联合分布的数字特征协方差协方差协方差协方差用于度量两个变量的线性线性线性线性相关程度，记为xyσ或),cov(YX；))]())(([((),cov(YEYXEXEYX--=)()()(YEXEXYE-=.0xyσ意味着两个变量同方向变动，称之为正相关；0xyσ称之为负相关；0=xyσ称之为不相关。相关系数相关系数相关系数相关系数yxxyσσσρ=；1||ρ.如果YX,独立，那么0,0==ρσxy，)()()(YVarXVarYXVar+=±.协方差矩阵协方差矩阵协方差矩阵协方差矩阵假设Y是一个由多个随机变量组成的向量，即'21),...,,(nYYYY=，那么，Y的期望为===nnYEYEYEμμμ...)(...)()(11Y的协方差矩阵为------=--=Σ])[(...)])([(.........)])([(...])[(]))([(21111211'nnnnnnYEYYEYYEYEYYEμμμμμμμμ对于n个随机变量的线性组合Y'α，有μαααα''11)()...(==++YEYYEnn；αααΣ='')(YVar
条件分布的数字特征条件期望条件期望条件期望条件期望（重点！！）协方差和相关系数衡量的是两个随机变量之间的线性相关关系，两个变量在协方差和相关系数的定义公式中是对称的。在经济学研究中，我们更感兴趣的是用一个变量X去解释另一个变量Y；而且Y和X的关系很有可能是非线性的。在前面已经引入了“给定一个变量X，Y的条件密度函数”的概念，从条件分布我们可以知道变量X的变动如何影响变量Y的分布。然而，研究变量的分布很复杂，一个好的办法就是用一个简单的数字特征——“给定X，Y的条件期望”来总结出这个分布。条件期望在现代计量分析中扮演了一个很重要的角色，本课程的全部内容都是讲解如何在条件期望上进行系数估计和假设检验。给定X，Y的条件期望定义为dyxyyfXYE∫=)|()|(.容易看到，)|(XYE是X的函数，可以是线性或非线性。例如：条件期望的性质：41）对于任意的函数)(Xg，)()|)((XgXXgE=；2）对于任意的函数)(Xa和)(Xb，)()|()()|)()((XbXYEXaXXbYXaE+=+；3）若X和Y独立，那么)()|(YEXYE=；4)若)()|(YEXYE=，那么0),cov(=YX5）若∞)(2YE以及某一函数(.)g有∞])([2XgE，那么22[(())|][(())|]EYXXEYgXXμ-≤-；22[(())][(())]EYXEYgXμ-≤-；其中()(|)XEYXμ=6）（（（（迭代期望法则迭代期望法则迭代期望法则迭代期望法则，，，，LIE））））)()]|([YEXYEE=.证明：dyxfxyfydyxyyfXYE∫∫==)(),()|()|()()(),()()(),())|((YEdyyyfdxdyxyfydxxfdyxfxyfyXYEE====∫∫∫∫∫.],|)|([)|(ZXXYEEXYE=；]|),|([)|(XZXYEEXYE=.证明：记),|(),(ZXYEZX=μ由于dzxzfzxXZXE)|(),(]|),([∫=μμ，dzxfzxfdyzxfzxyfyXZXYEE)(),(),(),,(]|),|([∫∫=)|()(),(),,()(XYEdyxfxyfydzdyzxyfxfy===∫∫∫.“小的信息集总是主导”.描述证券价格随机性的应用：考虑随机变量的期望，其信息集为,ttIJ，其中ttIJ⊂，也就是tJ包含了一些特殊信息。考虑随机变量的条件期望：tEXI或tEXJ。则迭代期望法则为tttEXIEEXJI=。也可以变为0ttEXEXJI-=。假设时刻t的证券价格为tP，可以表示为基于时刻t的信息集tI，关于基础价值*V的理性期望，即**tttPEVIEV==，同样在t+1期，**111tttPEVIEV+++==；从而，由于1ttII+⊂[]**110ttttttEPPEEVEV++-=-=经济意义是：根据给定的信息集tI，无法预测价格的变化。计量中的两个应用：第一，不妨假设),|(),(1ZXYEZX=μ，)|()(2XYEX=μ，那么第三个公式可以表达为]|),([)(12XZXEXμμ=，从中看到，可以通过迭代期望法则把),(1ZXμ和)(2Xμ联系起来。5这对于计量应用很重要，通常感兴趣的是含有不可观测变量Z的条件期望),(1ZXμ，如果Z不可观测，),(1ZXμ就不能直接被估计出来。例如，从应用中得到一个结构性的条件期望函数为zxxzxxyE32211021),,|(ββββ+++=，但是Z不可观测，根据LIE，得到),|(),|(),|(213221102132211021xxzExxxxzxxExxyEββββββββ+++=+++=这时，需要讨论的是给定X，不可观测变量Z的条件期望。假设，第二，令)(Xf是某一函数（或函数向量），)(⋅g是某一实值函数，假设))(()|(XfgXYE=，那么有))(()|()](|[XfgXYEXfYE==。证明如下，根据LIE，=)](|[XfYE))(()](|))(([)](|)|([XfgXfXfgEXfXYEE==.这一结论有助于分析一些对于自变量非线性，但关于参数线性的计量模型。假设)(...)()|(110XgXgXYEMMβββ+++=，其中)(1Xg，)(2Xg，…，)(XgM是X的函数。这个模型有相当大的灵活性，它允许自变量X以各种非线性形式出现，唯一限制就是模型关于参数jβ是线性的。上述结论意味着这种自变量的非线性化可以化为线性化来处理。)(),...,(,...),...,|(111101XgZXgZZZZZYEMMMMM≡≡+++=其中βββ。条件方差条件方差条件方差条件方差222))|(()|(]|))|([()|(XYEXYEXXYEYEXYVar-=-=如果X和Y独立，那么)()|(YVarXYVar=.2.3各种常见分布
正态分布单变量的正态分布单变量的正态分布单变量的正态分布单变量的正态分布，通常记为x~Ν(μ,σ)，其密度函数为])(21exp[21)(22μσπσ--=xxf；令σμ/)(-=xz，那么z服从标准正态分布标准正态分布标准正态分布标准正态分布Ν(0,1)，]21exp[21)(2zzf-=π多多多多变量的正态分布变量的正态分布变量的正态分布变量的正态分布X~Ν(μ,Σ)，其中X为n维列向量，常被称为正态向量；μ为期望向量，Σ为协方差矩阵。X的密度函数为'1/21/211()exp[()()](2)||2nfXxxμμπ-=--Σ-Σ.正态向量的线性函数正态向量的线性函数正态向量的线性函数正态向量的线性函数若),(~ΣμNX，那么),(~'AAbANbAXΣ++μ标准正态向量的二次型标准正态向量的二次型标准正态向量的二次型标准正态向量的二次型6若~(0,)nXNI，A是幂矩阵，那么))((~2'ArankAXXχ。特别地，)1(~)(2120'--=∑=nXXXMXniiχ。幂矩阵二次型的独立性幂矩阵二次型的独立性幂矩阵二次型的独立性幂矩阵二次型的独立性设~(0,)nXNI，A和B都是幂矩阵，那么如果0=AB就有AXX'和BXX'就独立。满秩二次型的分布满秩二次型的分布满秩二次型的分布满秩二次型的分布设),(~ΣμNX，那么),0(~)(2/1INXμ-Σ-，)(~)()(21'nXXχμμ-Σ--。线性函数与二次型的独立性线性函数与二次型的独立性线性函数与二次型的独立性线性函数与二次型的独立性设~(0,)nXNI，LX是X的线性函数，