第二讲-估计方法

《广义测量平差》测量平差的任务:测量平差分为：广义测量平差经典测量平差1、函数模型的系数阵是满秩的；2、参数是非随机的；3、观测误差呈现偶然性（随机误差）；4、随机模型没有误差；5、平差准则：最小二乘准则。1、函数模型的系数阵是秩亏的；2、参数是随机参数；3、观测误差可以包含：偶然误差、系统误差以及粗差；4、存在模型误差（函数模型和随机模型）；5、平差准则：广义最小二乘准则。1、是根据含有随机误差的观测值来确定被观测量及其函数的平差值，也就是求定未知参数的最佳估值；2、评定精度。经典测量平差三步骤：•函数模型•随机模型•平差准则•参数的估值210LDPDLBXminTTLVPVVPV思考:做间接平差时有哪些前提或要求?测量平差：就是根据含有误差的观测向量，依一定的数学模型，按一定的准则，求未知参数。1ˆ()TTXBPBBPL测量平差过程示意图观测值数学模型平差估计准则？法方程平差值精度评定123123,,hhhcccpppsss1212ˆˆ,PPHXHX设：1122132ˆˆˆˆˆˆˆAAhXHhXXhHX1、观测有误差，且呈现偶然性。2、不考虑参数的先验统计特性；只顾及观测值的先验统计特性。函数模型：2）随机模型：估计准则：minTTLVPVVPV1112221332ˆˆˆˆAAhvXHhvXXhvHX1）函数模型：3）平差准则：应用前提：广义测量平差：1）经典平差是假定没有模型误差的。但实际问题中，模型误差总是存在的。如：函数模型中存在系统误差和粗差；随机模型中方差或协方差不准确等。另随机模型是奇异阵等。2）经典平差是认为未知参数是非随机量（或不考虑其先验统计特性），而实际中有些参数的先验统计特性是已知的(如GPS复测网，形变监测网的平差中。以上这些问题均需要按广义测量平差的方法来解决。测量平差由含有误差的观测值按一定准则求未知参数X的估值参数分为：非随机参数随机参数随机参数和非随机参数最小二乘估计、极大似然估计极大验后估计、最小方差估计,极等这类平差即经典平差这类平差称“滤波、推估“广义最小二乘原理这类平差称”配置“估计对函数模型的估计对随机模型的估计方差分量估计观测只含有偶然误差观测含有系统误差观测含有粗差附加系统参数的估计稳健估计最小二乘估计对系统“状态”参数的估计卡尔曼滤波总体样本统计量描述作出推断在参数估计问题中：假定总体分布形式已知，未知的仅仅是一个或几个参数。随机抽样（观测值）（分布）（估计准则）参数估计问题是：利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数。本章介绍一下三个内容：1、多维正态分布以及条件概率密度；2、估计方法；3、广义最小二乘准则（估计准则推广）。可见，根据观测值分布推断（估计准则）。第一章估计方法和广义测量平差原理本章主要内容：多维正态分布；极大似然估计（对非随机参数或随机参数进行估计）；最小二乘估计（非随机参数）；极大验后估计（对随机参数进行估计）；最小方差估计（随机参数）；广义测量平差原理。1-1、概述为了确定平面或三维控制网中各点坐标，对控制网的边长和方向进行观测（观测包含误差）。未知参数向量（坐标）X与观测向量（边长、方向）L之间有函数关系：卫星（或其它运动体）的轨道往往可以由如下的微分方程确定式中ｔ表示时间；X（t）表示卫星的轨道参数，称为状态向量；U（t）称为控制向量；Ω（t）是随机的状态噪声。L(t）为观测值。LFX（）)((),(),())LtfXtUtt（可以看出：以上的例子，都存在一个对未知参数进行估计的问题。根据含有误差的观测向量，依一定的数学模型，按一定的准则，求未知参数，在数理统计中称为参数估计，在测量中称为平差。由于观测向量含有误差，而且观测个数有限，因此不能求得参数的真值，只能求出参数的估值，这就“参数估计”名称的由来。所谓的估计问题，就是根据含有误差△的观测值L，构造一个函数，使成为未知参数向量X的最佳估计量，其具体数值称为最佳估值。通常，简记为。估计误差：经典最小二乘平差中，习惯上用估值（平差值）的方差衡量精度(参数非随机）；而估计理论中，通常是用估计量的误差方差来衡量其精度的。ˆXˆ()XLˆ()XLˆ()XLˆˆˆ()XXXLXX由估计理论知道，最优估计量应具有以下几个性质：一致性.（当观测个数无限增加时，估计量向被估参数趋近的概率等于1）无偏性.（估计量的数学期望等于被估计量的数学期望）有效性.（由观测量得到的无偏估计量的误差方差最小）主要的估计方法有:极大似然估计；最小二乘估计；极大验后估计；最小方差估计；线性最小方差估计；贝叶斯估计等。概率统计中的估计理论是广义测量平差的理论基础。1-2多维正态分布正态分布是测量平差理论中最常用的分布，是最小二乘平差误差理论的基础。1、一维正态分布服从正态分布的一维随机变量X的概率密度为：或常写成：22()21(),()2xfxex221()()exp,()22xfxx2、多维正态分布的定义和性质1）多维正态随机变量：设有ｍ个互相独立的标准正态随机变量构成的随机变量它们的有限个线性函数则称X为ｎ维正态随机变量。12TmZZZZ11221111nnmmnmnnnmXZXZXAZAXZ2）多维正态分布定义：n维正态随机变量X的数学期望、方差阵为X的分布函数、概率密度都称为ｎ维正态分布。3）多维正态分布性质：正态随机向量的线性函数还是正态的.()TXEXDAA:(,)::(,)TnTTXNAAYBXbYNBbBAAB若且有则对多维正态随机变量X：111112222122(,)DD,,DDTnTXNAAXXAAX设：记：11112222(,),(,)rnrXNDXND则：3、多维正态分布①n维正态随机向量X的联合概率密度设有维正态随机向量：则它的概率密度为：121122()(,,,)11exp()()2(2)nTXXXnXfxfxxxxDxD(,)nXXND②二维正态随机向量[XY]T，其概率密度为：22222222221(,)2()2()()()exp2()XYXYXYXYXYYXXYXYfxyxxyy当X与Y是互不相关的两个正态随机变量时：(,)()()xyfxyfxfy22:,TXXXYYYXYXY对二维正态随机向量对应数学期望和方差阵4、正态随机向量的条件概率密度条件期望、条件方差1221212111212112()(2)()1exp()()(2nTfxxDXxxEXxDXxxEXx1222121122121221()(2)()1exp()()(2tTfxxDXxxEXxDXxxEXx112112222211211122221()()()EXxDDxDXxDDDD1-3极大似然估计看一例：•某位同学与一位猎人一起外出打猎，一只野兔从前方窜过．只听一声枪响，野兔应声到下，如果要你推测，这一发命中的子弹是谁打的？•你就会想，只发一枪便打中，由于猎人命中的概率一般大于这位同学命中的概率，看来这一枪是猎人射中的．这个例子所作的推断就体现了极大似然法的基本思想。•极大似然原理的直观想法是：一个随机试验如有若干个可能的结果A，B，C，…。若在一次试验中，结果A出现，则一般认为试验条件对A出现有利，也即A出现的概率很大。设有参数向量X（可以是非随机量，也可以是随机向量），为了估计X，进行了ｎ次观测，得到观测向量L的观测值，又假定对X的所有可能取值为，在的条件下得到的观测向量L的条件概率密度为。如果是中的一个，而是中的最大值，那么，是X的准确值的可能性最大。ˆx()lfx()ˆlfx()lfxˆXxXxxl此时把叫做X的极大似然估值，并记作。也就是说：极大似然估计是以为准则求最佳估值的方法。也可以说：极大似然估计的出发点是基于这样一个统计原理，在一次随机试验中，某一事件已经发生，比如已经得到某个具体的样本，则必然认为发生该事件的概率最大。()maxlfxˆMLXˆX显然，它满足于由于对数是单调增加函数，故在相同的值达到最大，即下两式是等价的：上两方程称为似然方程，称为似然函数，而称为对数似然函数。ˆ()0MLxXlfxx(())llInffxx与ˆ()0MLxXlInfxxxˆ()0MLxXlfxx等价()lfx()lInfx1221()(2)()1exp()()(2nTflxDLxlELxDLxlElx1()()(minTlELxDLxlElx当f(l/x)是正态条件概率密度时,有则似然方程等价于带入条件期望、条件方差即得参数估值1111ˆ()(/)(/)(()MLXLLXXXLXEXDDLxDDDDLxLEL求极大似然函数估计值的一般步骤：（1）写出（构造）似然函数；（2）对似然函数取对数，并整理；（3）求导数；（4）解似然方程。:似然函数为niinx1222221exp2例的一个样本值，是来自为未知参数，已知，设XxxNXn,,);,(~122.2的极大似然估计量求解：niixL1222})(21exp{21)(Lln)ln(22nniix122)(21)2ln(2n})(21exp{21);(222xxf的概率密度为：X，解此方程，得niixn1221ˆ．的极大似然估计量为因此niiXn12221ˆ，令：0ln2dLd得似然方程02121242niixnniixndLd12422212lnLln)ln(22nniix122)(21)2ln(2n1-4最小二乘估计从总体中抽出的样本观测值与总体平均数是有差异的，这种差异属于抽样误差。因而，在总体平均数估计时要尽可能地降低这种误差，使总体平均数估计值尽可能好。参数估计的最小二乘法就是基于这种考虑提出的。基本思想：是使误差平方和最小，达到在误差之间建立一种平衡，以防止某一极端误差对决定参数的估计值起支配地位。这有助于揭示更接近真实的状况。具体方法：是为使误差平方和Q为最小，可通过求Q对待估参数的偏导数，并令其等于0，以求得参数估计量。设被估计量（未知的参数向量）为X，观测向量为L，观测误差为△，观测方程为：设X的估值为，并记：所谓的最小二乘估计，就是要求所求得的估值使下列二次型达到最小值，即：则称为X的最小二乘估值记为。ˆVBXLLBXˆˆˆTTXVPVBXLPBXL（）（）（）=minˆXˆXˆˆ()LSLSXXL或最小二乘估计是测量中求参数估计最普遍、最主要的方法，在其它学科领域中也有广泛的应用，主要原因：数理统计观点-需要观测向量的验前统计信息最少；数学观点-提供了最优的解一组多余观测的线性代数方程的方法；数值计算角度-最小二乘导出法方程组是一线性代数方程组，其系数矩阵是对称的。但要保证最小二乘估计求出估值是最优估值，要求：110LEPDD（）即：1、表示L中不含系统误差和粗差；2、权阵P应由L或△的协方差确定(这时，X必需是非随机参数，否则不会相等的！）。极大似然法与最小二乘估计两种常用方法的比较：极大似然估