特征函数

粒子物理与核物理实验中的数据分析杨振伟清华大学第十二讲：特征函数2本讲要点特征函数的定义特征函数的性质常用概率密度函数的特征函数特征函数的应用中心极限定理利用特征函数求估计量的p.d.f.3特征函数的定义()[]()ikxikxxkEeefxdx特征函数的本质是什么？设随机变量x的概率密度函数为f(x)，则特征函数定义为的期望值，即()xkikxe特征函数的本质是概率密度函数f(x)的傅里叶变换。任意概率密度函数都存在特征函数。4特征函数与概率密度函数的关系1()()2ikxxfxekdk特征函数则与概率密度函数一一对应。概率密度由特征函数的反傅里叶变换唯一确定已知概率密度函数f(x)，我们往往关心其特征值(比如均值、方差)。特征值提供了概率密度函数最重要的信息，但不能完全确定概率密度函数的所有性质。也就是说，概率密度函数f(x)与其特征函数是等价的。()xk5为什么引入特征函数问题：既然概率密度函数与特征函数一一对应，给出任意一个都可以完全确定概率密度函数的所有性质，为什么还需要引入特征函数？很多问题直接用概率密度函数不易处理，但用特征函数处理则非常方便。比如，1）求独立随机变量之和的分布的卷积变为乘法运算；2）求n阶代数矩变为求n阶微分......6特征函数的性质(1)*(1)(0)1(2)()1(3)()()(4),,()()(5),()()()(6)[]()(0)[]xxxxibtyxxyxylxmmxkkkyaxbabteakxytkkExklmliEx(m)若其中为常数，则独立随机变量和的特征函数为特征函数的积，即,设独立，则若存在，则为次可导，并且对1，有7特征函数的性质(2)()(5),()()()[][][][]()()xyxyikxikyikxyikxikyikxikyxyxytkkxyeeEeEeeEeEekk独立随机变量和的特征函数为特征函数的积，即,设独立，则证明：由于和独立，所以与独立，从而1212()()()()nnzxxxzxxxkkkk可以推广到n个独立随机变量之和1()()2ikzzfzekdk利用反傅立叶变换可求出z的概率密度函数8特征函数的性质(3)(6)[]()(0)[][]()()0()()()()[]0(0)lxmmxllikxmikxmikxmkikxxmxExklmliExExxfxdxkefxdxmlmldkefxdxixefxdxiExedkk(m)(m)(m)若存在，则为次可导，并且对1，有证明：存在，于是含参变量的广义积分可以对求次导。所以，对，有令，即可得到[]mmiEx利用特征函数可以方便地求出各阶代数矩。9常用概率密度函数的特征函数222!!()!1/111()2122(;,)(1)[(1)1](;)exp[(1)]!(;,)()0(;)(;,p.d.f.)kexpe()nNnikNNnNnnikikikxikxfnNppppefneenxeefxikfxefx分布类型二项分布泊松分布均匀分布指其它数分布高斯分布/222212/21/2/212(/2)12||11xp()(;)(12)()nnznnkxikkfznzeikfxe分布柯西分布柯西分布在k=0处不可导，即各阶矩都不存在。10特征函数的应用(1)问题：既然概率密度函数与特征函数一一对应，给出任意一个都可以完全确定概率密度函数的所有性质，为什么还需要引入特征函数？很多问题直接用概率密度函数不易处理，但用特征函数处理则非常方便。比如，1）求独立随机变量之和的分布的卷积变为乘法运算；2）求n阶代数矩变为求n阶微分......11特征函数的应用(2)22222222112220012222222012222220222211[]()1[][]([])1()ikkikkkkikkkikkkdExeikeidkidVxExExeidkikei求均值和方差（以高斯分布为例）类似地，可以很容易求各阶中心矩特征函数为2212()ikkke12特征函数的应用(3)取极限为常数0,,pNpN求p.d.f.的极限行为（以二项分布为例）即二项分布在试验次数很大并且均值保持不变时，趋向于泊松分布同样可以证明ν很大时，泊松分布趋向于高斯分布。()(1)1Nikkpe特征函数为()(1)1(1)1exp[(1)]NNikikNikkpeeNe13特征函数的应用(4)222222211221()()2()()()xxyyxyxyikkikkzxyikkkkkeee则z=x+y的特征函数求独立随机变量之和的p.d.f.两个独立的高斯随机变量x和y，均值为，方差为,xy22,xy这正是均值，方差的高斯分布的特征函数。同样可证泊松变量之和仍服从泊松分布。zxy222zxy1422221()iiiniiiinxxzn(,)，个独立高斯随机变量均值为方差为证明服从自由度为的分布。特征函数的应用(5)/221/22/22,1()2()(;1)2ndf()(12)()(12),ndfiiiiiziznnizixyzydygzyefzndzzzkikzykikn2证：首先容易证明服从标准高斯分布并且的概率密度函数为即服从=1的分布，其特征函数为。若，显然特征函数为此即=的分布的特征函数。15中心极限定理(1)2233()3/2002222122[]0[]()[()]()()(0)[]!!3!()exp[/(2)12]jjjjjjjjmmjjmmjjjmmjjnjjjjjxyEyEyyknnExkikikkEymmnnkkknzzny证：定义，则，。将的特征函数泰勒展开，则在大极限下，忽略高阶项，。定义，，则的特征函22122()()exp[/(2)]0nzjjjjjjkkknzzxnz数为，即为均值为，方差为的高斯分布。变换回，则为均值为，方差为的高斯分布。定理：假设有n个独立随机变量xj，均值与方差分别为。在大n极限下，为高斯随机变量，均值和方差分别为和。2,jjjjzxjj2jj16中心极限定理(2)n有限时，中心极限定理成立的条件与程度：12121126/12niniiinxzxn大致说来，只要z的求和中，每个xj的贡献都很小即可。即z由大量微小贡献组合而成。例如，很多地方经常用12个(0,1]均匀分布的随机变量之和近似高斯分布。如果某个或某几个xj的贡献非常大，则求和的的结果将明显偏离高斯分布。为什么取n=12？17求估计量的p.d.f.(1)11/ˆ1(/)ˆ()1/(1)()1/(1)11()2(1)(1)!ˆˆ()(/)ˆˆ(;,)(1/(;)!,/)nxiinzikznzznnnznnkikzxnkikzezgzdkeikngzdzdnnnngne由于，所以的特征函数为。反傅立叶变换可以得到的p.d.f.以指数分布为例：参数的最大似然估计量为其分布可以用特征函数法求得。1(;)exp(/)fxx11ˆniixn这是伽马分布，n很大时趋于高斯分布。18求估计量的p.d.f.(2)ˆ1(/)00(/)ˆˆˆˆˆˆˆ[](;,)(1)!nnnnEgndedn要求寿命的平均值，可以11ˆniitn也可以用刚才的p.d.f进行积分：111111ˆ[][][]nnniiiiiEEtEtnnn有意思的是的最大似然估计量1/ˆˆ1/如何求其期待值？1ˆ[]/?niiEEnt19用该p.d.f求解期待值：求估计量的p.d.f.(3)0ˆˆˆˆ[](;,)1nEhndn可以看出不是无偏估计量。ˆˆ()/1()1ˆˆˆˆ(;,)(;,)/ˆ(1)!nnnnhngndden可以先求的分布函数：ˆ20对于给定以及观测值,通过求估计量期待值的置信区间obsobsˆˆˆˆg(;)ˆˆg(;)adbd求得置信区间[a,b]。obsˆ利用特征函数方法求出估计量(如)的p.d.f.,有了估计量的p.d.f.(如),很多问题都可以方便地处理，比如置信区间。ˆ(;,)gnˆ,21小结1.特征函数的定义2.特征函数的性质3.常用概率密度函数的特征函数4.特征函数的应用5.中心极限定理6.利用特征函数寻找估算子的p.d.f.()()()()(0)[]xyxymmmxkkkxyiEx：随机变量和独立：微分与代数矩的关系()[]()ikxikxxkEeefxdx傅立叶变换