应用回归分析证明题及答案

应用回归分析证明题及答案一.证明残差满足的约束条件：10niie，10niiixe。证明：由偏导方程即得该结论：01101ˆ1001ˆ11ˆˆ2()0ˆˆ2()0niiiniiiiQyxQyxx证毕.二.证明平方和分解式：SSTSSRSSE。证明：221122111ˆˆ()()ˆˆˆˆ()()2()()nniiiiiinnniiiiiiiiiSSTyyyyyyyyyyyyyy011110111ˆˆˆ22()0ˆˆ2)0上式第三项nnniiiiiiiinniiiiieyeyexexe2211ˆˆ()()即nniiiiiSSTyyyySSRSSE证毕.三.证明三种检验的关系：（1）12ˆ2t==ˆ1xxLrnr；(2)2212ˆ/1F===tˆ/(2)xxLSSRSSEn证明：由于2121ˆSSRˆ,SSR,SSTxyxxxxxxyyyyLLrLrSSTLLL22ˆ22ieSSTSSRnn所以12ˆ22;ˆ1yyxxyyrLnLrntLSSRr212ˆ/1.ˆ/(2)xxLSSRFSSEn证毕.四．证明：222()1()1()iiixxVarenxx。证明：由于0111ˆˆˆ()ˆ()()1()iiiiiiiniiiiiixxeyyyxyyxxxxyyyxxnL于是121112()1()()()1()()12,2,()()12,()niiiiiiixxniiiiiixxniiiiiiixxniiiiixxxxyVareVaryyxxnLxxyVaryVaryVarxxnLxxyCovyyCovyxxnLxxyCovyxxnL22222222()()1122()11iixxxxixxxxxxnLnLxxnL证毕.五．证明：在一元回归中，201ˆˆ(,)xxxCovL。证明：01111111()()1ˆˆ(,),()()1,()()1,()(1niiiiiixxxxnniiiiiixxxxnniiiiiixxxxniixxxxyxxyCovCovyxnLLxxxxCovxyynLLxxxxCovxyynLLxxxnL22)ixxxxxxLxL证毕.六．证明：21ˆ1SSEnp是误差项方差2的无偏估计。证明：由于222()1()1()iiixxDenxx而22()()()()iiiiEeDeEeDe所以2212112211ˆ()()1111()(1)111(1)1niinniiiiiEESSEEenpnpDehnpnpnpnp证毕.七．证明：ˆ()Eββ；21ˆ()()DβXX。证明：1111ˆ()()()()()EEEEβXXXyXXXyXXXXβεXXXXββ111112121ˆˆˆ(),(),()(),()()()()DCovCovCovβββXXXyXXXyXXXyyXXXXXXIXXXXX证毕.八．证明：在多元线性回归中，假设2(,)nNε0I，则随机向量2(,)nNyXβI。九．证明：当2(,)nNyXβI时，则：（1）21ˆ(,())NββXX；（2）2/(1)SSEnp。证明：（1）因为1ˆ()βXXXy，X是固定的设计矩阵，因此，ˆβ是y的线性变换。又当2(,)nNε0I时，有随机向量2(,)nNyXβI，所以ˆβ服从正态分布，且21ˆˆ(),()()EDβββXX，即有21ˆ(,())NββXX。（2）：由于0ˆˆ()()()()SSENXeey-yy-y(I-H)y(I-H)yy(I-H)yyNyXβεNXβεεNε借助于定理：设(,)nNX0I，A为nn对称阵，秩为r，则当A满足：2AA，二次型22rXAX，只需证明：()1rknpN即可。因为N是幂等阵，所以有()()rktrNN，故111()()()()1nrktrntrntrnpNIXXXXXXXXXXXX证毕.十．证明：在多元线性回归中，最小二乘估计ˆβ与残差向量e不相关，即ˆ(,)0Covβe。证明：1112121ˆ(,)(),()(),()()()()(())0CovCovCovβeXXXyIHyXXXyyIHXXXIIHXXXIIXXXX证毕.十一．证明：ˆ2(1)DW，其中1222122ˆntttnntttteeee。证明：由于22211122222222()2nnnnttttttttttnntttteeeeeeDWee如果认为22122nnttttee，则有1222ˆntttntteee，所以1222ˆ212(1)ntttntteeDWe.证毕.十二.试证明：在二元线性回归模型01122iiiiyxx中，当1x和2x相互独立时，对回归系数1和2的OLS估计值，等于iy分别对1x和2x做简单线性回归时回归系数的OLS估计值。