逐步回归法

逐步回归法逐步回归的基本思想是：对全部因子按其对y影响程度大小（偏回归平方的大小），从大到小地依次逐个地引入回归方程，并随时对回归方程当时所含的全部变量进行检验，看其是否仍然显著，如不显著就将其剔除，知道回归方程中所含的所有变量对y的作用都显著是，才考虑引入新的变量。再在剩下的未选因子中，选出对y作用最大者，检验其显著性，显著着，引入方程，不显著，则不引入。直到最后再没有显著因子可以引入，也没有不显著的变量需要剔除为止。从方法上讲，逐步回归分析并没有采用什么新的理论，其原理还只是多元线性回归的内容，只是在具体计算方面利用一些技巧。逐步回归分析时在考虑的全部自变量中按其对y的贡献程度大小，由大到小地逐个引入回归方程，而对那些对y作用不显著的变量可能是中不被引入回归方程。另外，已被引入回归方程的变量在引入新变量进行F检验后失去重要性时，需要从回归方程中剔除出去。Step1计算变量均值12,,,,nxxxy和差平方和1122,,,,.ppyyLLLL记各自的标准化变量为1,1,,,.jjjpjjyyxxyyujpuLLStep2计算12,,,,pxxxy的相关系数矩阵(0)R。Step3设已经选上了K个变量：12,,,,kiiixxx且12,,,kiii互不相同，(0)R经过变换后为()()().jkkiRr对1,2,,jk逐一计算标准化变量jiu的偏回归平方和()2,(1)()()()jjjjkipkikiirVr，记()()max{}jkkliVV，作F检验，()()(1)(1)(1)klkppVFrnk，对给定的显著性水平，拒绝域为1(1,1)FFnk。Step4最Step3循环，直至最终选上了t个变量12,,,tiiixxx，且12,,,tiii互不相同，(0)R经过变换后为()()()jttiRr，则对应的回归方程为：11111()(),(1),(1)ˆkkkkkiiiikkipipyyiiiixxxxyyrrLLL，通过代数运算可得110ˆkkiiiiybbxbx。