抽样调查-第11章调查中的非抽样误差

第十一章调查中的非抽样误差§11.1引言非抽样误差是指除抽样误差以外的,由于各种原因引起的误差。在概率抽样、非概率抽样、其他全面调查和非全面调查已及普查中，非抽样误差都有可能存在。同抽样误差相比，非抽样误差有如下特点：1、非抽样误差不是由于抽样的随机性带来的，所以在抽样调查中，它不可能随着样本量的增大而减小；2、在抽样调查中，由于非抽样误差的影响，往往造成估计量的有偏；3、有些非抽样误差难以识别和测定。如抽样框是不完善的，而调查设计人员并没有意识到；4、有些非抽样误差成因复杂，对其研究不够，因此，在很多时候非抽样误差比抽样误差造成的影响更严重，对此必须引起高度重视。根据非抽样误差的来源、性质可分为以下三类：（1）抽样框误差，即由不完善的抽样框引起的误差；（2）无回答误差，即由于种种原因没有从被调查单元获得调查结果，造成调查数据的缺失；（3）计量误差，即所获得的调查数据与其真值之间不一致造成的误差。一、概念抽样调查中的总体有两个：目标总体—调查研究对象的全体。抽样总体—从中抽取样本的总体。（即抽样框）理想抽样框的标志是目标总体和抽样总体完全重合。否则抽样框就是不完善的。§11.2抽样框误差二、抽样框误差的类型及影响（1）抽样框误差的类型●丢失目标总体单元。●包含非目标总体单元。●抽样框中的单元与目标总体单元不一一对应。（存在一对多或多对一的情况）●不正确的辅助信息。（如分层抽样、不等概抽样、比率估计和回归估计等所需的辅助信息）（2）对抽样框误差的基本认识●有些误差来自构成抽样框资料本身，而不是由于抽样设计的问题。●抽样框存在的问题，有些是不容易解决的。因此抽样框的维护、抽样框使用情况的不断总结与研讨，对于经常性的调查项目来说是十分必要的。●抽样框的不完善并不是不能使用。可以进行修补、调整。（3）抽样框误差的影响设目标总体单元：N抽样框中单元：N1抽样框中丢失的单元：N0N=N1+N0■总体总量的估计总体总量的真值是：1N1N1N1N1N011101YYYYYNiiNii现从抽样框中的N1个单元中采用简单随机抽样抽出容量为n的一个样本，由于n取自于N1对总体总量的估计为：niiynNY11显然此时的估计是有偏的，偏倚为：01)(YYYYYE这表明估计量低估了总体总量，令NNWYYr0010,Y的相对偏倚可以写为)1(0000WrWrWYY由上式可知，总体总和的相对偏倚取决于rr0Wr和■总体均值的估计在抽样框存在丢失单元情况下，均值估计量为：niiynY11此时估计量的偏倚为：)()(010YYWYYE的相对偏倚可以写为：YY)1()1()(000010WrWrWYYYW由上式可以看出，如果丢失单元的均值与抽样单元的均值相同，即，则估计量是目标变量的无偏估计。反之，如果，偏倚状况则随着的变化而变化。1rYYYYYY1rr三、不完善抽样框的使用抽样框不完善并不是不能使用，因为构造一个完善的抽样框有时是非常困难的。使用不完善抽样框时若能采用一些补救措施，有助于减小抽样框误差。主要采用以下三项补救措施：●利用核查，掌握误差情况，对不完善抽样框进行调整；●事先制定一些规则，对发现的抽样框问题进行现场处理；●使用多个抽样框进行抽样。§11.3无回答误差一、概念无回答误差是指在调查中由于各种原因，调查人员没能够从入选样本的单元处获得所需要的信息，由于数据缺失造成估计量的偏差。无回答误差是一种重要的非抽样误差，这种现象十分普遍，对估计量的危害也比较大，所以国际上对这方面的讨论一直比较热烈，目前这种讨论还在继续。从无回答的内容来看可分为：单元无回答（被调查单元没有参入或拒绝受调查，他们交的是一份白卷）项目无回答（被调查单元虽然接受了调查，但对其中的一些项目没有回答）从无回答的性质来看可分为：有意无回答（有意无回答常常与调查内容有关，如对调查内容反感，或涉及个人隐私不愿意回答）无意无回答（无意无回答常常与调查内容无关，之所以无回答是因为被调查者生病或很忙，无法接受调查）有意无回答对数据质量的影响很大，回答者和不回答者之间往往存在系统性差异。这种不回答不仅减少了有效样本量，造成估计量方差增大，而且会带来估计偏倚。无意无回答可以看成是随机的，这种不回答虽然会造成估计量方差增大，但通常认为不会带来估计偏倚。二、无回答产生的原因及影响如果把采集数据的过程划分为查找、接触和采访三个阶段，三个阶段都有可能出现无回答。1、查找阶段调查人员无法找到被调查者，主要原因有地址不详、被调查者搬迁、调查人员不熟悉地址；2、接触阶段被调查生病、对调查不感兴趣或别的原因拒访；3、采访阶段调查开始后被调查者对某些问题不愿提供答案、调查员由于粗心遗漏某些项目等无回答的影响：回答层（N1）总体（N）无回答层（N0）01NNNNNRNNR0011,则总体均值为：0011YRYRY回答层样本(n1)总体样本（n）无回答层样本(n0)根据回答层单元计算出的样本均值为用作为总体真值得估计量，其偏倚为：1y1yY)()()()(0100011111YYRYRYRYYyEy偏倚相对偏倚YYYRy)()(0101由上式可以看出：无回答偏倚主要来自两个方面：一个是回答层与无回答层之间的数量差异；一个是无回答率。)(01YY0R0R0R0R0R三、降低无回答的措施主要措施是预防，预防措施有：●问卷设计得具有吸引力；●注意适当的长度；●充分利用调查组织单位的权威性和影响力；●注意调查员的挑选；●做好调查员的培训；●注意调查过程的监控；●奖励措施；●再次调查。四、对存在无回答数据的调整调查中无回答的情况总是难以避免，由于无回答造成数据不全，如果不加处理，就有可能造成估计量偏倚。下面介绍几种数据调整的方法：1、再抽样调整在第一次无回答的单元中随机抽取一个子样本，通过更细致、更充分的工作，获得该子样本的数据，作为整个无回答层的代表值。2、加权调整对存在无回答数据进行补救的另一种方法是采用加权调整。加权调整法是通过对调查中所获得的回答数据使用加权因子，达到对数据的调整，减小由于无回答造成的估计偏倚。3、相关推估法相关推估法主要用于调查中的项目无回答，即调查单元不是完全拒绝调查，而是拒绝其中某些项目的调查。这时可以利用回答项目的信息对无回答数据进行推估。4、插补调整在数据整理阶段，利用调查结果，采用一定的方式，为无回答的缺失值确定一个合理的估计值，插补到原缺失数据的位置上。实际使用时，用得较多的是均值插补，其方法是：首先根据辅助信息将样本分为若干组，是组内各单元的主要特征相似。然后分别计算各组目标变量Y的均值，将各组均值作为组内所有缺失项的替补值§11.4计量误差计量误差是指由于种种原因，调查中所获得的数据与真值不一致。计量误差主要成因来自于以下几个方面：●设计误差（设计方面原因造成计量误差）●被调查者误差（被调查者提供的数据失真）●调查者误差（现场调查人员造成的误差）●其他误差（由于测量工具、编码、录入）减少计量误差的措施减少计量误差需要对调查全过程进行质量监控：（1）调查设计方面调查问卷设计出来后，应组织有关人员对问卷进行讨论。如果是大型调查活动，还要在正式调查之前进行预调查，在实践中对问卷进行检验。（2）现场准备方面在收集数据之前，需要做好准备工作：招聘调查员；培训访问员；编写调查手册。（3）调查结果审核方面审核是对调查质量进行控制的一道重要的工序，也是减少计量误差的有效方法。审核的目的是要保证调查所得数据的完整性、一致性和有效性。审核可以在调查过程中的任何阶段进行：收据数据时进行审核（调查员在调查进行过程中根据常识和经验，可以判断出一些问题的答案是否属于“可接受”范围）数据收集完毕后的审核（审核的重点是数据的一致性审核和离群值的检测）§11.5离群值的检测和处理一、离群值的概念离群值是指调查数据集中的极端值，是指与其他数据明显不一致的观测值。离群值的出现可能有以下两个原因：由于数据本身具有的差异性。看起来值得怀疑的东西也许是真实的；由于被调查者回答数据有错误或调查人员记录数据有错误。二、离群值的确认通常离群值的检测是通过测量它们与数据中心的相对距离来辨认的。例如，若是要观测的样本数据，m和s分别是侧度数据集中趋势和离散趋势的指标，那么，离数据中心的相对距离可以定义为nyyy,,,21iysmydii||如果越过了预先确定的偏离值，那么该观测值就被认为是离群的。另外，离群值也可以通过下面的置信区间进行确认：id),(stmstmul式中和分别为根据预先确定的置信度得到的标准正态分布的上限和下限值。落在这个区间之外的观测值被认为是离群值。ltutltut三、离群值的处理如果在调查进行中发现离群值，就要及时处理，例如进行回访核实，对错误进行更正。如果在调查完毕后的审核中发现离群值，通常对离群值采用插补处理，即将离群值剔除，然后使用插补法调整。如果在审核时没有进行处理的离群值可以在估计的时候处理。估计时有以下三种方法处理离群值：●改变数值这种方法首先要将样本数据按从大到小依次排序，然后再按下面的步骤计算：在简单随机抽样中，总体总量Y的无偏估计公式为：siiynNY式中，i表示样本中第i个单元，s为所有样本的集合.若样本数据中第k个最大值kth被认为是离群值，单侧k次缩尾估计量就可以通过第n-k个最大值yn-k代替这些离群值，即)(1knkniiWkyynNY●调整权重处理离群值的另一种方法是降低离群值的权重，从而使它们的影响变小。例如，赋予离群值的权重为1，即离群值仅仅代表它自己而不代表其他总体单元。●选取稳健估计量在经典的估计理论中，通常假定估计量服从正态分布，样本均值和样本方差估计量在正态分布的假设下也是最理想的。但是，这些估计量对离群值非常敏感。稳健估计量则能克服这种局限性，例如中位数比均值更稳定，四分位数比通常的方差估计量更稳定。（第十一章结束）