您好,欢迎访问三七文档
第二章定量分析的误差和分析结果的数据处理第一节有效数字一、有效数字的计位规则56.29确切数字不定数字一个数据中所有的确切数字在加一位不定数字。定义:甲:23.39ml乙:23.40ml丙:23.41ml可疑数字数据甲的相对误差:0.01/23.39100%=0.04%23.524.05位有效数字1.0008,43181,26.5474位有效数字0.1000,10.98%,186.33位有效数字0.0382,1.2410-5,6182位有效数字59,0.0040,4.71位有效数字0.05,2107,6位数含糊3600,100数据中“0”是否为有效数字?(1)只起到定位作用,不算。例如:0.0382(3),0.05(1)(2)作为普通的数字使用,算。例如:1.0008(5)0.0040(2)分数、倍数及对数的计位分数与倍数不是测量得到的,可视为无限多位有效数字。pH,pM,lgc,lgK等对数值,其有效数字的位数取决于小数部分(尾数)数字的位数。pH=11.20,换算为H+浓度时,[H+]=6.310-12mol/l,有效数字的位数是2位,而非4位。例如:二、有效数字的运算规则“四舍六入五留双”规则:尾数4时舍弃;尾数6时进入;尾数=5时,若5后面的数字为0,则5前面为偶数者舍弃,为奇数者进入(留双);若5后面的数字不为0,则不论5前面的数字是奇是偶,一律进入。1、修约规则例如:保留两位有效数字2.552.54912.6?4.6534.77.3977.477.507876.50763.1483.14.65034.72、运算规则几个数字相加减时,它们的和或差的有效数字位数应以小数点后位数最少的数字(绝对误差最大)为根据。例如:0.0121+25.64-0.5782=?解:=0.01+25.64-0.58=25.07(1)加减法(2)乘除法在乘除法中,积或商的有效数字的保留,应与其中相对误差最大的数值相对应。例如:0.012125.640.5782=?0.0001/0.0121100%=0.8%0.01/25.64100%=0.04%0.0001/0.5782100%=0.02%解:=0.012125.60.578=0.179第二节误差的产生及表示方法一、误差的产生1、系统误差(可测误差)2、随机误差(偶然误差)3、过失误差系统误差方法误差仪器误差试剂误差操作误差主观误差消除测定过程的系统误差1、对照试验标准试样对照标准方法对照加入回收法对照2、空白试验3、仪器校正4、方法校正增加平行测定次数,减小随机误差随机误差出现的概率遵循正态分布规律:(1)绝对值相等的正负误差出现的概率相同,大量等精度测量中各个误差的代数和趋于零;(2)绝对值小的误差出现的概率大,绝对值大的误差出现的概率小,绝对值很大的误差出现的概率非常小。随机误差是指测定值受各种因素的随机变动而引起的误差,是客观存在并且不可避免的。系统误差与随机误差的比较系统误差随机误差产生原因固定因素,有时不存在不定因素,总是存在分类方法误差、仪器与试剂误差、操作与主观误差等环境的变化因素、主观的变化因素等性质重现性、单向性(或周期性)、可测性服从正态分布规律、不可测性影响准确度精密度消除或减小的方法校正增加测定的次数二、误差的表示方法1、误差误差是指测定结果(x)与真实值(xT)之间的差值,包括绝对误差、相对误差。测定结果真实值时,误差为+,测定结果偏高;测定结果真实值时,误差为-,测定结果偏低。E=x-xT测定某合金中Cu的含量,测定结果为80.18%,已知真实值为80.13%,则:E=80.18%-80.13%=0.05%例如:另一合金中Cu的含量,测定结果为8.17%,已知真实值为8.12%,则:E=8.17%-8.12%=0.05%绝对误差%100TTTrxxxxEE上例中:%6.0%100%12.8%05.0%06.0%100%13.80%05.0rrEE相对误差2、偏差偏差是指测定结果(x)与多次分析结果的算术平均值()之间的差值。x绝对偏差xxd相对偏差%100%100xxxxddr平均偏差ndnddddniin/121样本标准偏差niinxxs12)1/()(niind12)1/(相对标准偏差(变异系数,CV)%100xssr相对平均偏差%100xddr甲乙两人同时测定一生物样品中的蛋白质含量(%),都平行测定了8次,获得以下数据:甲:51.50,50.66,51.63,51.90,51.25,51.39,51.69,51.18;乙:51.67,51.69,51.02,51.78,51.68,51.22,51.63,51.03。计算这两组数据的平均偏差和样本标准偏差并对该两人的实验结果进行评价。例如:9051635166505051....(甲x51.40818516951395151.25/...)475180351635122516851./....)7851025169516751....(乙x解:0.10,-0.74,0.23,0.50,-0.15,-0.01,0.29,-0.22平均偏差:8/881821iiddddd数据甲:xxdii绝对偏差:=0.28样本标准偏差:812)18/()(iixxs=0.38数据乙:0.20,0.22,-0.45,0.31,0.21,-0.25,0.16,-0.44平均偏差:8/881821iidddddxxdii绝对偏差:=0.28样本标准偏差:812)18/()(iixxs=0.32数据甲:n=8d=0.28s=0.38数据乙:n=8d=0.28s=0.32d甲=d乙,s甲s乙用标准偏差比用平均偏差更科学更准确三、准确度和精密度准确度表示分析结果与真值接近的程度,用以反映测量值的可靠性。准确度以误差的大小来衡量。E=x-xT绝对误差:%100TTTrxxxxEE相对误差:为了衡量测定结果的准确度,人们常以相对真值代替真值。理论真值,如化合物的组成等;计量学的约定真值,如各种常数等;相对真值,即标准值。对同一个试样,采用可靠的方法在不同的实验室、由不同的人进行多次测定,取得大量数据,用数理统计方法求得的相对可靠的值称为标准值。标准值实际上是高精度测量的更接近真值的近似值。真值xT:某一物理量本身具有的客观存在的真实数据,真值是不可知的。精密度表示在相同条件下用同样方法对同一试样进行多次平行测定时,各次分析结果相互接近的程度。精密度以偏差的大小来衡量,用以说明测定值的重现性。绝对偏差xxd平均偏差ndnddddniin/121样本标准偏差niinxxs12)1/()(甲、乙、丙三人同时测定一铁矿石中Fe2O3的含量(真实含量为50.36%),各分析四次,测定结果如下:例如:甲乙丙150.30%50.40%50.36%250.30%50.30%50.35%350.28%50.25%50.34%450.27%50.23%50.33%平均值50.29%50.30%50.35%测量值,平均值50.10%50.20%50.30%50.40%50.50%甲乙丙真值精密度高不一定准确度高,但是准确度高一定需要精密度高。精密度高是准确度高的必要条件,因为精密度差,便失去了衡量准确度的前提。第三节实验数据的统计处理一、随机误差的正态分布0.00.10.20.30.4-1z0-2-312368.3%95.5%99.7%规律:正负误差出现的概率相等小误差多,大误差少特大误差出现的次数极少正态分布曲线方程222)(21)(xexfy式中,y为概率密度,x为测量值,为总体平均值(真值),为标准偏差,(x-)表示随机误差。-4040.00.10.20.30.4x-yx=时,21y222)(21)(xexfy参数=0,2=1的正态分布是标准正态分布。xu横坐标0.00.10.20.30.4-1u0-2-31232221)(ueuydxduduedxxfu2221)(22)(2222121)(uxeexfyduu)(0.000.100.200.300.40-3-2-10123y68.3%95.5%99.7%u2221)(ueuy代表了不同大小偏差的测定值出现的几率总和为1。正态分布曲线y与横轴所夹面积表示全部数据出现的概率的总和,1)(duu显然:随机误差出现的区间u(以为单位)测量值出现的区间概率%(-1,+1)(-1,+1)68.3(-1.96,+1.96)(-1.96,+1.96)95.0(-2,+2)(-2,+2)95.5(-2.58,2.58)(-2.58,+2.58)99.0(-3,+3)(-3,+3)99.70.000.100.200.300.40-3-2-10123uy测量值与随机误差的区间概率2221)(ueuyuudue02221概率snxt)(-6-5-4-3-2-101234560.00.20.4tf(t)f=f=5f=1二、置信度与平均值的置信区间实验次数n自由度(f)f=n-1置信水平(置信度)P=50%=0.50P=90%=0.10P=95%=0.05P=99%=0.01P=99.5%=0.005211.006.3112.7163.66127.3320.822.924.309.9314.09430.762.353.185.847.45540.742.132.784.605.60650.732.022.574.034.77760.721.942.453.714.32870.711.902.373.504.03980.711.862.313.363.831090.701.832.263.253.6911100.701.812.233.173.5816150.691.752.132.953.2521200.691.732.092.853.1526250.681.712.062.793.080.651.651.962.582.81t分布值表置信度表示在一定条件下,测定值落在一定误差范围内的概率,用P表示,又称置信水平。测定值落在此区间外的概率用(1-P或α)表示,称为显著性水平。0.00.10.20.30.4-1u0-2-312368.3%95.5%99.7%1、置信度与显著性水平ntsx/表示在一定置信度下,以平均值为中心,包括总体平均值的可靠性范围,称为平均值的置信区间,它是正确表示真值的一种统计测定。x2、平均值的置信区间snxt)(将总体平均值与样本平均值联系了起来,证明了样本平均值的可靠性;平均值的置信区间取决于测定的精密度s,测定次数n和置信度P.当置信度固定时,n越大,置信区间越小;测定结果精密度越高,置信区间越小,准确度越高。ntsx/例如:对某未知样品中Cl-含量进行测定,4次结果为47.64%,47.69%,47.52%,47.55%。计算置信度为90%,95%和99%时,总体平均值的置信区间。解:%60.474%55.47%52.47%69.47%64.47x%08.01)(2nxxs置信度为90%时,t=2.35,=(47.600.09)%置信度为95%时,t=3.18,=(47.600.13)%置信度为99%时,t=5.84,=(47.600.23)%置信度越高,置信区间越宽,准确度越差置信度就是表示人们所作判断的可靠把握程度。如前,置信区间越窄,置信度就越小;反之,置信区间越宽,说话留有充分的余地
本文标题:第二章数据处理.
链接地址:https://www.777doc.com/doc-2127004 .html