您好,欢迎访问三七文档
当前位置:首页 > 商业/管理/HR > 资本运营 > 三、 有效数字及处理原则
四、有效数字及其处理规则(一)有效数字1.实验过程中遇到的两类数字(1)非测量值如:测定次数;倍数;系数;分数;常数(π)有效数字位数可看作无限多位。数据位数反映测量的准确程度,这类数字称为有效数字。可疑数字:有效数字的最后一位数字通常为估计值,不准确。(2)测量值或计算值有效数字的最后一位数字有±1个单位的误差。有效数字就是指分析仪器实际能测量到的数字,通常包括全部准确数字和最后一位不确定的可疑数字。结果绝对偏差相对偏差有效数字位数0.518000.51800.5182、有效数字意义(1)表示实验结果的大小(2)表示实验结果所包含的误差—正确地反映测量的准确程度。±0.001±0.2%3±0.00001±0.002%5±0.0001±0.02%43、数据中零的作用(1)“0”在两个非0数字的中间0为有效数字10563.0210.0504(2)“0”在数字的末位0为有效数字12.501250.01500(四位)(三位)(六位)(四)(五)(四)(3)“0”在小数点前后0不是有效数字,定位作用0.01580.0005(三)(一)4、注意点(1)科学计量式中,只看前面部分3.4104(二)(2)PH值,小数点后的数字位数为有效数字位数pH=4.34(二)a.容量器皿:滴定管(如:25.32mL)、移液管(25.00mL);取小数点后2位有效数字容量瓶(如:100.0mL、250.0mL)???量筒(量至1mL或0.1mL)如:25mL、4.0mL(3)其它:b.分析天平的读数万分之一天平(称至0.0001g):取小数点后4位有效数字,如:1.2350g千分之一天平(称至0.001g):取小数点后3位有效数字,如:0.234g1%天平(称至0.01g):取小数点后2位有效数字,如:4.03g,0.23gc.托盘天平(称至0.1g):取小数点后1位有效数字,如:4.0g,0.2gd.标准溶液的浓度:用4位有效数字表示。如:0.1000mol/L(二)修约规则1.为什么要进行修约?数字位数能正确表达实验的准确度,舍去多余的数字。2.修约规则:“四舍六入五留双”(1)当多余尾数≤4时舍去尾数,≥6时进位。如:14.3245三位14.314.3645三位14.4(2)尾数正好是5时分两种情况:14.3545三位14.4a.若5后数字不为0,一律进位b.5后无数或为0,5前是奇数则将5进位,5前是偶数则把5舍弃,简称“奇进偶舍”。14.350三位14.414.450三位14.4有效数字位数修约规则:四舍六入五考虑五后非零应进一五后是零看奇偶奇进偶不进不连续修约3.示例与讨论(1)示例:保留四位有效数字,修约:14.2442→26.4863→15.0250→15.0150→15.0251→(2)一次修约到位,不能连续多次地修约。如2.3457修约到两位,应为2.3,如连续修约则为2.3457→2.346→2.35→2.4不对14.2426.4915.0215.0215.03(三)运算规则1.加减法运算结果的位数取决于绝对误差最大的数据的位数(即以小数点后位数最少的数据为依据)例:0.0121绝对误差:±0.000125.64±0.011.057±0.00126.709126.71+)2.乘除法运算有效数字的位数取决于相对误差最大的数据的位数(即以有效数字位数最少的数据为依据)例:(0.03255.10360.06)/139.8=0.0711791840.0325(±0.0001/0.0325)100%=±0.3%5.103(±0.001/5.103)100%=±0.02%60.06(±0.01/60.06)100%=±0.02%139.8(±0.1/139.8)100%=±0.07%(1)若某一数据中第一位有效数字大于或等于8,则有效数字的位数可多算一位。如8.15可视为四位有效数字。注意(2)在分析化学计算中经常会遇到一些倍数、分数,如2、5、8倍及1/2、1/3等,这些数字可视为足够准确,不考虑其有效数字的位数,计算结果的有效数字位数,应由其它测量数据来决定。(3)在计算过程中,为提高计算结果的可靠性,可以暂时多保留一位有效数字位数,得到结果时再根据数字修约的规定,弃去多余的数字。一般可先修约后计算。(4)在分析化学计算中,对于各种化学平衡常数的计算,一般保留两位或三位有效数字。对于各种误差的计算,取一位有效数字即已足够,最多取两位。对于pH值的计算,通常只取一位或两位有效数字即可,如pH值为3.4、7.5、10.48。(5)定量分析的结果,对于高含量组分(例如≥10%),要求分析结果为四位有效数字;对于中含量(1%~10%)范围内,要求有三位有效数字;对于低含量组分(<1%),一般只要求两位有效数字。练习:正确表示下列结果的有效数字(1)4.030+0.46–1.8259+13.7(2)14.13×0.07650÷0.78(3)lg(1.75×10-5)(4)[H+]=0.50mol·L-1,pH=?答案(1)16.4(2)1.4(3)-4.76(4)0.30
本文标题:三、 有效数字及处理原则
链接地址:https://www.777doc.com/doc-3533999 .html