您好,欢迎访问三七文档
当前位置:首页 > 行业资料 > 国内外标准规范 > 有效数字取舍与运算规则
有效数字记录与运算规则所谓有效数字:具体地说,是指在分析工作中实际能够测量到的数字。所谓能够测量到的是包括最后一位估计的,不确定的数字。我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字.把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字.测量结果都是包含误差的近似数据,在其记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位。测量长度为5.16cm前2位数字是准确的,最后一位为估计值1、有效数字中只应保留一位欠准数字,因此在记录测量数据时,只有最后一位有效数字是欠准数字。2、在欠准数字中,要特别注意0的情况。0在非零数字之间与末尾时均为有效数;在小数点前或小数点后均不为有效数字。如0.078和0.78与小数点无关,均为两位。506与220均为三位。3、л等常数,具有无限位数的有效数字,在运算时可根据需要取适当的位数。(1)实验中的数字与数学上的数字是不一样的.如数学的8.35=8.350=8.3500,而实验的8.35≠8.350≠8.3500.(2)有效数字的位数与被测物的大小和测量仪器的精密度有关.如普通直尺测得物体的长度有效数字为3位,若改用千分尺来测,其有效数字的位数有五位.(3)第一个非零数字前的零不是有效数字.(4)第一个非零数字以及之后的所有数字(包括零)都是有效数字.(5)单位的变换不应改变有效数字的位数四舍六入五留双规则的具体方法当尾数小于或等于4时,直接将尾数舍去例如将下列数字全部修约到两位小数,结果为:10.2731——10.2718.5049——18.5016.4005——16.4027.1829——27.18当尾数大于或等于6时将尾数舍去向前一位进位例如将下列数字全部修约到两位小数,结果为:16.7777——16.7810.29501——10.3021.0191——21.02(三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。例如将下列数字全部修约到两位小数,结果为:12.6450——12.6418.2750——18.2812.7350——12.7421.845000——21.84四舍六入五留双规则的具体方法(四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。例如将下列数字全部修约到两位小数,结果为:12.73507——12.7421.84502——21.8512.64501——12.6518.27509——18.2838.305000001——38.31按照四舍六入五留双规则进行数字修约时,也应像四舍五入规则那样,一次性修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。例如将数字10.2749945001修约到两位小数时,应一步到位:10.2749945001——10.27(正确)。如果按照四舍六入五留双规则分步修约将得到错误结果:10.2749945001——10.274995——10.275——10.28(错误)。由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。1.加减法先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。例:计算50.1+1.45+0.5812=?修约为:50.1+1.4+0.6=52.1先修约,结果相同而计算简捷。例:计算12.43+5.765+132.812=?修约为:12.43+5.76+132.81=151.00注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。有效数字运算规则2.乘除法先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。例:计算0.0121×25.64×1.05782=?修约为:0.0121×25.6×1.06=?计算后结果为:0.3283456,结果仍保留为三位有效数字。记录为:0.0121×25.6×1.06=0.328注意:用计算器计算结果后,要按照运算规则对结果进行修约例:计算2.5046×2.005×1.52=?修约为:2.50×2.00×1.52=?计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。2.50×2.00×1.52=7.60
本文标题:有效数字取舍与运算规则
链接地址:https://www.777doc.com/doc-4767444 .html