您好,欢迎访问三七文档
当前位置:首页 > 行业资料 > 国内外标准规范 > 有效数字及其运算规则
§1.4有效数字及其运算规则一、有效数字的一般概念1.有效数字任何一个物理量,其测量结果必然存在误差。因此,表示一个物理量测量结果的数字取值是有限的。我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称为测量结果的有效数字。例如,2.78的有效数字是三位,2.7是可靠数字,尾位“8”是可疑数字。这一位数字虽然是可疑的,但它在一定程度上反映了客观实际,因此它也是有效的。2.确定测量结果有效数字的基本方法(1)仪器的正确测读仪器正确测读的原则是:读出有效数字中可靠数部分是由被测量的大小与所用仪器的最小分度来决定。可疑数字由介于两个最小分度之间的数值进行估读,估读取数一位(这一位是有误差的)。例如,用分度值为1mm的米尺测量一物体的长度,物体的一端正好与米尺零刻度线对齐,另一端如图1-1。此时物体长度的测量值应记为L=83.87cm。其中,83.8是可靠数,尾数“7”是可疑数,有效数字为四位。(2)对于标明误差的仪器,应根据仪器的误差来确定测量值中可疑数所以用该电压表测量时,其电压值只需读到小数点后第一位。如某测量值为12.3V,若读出:12.32V,则尾数“2”无意义,因为它前面一位“3”本身就是可疑数字。(3)测量结果的有效数字由误差确定。不论是直接测量还是间接测量,其结果的误差一般只取一位。测量结果有效数字的最后一位与误差所在的一位对齐。如L=(83.87±0.02)cm是正确的,而L=(83.868±0.02)cm和L=(83.9±0.02)cm都是错误的。3.关于“0”的问题有效数字的位数与十进制的单位变换无关。末位“0”和数字中间的“0”均属于有效数字。如23.20cm;10.2V等,其中出现的“0”都是有效数字。小数点前面出现的“0”和它之后紧接着的“0”都不是有效数字。如0.25cm或0.045kg中的“0”都不是有效数字,这两个数值都只有两位有效数字。4.数值表示的标准形式数值表示的标准形式是用10的方幂来表示其数量级。前面的数字是测得的有效数字,并只保留一位数在小数点的前面。如3.3×105m8.25×10-3kg等。二、有效数字的运算规则在有效数字的运算过程中,为了不致因运算而引进误差或损失有效数字,影响测量结果的精确度,并尽可能地简化运算过程,因此,规定有效数字运算规则如下(例中加横线的数字代表可疑数字):1.有效数字的加减的必要。在上面两例中,我们按数值的大小对齐后相加或相减,并以其中可疑位数最靠前的为基准,先进行取舍,取齐诸数的可疑位数,然后加、减,则运算简便,结果相同。2.有效数字的乘除点后面是可疑数字,允许有所不同。从以上两例中可得如下结论:诸量相乘或相除,以有效数字最少的数为标准,将有效数字多的其它数字,删至与文相同,然后进行运算。最后结果中的有效数字位数与运算前诸量中有效数字位数最少的一个相同。3.有效数字的乘方和开方有效数字在乘方和开方时,运算结果的有效数字位数与其底的有效数字的位数相同。4.对数函数、指数函数和三角函数的有效数字对数函数运算后,结果中尾数的有效数字位数与真数有效数字位数相同。指数函数运算后,结果中有效数字的位数与指数小数点后的有效数字位数相同;三角函数的有效数字位数与角度有效数字的位数相同。三、有效数字尾数的舍入规则1.若舍去部分的数值小于所保留末位数的1/2,末位数不变例2.749—→2.7。2.若舍去部分的数值大于所保留末位数的1/2,末位数加1例32.551—→32.6。3.若舍去部分数值恰好等于所保留末位数的1/2,当末位数为偶数时,保持不变;当末位数为奇数时,末位加1例5.7850—→5.78;6.5750—→6.58。
本文标题:有效数字及其运算规则
链接地址:https://www.777doc.com/doc-4766663 .html