近似值计算

数据修约一、基本概念1、数值修约：通过省略原数值的最后若干位数字，调整保留的末位数字，使得最后得到的数值最接近原始数值的过程。2、修约间隔：修约值的最小数值单位。修约间隔数值一经确定，修约值即为该数值的整数倍。3、极限数值：标准（或技术规范）中规定考核的以数量形势给出且符合该标准（或技术规范）要求的指标数值范围的界限值。二、数值修约规则1、确定修约间隔A、指定修约间隔为10-n（n为正整数），或指明将数值修约到n位小数。B、指定修约间隔为1，或指明将数值修约到“个”位数。C、指定修约间隔为10n（n为正整数），或指明将数值修约到n数位，或指明将数值修约到“十”、“百”、“千”。。。。位。2、进舍规则A、拟舍弃数字最左一位数字小于5，则舍去，其余各位数字不变.如：将12.1498修约到个位，得到12；修约到一位小数，得到12.1。B、拟舍弃数字最左一位数字大于5，则进一，即保留数字的末位数字加1。如：将1268修约到“百”位数，得到13×102，（特定的场合也可写作1300）C、拟舍弃数字最左一位数字是5，且其后有非0数值时进一，即保留数字的末位数字加1。如：将10.50002修约到“个”位数，得11D、拟舍去数值的最左一位数字为5，且其后无数字或全为0时，若保留的末位数字为奇数则进一，即保留的末位数字加1；若保留的末位数字为偶数，则舍去。如：对于修约间隔为0.11.050→10×10-1,也可写作1.0;0.35→4×10-2,也可写作0.4;如：对于修约间隔为1000（或10-3）2500→2×103,也可写作2000；3500→4×103,也可写作4000；E、负数修约时，先将其绝对值按以上规则进行秀修约，然后将所得结果前面加上负号。如：对于修约间隔为10-355→-36×10也可写作-360；-325→-32×10也可写作-320；如：对于保留三位小数，或修约间隔为10-3-0.0365→-36×10-3也可写作-0.036-0.0355→-36×10-3也可写作-0.036数值修约规则口诀四舍六入五考虑五后非零则进一五后皆零视奇偶五前为偶应舍去五前为奇则进一3、不允许连续修约A、拟修约数字应在确定修约间隔或指定修约位数后一次修约获得结果，不得多次连续修约。如：对于修约间隔为1正确的修约为：97.465→97；不正确的修约为：97.465→97.5→98。B、在实际工作中，测试与计算部门先将获得数值按指定的修约数位多一位或几位报出，而后由其它部门判定，此时应该遵循以下规定：a、报出数值的最右的非零数字为5时，应该在数字的右上角加“+”或“-”或不加符号，分别表示已经进行过舍、进或未舍未进。如：16.50+表示实际值大于16.50；16.50-表示实际值小于16.50；16.50表示实际值等于16.50；b、如对报出数值进行修约，当拟舍去数字的最左一位数字为5，且其后无数字或皆为零时，数值右上角有“+”号时者进一，修约数据末位加1，有“-”号者舍去，其它皆按以上规则实行。如将下列数值修约到个位实测值报出值修约值15.454615.5-15-15.4546-15.5--1516.520316.5+17-16.5203-16.5+-1717.500017.5184、0.5单位和0.2单位修约对数值进行修约时，如有必要，也可采用0.5单位和0.2单位修约。A、0.5单位的修约方法：将拟修约的数值X乘以2，按指定的修约间隔对2X进行依照以上原则修约，缩短为数值除以2.如：将以下数据修约到”个”数位的0.5单位修约X2X2X修约值X修约值60.25120.501206060.38120.7612160.560.28120.5612160.5-60.75-121.50-12261B、0.2单位的修约方法：将拟修约的数值X乘以5，按指定的修约间隔对5X进行依照以上原则修约，修约后数值除以5.如：将以下数据修约到“百”数位的0.2单位的修约值X5X5X修约值X修约值830415042008408424210420084083241604200840-930-4650-4600-920三、极限数值的表示与判断1、表示极限数值的基本用语基本用语符号特定情形下的基本用语备注大于A﹥A多于A高于A测定值或计算值恰好为A时不符合要求小于A﹤A少于A低于A测定值或计算值恰好为A时不符合要求大于或等于A≥A不小于A不少于A不低于A测定值或计算值恰好为A时符合要求小于或等于A≤A不大于A不多于A不高于A测定值或计算值恰好为A时符合要求2、表达极限数值X的组合用语及符号组合基本用语组合允许用语符号表示方式1表示方式2表示方式3大于或等于A且小于等于B从A到BA≤X≤BA≤●≤BA～B大于A且小于等于B超过A到BA﹤X≤BA﹤●≤B＞A～B大于或等于A且小于B至少A不足BA≤X﹤BA≤●﹤BA～﹤B大于A且小于B超过A不足BA﹤X﹤BA﹤●﹤B3、带有极限偏差的数值A、基本数值X带有绝对极限上偏差+b1和绝对极限下偏差-b2，指从X-b2到X+b1符合要求，计为：X+b1-b2。当b1=b2时，可以记为X±b。如：80+2-1mm，指从79mm到82mm符合要求。B、基本数值A带有绝对极限上偏差+b1%和绝对极限下偏差-b2%，指实测值或其计算值R对于A的相对偏差值[(R-A)/A]从-b2%到+b1%符合要求，计为：X+b1-b2%。如：510Ω（1±5%），指实测或计算值R（Ω）对于510Ω的相对偏差值[(R-510)/510]从-5%到+5%符合要求。4、测定值或其计算值与标准规定的极限数值作比较的方法A、在判定测定值或计算值是否符合标准要求时，应将测试所得测定值或计算值与标准规定的极限值作比较，比较常用全数值比较法和修约值比较法。B、当标准或有关文件中，若对极限数值（包括带有极限偏差值得数值）无特殊规定时，均应使用全数值比较法。如规定采用修约值比较法时，应在标准中加以说明。C、全数值比较法：将测试所得测定值或计算值不经过修约处理（或经过修约处理，但应标明它是经过舍去、进或未舍未进而得），用该数值与规定的极限数值作比较，只要超出极限数值规定的范围，都判定为不符合要求。D、修约值比较法：将测定值或其计算值进行修约，修约数位应该与规定的极限数值位数相一致。然后与标准规定的极限数值比较，只要超出极限数值规定的范围，都判定为不符合要求。如下表：全数值比较法和修约值比较法的举例说明项目极限值测定值或计算值按全数值比较法判定修约值按修约值比较法判定抗拉强度/MPa≥14×1001349135114001402不符合不符合符合符合13×10014×10014×10014×100不符合符合符合符合中碳钢的硅的质量分数/%≤0.50.4520.5000.5490.551符合符合不符合不符合0.50.50.50.6符合符合符合不符合盘条直径/mm10.0±0.19.899.8510.1010.16不符合不符合符合不符合9.99.810.110.2符合不符合符合不符合中碳钢的锰的质量分数/%1.2～1.61.1511.2001.6491.651不符合符合不符合不符合1.21.21.61.7符合符合符合不符合谢谢大家！GB/T8170-2008原始数据的读取、记录和处理细则一、原始数据读取规则1.测量前，应估计试样的被测量值。2.按检测实施细则规定，选择试验机或其他测量器具及其相应的量程（指示度盘）；3.检测（测量）中，严格按照所选量程确定的分度（最小刻度）值读数：4.带有数字式指示装置类型的仪器、设备，待末位数字稳定（或变动稳定）后读数；4.1数字式指示装置的“可读能力”。4.1.1当示值的变动不大于1个增量时，则应为数字示值的一个增量；4.1.2当示值的变动大于1个增量时，则应为数字式示值变动范围的1/2。5、指针式仪器、设备或有刻度（带有、不带有游标）的仪表、设备和其他带有这种类型模拟指示装置的检测器具，“可读能力”一般可定为为分度（最小刻度）值的1/2、1/5或1/10，为保证最大读数误差小于等于1%，我们确定“可读能力”为1/2（参照JJG139-1999），读数时从分度（最小刻度）值向后估读一位；6、估读位采用二分之一分度估读法：二分之一分度估读法：先确认量程，然后将分度（最小刻度）值一分为四，示值四分之一分度，读前一刻度值；示值≥四分之一分度，示值四分之三分度，读二分之一分度值；示值≥四分之三分度，读后一分度值。二、原始数据记录规则1.仪器设备的最小示值(间隔)为1.0×（kN；N；kg；g；cm；mm；……)，则末位按二分之一估读法读取并记录至0.5×的整数倍。2.仪器设备的最小示值(间隔)为2×（kN；N；kg；g；cm；mm；……)，则末位按二分之一估读法读取并记录至1×的整数倍。3.仪器设备的最小示值(间隔)为4×（kN；N；kg；g；cm；mm；……)，则末位按二分之一估读法读取并记录至2×的整数倍。4.仪器设备的最小示值(间隔)为5.0×（kN；N；kg；g；cm；mm；……)，则末位按二分之一估读法读取并记录至2.5×的整数倍。5.个别最小分度值为2.5×的设备，“可读能力”确定为1/5（JJG139-1999），末位估读采用五分之一最小分度值估读法。方法为：将最小分度值一分为五，然后估读并记录至0.5m×的整数倍，m为0～5的自然数。6.游标卡尺类测试器具应按其精度读取并记录，（例：精度为0.02的游标卡尺其读数和记录的尾数只可能为0.02的整数倍）。原始数据记录时不准任意舍弃测试数据的可读尾数，否则造成两次或多次修约错误。《拉力、压力、和万能试验机》（JJG139-1999）