数值修约规则及极限数值的表示和判定课件.ppt

上传人:牧羊曲112 文档编号:3051600 上传时间:2023-03-10 格式:PPT 页数:39 大小:655KB
返回 下载 相关 举报
数值修约规则及极限数值的表示和判定课件.ppt_第1页
第1页 / 共39页
数值修约规则及极限数值的表示和判定课件.ppt_第2页
第2页 / 共39页
数值修约规则及极限数值的表示和判定课件.ppt_第3页
第3页 / 共39页
数值修约规则及极限数值的表示和判定课件.ppt_第4页
第4页 / 共39页
数值修约规则及极限数值的表示和判定课件.ppt_第5页
第5页 / 共39页
点击查看更多>>
资源描述

《数值修约规则及极限数值的表示和判定课件.ppt》由会员分享,可在线阅读,更多相关《数值修约规则及极限数值的表示和判定课件.ppt(39页珍藏版)》请在三一办公上搜索。

1、2023/3/10,GB/T8170 作者:于振凡,1,于振凡中国标准化研究院 100088北京海淀区知春路4号电话:010-5881 1678Email,2023/3/10,GB/T8170 作者:于振凡,2,GB/T 8170 2008 第一章 数值修约规则1 指定 修约间隔(位数)修约间隔:修约值的最小数值单位指明将数值修约到n位小数分别表示保留n位小数;保留到个位数;保留到百位数;保留到千位数;保留到万位数;欲保留部分|拟舍弃部分|,2023/3/10,GB/T8170 作者:于振凡,3,2.进舍规则2.1 当拟舍弃部分的最左一位数字小于5时,则舍去。例1:将12.1498修约,修约间

2、隔为10-1(修约到一位小数),得 121 10-1。(特定场合可写为12.1)。写成121 10-1 表明此数值是经修约后得来的,它的修约间隔为10-1。在已经明确此数值是经修约后得来的情形下,可以写成12.1。,2023/3/10,GB/T8170 作者:于振凡,4,2.2 当拟舍弃部分的最左一位数字大于5;拟舍弃数字的最左一位数字大于5,则进一,即欲保留部分的末位数字加1。例2:将1268修约,修约间隔102(修约到“百”数位),得13 102(特定场合可写为1300)。2.3 当拟舍弃部分的最左一位数字是5,且其后有非0数字时,进一,即欲保留部分的末位数字加1。例3:将10.5002修

3、约,修约间隔100(修约到个数位),得11 100(特定场合可写为11),2023/3/10,GB/T8170 作者:于振凡,5,2.4 当拟舍弃部分的最左一位数字为5;而右面无数字或皆为0时,若欲保留部分的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0),则舍弃。例4:将12.15修约,修约间隔10-1(修约到一位小数),得122 10-1。(特定场合可写为12.2)例5:将12.25修约,修约间隔10-1(修约到一位小数),得122 10-1。(特定场合可写为12.2)例6:将1268.5修约,修约间隔100(修约到个位数),得1268 100,(特定场合可写为12

4、68)。,2023/3/10,GB/T8170 作者:于振凡,6,科学记数法:光的速度为300000000m/s,记为3e8(3E8)或3e+8(3E+8),它的实际含义为 电子的直径为0.0000000000000000001m,记为1e-18(1E-18)m,a的绝对值必须是“至少1不足10”,k可以是正整数或负整数。,2023/3/10,GB/T8170 作者:于振凡,7,2.5 负数修约时,先将它的绝对值按上述规定进行修约,然后在修约值前面加上负号。例7:将-36.45修约,修约间隔10-1(修约到一位小数),得-364 10-1(特定场合可写为-36.4)。例8:将-0.00365

5、修约,修约间隔10-4(修约到4位小数),得-36 10-4(特定场合可写为-0.0036)。,2023/3/10,GB/T8170 作者:于振凡,8,四舍六入五考虑;五后非零则进一;五后皆零视奇偶;五前为偶应舍去;五前为奇则进一。,2023/3/10,GB/T8170 作者:于振凡,9,不允许连续修约3.1 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按上述规则连续修约。例1:将15.4546修约到整数。正确的做法:15.4546 15不正确的做法:15.4546 15.455 15.455 15.4615.46 15.5 15.5 1615.454615.455 15.46 1

6、5.5 16,2023/3/10,GB/T8170 作者:于振凡,10,练习1、将14.25修约,修约间隔10-1(修约到一位小数)得142 10-1 14.22、将14.24501修约,修约间隔10-2(修约到两位小数)得1425-10-2 14.25-3、将14.246修约,修约间隔10-2(修约到两位小数)得1425-10-2 14.25-,2023/3/10,GB/T8170 作者:于振凡,11,4 报出数据按规定报出全数观测值按规定报出经修约后的值(3.3.2.1)若报出经修约后的值最右的非零数字为5时,应在数值后面加“+”或“-”或不加符号,以分别表明已进行过舍,进或未舍未进。例如

7、:将16.503修约,修约间隔10-2;经修约成为16.50,表示为16.50+,表示实际值大于16.50,经修约舍弃成为16.50;将16.497修约,修约间隔10-2;经修约成为16.50,表示为16.50-,16.50-表示实际值小于16.50,经修约进一成为16.50;这样做,为进一步修约提供依据,避免连续修约。数字右上角的+符号表示:修约前比此值(修约后的值)的绝对值大;数字右上角的-符号表示:修约前比此值(修约后的值)的绝对值小;,2023/3/10,GB/T8170 作者:于振凡,12,例如:16.50+表示实际值大于16.50,经修约舍弃成为16.50;16.50-表示实际值小

8、于16.50,经修约进一成为16.50;对6.52修约,修约间隔为10-1,修约后得65+10-1 对-6.52修约,修约间隔为10-1,修约后得-65+10-1对-6.47修约,修约间隔为10-1,修约后得-65-10-1,2023/3/10,GB/T8170 作者:于振凡,13,实测值 报出值 进一步修约值16.5046 16.50+1713.4950 13.50-1315.4546 15.5-1516.5203 16.5+1717.5000 17.5 18,2023/3/10,GB/T8170 作者:于振凡,14,5 GB/T 8170修约法与四舍五入法的比较5.1 4舍5入的不合理性

9、用4舍5入法进行修约,当拟舍弃部分的最左面的第一位是0,1,2,3,4,时,则舍去包括这位在内的右面所有数据,其欲保留部分的数值不变;当拟舍弃部分的最左面的第一位是5,6,7,8,9,时,则将欲保留部分的最右位数的数值加1;显然,这样做舍去的可能性有四种,而晋入的可能性有五种,会使得,2023/3/10,GB/T8170 作者:于振凡,15,(设数据列为,用4舍5入法修约上述数据列,修约后为,记号:,由于舍去的可能性有四种,而晋入的可能性有五种,所以有:)。,2023/3/10,GB/T8170 作者:于振凡,16,5.2 新数值修约规则的科学性用本标准规定的方法进行修约,使得舍去的机会和晋入

10、的机会相等,从统计意义上,修约后的数值不变。即:设数据列为,用新数值修约规则修约上述数据列,修约为,记号:,由于用新数值修约规则舍去的可能性与晋入的可能性相等,所以有:,,2023/3/10,GB/T8170 作者:于振凡,17,*|10000*|60000*|20000*|70000*|30000*|80000*|40000*|90000*|00000 拟舍弃部分全为0,修约后不变*|50000 拟舍弃部分全为0,奇进偶舍。*|00000 拟舍弃部分左数第二位以后不全为0舍弃。*|50000 拟舍弃部分左数第二位以后不全为0欲保留部分的末位进1。,2023/3/10,GB/T8170 作者:

11、于振凡,18,为什么不再使用“保留n位有效数字”定义修约间隔。1、不严谨例、将0.08479235进行修约,保留1位有效数字,修约成0.08或0.1都符合“保留1位有效数字”的要求。2、容易造成混乱把6.52修约成2位有效数位(字),修约后得65+10-1,此时修约间隔为10-1。把0.652修约成2位有效数位(字),修约后得65+10-2,此时修约间隔为10-2。用两种方式定义修约,容易造成混乱,所以仅保留一种方式定义修约。,2023/3/10,GB/T8170 作者:于振凡,19,0.5单位修约例、将1.932修约,修约间隔为10-1 的0.5单位1.932 3.864 3.9 1.950

12、.2单位修约,2023/3/10,GB/T8170 作者:于振凡,20,2023/3/10,GB/T8170 作者:于振凡,21,第二章 极限数值的表示和判定 第一节 极限数值的表示4.2.1.1 表达极限数值的基本用语及符号大于A A 多于A 高于A小于A A 少于A 低于A大于或等于A A 不小于A 不低于A 不少于A 小于或等于A A 不大于A 不多于A 不高于A年满18岁(包括18岁生日当天)应承担刑事责任。年满60岁(不包括生日当月)办理退休手续,不再发工资,领取退休金。,2023/3/10,GB/T8170 作者:于振凡,22,4.2.1.2 基本用语组合大于或等于A且小于或等于B

13、 从A到B AXB大于A且小于或等于B 超过A到B A XB大于或等于A且小于B 至少A 不足B A XB 大于A且小于B 超过A不足B AXB 顺序:单侧无限区间时,极限值写在右侧。双侧有限区间时,先写小,后写大,例如:AXB,2023/3/10,GB/T8170 作者:于振凡,23,4.2.2 带有极限偏差值的数值4.2.2.1 基本数值A带有绝对极限上偏差值 和绝对极限下偏差值 指从 到 符合要求,记为 例1:mm,指从79mm到82mm符合要求。对基本数值A,带有极限上偏差值 和(或)极限下偏差值 若观测值X等于 和(或)不符合要求,则应附加括号,写成(不含 和)或(不含)、(不含)。

14、例2:(不含2)mm,指从79mm到接近但不足82mm符合要求。例3:(不含1)mm,指超过79mm到82mm符合要求。例4:(不含2和1)mm,指超过79mm到接近但不足82mm符合要求。,2023/3/10,GB/T8170 作者:于振凡,24,例5:(不含2和1)mm,指超过79mm到接近但不足82mm符合要求。不写成(不含1和2)mm注:mm,与指从79mm到82mm符合要求 mm,与指从79mm到82mm符合要求两者的区别1、对设计人员前者有目标值,而后者没有目标值。2、对检测人员(判断是否合格)两者没有区别。,2023/3/10,GB/T8170 作者:于振凡,25,4.2.2.1

15、 基本数值A带有绝对极限上偏差值和绝对极限下偏差值,指从到符合要求,记为。注:当b1=b2=b时,可简记为。正确表示 错误表示例1:mm,指从79mm到81mm符合要求。例2:(不含1)mm,指超过79mm到不足81mm符合要求。例3:(不含+1)mm,指从79mm到不足81mm符合要求。例4:(不含-1)mm,指超过79mm到81mm符合要求。,2023/3/10,GB/T8170 作者:于振凡,26,对于 可简写为,对于 可简写为,对于 可简写为,不要写为,2023/3/10,GB/T8170 作者:于振凡,27,4.2.2.2基本数值A带有相对极限上偏差值 和相对极限下偏差值,指实测值或

16、其计算值X对于A的相对偏差值从 到 符合要求,记为。注:当 时,可记为。例1:指实测值或其计算值 x,对于80 的相对偏差值 从-1%到+2%符合要求。例2:(不含1)指实测值或其计算值 x,对于80 的相对偏差值 超过-1%到+2%符合要求。,2023/3/10,GB/T8170 作者:于振凡,28,例3:(不含2)指实测值或其计算值 x,对于80 的相对偏差 值。从-1%到接近但不足+2%符合要求。例4:(不含1和2)指实测值或其计算值 x,对于80 的相对偏差值 超过-1%到不足+2%符合要求。,2023/3/10,GB/T8170 作者:于振凡,29,4.2.2.2基本数值A带有相对极

17、限上偏差值 和相对极限下偏差值,指实测值或其计算值X对于A的相对偏差值从 到 符合要求,记为。注:当 时,可记为。例:指实测值或其计算值对于的相对偏差值从到符合要求。例1:(不含5%),指实测值或其计算值 对于 的相对偏差值超过-5%到接近但不足+5%符合要求。,2023/3/10,GB/T8170 作者:于振凡,30,即:,2023/3/10,GB/T8170 作者:于振凡,31,第二节 极限数值的判定方法 判断检验数值是否符合标准要求时,应将检验所得的测定值与与标准规定的极限数值相比较。4.3.1 比较的方法有两种:全数值比较法;修约值比较法。,2023/3/10,GB/T8170 作者:

18、于振凡,32,4.3.2全数值比较法将检验所得的测定值不经修约,直接用于与标准定的极限数值做比较。只要越出规定的极限数值都判定为不符合标准要求。例1:规定牛奶中的三氯氰胺不得高于2.5mg/L,测得一牛奶试样中的三氯氰胺含量为2.502mg/L,应判定为该牛奶中的三氯氰胺含量不合格。例2:白卡纸的白度要求 85%,测定值为84.9%,应判定为该白卡纸白度不合格。,2023/3/10,GB/T8170 作者:于振凡,33,4.3.3 修约值比较将测定值进行修约后,修约数位应与规定的极限数值数位一致,然后进行比较,以判定实际测得值是否符合标准要求。例如:白卡纸的白度要求 85%,测定值为84.62

19、%,经修约后(85%)应判定为该白卡纸白度合格。修约为84.6%(错误),2023/3/10,GB/T8170 作者:于振凡,34,由上两例可以看出:在某一具体产品标准中规定采用哪种比较法(全数值比较,修约值比较)是绝对必要的。注:修约值的标识不参与比较,若看标识实质上是全数值比较。例如:钢丝的抗拉强度应不小于695N,以测量结果的修约值与要求相比较,以确定是否合格。设测得值为694.61牛顿,修约后得695-,若不看标识判合格;设测得值为694.61牛顿,修约后得695-,若看标识判不合格(错误);,2023/3/10,GB/T8170 作者:于振凡,35,4.1.2 标准中极限数值的表示形

20、式及书写位数应适当,其有效数字应全部写出。位数应适当:在极限数值的右侧位数不应超过所用仪器读出的位数。例如:拉力仪的最小读数0.1N,不得规定钢丝的抗拉强度应不小于600.00N,1、如果规定以测量结果的全数值与要求相比较,此时读不出全数值;2、如果规定以测量结果的修约值与要求相比较,此时已无法进行修约;只能是:此规定是错误的。可以规定钢丝的抗拉强度应不小于600N;,2023/3/10,GB/T8170 作者:于振凡,36,有效数字应全部写出例:钢丝的抗拉强度不得低于600牛顿与不得低于600.0牛顿不同。第一个不同:对计量仪器的分辨力要求不同。第二个不同:设测得值为599.61牛顿,规定用

21、修约值比较,若要求不得低于600牛顿,将实测值修约为600牛顿,判合格;若要求不得低于600.0牛顿,将实测值修约为599.6牛顿,判不合格;,2023/3/10,GB/T8170 作者:于振凡,37,第三章 极限数值与仪器的分辨力的匹配一、根据极限数值选配仪器1、规定全数值比较 测量仪器的分辨力等于或小于极限值的最小数值单位。例如:对于 所选测量仪器的分辨力不得大于0.1 对于 所选测量仪器的分辨力不得大于0.012、规定修约值比较测量仪器的分辨力应小于极限值的最小数值单位。,2023/3/10,GB/T8170 作者:于振凡,38,二、根据现在使用的仪器规定极限数值1、规定全数值比较极限值的最小数值单位等于或大于测量仪器的分辨力。2、规定修约值比较 极限值的最小数值单位大于测量仪器的分辨力。,2023/3/10,GB/T8170 作者:于振凡,39,有效数字(有效数位)有效数字(有效数位)是根据实际需要指定(规定)出来的;它仅用于对极限(界限)的规定,这个规定应与计量仪器的分辨力相适应。例1:规定钢丝的抗拉强度不得低于600牛顿,三位有效数字(有效数位到个位)。例2:规定钢丝的抗拉强度不得低于600.0牛顿,四位有效数字(有效数位到小数点后一位)。例3:规定牛奶中的三氯氰胺不得高于0.03mg/L,一位有效数字(有效数位到小数点后两位)。,

展开阅读全文
相关资源
猜你喜欢
相关搜索
资源标签

当前位置:首页 > 生活休闲 > 在线阅读


备案号:宁ICP备20000045号-2

经营许可证:宁B2-20210002

宁公网安备 64010402000987号