有效数字的运算规则ppt课件.ppt

上传人:小飞机 文档编号:2083113 上传时间:2023-01-08 格式:PPT 页数:25 大小:183.50KB
返回 下载 相关 举报
有效数字的运算规则ppt课件.ppt_第1页
第1页 / 共25页
有效数字的运算规则ppt课件.ppt_第2页
第2页 / 共25页
有效数字的运算规则ppt课件.ppt_第3页
第3页 / 共25页
有效数字的运算规则ppt课件.ppt_第4页
第4页 / 共25页
有效数字的运算规则ppt课件.ppt_第5页
第5页 / 共25页
点击查看更多>>
资源描述

《有效数字的运算规则ppt课件.ppt》由会员分享,可在线阅读,更多相关《有效数字的运算规则ppt课件.ppt(25页珍藏版)》请在三一办公上搜索。

1、第六讲分析数据与处理,荆州职业技术学院纺织服装系邹筠,一、有效数字及其应用,、有效数字的意义及位数、数字修约规则、有效数字的运算规则、有效数字运算规则在分析化学实验中的应用,、有效数字的意义及位数,坩埚重18.5734克 六位有效数字 标准溶液体积24.41毫升 四位有效数字,由于万分之一的分析天平能称准至0.0001克,滴定管的读数能读准至0.01毫升,故上述坩埚重应是18.57340.0001克,标准溶液的体积应是24.410.01毫升,因此这些数值的最后一位都是可疑的,这一位数字称为“不定数字”。在分析工作中应当使测定的数值,只有最后一位是可疑的。,例如:,有效数字的位数,直接与测定的相

2、对误差有关,称得某物重为0.5180克,它表示该物实际重量是0.51800.0001克,其相对误差为:(0.0001/0.5180)100%0.02%,例,在测量准确度的范围内,有效数字位数越多,测量也越准确,如果少取一位有效数字,则表示该物实际重量是0.5180.001克,其相对误差为:(0.001/0.518)100%0.2%,哪些数据中的“0”不是有效数字?,1.0005 0.5000;31.05%;6.0231023 0.0540;1.8610-5 0.0054;0.40%0.5;0.002%,五位有效数字,四位有效数字,三位有效数字,两位有效数字,一位有效数字,在记录测量数据和计算结

3、果时,应根据所使用的仪器的准确度,必须使所保留的有效数字中,只有最后一位数是“不定数字”。,用感量为百分之一克的台秤称物体的重量,由于仪器本身能准确称到0.0l克,所以物体的重量如果是10.4克,就应写成10.40克,不能写成10.4克。,例如,遇到pH、pC、lgK等对数值,其有效数字的位数怎么算?,有效数字的位数仅取决于小数部分数字的位数,因整数部分只说明该数的方次,pH12.68,即H+2.1l0-13mol/L,其有效数字为两位,而不是四位。,例,还有什么特例?,对于非测量所得的数字,如倍数、分数、e等等,它们没有不确定性,其有效数字可视为无限多位,根据具体情况来确定。,如果有效数字位

4、数最少的因数的首位数是“8”或“9”,则有效数字可认为比这个因数多取一位。,、数字修约规则,当尾数4时将其舍去,尾数6时就进一位;如果尾数为5而后面的数为0时则看前方:前方为奇数就进位,前方为偶数则舍去;当“5”后面还有不是0的任何数时,都须向前进一位,无论前方是奇还是偶数,“0”则以偶数论,四舍六入五留双,四舍六入五留双,0.536640.5366 0.583460.5835 10.275010.28 16.405016.40 27.185027.18 18.0650118.07,例,、有效数字的运算规则,(一)加减法(二)乘除法,()加减法,当几个数据相加或相减时、它们的和或差的有效数字的

5、保留,应以小数点后位数最少,即绝对误差最大的的数据为依据。,0.012125.641.05782 0.0125.641.0626.71,例,什么叫安全数?,在大量数据的运算中。为使误差不迅速积累,对参加运算的所有数据,可以多保留一位可疑数字(多保留的这一位数字叫“安全数字”)。如计算5.2727、0.075、3.7及2.12的总和时,根据上述规则,只应保留一位小数。但在运算中可以多保留一位,故5.2727应写成5.27;0.075应写成0.08;2.12应写成2.12。因此其和为:5.27+0.08+3.7+2.1211.17然后、再根据修约规则把11.17整化成11.2。,()乘除法,几个数

6、据相乘除时,积或商的有效数字的保留,应以其中相对误差最大的那个数,即有效数字位数最少的那个数为依据。,0.012125.641.057820.012125.6 1.06 0.328,、有效数字的运算规则在分析化学实验中的应用,1根据分析仪器和分析方法的准确度正确读出和记录测定值,且只保留一位可疑数字。2在计算结果之前,先根据运算方法确定欲保留的位数,然后按照数字修约规则对各测定值进行修约,先修约,后计算。,二、有限实验数据的统计处理,、测定结果的表示、置信度与置信区间、可疑数据的取舍,、测定结果的表示,()算术平均值:数据的集中趋势()标准偏差:数据的分散程度()变异系数:,表-t分布值表 t

7、 值 P 90%95%99%99.5%f(n-1)1 6.31 12.71 63.66 127.32 2 2.92 4.30 9.92 14.98 3 2.35 3.18 5.84 7.45 4 2.13 2.78 4.60 5.60 5 2.02 2.57 4.03 4.77 6 1.94 2.45 3.71 4.32 7 1.90 2.36 3.50 4.03 8 1.86 2.31 3.35 3.83 9 1.83 2.26 3.25 3.69 10 1.81 2.23 3.17 3.58 20 1.72 2.09 2.84 3.15 30 1.70 2.04 2.75(3.01)60

8、1.67 2.00 2.66(2.87)120 1.66 1.98 2.62 2.81 1.64 1.96 2.58 2.81,、置信度与置信度区间,、可疑测定值的取舍,()Q检验法检验步骤 将测定值由小至大按顺序排列,其中可疑值为x1或xn:x1 x2 x3 xn 求舍弃商值查表。表为两种置信度下的表。若计表,则舍去可疑值;若计表,则可疑值应保留。,Q值越大,说明离群越远,远至一定程度时则应将其舍去。故Q称为舍弃商。,值计算式,可疑值取舍训练题,某人测定一溶液浓度,获得以下结果:0.2038mol/L、0.2042mol/L、0.2052mol/L、0.2392mol/L,第四个数据应否弃去

9、?结果应如何表示?若又测定了第五次,结果为0.2041mol/L,这时第四个数据可以弃去吗?(置信度为90%),表两种置信度下舍弃可疑数据的表,练 习,、甲乙二人同时分析一矿物试样中硫的质量分数时,每次称取试样3.5g,分析结果报告为;甲,0.042%;0.041%乙,0.04099%、0.04201%。问哪一份报告是合理的,为什么?2、下列数值各有几位有效数字?0.038;42.080;6.3 10-8;2.310 109;1000;200.00;pH=6.6,3、按有效数字计算下列结果:(1)231.64+4.4+0.3244(2)(3)pH=12.20 溶液的,=236.3,=2.594,=6.310-13,

展开阅读全文
相关资源
猜你喜欢
相关搜索
资源标签

当前位置:首页 > 生活休闲 > 在线阅读


备案号:宁ICP备20000045号-2

经营许可证:宁B2-20210002

宁公网安备 64010402000987号