数据处理-有效数字及其运算规则.ppt

上传人:牧羊曲112 文档编号:5270338 上传时间:2023-06-21 格式:PPT 页数:18 大小:408.50KB
返回 下载 相关 举报
数据处理-有效数字及其运算规则.ppt_第1页
第1页 / 共18页
数据处理-有效数字及其运算规则.ppt_第2页
第2页 / 共18页
数据处理-有效数字及其运算规则.ppt_第3页
第3页 / 共18页
数据处理-有效数字及其运算规则.ppt_第4页
第4页 / 共18页
数据处理-有效数字及其运算规则.ppt_第5页
第5页 / 共18页
点击查看更多>>
资源描述

《数据处理-有效数字及其运算规则.ppt》由会员分享,可在线阅读,更多相关《数据处理-有效数字及其运算规则.ppt(18页珍藏版)》请在三一办公上搜索。

1、任务三 数据处理,有效数字及其运算规则 授课教师:刘深勇,食品工程分院,基 础 化 学,学 习 目 标,教学内容,(一)有效数字1、有效数字的分类2、有效数字的意义3.有效数字的位数,(二)运算规则1、有效数字的修约规则2、有效数字计算规则,1、有效数字的分类实验过程中常遇到的两类数字:准确数字和实验测得到的数据1、有效数字:指实验能测量到的数字,包括所有准确数字和最后一位可疑的数字如:读取滴定管的读数为21.18mL,(一)有效数字,(一)有效数字,2、有效数字的意义:数据的位数与测定准确度有关。记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。比如:0.51800,0.5180

2、,0.518所代表的精确程度一样吗?,a.用万分之一分析天平:10.2345g,实验数据的准确性与分析测试仪器的测量精度有关:,同一试样采用不同测量精度的仪器测量,所得数据的有效数字位数不同,其中有效数字位数多的测量更精确。,准确数字,可疑数字,都是有效数字,准确数字,可疑数字,b.用精度为0.01g的天平:10.23g,如称量某一试样的质量,6位,4位,(1)记录测量值时必须且只能保留一位不确定的数字(2)非零数字都是有效数字(3)非零数字前的0不是有效数字:0.00268 3位 非零数字之间的0是有效数字:0.20068 5位 对小数,非零数字后的0是有效数字:0.26800 5位(4)数

3、字后的0含义不清楚时,最好用指数形式表示:如整数末位或末几位的0含义不明:26800?2.68104 3位;2.680104 4位;2.6800104 5位(5)常数、e及倍数、分数的有效数字位数可认为没有限制(6)首位数字大于等于8,可多计一位有效数字:95.2%4位(7)对数的有效数字位数以小数部分计:pH=10.28 2位,3、有效数字位数的确定,4改变单位,不改变有效数字的位数,如:24.01mL 24.01103 L 5其他(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字(2)分析天平(万分之一)取小数点后4位表示(3)标准溶液的浓度,用小数点后4位表示:0.1000 mol/L

4、,3,4,3,4,不确定,3,2,练习,0.1000 20.78%0.0526 3.5910-60.02 1103100 1000,答案:4位、3位、1位、位数不确定,(二)有效数字的运算规则,1修约规则,各测量值的有效数字位数确定之后,就要将它后面多余的数字舍弃。舍弃多余数字的过程,叫做“数字修约”;所遵循的规则称为“数字修约规则”(GB8170-1987)。,口诀:四要舍,六要入,五后有数要进位,五后无数(包括零)看前方,前方奇数就进位,前方偶数全舍光。,四舍六入五成双,将下列数据修约为四位有效数字 2.4374 2.4376 2.4365 2.4375 2.43651,2.437,2.4

5、38,2.436,2.438,2.437,练习,10.1 有效数字,一次修约到位,禁止分次修约,4.146,4.1,4.15,4.2,注意,2位,(1)加减运算:以各项中绝对误差最大的数为准,和或差只保留一位可疑数字,即与小数点后位数最少的数取得一致。,先修约,后计算,2运算规则,每个数据的最后一位都存在1的绝对误差,(2)乘除法:以相对误差最大的数为准,积或商只保留一位可 疑数字,即按有效数字位数最少的数进行修约和计算。,解:三个数的最后一位都存在1的绝对误差,相对误差各为:,(131816)100=0.003,计算:0.0235 20.03 3.1816=0.147946002?,(120

6、03)100=0.05,(1235)100=0.4,0.0235相对误差最大,修约时按3位有效数字计算,0.0235 20.0 3.18=0.148,注意:首位数字为8或9,可 多保留一位有效数字。,9.35 0.1856=1.736,如,(3)乘方或开方运算 原数据有几位有效数字,结果就可保留几位,若一个数的乘方或开方结果,还将参加下面的运算,则乘方或开方后的结果可多保留一位有效数字。,3.142=9.860=9.86,(4)对数运算 在对数运算中,所取对数的有效数字位数应与真数的有效数字位数相等。,例:,例:,1、下列数据各包括几位有效数字?(1)1.025(2)0.034(3)0.002

7、0(4)10.045(5)8.610-3(6)PH=2.0(7)113.0(8)39.23%(9)0.05%,4,2,2,5,2,1,4,4,1,2、根据有效数字修约规则,将下列数据修约到小数点后第三位。3.1415825 0.51949 15.454046 0.376502 7.69178 2.352568,3.142,0.519,15.454,0.377,7.692,2.353,3、按照有效数字运算规则计算下列算式:213.64+4.402+0.3244,=213.64+4.40+0.32=218.36,=最后保留4位有效数字,=最后保留2位有效数字,课堂小结,1、总结本次课重点内容及学生需要强化练习的内容2、作业:微信传送习题3、预习:误差产生的原因及减免方法,

展开阅读全文
相关资源
猜你喜欢
相关搜索
资源标签

当前位置:首页 > 生活休闲 > 在线阅读


备案号:宁ICP备20000045号-2

经营许可证:宁B2-20210002

宁公网安备 64010402000987号