有效数字的运算规则.docx

上传人:小飞机 文档编号:3580885 上传时间:2023-03-14 格式:DOCX 页数:1 大小:36.70KB
返回 下载 相关 举报
有效数字的运算规则.docx_第1页
第1页 / 共1页
亲,该文档总共1页,全部预览完了,如果喜欢就下载吧!
资源描述

《有效数字的运算规则.docx》由会员分享,可在线阅读,更多相关《有效数字的运算规则.docx(1页珍藏版)》请在三一办公上搜索。

有效数字的运算规则化验分析中,试样的组分含量,由一系列测得的原始数据经一定计算公式的算求得的。在数的运算中,一般地说,两数相加或相减,应该使它们有相同的确度;两数相乘或相除,应使它们有相同的准确度,即每一个数都保留同样位的有效数字,计算结果也是如此- 似运算中应注意以下几点。 (l)几个数相加或相减时,它们的和或差的有效数字保留的位数应以小数点位数最少的那个数字为依据。 如:O0312十23. 34十2.50381,以23. 34为依据,将其他数字按数字修约到小数点后第二位,然后相加(2)在做乘除运算的时候,有效数字的位数取决于相对误差最大的碘数字位数最小的那个数。 如:(0. 0234十4. 303 X 71. 07)/127. 5=0. 0561259 计算结果应取O056 1,即与O0234。 在运算过程中,每步运算的结果可比有效数字位数最少的那个数多保留一位。例如:O0234 X 4.303 = O1006702,这时可取O1007,继续运算。在使用电子计算器时,有人错误地认为取值位数越多据越精确,其实这会人为地制造假象而有害无益。当然,也不可少取位数而丢了能够获得的准确度。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 生活休闲 > 在线阅读


备案号:宁ICP备20000045号-2

经营许可证:宁B2-20210002

宁公网安备 64010402000987号