有效数字及其与误差的关系.ppt

上传人:牧羊曲112 文档编号:6582983 上传时间:2023-11-14 格式:PPT 页数:10 大小:209.66KB
返回 下载 相关 举报
有效数字及其与误差的关系.ppt_第1页
第1页 / 共10页
有效数字及其与误差的关系.ppt_第2页
第2页 / 共10页
有效数字及其与误差的关系.ppt_第3页
第3页 / 共10页
有效数字及其与误差的关系.ppt_第4页
第4页 / 共10页
有效数字及其与误差的关系.ppt_第5页
第5页 / 共10页
点击查看更多>>
资源描述

《有效数字及其与误差的关系.ppt》由会员分享,可在线阅读,更多相关《有效数字及其与误差的关系.ppt(10页珍藏版)》请在三一办公上搜索。

3 有效数字及其与误差的关系,一、有效数字例如:对无穷小数或着循环小数,可用四舍五入的办法来取其近似值 若按四舍五入取四位小数,则可得其近似值3.1416 若取五位小数则得到其近似值为3.14159 这种近似值取法的特点是误差限为其末位的半个单位。,定义:当近似值x*的误差限是其某一位上的半个单位时,我们就称其“准确”到这一位,且从该位起直到前面第一位非零数字为止的所有数字都称为有效数字。,五位有效数字,精确到0.0001,203和0.0203都是具有三位有效数字的有效数.0.0203和0.020300:其中0.0203具有三位有效数字,精确到0.0001,0.020300具有五位有效数字,精确到0.000001.可见,两者的精确程度大不相同,后者比前者精确.注:有效数字尾部的零不可随意省去,以免损失精度.,二、有效数字与误差的关系,上式表达了有效数字与相对误差之间的关系,由此可见,有效数字的位数反映了近似值的相对精确度。,三.计算机舍入误差,注意:计算机对任何实数的舍入相对误差与实数本身无关,只与计算机字长t有关,通常定义数eps=0.51-t为计算机精度。由于计算机的精度只与字长有关,计算机字长t越大,其精度越高,有些数值要用双字长处理,双字长数据也称双精度数。,

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 生活休闲 > 在线阅读


备案号:宁ICP备20000045号-2

经营许可证:宁B2-20210002

宁公网安备 64010402000987号