数制转换中的精度问题.ppt

上传人:sccc 文档编号:4871938 上传时间:2023-05-20 格式:PPT 页数:6 大小:112.01KB
返回 下载 相关 举报
数制转换中的精度问题.ppt_第1页
第1页 / 共6页
数制转换中的精度问题.ppt_第2页
第2页 / 共6页
数制转换中的精度问题.ppt_第3页
第3页 / 共6页
数制转换中的精度问题.ppt_第4页
第4页 / 共6页
数制转换中的精度问题.ppt_第5页
第5页 / 共6页
点击查看更多>>
资源描述

《数制转换中的精度问题.ppt》由会员分享,可在线阅读,更多相关《数制转换中的精度问题.ppt(6页珍藏版)》请在三一办公上搜索。

1、十进制换成其他进制,十进制数转换为其他进制数时,可将十进制数分为整数和小数两部分进行。,(1)整数的转换基数除法 规则:除基取余,商零为止,逆序排列。,(2)小数的转换基数乘法 规则:乘基取整,满足精度要求为止,顺序排列。,1.500 1,整数0.750 0,例 将十进制数(26.375)10 转换成二进制数,26,6 1,3 0,1 1,0 1,2,(26)10=(11010)2,2,2,1.000 1,.375,2,2,2,2,0.375,2,一直除到商为 0 为止,余数 13 0,读数顺序,读数顺序,.011,小数的精度,若求出的是有限位小数,标明已求出准确的转换小数;若求出的是无限位小

2、数,标明转换出的小数存在误差。,等精度转换;按题意要求,小数精度转换要求,设进制有 i位小数,转换后进制有 j位小数。,等精度转换,转换后应使:1-j 1-i即 i j,故,取满足不等式的最小整数,例:(0.3021)10()16,已知精度为(0.1)410,解:10,16,i4,取 j=4,0.3021 16,(4).8336 16,(13).3776 16,(6).0416 16,(0).6656,读 数 顺 序,(0.3021)10=(0.4D60)16,按题意要求,例:(0.3021)10()2,要求精度 0.1%解:,例:(0.3021)10()8,要求精度 0.01%解:,取 j=10,取 j=5,

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 建筑/施工/环境 > 农业报告


备案号:宁ICP备20000045号-2

经营许可证:宁B2-20210002

宁公网安备 64010402000987号