《有效数字与测量数据的预处理.ppt》由会员分享,可在线阅读,更多相关《有效数字与测量数据的预处理.ppt(7页珍藏版)》请在三一办公上搜索。
1、有效数字与测量数据的预处理,有效数字有效数字的运算测量数据的预处理,有效数字,有效数字:准确数字+可疑数字(1)有效数字仅含一位可疑数字,且与测量结果的不确定度对齐。,(2)有效数字的位数与小数点的位置、单位无关。用国际单位制、科学记数法书写时将有效数字的首位作为个位,其余作小数位。指数不计入有效数字的位数。e=1.60210-19 C四位有效数字(3)“0”在有效数字中的特殊地位,如(4)常数(如4、e等)是准确的。,有效数字的运算,四则运算:准确数字与准确数字的运算,结果是准确数字;准确数字与可疑数字的运算,结果是可疑数字。例 准确数字+准确数字=准确数字准确数字+可疑数字=可疑数字可疑数
2、字+可疑数字=可疑数字进位、借位视作准确数字。通常(1)加减法:结果的可疑位与参加运算的有效数字的可疑位靠前的位置一致;(2)乘除法:结果的有效数字位数与参加运算的有效数字中位数最少的相同;,(3)乘方、开方:结果的有效数字位数与底数的有效数字位数相同;(4)指数、对数、三角函数:结果的有效数字位数按照不确定度的传递公式确定。有效数字尾数(可疑数字)的舍入规则:可疑数字的后一位不等于5时,4舍5入,例32.66 32.7,32.64 32.6可疑数字的后一位等于5时,奇进偶舍,例32.65 32.6,32.75 32.8,测量数据的预处理,(1)粗差的判断、处理粗差偏大的偶然误差。偶然误差服从正态分布,测量的数据列x1、x2、x3、xn。若 xi的粗差偏大,剔除xi。3准则。实验者的严谨,实验环境、条件的稳定是避免粗差偏大的保证。,(2)系统误差的判断、处理系统误差具有确定性,或规律性。原因是测量器材、方法、环境、条件、人为等。分析产生的原因。依据观测要求,选择实验仪器、测量方法、观测环境。,