实验数据处理之有效数字运算规则

上传人:豆浆 文档编号:11827243 上传时间:2017-10-15 格式:DOC 页数:3 大小:63.50KB
返回 下载 相关 举报
实验数据处理之有效数字运算规则_第1页
第1页 / 共3页
实验数据处理之有效数字运算规则_第2页
第2页 / 共3页
实验数据处理之有效数字运算规则_第3页
第3页 / 共3页
亲,该文档总共3页,全部预览完了,如果喜欢就下载吧!
资源描述

《实验数据处理之有效数字运算规则》由会员分享,可在线阅读,更多相关《实验数据处理之有效数字运算规则(3页珍藏版)》请在金锄头文库上搜索。

1、有效数字运算规则间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题。严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字。但是在没有进行不确定度估算时,可根据下列的有效数字运算法则粗略地算出结果。有效数字运算总的原则是:运算结果只保留一位(最多两位)欠准确数字。1加减运算根据不确定度合成理论,加减运算结果的不确定度,等于参与运算的各量不确定度平方和的开方,其结果大于参与运算各量中的最大不确定度。如: yxNxU2(或 y)因此,加减运算结果的有效数字的末位应与参与运算的各数据中不确定度最大的末位对齐,或根据有效数字与不确定度的关系,计算结果的欠准确数字与参与运算的各

2、数值中最先出现的欠准确数字对齐。下面例题中在数字上加一短线的为欠准确数字。【例 3】 235.1和 652.19的计算结果各应保留几位数字?【解】先观察一下具体计算过程: 53.842.1569.可见,一个数字与一个欠准确数字相加或相减,其结果必然是欠准确数字。例 3 中各数值最先出现欠准确数字的位置在小数点后第一位,按照运算结果保留一位欠准确数字的原则 3.2.12.156.9分别为三位有效数字和四位有效数字,2乘除运算乘除运算结果的相对不确定度,等于参与运算各量的相对不确定度平方和的开方,因此运算结果的相对不确定度大于参与运算各量中的最大相对不确定度。我们知道,有效数字位数越少,其相对不确

3、定度越大。所以,乘除运算结果的有效数字位数,与参与运算各量中有效数字位数最少的相同。【例 4】 1.的计算结果应保留几位数字?【解】计算过程如下:因为一个数字与一个欠准确数字相乘,其结果必然是欠准确数字。所以,由上面的运算过程可见,小数点后面第二位的“3”及其后的数字都是欠准确数字。按照保留一位欠准确数字的原则 23.1.1为三位有效数字。这与上面叙述的乘除运算法则是一致的。即在该例中,五位有效数字与1.123.三位有效数字相乘,计算结果应为三位有效数字,即与有效数字位数少的相同。除法是乘法的逆运算,取位法则与乘法相同,这里不再举例说明。对于一个间接测量,如果它是由几个直接测量值通过相乘除运算

4、而得到的,那么,在进行测量时应考虑各直接测量值的有效数字位数要基本相仿,或者说它们的相对不确定度要比较接近。如果相差悬殊,那么精度过高的测量就失去意义。3乘方、立方、开方运算运算结果的有效数字位数与底数的有效位数相同。4对数、三角函数运算前面介绍的有效数字四则运算法则,是根据不确定度合成理论和有效数字的定义总结出来的。所以,对数、三角函数的计算必须按照不确定度传递公式,先求出函数值的不确定度,然后根据测量结果最后一位数字与不确定度对齐的原则来决定有效数字。【例 5】 23068a,求 ?lnay【解】按照不确定度传递公式 07.23681ayU所以 .ln或 0.【例 6】 30,求 ?six

5、【解】由不确定度传递公式 04.1863|0co|c| Ux所以 .sin或 48.当直接测量的不确定度未给出时,上述过程也可简化为通过改变自变量末位的一个单位,观察函数运算结果的变化情况来确定其有效数字。例如 620中的“ ”是欠准确数字,由计算器运算结果为 34659.02sin, 349851.7sin,两种结果在小数点后面第四位出现了差异,所以 .i同理 395074.68ln, 218.l ,所以394.65ln但是,这种方法是较粗糙的,有时与正确结果会出现明显差异。5常数公式中的常数,如 、 e、 2等,它们的有效数字位数是无限的,运算时一般根据需要,比参与运算的其它量多取一位有效

6、数字即可。例如: 2rS, cm04.6, 取为 146.3, 22cm7.140.614.3S。3.19, 取为 ., rad2.9。应该指出的是,上述的运算规则不是绝对的。一般说来,为了避免在运算过程中因数字的取舍而引入计算误差,则在运算过程中的中间结果应多保留一位数字为妥,但最后结果仍应删去,以间接测量值最后一位数字与不确定度对齐的原则为准。上节介绍的不确定度,只能在数量级上对测量结果的可靠程度作出一个恰当的评价,因此它的数值没有必要计算得过于精确。4. 4 测量结果数字取舍规则数字的取舍采用“四舍六入五凑偶”规则,即欲舍去数字的最高位为 4 或 4 以下的数,则“舍” ;若为 6 或

7、6 以上的数,则“入” ;被舍去数字的最高位为 5 时,前一位数为奇数,则“入” ,前一位数为偶数,则“舍” ,即通过取舍,总是把前一位凑成偶数。其目的在于使“入”和“舍”的机会均等,以避免用“四舍五入”规则处理较多数据时,因入多舍少而引入计算误差。例如,将下列数据保留到小数点后第二位: 09.861., 08.45., 08.5., 08.754., 06.85.有效数字运算规则和数字取舍规则的采用,目的是保证测量结果的准确度不致因数字取舍不当而受到影响。同时,也可以避免因保留一些无意义的欠准确数字而做无用功,浪费时间和精力。现在由于计算器的应用已十分普及,计算过程多取几位数字也并不花费多少精力,不会给计算带来什么困难。但是,实验结果的正确表达仍然值得重视的,实验者应该能正确判断实验结果是几位有效数字,正确结果该怎么表示。

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 商业/管理/HR > 其它文档

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号