有效数字和数据舍入规则

上传人:宝路 文档编号:47542102 上传时间:2018-07-02 格式:PPT 页数:26 大小:248.02KB
返回 下载 相关 举报
有效数字和数据舍入规则_第1页
第1页 / 共26页
有效数字和数据舍入规则_第2页
第2页 / 共26页
有效数字和数据舍入规则_第3页
第3页 / 共26页
有效数字和数据舍入规则_第4页
第4页 / 共26页
有效数字和数据舍入规则_第5页
第5页 / 共26页
点击查看更多>>
资源描述

《有效数字和数据舍入规则》由会员分享,可在线阅读,更多相关《有效数字和数据舍入规则(26页珍藏版)》请在金锄头文库上搜索。

1、 有效数字取舍规则 讲 座山东省石油助剂产品及轻烃产品监督检验中心孙建军 编制我们日常接触的数据有准确数和近似数之分。作为准确数的例子有:“这里有5只杯子”中的“5” ;“三角形的内角和为180度”中的“180”“1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的 ,有些是理论或定义中的数。一、有效数字的概念及有效位数的确定1、近似数 近似数是由可靠数和不可靠数(一般取1位)两部 分组成的。作为近似数的例子有:所有测得值和测量结果;经过修约后的任何数值;经测定得到的物理常数记录数据时,数据位数要适当。位数太少会增大 数据的误差,而太多又会对数据的准确度产生误解。

2、这一点在检定和测量时应特别注意。 1、近似数 2 有效数字对于有小数点的数,和以非0结尾的整数,从 左边第一个非零数字起到最右边的所有数字都是有 效数字。第一个非零数字前面的0不是有效数字, 但数据末尾的0是有效数字。当一个近似数所引入的误差的绝对值小于该近 似数末位数的0.5时,从该近似数左边第一个非零数 字算起,直到最后末位数为止均是有效数字。从左边第1个非零的数字起,到所截取的数位 止,所有数字均称为有效数字。如:3.1416; 3.2345;420.00;0.87130;0.00026541等都称 为五位有效数字。而123;1.23;0.00123都称为 三位有效数字。在判定有效数字时

3、,要特别注意“0”这个数字 ,它可以是有效数字,它也可以不是有效数字,如 :0.00123的前面的三个零均不是有效数字,因为这 三个0与0.00123的精确度无关。又如:870.00后面 的三个0,却是有效数字,因为这三个0与870.00的 精确度有关。若设此二数均是采用“四舍五入”法 截取所得,对于0.00123,其误差的绝对值为 0.000005,若去掉此近似数前面的三个0,则可写成 12310-5,其误差的绝对值为0.510-5,即为0.000 005,与精度无关。对待近似数时,不可象对待准确 数那样,随便去掉小数点部分右边的0,或在小数点 部分右边加上0,因为这样作的结果,虽不会改变这

4、 个数的大小,却改变了它的精确度。2 有效数字1、常数运算参加运算的常数如、e以及其他无误差的数值,其有效位数可认为是无限的,在计 算中要几位取几位。常数的取值不影响有效 位数。 二 数字运算规则2、加减运算在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比 最少的小数位多一位进行修约,再运算,结果按 小数位最少的位修约 。 例如:12.5+3.26+0.165,先将0.165化整为0.16 ,则12.5+3.26+0.165=12.5+3.26+0.16=15.9在减法运算中,应避免两个接近的值相减计 算结果,因相减后其有效数字将减少。 3、乘除运算在乘除运算中

5、,先找出有效位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。0.1211.315.24,先将15.24修约为15.2,则0.1211.315.24=0.1211.315.2=20.61=21。4、乘方与开方运算数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。5、对数运算运算结果应与真数的位数相同。例如: lg32.8=1.51587.=1.526、计算平均值时:若数据的个数较多,则平均值的保留位数可增加一倍。7、混合运算:混合运算时所有中间运算比上面的运算多保留一位。1.1修约间隔系确定修约保留位数的一种方式。修约间

6、隔的数值一经确定,修约值即应为该数值的整数倍。例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。三、 数值修约规则(GB8170-87)1、术语1.2有效位数对没有小数位且以若干个零结尾的数值,从 非零数字最左一位向右数得到的位数减去无效零 (即仅为定位用的零)的个数;对其十进位数, 从非零数字左一位向右数而得到的位数,就是有 效位数。例1:35 000,若有两个无效零,则为三位有效 数字,应写成350102 ;若有三个无效零,则为两位 有效数字,应写成351

7、03。例2:12.490为五位有效数字,10.00为四位有 效数字。1、术语2.1指定位数a.指定修约间隔为10-n(n为正整数),或 指明将数值修约到n位小数;b.指定修约间隔为1,或指明将数值修约到 个位;c.指定修约间隔为10n,或指明将数值修约 到10n(n为正整数),或指明将数值修约到“十 ”、“百”、 “千”.位数。2、确定修约位数2.2指定将数值修约成n位有效数字。3.1 拟舍弃数字的最左一位数字小于5时,则舍去, 即保留的各位数字不变。例1:将12.050001修约到一位小数,得12.1。例2:将12.498修约到两位有效数字,得12。3、进舍规则3.2 拟舍弃数字的最左一位数

8、字大5时,或者是5, 而其后跟有并非全部为0的数字时,则进1,即保留 的末位数字加1。例1:将10.502修约到个位数,得11。例2:将1268修约成三位有效数字,得12710(特 定时可写为1270)。3.3 数字的最左一位数字为5,而右边无数字或皆为0时, 若所保留的位数为奇数(1,3,5,7,9)则进一,为偶 数(0,2,4,6,8)则舍弃。例1:修约间隔为0.1(10-1)拟修约数值 修约值1.050 1.00.350 0.4例2:将下列数字修约成两位有效数字拟修约数值 修约值0.0325 0.03232500 32103(特定时可写为32000)3、进舍规则3.4 负数修约时,先将它

9、的绝对值按上述规则进行修 约,然后在修约值前面加上负号。例:将下列数字修约到十数位拟修约数值 修约值-355 -3610(特定时可写为-360)-325 -3210(特定时可写为-320)3、进舍规则4.1拟修约数字应在确定修约位数后一次修约获得结 果,而不得多次按照以上规定进行连续修约;例:修约15.4546,修约间隔为1正确做法: 15.454615错误做法: 15.454615.45515.4615.5164、 不许连续修约4.2在具体实施中,有时测试与计量部门先将获得数 值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下列 步骤进行。 4.2.1报

10、出数值最右的非零数字为5时,应在数值后面 加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。例如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50; 16.50(-),表示实际值小于16.50, 经修约进一成为16.50;4、 不许连续修约4.2.2如果判定报出值需要进行修约,当舍弃数字的 最左一位数字为5而后面无数字或皆为零时,数值后面有(+)者进一,数值后面有(-)号者舍去,其他 仍按前面规则进行。例如:将下面数字修约到个位数后进行判定(报出值多留一位到一位小数)。实测值 报出值 修约值15.4546 15.5(-) 1516.5203 16.5(+

11、) 1717.5000 17.5 18-15.4546 -(15.5(-) ) -154、 不许连续修约指定修约间隔为指定数位的0.5单位,即修约 到指定位数的0.5单位。将拟修约的数乘以2,按 指定数位依规则修约,所得数值再除以2。 5、0.5单位修约(半个单位修约)例如:将下列数字修约到个位数的0.5单位( 或修约间隔为0.5)拟修约数值 乘2 2A修约值 A修约值A 2A (修约间隔为1) (修约间隔为0.5)60.25 120.50 120 60.060.38 120.76 121 60.5-60.75 -121.50 -122 -61.0指定修约间隔为指定数位的0.2单位,即修约到指

12、 定位数的0.2单位。将拟修约的数乘以5,按指定数 位依规则修约,所得数值再除以5。例如:将下列数字修约到“百”位数的0.2单 位(或修约间隔为20)拟修约数值 乘5 5A修约值 A修约值A 5A (修约间隔为100) (修约间隔为20)830 4150 4200 840842 4210 4200 840-930 -4650 -4600 -9206、 0.2单位修约1)0.5单位修约法把拟修约位看作是个位,如果这一位和以下 的“小数位”构成的数等于或小于2.5,则把这位 变成0,其后面的数舍掉;若等于或大于7.5,则 进一位(即其左一位加1),同时把这位变成0, 其后面的数舍掉;若大于2.5小

13、于7.5,则把这位 变成5,其后面的数舍掉。例如:将下列数按0.05间隔修约原 数: 30.025 30.019 30.026 30.075 30.099修约数: 30.00 30.00 30.05 30.10 30.10 下面介绍一下0.5和0.2单位修约法的简捷方法2)0.2单位修约法首先看拟修约位是奇数还是偶数(含0),若这位 数已是偶数,则将其后面的数舍掉;若拟修约位是奇 数,且其后有不为零的数,则把这位数加1变成偶数, 其后面的数舍掉;若拟修约位是奇数,且其后面已没 有数或全为0,这时就要往左看一位,使这一位和拟修 约位构成两位“整数”,加1减1,取能被4整除的数作 为结果。 例如:

14、将下列数按0.2间隔修约原 数: 30.498 30.401 30.501 30.599 30.3 31.300修约数: 30.4 30.4 30.6 30.6 30.4 31.2下面介绍一下0.5和0.2单位修约法的简捷方法根据有效数字算 (1) 13.650.00821.6320.002(2) 703.210.354.022解答;(1)13.650.0081.6320.002 12.02812.03(2)7030.35/4.0261.261将下列数据化为4位有效数字:3.14159,14.005,0.023151,1000501解答:3.142,14.00,0.023152.31510-2

15、,1.001106。 写出下列运算结果(1) 5.1179-5.0079(2) 0.15100.1051 (3) 2/0.16解答:(l)0.1100, (2)0.1580.16,(3)39.3391)原始数据的有效数字位数须与测量仪器的精度一致:如分析天平称量应准确到0.0001g,用台秤称量时,应该 准确到0.01g。2)确定原因的可疑值应该弃去不用:操作中明显过失如称 样损失、样品溅漏等。不确定的可疑值应进行检验判断4d法(4倍平均偏差法)(1)除可疑值外,求其余数据的算术平均值 及平均偏差 (2)将可疑值与平均值 相减,若可疑值 4 ,则舍弃可疑值;若可疑值 4 ,则保留可疑值。xdxxdxd数据处理间介

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 高等教育 > 大学课件

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号