《有效数字和数据舍入规则》由会员分享，可在线阅读，更多相关《有效数字和数据舍入规则（26页珍藏版）》请在金锄头文库上搜索。
1、 有有效效数数字字取取舍舍规规则则 讲讲 座座山东省石油助剂产品及轻烃产品监督检验中心山东省石油助剂产品及轻烃产品监督检验中心 孙建军孙建军 编制编制 我们日常接触的数据有准确数和近似数之分。我们日常接触的数据有准确数和近似数之分。作为准确数的例子有：作为准确数的例子有： “这里有这里有5 5只杯子只杯子”中的中的“5 5” ； “三角形的内角和为三角形的内角和为180180度度”中的中的“180180” “1Wh=3600J1Wh=3600J”中的中的“36003600” 这些数之所以是准确数是因为有些是确实存在的这些数之所以是准确数是因为有些是确实存在的, ,有些是理论或定义中的数。有些是
2、理论或定义中的数。一、有效数字的概念及有效位数的确定一、有效数字的概念及有效位数的确定1 1、近似数、近似数 近似数是由可靠数和不可靠数（一般取近似数是由可靠数和不可靠数（一般取1 1位）两部位）两部分组成的。分组成的。作为近似数的例子有：作为近似数的例子有： 所有测得值和测量结果；所有测得值和测量结果； 经过修约后的任何数值；经过修约后的任何数值； 经测定得到的物理常数经测定得到的物理常数 记录数据时，数据位数要适当。位数太少会增大记录数据时，数据位数要适当。位数太少会增大数据的误差，而太多又会对数据的准确度产生误解。数据的误差，而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注
3、意。这一点在检定和测量时应特别注意。 1 1、近似数、近似数 2 2 有效数字有效数字 对于有小数点的数，和以非对于有小数点的数，和以非0 0结尾的整数，从结尾的整数，从左边第一个非零数字起到最右边的所有数字都是有左边第一个非零数字起到最右边的所有数字都是有效数字。第一个非零数字前面的效数字。第一个非零数字前面的0 0不是有效数字，不是有效数字，但数据末尾的但数据末尾的0 0是有效数字。是有效数字。 当一个近似数所引入的误差的绝对值小于该近当一个近似数所引入的误差的绝对值小于该近似数末位数的似数末位数的0.50.5时时, ,从该近似数左边第一个非零数从该近似数左边第一个非零数字算起字算起, ,
4、直到最后直到最后末位数为止均是有效数字。末位数为止均是有效数字。 从左边第从左边第1 1个非零的数字起，到所截取的数位个非零的数字起，到所截取的数位止，所有数字均称为有效数字。如：止，所有数字均称为有效数字。如：3.14163.1416；3.23453.2345；420.00420.00；0.871300.87130；0.000265410.00026541等都称等都称为五位有效数字。而为五位有效数字。而123123；1.231.23；0.001230.00123都称为都称为三位有效数字。三位有效数字。 在判定有效数字时，要特别注意在判定有效数字时，要特别注意“0”0”这个数字，这个数字，它可
5、以是有效数字，它也可以不是有效数字，如：它可以是有效数字，它也可以不是有效数字，如：0.001230.00123的前面的三个零均不是有效数字，因为这三的前面的三个零均不是有效数字，因为这三个个0 0与与0.001230.00123的精确度无关。又如：的精确度无关。又如：870.00870.00后面的后面的三个三个0 0，却是有效数字，因为这三个，却是有效数字，因为这三个0 0与与870.00870.00的精的精确度有关。若设此二数均是采用确度有关。若设此二数均是采用“四舍五入四舍五入”法截法截取所得，对于取所得，对于0.001230.00123，其误差的绝对值为，其误差的绝对值为0.00000
6、50.000005，若去掉此近似数前面的三个，若去掉此近似数前面的三个0 0，则可写成，则可写成1231012310-5-5，其误差的绝对值为，其误差的绝对值为0.5100.510-5-5，即为，即为0.000 0050.000 005，与，与精度无关。对待近似数时，不可象对待准确数那样，精度无关。对待近似数时，不可象对待准确数那样，随便去掉小数点部分右边的随便去掉小数点部分右边的0 0，或在小数点部分右边，或在小数点部分右边加上加上0 0，因为这样作的结果，虽不会改变这个数的大，因为这样作的结果，虽不会改变这个数的大小，却改变了它的精确度。小，却改变了它的精确度。 2 2 有效数字有效数字1
7、 1、常数运算、常数运算 参加运算的常数如参加运算的常数如、e e以及其他无误差以及其他无误差的数值，其有效位数可认为是无限的，在计的数值，其有效位数可认为是无限的，在计算中要几位取几位。常数的取值不影响有效算中要几位取几位。常数的取值不影响有效位数。位数。 二二 数字运算规则数字运算规则2 2、加减运算、加减运算 在加减运算中只保留各数共有的小数位数。在加减运算中只保留各数共有的小数位数。先找出先找出小数位数最少的值小数位数最少的值，然后将其它的值按比，然后将其它的值按比最少的小数位多一位进行修约，再运算，结果按最少的小数位多一位进行修约，再运算，结果按小数位最少的位修约小数位最少的位修约
8、。例如：例如：12.5+3.26+0.16512.5+3.26+0.165，先将，先将0.1650.165化整为化整为0.160.16，则，则12.5+3.26+0.165=12.5+3.26+0.16=15.912.5+3.26+0.165=12.5+3.26+0.16=15.9 在减法运算中，应避免两个接近的值相减计在减法运算中，应避免两个接近的值相减计算结果，因相减后其有效数字将减少。算结果，因相减后其有效数字将减少。 3 3、乘除运算、乘除运算 在乘除运算中，先找出在乘除运算中，先找出有效位数最少的值有效位数最少的值，将其它，将其它值按多一位有效位数进行修约，然后运算，最后按值按多一位
9、有效位数进行修约，然后运算，最后按有效位数最少的值的位数修约。有效位数最少的值的位数修约。0.120.1211.311.315.2415.24，先将，先将15.2415.24修约为修约为15.215.2，则则0.120.1211.311.315.24=0.1215.24=0.1211.311.315.2=20.61=2115.2=20.61=21。4 4、乘方与开方运算、乘方与开方运算 数据经乘方与开方运算，所得结果的有效数字数据经乘方与开方运算，所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。位数不大于该数据的位数。一般取相同的位数。5 5、对数运算、对数运算 运算结果应与真数的
10、位数相同。例如：运算结果应与真数的位数相同。例如： lg32.8=1.51587.=1.52lg32.8=1.51587.=1.526 6、计算平均值时、计算平均值时: : 若数据的个数较多若数据的个数较多, ,则平均值的保留位数可增则平均值的保留位数可增加一倍。加一倍。7 7、混合运算：、混合运算： 混合运算时所有中间运算比上面的运算多保混合运算时所有中间运算比上面的运算多保留一位。留一位。1.11.1修约间隔修约间隔 系确定修约保留位数的一种方式。修约间隔的数系确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。值一经确定，修约值即应为该数值的整数倍。 例例1
11、1：如指定修约间隔为：如指定修约间隔为0.10.1，修约值即应在，修约值即应在0.10.1的的整数倍中选取，相当于将数值修约到一位小数。整数倍中选取，相当于将数值修约到一位小数。 例例2 2：如指定修约间隔为：如指定修约间隔为100100，修约值即应在，修约值即应在100100的的整数倍中选取，相当于将数值修约到整数倍中选取，相当于将数值修约到“百百”数位。数位。三、三、 数值修约规则数值修约规则(GB8170-87)(GB8170-87)1 1、术语、术语1.21.2有效位数有效位数 对没有小数位且以若干个零结尾的数值，从对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数
12、减去无效零非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其十进位数，（即仅为定位用的零）的个数；对其十进位数，从非零数字左一位向右数而得到的位数，就是有从非零数字左一位向右数而得到的位数，就是有效位数。效位数。 例例1:35 000,1:35 000,若有两个无效零若有两个无效零, ,则为三位有效则为三位有效数字数字, ,应写成应写成35010350102 2 ; ;若有三个无效零若有三个无效零, ,则为两位则为两位有效数字有效数字, ,应写成应写成351035103 3。 例例2 2：12.49012.490为五位有效数字为五位有效数字,10.00,10.00为四位
13、有为四位有效数字。效数字。1 1、术语、术语2.12.1指定位数指定位数 a.a.指指定定修修约约间间隔隔为为1010-n-n（n n为为正正整整数数），或或指明将数值修约到指明将数值修约到n n位小数；位小数； b.b.指指定定修修约约间间隔隔为为1 1，或或指指明明将将数数值值修修约约到到个位；个位； c.c.指指定定修修约约间间隔隔为为1010n n，或或指指明明将将数数值值修修约约到到1010n n（n n为为正正整整数数），或或指指明明将将数数值值修修约约到到“十十”、“百百”、 “千千”.位数。位数。2 2、确定修约位数、确定修约位数2.22.2指定将数值修约成指定将数值修约成n
14、n位有效数字。位有效数字。3.1 3.1 拟舍弃数字的最左一位数字小于拟舍弃数字的最左一位数字小于5 5时，则舍去，时，则舍去，即保留的各位数字不变。即保留的各位数字不变。 例例1:1:将将12.05000112.050001修约到一位小数修约到一位小数, ,得得12.112.1。 例例2:2:将将12.49812.498修约到两位有效数字修约到两位有效数字, ,得得1212。3 3、进舍规则、进舍规则3.2 3.2 拟舍弃数字的最左一位数字大拟舍弃数字的最左一位数字大5 5时，或者是时，或者是5 5，而其后跟有并非全部为而其后跟有并非全部为0 0的数字时，则进的数字时，则进1 1，即保留，即
15、保留的末位数字加的末位数字加1 1。 例例1:1:将将10.50210.502修约到个位数修约到个位数, ,得得1111。 例例2:2:将将12681268修约成三位有效数字修约成三位有效数字, ,得得12710(12710(特特定时可写为定时可写为1270)1270)。3.3 3.3 数数字字的的最最左左一一位位数数字字为为5 5，而而右右边边无无数数字字或或皆皆为为0 0时时，若若所所保保留留的的位位数数为为奇奇数数（1 1，3 3，5 5，7 7，9 9）则则进进一一，为为偶偶数（数（0,20,2，4 4，6 6，8 8）则舍弃。）则舍弃。 例例1:1:修约间隔为修约间隔为0.1(100
16、.1(10-1-1) ) 拟修约数值拟修约数值 修约值修约值 1.050 1.01.050 1.0 0.350 0.4 0.350 0.4 例例2:2:将下列数字修约成两位有效数字将下列数字修约成两位有效数字 拟修约数值拟修约数值 修约值修约值 0.0325 0.0320.0325 0.032 32500 3210 32500 32103 3( (特定时可写为特定时可写为32000)32000)3 3、进舍规则、进舍规则3.4 3.4 负数修约时，先将它的绝对值按上述规则进行修负数修约时，先将它的绝对值按上述规则进行修约，然后在修约值前面加上负号。约，然后在修约值前面加上负号。 例例: :将下
17、列数字修约到十数位将下列数字修约到十数位 拟修约数值拟修约数值 修约值修约值 -355 -3610(-355 -3610(特定时可写为特定时可写为-360)-360) -325 -3210( -325 -3210(特定时可写为特定时可写为-320)-320)3 3、进舍规则、进舍规则4.14.1拟修约数字应在确定修约位数后一次修约获得结拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按照以上规定进行连续修约；果，而不得多次按照以上规定进行连续修约； 例例: :修约修约15.4546,15.4546,修约间隔为修约间隔为1 1 正确做法正确做法: 15.4546: 15.45461515
18、 错误做法错误做法: : 15.454615.45515.4615.51615.454615.45515.4615.5164 4、 不许连续修约不许连续修约4.24.2在具体实施中在具体实施中, ,有时测试与计量部门先将获得数有时测试与计量部门先将获得数值按指定的修约位数多一位或几位报出值按指定的修约位数多一位或几位报出, ,而后由其他而后由其他部门判定。为避免产生连续修约的错误，应按下列部门判定。为避免产生连续修约的错误，应按下列步骤进行。步骤进行。4.2.14.2.1报出数值最右的非零数字为报出数值最右的非零数字为5 5时时, ,应在数值后面应在数值后面加加“（+ +）”或或“（- -）”
19、或不加符号，以分别表明或不加符号，以分别表明已进行过舍、进或未舍未进。已进行过舍、进或未舍未进。 例如：例如：16.50(+)16.50(+)表示实际值大于表示实际值大于16.50,16.50,经修约经修约舍弃成为舍弃成为16.50; 16.50(-),16.50; 16.50(-),表示实际值小于表示实际值小于16.50,16.50,经修约进一成为经修约进一成为16.50;16.50;4 4、 不许连续修约不许连续修约4.2.24.2.2如果判定报出值需要进行修约如果判定报出值需要进行修约, ,当舍弃数字的当舍弃数字的最左一位数字为最左一位数字为5 5而后面无数字或皆为零时而后面无数字或皆为
20、零时, ,数值后数值后面有（面有（+ +）者进一）者进一, ,数值后面有（数值后面有（- -）号者舍去）号者舍去, ,其他其他仍按前面规则进行。仍按前面规则进行。 例如：将下面数字修约到个位数后进行判定例如：将下面数字修约到个位数后进行判定( (报报出值多留一位到一位小数出值多留一位到一位小数) )。 实测值实测值 报出值报出值 修约值修约值 15.4546 15.5(-) 1515.4546 15.5(-) 15 16.5203 16.5(+) 17 16.5203 16.5(+) 17 17.5000 17.5 18 17.5000 17.5 18 -15.4546 -( -15.4546
21、 -(15.5(-)15.5(-) ) -15) -154 4、 不许连续修约不许连续修约 指定修约间隔为指定数位的指定修约间隔为指定数位的0.50.5单位，即修约单位，即修约到指定位数的到指定位数的0.50.5单位。将拟修约的数乘以单位。将拟修约的数乘以2 2，按，按指定数位依规则修约，所得数值再除以指定数位依规则修约，所得数值再除以2 2。 5 5、0.50.5单位修约（半个单位修约）单位修约（半个单位修约） 例如：将下列数字修约到个位数的例如：将下列数字修约到个位数的0.50.5单位单位( (或修约间隔为或修约间隔为0.5)0.5) 拟修约数值拟修约数值 乘乘2 2A2 2A修约值修约值
22、 A A修约值修约值 A 2A (A 2A (修约间隔为修约间隔为1) (1) (修约间隔为修约间隔为0.5)0.5) 60.25 120.50 120 60.0 60.25 120.50 120 60.0 60.38 120.76 121 60.5 60.38 120.76 121 60.5 -60.75 -121.50 -122 -61.060.75 -121.50 -122 -61.0指定修约间隔为指定数位的指定修约间隔为指定数位的0.20.2单位，即修约到指单位，即修约到指定位数的定位数的0.20.2单位。将拟修约的数乘以单位。将拟修约的数乘以5 5，按指定数，按指定数位依规则修约，所
23、得数值再除以位依规则修约，所得数值再除以5 5。 例如：将下列数字修约到例如：将下列数字修约到“百百”位数的位数的0.20.2单单位位( (或修约间隔为或修约间隔为20)20) 拟修约数值拟修约数值 乘乘5 5A5 5A修约值修约值 A A修约值修约值 A 5A (A 5A (修约间隔为修约间隔为100) (100) (修约间隔为修约间隔为20)20) 830 4150 4200 840 830 4150 4200 840 842 4210 4200 840 842 4210 4200 840 -930 -4650 -4600 -920 -930 -4650 -4600 -9206 6、 0.
24、20.2单位修约单位修约1 1）0.50.5单位修约法单位修约法 把拟修约位看作是个位，如果这一位和以下把拟修约位看作是个位，如果这一位和以下的的“小数位小数位”构成的数等于或小于构成的数等于或小于2.52.5，则把这位，则把这位变成变成0 0，其后面的数舍掉；若等于或大于，其后面的数舍掉；若等于或大于7.57.5，则，则进一位（即其左一位加进一位（即其左一位加1 1），同时把这位变成），同时把这位变成0 0，其后面的数舍掉；若大于其后面的数舍掉；若大于2.52.5小于小于7.57.5，则把这位，则把这位变成变成5 5，其后面的数舍掉。，其后面的数舍掉。 例如：将下列数按例如：将下列数按0.0
25、50.05间隔修约间隔修约 原原 数数: 30.025 30.019 30.026 30.075 30.099: 30.025 30.019 30.026 30.075 30.099 修约数修约数: 30.00 : 30.00 30.0030.00 30.05 30.10 30.05 30.10 30.1030.10 下面介绍一下下面介绍一下0.50.5和和0.20.2单位修约法的简捷方法单位修约法的简捷方法2 2）0.20.2单位修约法单位修约法 首先看拟修约位是奇数还是偶数（含首先看拟修约位是奇数还是偶数（含0 0），若这位），若这位数已是偶数，则将其后面的数舍掉；若拟修约位是奇数已是偶数
26、，则将其后面的数舍掉；若拟修约位是奇数，且其后有不为零的数，则把这位数加数，且其后有不为零的数，则把这位数加1 1变成偶数，变成偶数，其后面的数舍掉；若拟修约位是奇数，且其后面已没其后面的数舍掉；若拟修约位是奇数，且其后面已没有数或全为有数或全为0 0，这时就要往左看一位，使这一位和拟修，这时就要往左看一位，使这一位和拟修约位构成两位约位构成两位“整数整数”，加，加1 1减减1 1，取能被，取能被4 4整除的数作整除的数作为结果。为结果。例如：将下列数按例如：将下列数按0.20.2间隔修约间隔修约 原原 数数: 30.498 30.401 30.501 30.599 30.3 31.300:
27、30.498 30.401 30.501 30.599 30.3 31.300 修约数修约数: 30.4 : 30.4 30.430.4 30.6 30.6 30.630.6 30.4 31.2 30.4 31.2下面介绍一下下面介绍一下0.50.5和和0.20.2单位修约法的简捷方法单位修约法的简捷方法根据有效数字算根据有效数字算 (1) 13.65(1) 13.650.00820.00821.6321.6320.0020.002 (2) 703.210.35 (2) 703.210.354.0224.022 解答；解答；(1)13.65(1)13.650.0080.0081.6321.63
28、20.0020.00212.02812.0312.02812.03 (2)7030.35/4.02 (2)7030.35/4.0261.26161.261将下列数据化为将下列数据化为4 4位有效数字：位有效数字： 3.141593.14159，14.00514.005，0.0231510.023151，10005011000501 解答：解答：3.1423.142，14.0014.00，0.023150.023152.315102.31510-2-2， 1.001101.001106 6。写出下列运算结果写出下列运算结果 (1) 5.1179-5.0079(1) 5.1179-5.0079 (
29、2) 0.15100.1051 (3) 2/0.16 (2) 0.15100.1051 (3) 2/0.16 解答：解答：(l)0.1100(l)0.1100， (2)0.1580.16(2)0.1580.16， (3)39.339(3)39.3391）原始数据的有效数字位数须与测量仪器的精度一致：如分析天平称量应准确到0.0001g，用台秤称量时，应该准确到0.01g。2）确定原因的可疑值应该弃去不用：操作中明显过失如称样损失、样品溅漏等。不确定的可疑值应进行检验判断4d法（4倍平均偏差法）（1）除可疑值外，求其余数据的算术平均值 及平均偏差 （2）将可疑值与平均值 相减，若可疑值 4 ，则舍弃可疑值；若可疑值 4 ，则保留可疑值。xdxxdxd数据处理间介数据处理间介
