数据估读与修约规则总结

《数据估读与修约规则总结》由会员分享，可在线阅读，更多相关《数据估读与修约规则总结（62页珍藏版）》请在金锄头文库上搜索。

1、数值估读与修约规则数值估读与修约规则20132013年年8 8月月 测量结果的数据处理是测量过程的最后测量结果的数据处理是测量过程的最后环节，而测量结果含有测量误差。因此，测环节，而测量结果含有测量误差。因此，测量结果的有效位数应保留适宜，太多会使人量结果的有效位数应保留适宜，太多会使人误认为测量精度很高，同时也会带来计算上误认为测量精度很高，同时也会带来计算上的繁琐；太少则会损失测量准确度。的繁琐；太少则会损失测量准确度。 有效数字有效数字有效数字有效数字的位数反映了测量结果的精确度，它直接与测量的位数反映了测量结果的精确度，它直接与测量的精密度有关。因此，在科学实验和生产活动中正确记录有效

2、的精密度有关。因此，在科学实验和生产活动中正确记录有效数字，往往成为计量认证考核的重要内容。数字，往往成为计量认证考核的重要内容。有效数字有效数字的重要性的重要性 以某科研项目年初采购的传感器为例，倾角传感器在以某科研项目年初采购的传感器为例，倾角传感器在55，可，可保证精度保证精度0.0050.005，厂家为了体现其高分别率，输出的数据全部取，厂家为了体现其高分别率，输出的数据全部取位到位到0.00010.0001举例 存在两个问题存在两个问题一、精度为一、精度为0.0050.005 ，是否应该，是否应该要像常规的读数一样估读到精要像常规的读数一样估读到精度位数的下一位？度位数的下一位？二、

3、不需要的位数应该如何舍二、不需要的位数应该如何舍入？入？ 解决办法解决办法精度为精度为0.0050.005的仪器读数有的仪器读数有效位数跟精度位数相同，不效位数跟精度位数相同，不再显示下一位，多余位数将再显示下一位，多余位数将其按一定原则舍入，以下将其按一定原则舍入，以下将做详细介绍。做详细介绍。 可知仪器的取位问题不是越多越好，更不是无可知仪器的取位问题不是越多越好，更不是无章可循，作为计量认证工作的重点考察项目，其具章可循，作为计量认证工作的重点考察项目，其具有系统和规范的要求。有系统和规范的要求。 拟从以下两个方面叙述：拟从以下两个方面叙述： 一、量测结果有效位数的规定一、量测结果有效位

4、数的规定 二、多余位数如何修约二、多余位数如何修约一、量测结果有效位数的确定1. 测量、测量结果 测量测量是以确定量值为目的的一组操作。量值是由是以确定量值为目的的一组操作。量值是由一个一个数数（值）乘以测量单位所表示的特定量的大小。（值）乘以测量单位所表示的特定量的大小。 测量不可避免的存在误差，测量读数由准确数字测量不可避免的存在误差，测量读数由准确数字和可疑数字组成，仪器的精度和最小刻画所标识的数和可疑数字组成，仪器的精度和最小刻画所标识的数字均为可准确测度数据的最小数字，比此数字小的均字均为可准确测度数据的最小数字，比此数字小的均为可疑数字。为可疑数字。2. 有效数字 有效数字指在分析

5、和测量中所能得到的有实际意有效数字指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的（前后定位义的数字。测量结果是由有效数字组成的（前后定位用的用的“ “0”0”除外）。除外）。 有效数字的前几位都是准确数字，只有有效数字的前几位都是准确数字，只有最后一位最后一位是可疑数字是可疑数字。其由准确数字和可疑数字组成。如。其由准确数字和可疑数字组成。如1.10801.1080， 前几位数字前几位数字1 1、1 1、0 0、8 8都是称量读到的准都是称量读到的准确数字，而最后一位数字确数字，而最后一位数字0 0则是在没有刻度的情况下则是在没有刻度的情况下估读出来的，是不准确的或者说

6、可疑的。估读出来的，是不准确的或者说可疑的。 有效数字是处于表示测量结果的数值的不同有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为数位上。所有有效数字所占有的数位个数称为有有效数字位数效数字位数。例如数值。例如数值3.53.5，有两个有效数字，占，有两个有效数字，占有个位、十分位两个数位，因而有效数字位数为有个位、十分位两个数位，因而有效数字位数为两位；而两位；而3.5013.501有四个有效数字，占有个位、十分有四个有效数字，占有个位、十分位、百分位等四个数位，因而是四位有效数字。位、百分位等四个数位，因而是四位有效数字。 测量结果的数字，其有效位数反映了测量

7、结测量结果的数字，其有效位数反映了测量结果的精确度，它直接与测量的精密度有关。这也果的精确度，它直接与测量的精密度有关。这也是有效数字实际意义的体现，是非常重要的体现。是有效数字实际意义的体现，是非常重要的体现。 例如前述例子中，若测量结果为例如前述例子中，若测量结果为1.1080g1.1080g，则，则表示测量值的误差在表示测量值的误差在1010-4-4量级上，天平的精度为量级上，天平的精度为万分之一；万分之一；若测量结果为若测量结果为1.108g1.108g，则表示测量值，则表示测量值的误差在的误差在1010-3-3量级上，天平的精度为千分之一。量级上，天平的精度为千分之一。n n在确定有

8、效数字位数时应遵循下列原则：在确定有效数字位数时应遵循下列原则：（1 1）数值中数字）数值中数字1 19 9都是有效数字。都是有效数字。（2 2）数字）数字“ “0”0”在数值中所处的位置不同，起的作在数值中所处的位置不同，起的作用也不同，可能是有效数字，也可能不是有效数用也不同，可能是有效数字，也可能不是有效数字。判定如下字。判定如下1 1） “ “0”0”在在数字前数字前，仅起定位作用，不是有效数字。，仅起定位作用，不是有效数字。 如，如，0.02570.0257中，中， “ “2”2”前面的两个前面的两个“ “0”0”均非均非有效数字。有效数字。 0.1230.123、0.01230.0

9、123、0.001230.00123中中“ “1”1”前前面的面的 “ “0”0”也均非有效数字。也均非有效数字。2 2）数值末尾数值末尾的的“ “0”0”属于有效数字。属于有效数字。 如如0.50000.5000中，中， “ “5”5”后面的三个后面的三个“ “0”0”均为有均为有效数字；效数字；0.50000.5000中，中， “ “5”5”后面的一个后面的一个“ “0”0”也是也是有效数字。有效数字。3 3）数值中夹在）数值中夹在数字中间数字中间的的“ “0”0”是有效数字。是有效数字。 如数值如数值1. 0081. 008中的两个中的两个“ “0”0”是均是有效数字；是均是有效数字；

10、数值数值8. 018. 01中间的中间的 “ “0”0”也是有效数字。也是有效数字。 4 4）以）以“ “0”0”结尾的正整数结尾的正整数， “ “0”0”是不是有效数字是不是有效数字不确定不确定，应根据测试结果的准确度确定。，应根据测试结果的准确度确定。 如如36003600，后面的两个，后面的两个“ “0”0”如果不指明测量如果不指明测量准确度就不能确定是不是有效数字。准确度就不能确定是不是有效数字。 测量中遇到这种情况，最好根据实际测试结测量中遇到这种情况，最好根据实际测试结果的精确度确定有效数字的位数，有效数字用小果的精确度确定有效数字的位数，有效数字用小数表示，把数表示，把“ “0”

11、0”用用1010的乘方表示。如将的乘方表示。如将36003600写写成成3.6103.6103 3表示此数有两位有效数字；表示此数有两位有效数字；写成写成3.60103.60103 3表示此数有三位有效数字；表示此数有三位有效数字；写成写成3.600103.600103 3表示此数有四位有效数字。表示此数有四位有效数字。n n试看下面各数据的有效数字位数：1.0008 43383 1.0008 43383 五位有效数字五位有效数字0.5000 20.76% 0.5000 20.76% 四位有效数字四位有效数字0.0257 1540.0257 154 1010-10-10 三位有效数字三位有效数

12、字53 0.0070 53 0.0070 二位有效数字二位有效数字0.02 20.02 2 1010-10-10 一位有效数字一位有效数字3600 100 3600 100 有效数字位数不定有效数字位数不定3、直接量测结果位数规定 凡是用测量仪器直接测量的结果，读数一般要求凡是用测量仪器直接测量的结果，读数一般要求在读出仪器在读出仪器最小刻度所在位的数值（可靠数字）后，再向下估读一位（不可靠数字），这里不受有效数字这里不受有效数字位数的限制。位数的限制。 总则细则 （1）最小刻度值（精度）是1、0.1、0.01的应读到最小刻度值（精度）的下一位； （2） 最小刻度值（精度）是2、0.2、0.0

13、2、 5、0.5、0.05的应读到最小刻度值（精度）的同一位；同一位分别按二分之一或五分之一估读，不足半小格的舍去，超过半小格的按一个格估读。 （3 3）游标卡尺不需估读，小数点位与其精度小数点位数相当， （4）秒表读数时不需估读，单位：秒，一位小数； 例例1：刻度尺的读数：刻度尺的读数读数:1.62cm = 16.2mm读数:2.00cm = 20.0mm 例例2：螺旋测微器的读数：螺旋测微器的读数 注意点注意点:1）进行固定尺读数时要注意半毫米刻度线是否 已露出； 2）进行可动尺读数时要估读一位 3）测量值以毫米为单位应有 3 位小数读数:7.981mm = 0.7981cm 例例3：电表

14、的读数：电表的读数 注意点注意点: 1) 量程量程 2) 要估读一位要估读一位0 1 2 3V0 5 10 15采用3V量程: 2.15V采用15V量程：10.8例例4.4.游标卡尺的读数游标卡尺的读数1)分度数、精确度的确定2)读数步骤、方法测量值=主尺读数 + n精确度注意：测量值小数点位数应与精度小数点位数相当注意：测量值小数点位数应与精度小数点位数相当读数为： 23.7mm读数为： 61.30mm 读数为： 53.50mm 例5.秒表的读数读数为：读数为：96.4s例6.天平的读数 天平平衡时，右盘中有26g砝码，游码在图中所示位置，则被测物体质量为( )答案：26.32g（最小刻度为

15、0.02g，不是10分度，因此只读到 0.02g这一位）。二、数值如何修约数值修约（一）数值修约的概念及意义（二）数值修约的基础知识（三）数值修约规则及注意事项（四）数值运算修约规则1 1 、数值修约的数值修约的概念概念 对某一表示测量结果的数值（拟修约数），对某一表示测量结果的数值（拟修约数），根据保留位数的要求，将多余的数字进行取舍，根据保留位数的要求，将多余的数字进行取舍，按照一定的规则，选取一个近似数（修约数）来按照一定的规则，选取一个近似数（修约数）来代替原来的数，这一过程称为数值修约。代替原来的数，这一过程称为数值修约。(一) 数值修约的概念及意义2 2 、数值修约的数值修约的意义

16、意义 a.a.出于准确表达测量结果的需要。出于准确表达测量结果的需要。 测量结果大都是通过间接测量得到的，间接测量的结测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多，果通常是通过计算得出的，其组成数字往往较多， 但具但具体测量的精度是确定的，最终提供的测量结果应合理反映体测量的精度是确定的，最终提供的测量结果应合理反映这一点，故此，通过对计算方法和直接测量得到的数据的这一点，故此，通过对计算方法和直接测量得到的数据的分析，得到合理的保留位数，以得到合理反映测量精度的分析，得到合理的保留位数，以得到合理反映测量精度的测量结果就非常必要。另外，即使采用直接

17、测量，有时在测量结果就非常必要。另外，即使采用直接测量，有时在提供测量程序要求的但高于实际测量精度的测量结果时也提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。需要进行合理的数值修约。 b.b.在进行具体的数值计算前，对参加计算的数在进行具体的数值计算前，对参加计算的数值进行修约，可简化计算，降低计算出错的机会。值进行修约，可简化计算，降低计算出错的机会。 例如：例如：4.789612.13102.4387926=?4.789612.13102.4387926=? 若不先进行数值修约就直接计算，繁琐且容易出若不先进行数值修约就直接计算，繁琐且容易出错。若在计算前先按数

18、值修约规则进行修约，舍去多错。若在计算前先按数值修约规则进行修约，舍去多余参与计算的数值之中没有意义的数字，则计算会简余参与计算的数值之中没有意义的数字，则计算会简单得多，计算也就不容易出错。单得多，计算也就不容易出错。 a.a.修约间隔修约间隔 修约间隔修约间隔修约间隔修约间隔: :修约值的最小数值单位修约值的最小数值单位修约值的最小数值单位修约值的最小数值单位, ,又称修约区间或化又称修约区间或化又称修约区间或化又称修约区间或化整间隔，系确定修约保留位数的一种方式。修约间隔一般整间隔，系确定修约保留位数的一种方式。修约间隔一般整间隔，系确定修约保留位数的一种方式。修约间隔一般整间隔，系确定

19、修约保留位数的一种方式。修约间隔一般以以以以k k k k1010n n（k k k k=1=1，2 2，5 5；n n为整数）的形式表示，将同一为整数）的形式表示，将同一为整数）的形式表示，将同一为整数）的形式表示，将同一k k值的修约间隔，简称为值的修约间隔，简称为值的修约间隔，简称为值的修约间隔，简称为“k k k k”间隔。间隔。间隔。间隔。修约间隔的数值一经修约间隔的数值一经修约间隔的数值一经修约间隔的数值一经确定，修约值即应为该数值的整数倍。确定，修约值即应为该数值的整数倍。确定，修约值即应为该数值的整数倍。确定，修约值即应为该数值的整数倍。 例例例例1 1：如指定修约间隔为：如指

20、定修约间隔为：如指定修约间隔为：如指定修约间隔为0.10.1，修约值即应在，修约值即应在，修约值即应在，修约值即应在0.10.1的整数倍的整数倍的整数倍的整数倍中选取，相当于将数值修约到一位小数。中选取，相当于将数值修约到一位小数。中选取，相当于将数值修约到一位小数。中选取，相当于将数值修约到一位小数。 例例例例2 2：如指定修约间隔为：如指定修约间隔为：如指定修约间隔为：如指定修约间隔为100100，修约值即应在，修约值即应在，修约值即应在，修约值即应在100100的整数倍的整数倍的整数倍的整数倍中选取，相当于将数值修约到中选取，相当于将数值修约到中选取，相当于将数值修约到中选取，相当于将数

21、值修约到“ “百百百百” ”数位。数位。数位。数位。（二）数值修约的基础知识b .b .修约数位及修约数位及确定修约位数的表达方式确定修约位数的表达方式确定修约位数的表达方式确定修约位数的表达方式 修约时拟将拟修约数的哪一位数位后部分按修约规则舍修约时拟将拟修约数的哪一位数位后部分按修约规则舍去，则该数位就是去，则该数位就是修约数位修约数位。 数值修约时需要先明确修约数位，数值修约时需要先明确修约数位，确定修约位数的表达确定修约位数的表达确定修约位数的表达确定修约位数的表达方式如下：方式如下：方式如下：方式如下： （1 1） 指明具体的修约间隔。如指明将某数按指明具体的修约间隔。如指明将某数按

22、0.20.2（210210-1-1）修）修约间隔修约、约间隔修约、100 100 （1101102 2）修约间隔修约等）修约间隔修约等; ; （2 2）指定将拟修约数修约至某数位的）指定将拟修约数修约至某数位的0.10.1、0.20.2或或0.50.5个单位个单位; ; （3 3）指明按）指明按“k k k k”间隔间隔间隔间隔将拟修约数修约为几位有效数字，或修将拟修约数修约为几位有效数字，或修约至某数位。这时约至某数位。这时“ “1” 1” 间隔可不必指明，但间隔可不必指明，但“ “2”2”间隔和间隔和“ “5”5”间隔必须指明。间隔必须指明。（三）数值修约相关规定1.GB8170-87数值

23、修约规则2.通用修约方法1 1 、GB8170-87GB8170-87数值修约规则数值修约规则规定的修约规则规定的修约规则如下：如下：1 )1 )拟舍弃数字的最左一位数字小于拟舍弃数字的最左一位数字小于5 5时，则舍去，时，则舍去，即保留的各位数字不变。即保留的各位数字不变。例例1 1：将：将12.149812.1498修约到一位小数，得修约到一位小数，得12.112.1。例例2 2：将：将12.149812.1498修约成两位有效位数，得修约成两位有效位数，得1212。2) 2) 拟舍弃数字的最左一位数字大于拟舍弃数字的最左一位数字大于5 5；或者是；或者是5 5，而，而其后跟有并非全部为其

24、后跟有并非全部为0 0的数字时，则进一，即保留的数字时，则进一，即保留的末位数字加的末位数字加1 1。例例1 1：将：将12681268修约到修约到“ “百百” ”数位，得数位，得131013102 2（特定（特定时可写为时可写为13001300）。）。例例2 2：将：将12681268修约成三位有效位数，得修约成三位有效位数，得1271012710（特（特定时可写为定时可写为12701270）。）。例例3 3：将：将10.50210.502修约到个数位，得修约到个数位，得1111。注：注：“ “特定时特定时” ”的涵义系指修约间隔或有效位数明的涵义系指修约间隔或有效位数明确时。确时。3) 3

25、) 拟舍弃数字的最左一位数字为拟舍弃数字的最左一位数字为5 5，而右面无数字或皆为，而右面无数字或皆为0 0时，时，若所保留的末位数字为奇数若所保留的末位数字为奇数(1,3,5,7,9(1,3,5,7,9）则进一，为偶数）则进一，为偶数（2,4,6,8,02,4,6,8,0）则舍弃。）则舍弃。 例例1 1：修约间隔为：修约间隔为0.10.1（或（或1010-1-1) ) 拟修约数拟修约数 修约值修约值 1.050 1.01.050 1.0 0.350 0.40.350 0.4 例例2 2：修约间隔为：修约间隔为10001000（或（或10103 3) ) 拟修约数拟修约数 修约值修约值 250

26、0 2102500 2103 3 （特定时可写为（特定时可写为2000) 2000) 3500 410 3500 4103 3 （特定时可写为（特定时可写为4000)4000) 例例3 3：将下列数字修约成两位有效位数：将下列数字修约成两位有效位数 拟修约数拟修约数 修约值修约值 0.0325 0.032 0.0325 0.032 32500 3210 32500 32103 3( (特定时可写为特定时可写为32000)32000)4) 4) 负数修约时，先将它的绝对值按上述负数修约时，先将它的绝对值按上述1 1）33）规定进行修）规定进行修约，然后在修约值前面加上负号。约，然后在修约值前面加

27、上负号。 例例1 1：将下列数修约到：将下列数修约到“ “十十” ”数位数位 拟修约数拟修约数 修约值修约值 -355 -3610-355 -3610（特定时可写为（特定时可写为-360)-360) -325 -3210-325 -3210（特定时可写为（特定时可写为-320)-320) 例例2 2：将下列数修约成两位有效位数：将下列数修约成两位有效位数 拟修约数拟修约数 修约值修约值 -365 -3610-365 -3610（特定时可写为（特定时可写为-360)-360) -0.0365 -0.036-0.0365 -0.036 注：以上注：以上4 4条为修约间隔为条为修约间隔为“ “1”1

28、”时的修约规则。）时的修约规则。）5) 5) 0.50.5单位修约与单位修约与0.20.2单位修约单位修约 必要时，可采用必要时，可采用0.50.5单位修约和单位修约和0.20.2单位修约。单位修约。a. 0.5a. 0.5单位修约单位修约将拟修约数乘以将拟修约数乘以2 2，按指定数位依，按指定数位依1)-4)1)-4)规则修约，规则修约，所得数再除以所得数再除以2 2。例如：将下列数修约到个数位的例如：将下列数修约到个数位的0.50.5单位（或修约间单位（或修约间隔为隔为0.50.5） 拟修约数拟修约数 乘乘2 2A2 2A修约值修约值 A A修约值修约值 (A) (A) （2A2A） （修

29、约间隔为（修约间隔为1 1） （修约间隔为（修约间隔为0.5)0.5) 60.25 120.50 120 60.060.25 120.50 120 60.0 60.38 120.76 121 60.560.38 120.76 121 60.5-60.75 -121.50 -122 -61.0-60.75 -121.50 -122 -61.0b. 0.2单位修约 将拟修约数乘以5，按指定数位依1) -4)规则修约，所得数值再除以5。 例如：将下列数修约到“百”数位的0.2单位（或修约间隔为20 ） 拟修约数拟修约数 乘乘5 5A5 5A修约值修约值 A A修约值修约值 （A A） （5A5A）（

30、修约间隔为）（修约间隔为100100）（修约间隔为）（修约间隔为2020） 830 4150 4200 840830 4150 4200 840 842 4210 4200 840842 4210 4200 840 -930 -4650 -4600 -920 -930 -4650 -4600 -9202.通用数值修约方法 GB8710-87数值修约规则分别规定了“1”、 “2”和 “5”间隔的修约规则。但计算比较繁琐，对“2”和 “5”间隔的的修约还需进行计算。 这里介绍一种适用于所有修约间隔的修约方法，只需直观判断简单易行。该方法如下所述： 如果为修约间隔整数培的一系列数中，只有一个数最接近

31、于拟修约数，则该数就是修约数。 例如: n n 将1.150001按0.1修约间隔进行修约。 此时，与拟修约数1.150001邻近的为修约间隔整数倍的数有1.1和1.2（分别为修约间隔的11倍和12倍），然而只有1.2最接近于拟修约数，因此1.2 就是修约数。n n 将将1.0151.015修约至十分位的修约至十分位的0.20.2单位。单位。 修约间隔为修约间隔为0.020.02。 1.001.00和和1.021.02中，中，1.21.2最接近于拟修最接近于拟修约数，因此约数，因此1.021.02是修约数（为修约间隔的是修约数（为修约间隔的5151培）。培）。n n 将将1.25051.250

32、5按按“ “5”5”间隔修约至十分位。间隔修约至十分位。 修约间隔为修约间隔为0.50.5。 1.01.0和和1.51.5中，中，1.51.5是修约数（为修是修约数（为修约间隔的约间隔的3 3培）。培）。 如果为修约间隔整数培的一系列数中，有 连续两个数同等接近于拟修约数，则这两个数中，为修约间隔偶数培的数就是修约数。 例如:n n 将1150按100修约间隔行修约。 此时，与拟修约数1150邻近的为修约间隔整数倍的数有1100和1200（分别为修约间隔的11倍和12倍），这两个数同等接近于拟修约数，然而1200为修约间隔的偶数培（12倍），因此1200 就是修约数。n n将1.500按0.2

33、修约间隔修约。 结果为1.6。n n将1.025按“5”间隔修约三位有效数字。 结果为1.00。需要指出的是： 一个数据的修约只能进行一次，不能分次修约。例如：修约15.4546，修约间隔为1。 正确的做法： 15.454615 不正确的做法： 15.454615.45515.4615.516四、运算过程中的修约规则 在一个具体的测量过程中，一般都要经过在一个具体的测量过程中，一般都要经过多多个个测量的环节，而每个测量的环节都有具体的测测量的环节，而每个测量的环节都有具体的测量数据，如砂子表观密度测定时称量比重瓶与水、量数据，如砂子表观密度测定时称量比重瓶与水、试样的总质量，倾出试样后称量瓶与

34、水的质量；试样的总质量，倾出试样后称量瓶与水的质量；滴定试验时滴定前滴定管的初始读数与滴定至终滴定试验时滴定前滴定管的初始读数与滴定至终点时，溶液体积的读数等。点时，溶液体积的读数等。 这些测量所得的数据，在参与测量结果计算这些测量所得的数据，在参与测量结果计算的过程中，若要修约应怎么修约的过程中，若要修约应怎么修约 ，计算得到的结，计算得到的结果怎么修约就是运算法则所要解决的问题。果怎么修约就是运算法则所要解决的问题。1.加减运算2.乘除运算3.乘方和开方4.对数和反对数5.平均值6. 方差和标准偏差1.加减运算 几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数值，计算

35、结果应以绝对误差最大（即小数点后位数最少）的数据为基准，来决定计算结果数据的位数。 在实际运算过程中，各数值保留的位数比各数值中小数点后位数最少者多保留一位小数，而计算结果有效数字的位数应与效数最少的一数相同。 例如: 29.2+36.582-3.0281=? 按上述规测计算如下： 29.2+36.582-3.028129.2+36.58-3.03=62.75 最后计算结果保留一位小数，为62.8。2.乘除运算 几个数据的乘除运算以相对误差最大（即有效数字位数最少）的数值为基准来决定结果数据的位数，。 在实际运算中，先将各数值修约至比有效数字位数最少者多保留一位有效数字运算，计算结果的有效数字

36、的位数与有效数字位数最少的数值相同。（与小数点位置无关）例如: 0.23543828.661.8911 0.235428.661.89 =414.6707116 三个参与运算的数值的有效数字位数分别为六位、三位、六位，所以最终计算结果用三位有效数字表示，为415或4.15102。3.3.乘方和开方乘方和开方 乘方或开方时，原数值有几位有效数字，计乘方或开方时，原数值有几位有效数字，计算结果就可以保留几位有效数字。若计算结果还算结果就可以保留几位有效数字。若计算结果还要参与运算，则乘方或开方所得结果可比原数值要参与运算，则乘方或开方所得结果可比原数值多保留一位有效数字。多保留一位有效数字。 例如

37、：例如：3.583.582 2=12.8614=12.8614 运算结果保留三位有效数字，为运算结果保留三位有效数字，为12.912.9。 运算结果保留三位有效数字为运算结果保留三位有效数字为2.512.51。若原结。若原结 果还要参与进一步运算，则先保留为果还要参与进一步运算，则先保留为2.5062.506。 4.4.对数运算对数运算 在数值对数计算时，所取对数的小数点后的位数在数值对数计算时，所取对数的小数点后的位数（不包括首数）应与真数的有效数字位数相同。换言（不包括首数）应与真数的有效数字位数相同。换言之，对数有效数字的位数，只计小数点以后的数字的之，对数有效数字的位数，只计小数点以后

38、的数字的位数，而不计对数的整数部分。位数，而不计对数的整数部分。例如：例如：loglog（100.44100.44） = log= log（1.0044101.0044102 2） = = 2 2.0019067.0019067。最后结果应为最后结果应为2.001912.00191，结果的有效数字位数是五位，结果的有效数字位数是五位（小数后位数）而不是六位（整数位数加小数位数），（小数后位数）而不是六位（整数位数加小数位数），因整数部分只说明该数的因整数部分只说明该数的1010的方次。的方次。 5.5.平均值平均值 计算几个数值的平均值时，先将计算结果修约至计算几个数值的平均值时，先将计算结果

39、修约至比要求的位数多一位，再按数值修约规则处理。比要求的位数多一位，再按数值修约规则处理。例如：例如： 修约后平均值计算结果为修约后平均值计算结果为6.396.39。 6.6.方差和标准偏差方差和标准偏差 方差和标准偏差在运算过程中对中间结果不做修方差和标准偏差在运算过程中对中间结果不做修约，只将最后结果修约至要求的位数。约，只将最后结果修约至要求的位数。注意： 在所有计算式中，常数（在所有计算式中，常数（ 、e e等）以及非检测所等）以及非检测所得的计算因子（倍数或分数）的有效数字位数，得的计算因子（倍数或分数）的有效数字位数，可视为无限，需要几位就取几位。可视为无限，需要几位就取几位。使用

40、计算器（或电脑）进行计算时，一般不对中使用计算器（或电脑）进行计算时，一般不对中间每一步骤的计算结果进行修约，仅对最后的结间每一步骤的计算结果进行修约，仅对最后的结果进行修约，使其符合事先所确定的位数。果进行修约，使其符合事先所确定的位数。四舍六入五考虑，四舍六入五考虑，五后非零则进一，五后非零则进一， 五后皆零视奇偶，五后皆零视奇偶，五前为偶应舍去，五前为偶应舍去， 五前为奇则进一，五前为奇则进一，不论数字多少位，不论数字多少位，都要一次修约成。都要一次修约成。 进舍进舍规则总结规则总结 在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。为避免

41、产生连续修约的错误，应按下述步骤进行。1. 1. 报出数值最右的非零数字为报出数值最右的非零数字为5 5时，应在数值后面时，应在数值后面加加“ “（）（）” ”或或“ “（）（）” ”或不加符号，以分别表明或不加符号，以分别表明已进行过舍、进或未舍未进。已进行过舍、进或未舍未进。 例如例如： 16.5016.50（）表示实际值大于（）表示实际值大于16.5016.50，经修，经修约舍弃成为约舍弃成为16.5016.50； 16.5016.50（）表示实际值小于（）表示实际值小于16.5016.50，经修，经修约进一成为约进一成为16.5016.50。2. 2. 如果判定报出值需要进行修约，当拟

42、舍弃数字的如果判定报出值需要进行修约，当拟舍弃数字的最左一位数字为最左一位数字为5 5而后面无数字或皆为零时，数值而后面无数字或皆为零时，数值后面有后面有(+)(+)号者进一，数值后面有号者进一，数值后面有(-)(-)号者舍去，其号者舍去，其他仍按数字修约规则进行。他仍按数字修约规则进行。 例如例如：将下列数字修约到个数位后进行判定（报：将下列数字修约到个数位后进行判定（报出值多留一位到一位小数）。出值多留一位到一位小数）。 实测值实测值 报出值修约值报出值修约值 15.454615.4546 15.515.5（一）（一） 1515 16.520316.5203 16.516.5（）（） 17

43、17 - -17.500017.5000 - -17.517.5 - -18 18 -15.4546-15.4546 -( -(15.5(15.5(一一) ) ) -15-15特殊实例非连续型数值 个数、分数、倍数、名义浓度或标示量等是没有欠准数字的，其有效位数可视为无限多位； 常数、e和系数2，1/2 等数值的有效位数也可视为是无限多位。例如例如： 1. 1. 分子式分子式“H“H2 2S0S04 4” ”中的中的“2”“2”和和“4”“4”是个数是个数； 2. 2. 含量测定项下含量测定项下“ “每每1ml1ml的的滴定液（滴定液（0.1mol/L0.1mol/L）” ”中的中的“0.1”

44、“0.1”为名义浓度，其有效位数均为无限多位；为名义浓度，其有效位数均为无限多位； 3. 3. 规格项下的规格项下的“0.3g”“0.3g”或或“1ml “1ml ” ”，“ “25mg”25mg”中的中的“0.3”“0.3”、“1”“1”和和“25”“25”的有效位数也均为无限多位的有效位数也均为无限多位。 在计算中，其有效位数应根据其他数值的最在计算中，其有效位数应根据其他数值的最少有效位数而定。少有效位数而定。pH值 pHpH值等对数值，其有效位数是由其小数点后值等对数值，其有效位数是由其小数点后的位数决定的，其整数部分只表明其真数的乘方的位数决定的，其整数部分只表明其真数的乘方次数。次数。 例如：例如： pH=11.26(HpH=11.26(H+ +=5.510=5.510-12-12 mol/L)mol/L) 其有效位数只有两位。其有效位数只有两位。谢谢大家!