计量及 数值 修约

《计量及 数值 修约》由会员分享，可在线阅读，更多相关《计量及 数值 修约（39页珍藏版）》请在金锄头文库上搜索。

1、计量及数据处理,计量单位,我国的法定计量单位包括： 1.国际单位制的基本单位 2.国际单位制的辅助单位: 3.国际单位制中具有专门名称的导出单位 4.国家选定的非国际单位制单位 5.由以上单位构成的组合形式的单位 6.由词头和以上单位构成的十进倍数和分数单位,计量单位,表1-1 国际单位制的基本单位,计量单位,表1-2 国际单位制的辅助单位,计量单位,表1-3 国际单位制中具有专门名称的导出单位,计量单位,表1-4 国家选定的非国际单位制单位,计量单位,表1-5 用于构成十进倍数和分数单位的词头,数值修约,一、数值修约的概念及意义 二、数值修约的基础知识 三、数值修约规则及注意事项 四、数值运

2、算规则,一、数值修约的概念及意义,测量及测量结果 数值修约的概念及意义,1. 测量、测量结果,（1）测量、测量结果 测量是以确定量值为目的的一组操作。量值是由一个数（值）乘以测量单位所表示的特定量的大小。 由测量所得的赋予被测量的值称为测量结果。 例如，用分析天平称得一个试样的质量为 1.1080g， 1.1080g就是一个测量结果。 由测量与测量结果的概念可看出，测量结果可表示如下： 测量结果=数（值）单位量值 根据误差公理，测量总是存在误差的，测量结果只能是接近于测量真值的估计值，因而表示测量结果的数（值）是含有误差的数（值）， 就是说，表示测量结果的的数值是一个近似值。,（1）数值修约的

3、概念 对某一表示测量结果的数值（拟修约数），根据保留位数的要求，将多余的数字进行取舍，按照一定的规则，选取一个近似数（修约数）来代替原来的数，这一过程称为数值修约。,2. 数值修约的概念及意义,（2）数值修约的意义 a.出于准确表达测量结果的需要。 b.在进行具体的数值计算前，对参加计算的数值进行修约，可简化计算，降低计算出错的机会。,二、数值修约的基础知识,1. 有效数字 2 修约间隔 3.修约数位及确定修约位数的表达方式,1. 有效数字,1.1有效数字 有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的（前后定位用的“0”除外）。 我们来看前面的测量结果1.1

4、080g，组成数字1、1、0、8、0都是实际测读到的，它们是表示试样质量大小的，因而都是有实际意义的。 有效数字的前几位都是准确数字，只有最后一位是可疑数字。 如前述的1.1080， 前几位数字1、1、0、8都是称量读到的准确数字，而最后一位数字0则是在没有刻度的情况下估读出来的，是不准确的或者说可疑的。,有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。 例1：数值3.5，有两个有效数字，占有个位、十分位两个数位，因而有效数字位数为两位；3.501有四个有效数字，占有个位、十分位、百分位等四个数位，因而是四位有效数字。 测量结果的数字，其有效位数反映

5、了测量结果的精确度，它直接与测量的精密度有关。这也是有效数字实际意义的体现，是非常重要的体现。 例如前述例子中，若测量结果为1.1080g，则表示测量值的误差在10-4量级上，天平的精度为万分之一；若测量结果为1.108g，则表示测量值的误差在10-3量级上，天平的精度为千分之一。,2.2 有效数字位数的确定原则 由于有效数字的位数反映了测量结果的精确度，它直接与测量的精密度有关。因此，在科学实验和生产活动中正确记录有效数字，不能多写或少写，多写了不能正确反映测量精度，则该数据不真实，因而也就不可靠；少写损失测量精度度。另外，能够正确判定表示测量结果的数中那些数字是有效数字，确定有效数字位数就

6、显得非常重要。,在确定有效数字位数时应遵循下列原则： （1）数值中数字19都是有效数字。 （2）数字“0”在数值中所处的位置不同，起的作用也不同，可能是有效数字，也可能不是有效数字。判定如下： 1） “0”在数字前，仅起定位作用，不是有效数字。 如，0.0257中， “2”前面的两个“0”均非有效数字。 0.123、0.0123、0.00123中“1”前面的 “0”也均非有效数字。,2）数值末尾的“0”属于有效数字。 如0.5000中， “5”后面的三个“0”均为有效数字；0.5000中， “5”后面的一个“0”也是有效数字。 特例：见第4）条。 3）数值中夹在数字中间的“0”是有效数字。 如

7、数值1. 008中的两个“0”是均是有效数字； 数值8. 01中间的 “0”也是有效数字。,4）以“0”结尾的正整数， “0”是不是有效数字不确定，应根据测试结果的准确度确定。 如3600，后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。 测量中遇到这种情况，最好根据实际测试结果的精确度确定有效数字的位数，有效数字用小数表示，把“0”用10的乘方表示。如将3600写成3.6103表示此数有两位有效数字；写成3.60103表示此数有三位有效数字；写成3.600103表示此数有四位有效数字。,试看下面各数据的有效数字位数： 1.0008 43383 五位有效数字 0.5000 20.

8、76% 四位有效数字 0.0257 15410-10 三位有效数字 53 0.0070 二位有效数字 0.02 210-10 一位有效数字 3600 100 有效数字位数不定,2.修约间隔,修约间隔又称修约区间或化整间隔，系确定修约保留位数的一种方式。修约间隔一般以k10n（k=1，2，5；n为整数）的形式表示，将同一k值的修约间隔，简称为“k”间隔。 修约间隔的数值一经确定，修约值即应为该数值的整数倍。 例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。,

9、3.修约数位及确定修约位数的表达方式,修约时拟将拟修约数的哪一位数位后部分按修约规则舍去，则该数位就是修约数位。 数值修约时需要先明确修约数位，确定修约位数的表达方式如下： （1 ） 指明具体的修约间隔。 如指明将某数按0.2（210-1）修约间隔修约、100 （1102）修约间隔修约等。 （2 ） 指定将拟修约数修约至某数位的0.1、0.2或0.5个单位。 （3）指明按“k”间隔将拟修约数修约为几位有效数字，或修约至某数位。这时“1” 间隔可不必指明，但“2”间隔和“5”间隔必须指明。,三、数值修约规则,1.GB/T 8170-2008数值修约规则与极限数值的表示和判定,1.GB/T 817

10、0-2008数值修约规则与极限数值的表示和判定,测量结果的数据处理是测量过程的最后环节，由于测量结果含有测量误差，测量结果的有效位数应保留适宜，太多会使人误认为测量精度很高，同时也会带来计算上的繁琐；太少则会损失测量准确度。测量、计算结果的数值应按GB/T 8170-2008数值修约规则与极限数值的表示和判定规定进行修约。,修约规则如下： 3.1 拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。 例1：将12.1498修约到一位小数，得12.1。 例2：将12.1498修约成两位有效位数，得12。,3.2 拟舍弃数字的最左一位数字大于5；或者是5，而其后跟有并非全部为0的数字时

11、，则进一，即保留的末位数字加1。 例1：将1268修约到“百”数位，得13102（特定时可写为1300）。 例2：将1268修约成三位有效位数，得12710（特定时可写为1270）。 例3：将10.502修约到个数位，得11。 注：“特定时”的涵义系指修约间隔或有效位数明确时。,3.3 拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数字为奇数(1,3,5,7,9）则进一，为偶数（2,4,6,8,0）则舍弃。 例1：修约间隔为0.1（或10-1) 拟修约数 修约值 1.050 1.0 0.350 0.4,例2：修约间隔为1000（或103) 拟修约数 修约值 2500 21

12、03 （特定时可写为2000) 3500 4103 （特定时可写为4000) 例3：将下列数字修约成两位有效位数 拟修约数 修约值 0.0325 0.032 32500 32103(特定时可写为32000),3.4 负数修约时，先将它的绝对值按上述3.1-3.3规定进行修约，然后在修约值前面加上负号。 例1：将下列数修约到“十”数位 拟修约数 修约值 -355 -3610（特定时可写为-360) -325 -3210（特定时可写为-320) 例2：将下列数修约成两位有效位数 拟修约数 修约值 -365 -3610（特定时可写为-360) -0.0365 -0.036 注：以上4条为修约间隔为“

13、1”时的修约规则。,5 0.5单位修约与0.2单位修约 必要时，可采用0.5单位修约和0.2单位修约。 5.1 0.5单位修约 将拟修约数乘以2，按指定数位依3.1-3.4规则修约，所得数再除以2。 例如：将下列数修约到个数位的0.5单位（或修约间隔为0.5） 拟修约数 乘2 2A修约值 A修约值 (A) （2A） （修约间隔为1） （修约间隔为0.5) 60.25 120.50 120 60.0 60.38 120.76 121 60.5 -60.75 -121.50 -122 -61.0,5.2 0.2单位修约 将拟修约数乘以5，按指定数位依3.1-3.4规则修约，所得数值再除以5。 例如

14、：将下列数修约到“百”数位的0.2单位（或修约间隔为20 ） 拟修约数 乘5 5A修约值 A修约值 （A） （5A）（修约间隔为100）（修约间隔为20） 830 4150 4200 840 842 4210 4200 840 -930 -4650 -4600 -920,四、数值运算规则,在一个具体的测量过程中，一般都要经过多个测量的环节，而每个测量的环节都有具体的测量数据，滴定试验时滴定前滴定管的初始读数与滴定至终点时，溶液体积的读数等。,这些测量所得的数据，在参与测量结果计算的过程中，若要修约应怎么修约 ，计算得到的结果怎么修约就是运算法则所要解决的问题。,1.加减运算 2.乘除运算 3.

15、平均值 4. 方差和标准偏差,1.加减运算 几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数值，计算结果应以绝对误差最大（即小数点后位数最少）的数据为基准，来决定计算结果数据的位数。 在实际运算过程中，各数值保留的位数比各数值中小数点后位数最少者多保留一位小数，而计算结果有效数字的位数应与效数最少的一数相同。 例如 29.2+36.582-3.0281=? 按上述规测计算如下： 29.2+36.582-3.028129.2+36.58-3.03=62.75 最后计算结果保留一位小数，为62.8。,2.乘除运算 几个数据的乘除运算以相对误差最大（即有效数字位数最少）的数值为基准来决定结果数据的位数，。 在实际运算中，先将各数值修约至比有效数字位数最少者多保留一位有效数字运算，计算结果的有效数字的位数与有效数字位数最少的数值相同。（与小数点位置无关）,例如， 0.23543828.661.8911 0.235428.661.89 =414.6707116 三个参与运算的数值的有效数字位数分别为六位、三位、六位，所以最终计算结果用三位有效数字表示，为415或4.15102。,3.平均值 计算