《数据估读与修约规则总结》由会员分享，可在线阅读，更多相关《数据估读与修约规则总结（62页珍藏版）》请在金锄头文库上搜索。
1、数值估读与修约规则2013年8月测量结果的数据处理是测量过程的最后 环节，而测量结果含有测量误差。因此，测 量结果的有效位数应保留适宜，太多会使人 误认为测量精度很高，同时也会带来计算上 的繁琐；太少则会损失测量准确度。有效数字有效数字的位数反映了测量结果的精确度，它直接与测量的位数反映了测量结果的精确度，它直接与测量 的精密度有关。因此，在科学实验和生产活动中正确记录有效的精密度有关。因此，在科学实验和生产活动中正确记录有效 数字，往往成为计量认证考核的重要内容。数字，往往成为计量认证考核的重要内容。有效数字 的重要性以某科研项目年初采购的传感器为例，倾角传感器在以某科研项目年初采购的传感器
2、为例，倾角传感器在55，可，可 保证精度保证精度0.0050.005，厂家为了体现其高分别率，输出的数据全部取，厂家为了体现其高分别率，输出的数据全部取 位到位到0.00010.0001举例存在两个问题一、精度为一、精度为0.0050.005 ，是否应该，是否应该 要像常规的读数一样估读到精要像常规的读数一样估读到精 度位数的下一位？度位数的下一位？ 二、不需要的位数应该如何舍二、不需要的位数应该如何舍 入？入？解决办法精度为精度为0.0050.005的仪器读数有的仪器读数有 效位数跟精度位数相同，不效位数跟精度位数相同，不 再显示下一位，多余位数将再显示下一位，多余位数将 其按一定原则舍入，
3、以下将其按一定原则舍入，以下将 做详细介绍。做详细介绍。可知仪器的取位问题不是越多越好，更不是无可知仪器的取位问题不是越多越好，更不是无 章可循，作为计量认证工作的重点考察项目，其具章可循，作为计量认证工作的重点考察项目，其具 有系统和规范的要求。有系统和规范的要求。拟从以下两个方面叙述：拟从以下两个方面叙述：一、量测结果有效位数的规定二、多余位数如何修约一一、量测结果有效位数的确定量测结果有效位数的确定1. 测量、测量结果测量是以确定量值为目的的一组操作。量值是由一个数（值）乘以测量单位所表示的特定量的大小。测量不可避免的存在误差，测量读数由准确数字 和可疑数字组成，仪器的精度和最小刻画所标
4、识的数 字均为可准确测度数据的最小数字，比此数字小的均 为可疑数字。2. 有效数字有效数字指在分析和测量中所能得到的有实际意 义的数字。测量结果是由有效数字组成的（前后定位 用的“0”除外）。有效数字的前几位都是准确数字，只有最后一位 是可疑数字。其由准确数字和可疑数字组成。如 1.1080， 前几位数字1、1、0、8都是称量读到的准 确数字，而最后一位数字0则是在没有刻度的情况下 估读出来的，是不准确的或者说可疑的。有效数字是处于表示测量结果的数值的不同 数位上。所有有效数字所占有的数位个数称为有 效数字位数。例如数值3.5，有两个有效数字，占 有个位、十分位两个数位，因而有效数字位数为 两
5、位；而3.501有四个有效数字，占有个位、十分 位、百分位等四个数位，因而是四位有效数字。测量结果的数字，其有效位数反映了测量结 果的精确度，它直接与测量的精密度有关。这也 是有效数字实际意义的体现，是非常重要的体现 。例如前述例子中，若测量结果为1.1080g，则 表示测量值的误差在10-4量级上，天平的精度为 万分之一；若测量结果为1.108g，则表示测量值 的误差在10-3量级上，天平的精度为千分之一。n在确定有效数字位数时应遵循下列原则：（1）数值中数字19都是有效数字。（2）数字“0”在数值中所处的位置不同，起的作用 也不同，可能是有效数字，也可能不是有效数字 。判定如下1） “0”
6、在数字前，仅起定位作用，不是有效数字。如，0.0257中， “2”前面的两个“0”均非有效数 字。 0.123、0.0123、0.00123中“1”前面的 “0”也 均非有效数字。 2）数值末尾的“0”属于有效数字。如0.5000中， “5”后面的三个“0”均为有效数字 ；0.5000中， “5”后面的一个“0”也是有效数字。 3）数值中夹在数字中间的“0”是有效数字。如数值1. 008中的两个“0”是均是有效数字； 数值8. 01中间的 “0”也是有效数字。4）以“0”结尾的正整数， “0”是不是有效数字不确定 ，应根据测试结果的准确度确定。如3600，后面的两个“0”如果不指明测量准 确度
7、就不能确定是不是有效数字。测量中遇到这种情况，最好根据实际测试结 果的精确度确定有效数字的位数，有效数字用小 数表示，把“0”用10的乘方表示。如将3600写成 3.6103表示此数有两位有效数字；写成 3.60103表示此数有三位有效数字；写成 3.600103表示此数有四位有效数字。n试看下面各数据的有效数字位数：1.0008 43383 1.0008 43383 五位有效数字五位有效数字 0.5000 20.76% 0.5000 20.76% 四位有效数字四位有效数字 0.0257 1540.0257 154 1010-10-10 三位有效数字三位有效数字53 0.0070 53 0.0
8、070 二位有效数字二位有效数字 0.02 20.02 2 1010-10-10 一位有效数字一位有效数字3600 100 3600 100 有效数字位数不定有效数字位数不定3、直接量测结果位数规定凡是用测量仪器直接测量的结果，读数一般要求凡是用测量仪器直接测量的结果，读数一般要求 在读出仪器在读出仪器最小刻度所在位的数值（可靠数字）后， 再向下估读一位（不可靠数字），这里不受有效数字这里不受有效数字 位数的限制。位数的限制。总则细则（1）最小刻度值（精度）是1、0.1、0.01的 应读到最小刻度值（精度）的下一位；（2） 最小刻度值（精度）是2、0.2、0.02、 5 、0.5、0.05的应
9、读到最小刻度值（精度）的同一 位；同一位分别按二分之一或五分之一估读，不足半 小格的舍去，超过半小格的按一个格估读。（3 3）游标卡尺不需估读，小数点位与其精度小数 点位数相当，（4）秒表读数时不需估读，单位：秒，一位小数 ；例1：刻度尺的读数读数:1.62cm = 16.2mm读数:2.00cm = 20.0mm例2：螺旋测微器的读数注意点:1）进行固定尺读数时要注意半毫米刻度线是否 已露出； 2）进行可动尺读数时要估读一位3）测量值以毫米为单位应有 3 位小数读数: 7.981mm = 0.7981cm例3：电表的读数注意点: 1) 量程 2) 要估读一位01 23V05 1015采用3V
10、量程: 2.15V采用15V量程：10.8例4.游标卡尺的读数1)分度数、精确度的确定2)读数步骤、方法测量值=主尺读数 + n精确度注意：测量值小数点位数应与精度小数点位数相当读数为： 23.7mm读数为： 61.30mm 读数为： 53.50mm 例5.秒表的读数读数为：96.4s例6.天平的读数天平平衡时，右盘中有26g砝码，游码在图中所示位置，则 被测物体质量为( )答案：26.32g（最小刻度为0.02g，不是10分度，因此只读到 0.02g这一位）。二二、数值如何修约数值如何修约数值修约（一）数值修约的概念及意义 （二）数值修约的基础知识 （三）数值修约规则及注意事项 （四）数值运
11、算修约规则1 、数值修约的概念对某一表示测量结果的数值（拟修约数）， 根据保留位数的要求，将多余的数字进行取舍， 按照一定的规则，选取一个近似数（修约数）来 代替原来的数，这一过程称为数值修约。(一) 数值修约的概念及意义2 、数值修约的意义a.出于准确表达测量结果的需要。测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多， 但具体测量的精度是确定的，最终提供的测量结果应合理反映这一点，故此，通过对计算方法和直接测量得到的数据的分析，得到合理的保留位数，以得到合理反映测量精度的测量结果就非常必要。另外，即使采用直接测量，有时在提供测量程序要求的但高于实际测
12、量精度的测量结果时也需要进行合理的数值修约。b.在进行具体的数值计算前，对参加计算的数 值进行修约，可简化计算，降低计算出错的机会。例如：4.789612.13102.4387926=?若不先进行数值修约就直接计算，繁琐且容易出 错。若在计算前先按数值修约规则进行修约，舍去多 余参与计算的数值之中没有意义的数字，则计算会简 单得多，计算也就不容易出错。a.修约间隔修约间隔:修约值的最小数值单位,又称修约区间或化 整间隔，系确定修约保留位数的一种方式。修约间隔一般 以k10n（k=1，2，5；n为整数）的形式表示，将同一 k值的修约间隔，简称为“k”间隔。修约间隔的数值一经 确定，修约值即应为该
13、数值的整数倍。例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍 中选取，相当于将数值修约到一位小数。例2：如指定修约间隔为100，修约值即应在100的整数倍 中选取，相当于将数值修约到“百”数位。（二）数值修约的基础知识b .修约数位及确定修约位数的表达方式修约时拟将拟修约数的哪一位数位后部分按修约规则舍 去，则该数位就是修约数位。数值修约时需要先明确修约数位，确定修约位数的表达 方式如下：（1） 指明具体的修约间隔。如指明将某数按0.2（210-1）修 约间隔修约、100 （1102）修约间隔修约等;（2）指定将拟修约数修约至某数位的0.1、0.2或0.5个单位;（3）指明按“k”间
14、隔将拟修约数修约为几位有效数字，或修 约至某数位。这时“1” 间隔可不必指明，但“2”间隔和“5”间隔 必须指明。（三）数值修约相关规定1.GB8170-87数值修约规则 2.通用修约方法1 、GB8170-87数值修约规则规定的修约规则 如下：1 )拟舍弃数字的最左一位数字小于5时，则舍去， 即保留的各位数字不变。例1：将12.1498修约到一位小数，得12.1。例2：将12.1498修约成两位有效位数，得12。2) 拟舍弃数字的最左一位数字大于5；或者是5，而 其后跟有并非全部为0的数字时，则进一，即保留 的末位数字加1。 例1：将1268修约到“百”数位，得13102（特定时 可写为13
15、00）。 例2：将1268修约成三位有效位数，得12710（特 定时可写为1270）。 例3：将10.502修约到个数位，得11。 注：“特定时”的涵义系指修约间隔或有效位数明确 时。3) 拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时 ，若所保留的末位数字为奇数(1,3,5,7,9）则进一，为偶 数（2,4,6,8,0）则舍弃。例1：修约间隔为0.1（或10-1)拟修约数 修约值1.050 1.0 0.350 0.4例2：修约间隔为1000（或103)拟修约数 修约值 2500 2103 （特定时可写为2000) 3500 4103 （特定时可写为4000)例3：将下列数字修约成两位有效位数拟修约数 修约值0.0325 0.032 32500 32103(特定时可写为32000)4) 负数修约时，先将它的绝对值按上述1）3）规定进行修 约
