《数据修约_图文》由会员分享，可在线阅读，更多相关《数据修约_图文（10页珍藏版）》请在金锄头文库上搜索。
1、,数据修约规则,主讲人：程海宽,报告内容,有限数字的计位规则有效数字的运算规则,一、参考依据,数值修约规则与极限数值的表示和判定（GB/T 8170-2008） 无机及有机化学（第四版）（南京大学),二、有效数字计位规则,1、记录的仪器能测定的数据都计位，如12.56ml有效数字为4位，5.1g有效数字为2位。 2、数据中“0”是否为有效数字取决于它的作用，若作为普通数字使用，它就是有效数字，如滴定管读书20.50ml，其中两个“0”都是有效数字，若改用L表示，则写成0.02050L，这时前面两个0只是起到定位作用，不是有效数字，计改变单位并不能改变有效数字位数。当需要在位数的末尾加0做定位时
2、，需采用指数形式表示，以免有效位数含混不清。如，2.5g以mg表示时写成2.5103mg，不能写成2500mg。,二、有效数字计位规则,3、分析化学计算中常遇到分数、倍数关系，并非测定所得，可视为无限位有效数字，面对pH、lgK等对数数值，其有效数字的位数仅取决于小数部分位数，因其整数部分只代表10的方次。如，某溶液pH=5.30，即H+=5.010-6mol.L-1，其有效数字为2位而非3位。,三、有效数字的运算规则,1、修约规则1981年我国正式公布的国家标准（GB1.1-81）规定，按“四舍六入五成双”的原则修约数字。拟舍弃数字的最左一位小于5，则舍去。如12.1498修约到两位得12，
3、修约到三位得12.1。拟舍弃数字最左一位大于5，则进一。如1268修约到百位得1300。拟舍弃数字最左一位是5，且其后有非0数字时进一。如10.502修约到个位数得11。拟舍弃数字最左一位数为5，且其后无数字或皆为0时，若所保留的末位数为奇数（1、3、5、7、9）则进一，若保留数字末位数为偶数（0、2、4、6、8）则舍去。如10.25修约到一位小数则为10.2,10.35修约到一位小数得10.4。,三、有效数字的运算规则,2、运算规则 （1）加减运算 各数据及最后计算结果所保留的位数是由数据中小数点后位数最少的一个数字所决定。0.0121+22.54-0.0550=？ 答：0.01+22.54
4、-0.06=22.49 （2）乘除运算 各数据及计算结果所保留的位数取决于有效数字位数最少的那个数据。0.012125.641.0578=？ 答：0.012125.61.06=0.292 pH、pM、lgK等对数值，其有效数字位数取决于尾数部分的位数。另外在计算中遇首位数8的数据，可在运算过程中多计一位有效数字。如0.0982.可按4位有效数字对待。,三、有效数字的运算规则,3、不允许连续修约例如：15.4546，修约间隔为1。正确的为：15.4546-15不正确的为：15.454615.45515.4615.516 4、在具体实施中，有时测试与计算部门先将获得数值按指定的修约数位多一位或几位
5、报出，而后由其他部门判定。应按以下步骤进行。 4.1、报出数值最右的非零数字为5时，应在数值右上角加“+”或加“-”或不加符号，分别表示进行过舍，进或未舍未进。,三、有效数字的运算规则,例如：16.50+表示实际值大于16.50，经修约舍弃为16.50；16.50-表示实际值小于16.50，经修约进-为16.50 4.2、如对报出值需进行修约，当你舍弃数字的最左一位数字为5，且其后无数字或皆为零时，数值右上角有“+”进一，有“-”舍弃， 如：实测值 报出值 修约值15.4546 15.5- 1516.5203 16.5+ 1717.5000 17.5 18,三、有效数字的运算规则,0.011 0.11 1.11 11.1 111 1.1*103 偏差保留一位小数 相关系数只舍不进,
