《数值修约规则与数值判定》由会员分享，可在线阅读，更多相关《数值修约规则与数值判定（26页珍藏版）》请在金锄头文库上搜索。
1、数值修约规则与数值判定 陈 桢 1 一 有效数字 uu有效数字有效数字： 准确数字加上最后一位有实际意义的估计数字（可疑的数字）的总称 。 uu数字数字1919都是有效数字，数字都是有效数字，数字“ “0 0” ”特殊特殊 在第一位非零数字之前，不是有效数字。如 0.0002 在两个非零数字之间或所有非零数字之后，是有效数字。如 0.10400 以0结尾的正整数，不能确定有效数字位数。 如 1200？有效数字是2位时：1.2103 有效数字是3位时：1.20103 改变单位，有效数字位数不变。如 20.00mL , 0.02000L 2 一 有效数字 uu有效数字位数反映了测量结果的精确度，记
2、录数据时尾数有效数字位数反映了测量结果的精确度，记录数据时尾数 的的“ “0” 0” 不能任意增减不能任意增减 如天平称量结果为1.1080g，表示天平的精度为万分之一； 如天平称量结果为1.108g，表示天平的精度为千分之一。 3 二 有效数字运算 uu加减法：加减法：尾数对齐尾数对齐 和或差的有效数字的保留，应以和或差的有效数字的保留，应以小数点后位数最少小数点后位数最少（误差（误差 最大）的数据为依据。最大）的数据为依据。 【例】0.0121+25.64+1.05782 = ？ 0.0001 0.01 0.00001 0.0121 25.64 1.05782 0.01 25.64 1.0
3、6 26.71 4 二 有效数字运算 uu加减法：加减法：尾数对齐尾数对齐 和或差的有效数字的保留，应以和或差的有效数字的保留，应以小数点后位数最少小数点后位数最少（误差（误差 最大）的数据为依据。最大）的数据为依据。 【例】1.2210-3 + 1.0010-2 + 210-5=？ 0.122 10-2 1.00 10-2 0.002 10-2 先按指数数字最小的数，化成相同指数，再相加 0.12 10-2 1.00 10-2 0.00 10-2 1.1210-2 1.2210-3 1.0010-2 210-5 5 二 有效数字运算 uu乘除法：乘除法：位数对齐位数对齐 积或商的有效数字的保
4、留，应以积或商的有效数字的保留，应以有效数字位数最少有效数字位数最少（相对（相对 误差最大）的那个数为依据。误差最大）的那个数为依据。 【例】0.012125.641.05782 = ？ 8 0.4 0.009 0.0121 25.64 1.05782 0.0121 25.6 1.06 0.328 6 二 有效数字运算 uu乘除法：乘除法：位数对齐位数对齐 积或商的有效数字的保留，应以积或商的有效数字的保留，应以有效数字位数最少有效数字位数最少（相对（相对 误差最大）的那个数为依据。误差最大）的那个数为依据。 【例】3.2611051.78=？ 3.261105 1.78 10的幂的结果不影响
5、有效数字位数 3.26105 1.78 5.80105 7 二 有效数字运算 uu乘方乘方/ /立方立方/ /开方运算开方运算： 结果有效数字位数与底数相同结果有效数字位数与底数相同 【例】6.542 =42.8， 【例】 0.95361/2=0.9765 8 二 有效数字运算 uu公式中的常数；公式中的常数； 如如 、e e 、2 21/2 1/2等数学常数，它们的有效数字位数是无限 等数学常数，它们的有效数字位数是无限 的。的。 在运算中，计算结果有效数字位数以测量值的位数为准在运算中，计算结果有效数字位数以测量值的位数为准, , 常数多取常数多取 一位有效数字一位有效数字 【例】S =
6、r2， r = 6.042cm（有效数字为四位） 则取为3.1416（有效数字为五位） S = 3.14166.0422 = 114.7cm2 （6.0426.042=36.505764=36.51） 9 二 有效数字运算 uu个数、名义浓度、标示量、分数、倍数等没有可个数、名义浓度、标示量、分数、倍数等没有可 疑数字，其有效位数也视为无限多位；疑数字，其有效位数也视为无限多位； H2S04； 每1mL的某滴定液（0.1mol/L）； 规格“0.3g”或“1mL”或“25mg”； A是B的1/2； B是A的2倍； 10 二 有效数字运算 u对运算过程中，有效数字可暂时多保留一位，以免多次修约造
7、成误差 的累积，最后再将计算结果按修约规则修约 5.2727 + 0.075 + 3.7 + 2.12 5.27 + 0.08 + 3.7 + 2.12 = 11.17 11.2 u首位数字为8或9的数，其有效数字位数可以比实际的位数多算一位。 8.56的有效数字是4位; 9.3的有效数字是3位 upH，lgK等对数值，其有效数字的位数仅取决于小数部分数字的位数 pH=4.74和pH=11.74，即H+=1.810-5mol/L和H+=1.810-12mol/L ，它 的有效数字是2位, 4和11只起定位作用，只表示10-5和10-12 11 三 数值修约 GB/T 8170-2008 数值修
8、约规则与极限数值的表示和判定 12 四 数值修约规则 u四舍六入五留双 0.5264 0.3626 10.235 250.65 10.05 0.526 0.363 10.24 250.6 10.0 u若5后面还有非0的任何数，皆入 18.0850001 18.09 u负数修约时，先将其绝对值修约，再加负号 u不允许连续修约 15.4546 15.455 15.46 15.5 16 15.4546 15 u四舍六入五考虑， u五后非零则进一， u五后皆零视奇偶， u五前为偶应舍去， u五前为奇则进一， u不论数字多少位， u都要一次修约成。 13 四 数值修约规则 u不允许连续修约 报出数值最右
9、的非零数字为5时，应在数值右上角加“+”或“-”或不加符号 ，分别表明已进行舍，进或未舍未进。 14 四 数值修约规则 u0.5单位修约 将拟修约数值X乘以2，按指定修约间隔对2X进行修约，所得数值再除以 2。 15 四 数值修约规则 u0.2单位修约 将拟修约数值X乘以5，按指定修约间隔对5X进行修约，所得数值再除以 5。 16 应用 u修约间隔为10-1 1.050 0.35 u修约间隔为1（修约到个数位） 37.46 15.45 10.5002 u修约间隔为103 （修约到千数位） 2500 3500 u将下列数字修约到三位小数（修约间隔为10-3） - 0.0365 1010-1 41
10、0-1 37 15 11 - 3610-3 2103 4103 修约值为修 约间隔的整 数倍； 应用修约规 则。 17 应用 u有效数字位数 1.243； 8.36； 0.025； 0.1060； 2.5102； 试剂规格500mL（0.1mol/L）； u运算 0.4909 + 16.3 16.09 - 1.4013 0.350 1.436 0. 0148 10.27 4位 3位 2位 4位 2位 没有可疑数字，无限多位 0.5 + 16.3 = 16.8 16.09 1.40 = 14.61 0.350 1.44 = 0.504 0.0148 10.3 = 0.152 18 五 极限数值的
11、表示与判定 19 五 极限数值的表示与判定 GB 25190-2010 食品安全国家标准 灭菌乳 20 五 极限数值的表示与判定 GB 2763-2012 食品安全国家标准 食品农药最大残留限量 21 u带有极限偏差值的数值 五 极限数值的表示与判定 当b1=b2=b，可记为Ab。 当b1=b2=b，可记为A（1b%）。 u （不含b1和b2） u （不含b1） u （不含b2） 22 五 极限数值的表示与判定 u全数值比较法 VS 修约值比较法 u对同样的极限数值，全数值比较法比修约值比较法相对较严格。 23 u正确记录实验数据 u万分之一天平：准确至0.0001g u百分之一天平：准确至0.01g u滴定管、移液管：准确至0.01mL upH值 4.74：小数点后的数字位数为有效数字位数，准确至0.01 u标准溶液浓度：如0.1000mol/L u常数不修约 24 u分析结果有效数字的规定 u高含量（10%）组分测定，一般要求保留4位有效数字，0.1234 u中含量（ 1%10%）组分测定，一般要求保留3位有效数字，0.0123 u微量（1%）组分测定，只要求保留2位有效数字，0.0012 u误差、偏差等误差计算，通常取12位有效数字 u化学平衡的计算：保留23位有效数字 25 THANK YOU !THANK YOU ! 26
