有效数字修约及运算法则

《有效数字修约及运算法则》由会员分享，可在线阅读，更多相关《有效数字修约及运算法则（10页珍藏版）》请在金锄头文库上搜索。

1、1 有效数字修约与运算法则 1.有效数字的基本概念： （1）有效数字是指在检验工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 （2）有效数字的定位(数位),是指确定欠准数字的位置,这个位置确定后,其后面的数字均为无效数字。 例如，一支 25ml 的滴定管，其最小刻度为 0.1ml,如果滴定管的体积介符于 20.9ml 到21.0ml 之间,则需估计一位数字 ,读出 20.97ml,这个 7 就是个欠准的数字,这个位置确定后,它有效位数就是 4 个,即使其后面还有数字也只是无效数字。 （3）在没有小数位且以若干个零结尾的数

2、值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零) 的个数。 例如：35000，若有两个无效零，则为三位有效位数，应写作 350102 或 3.50104;若有三个无效零，则为两位有效位数，应写作 35103 或 3.5104。 （4）在其他 10 进位数中,有效数字系指从非零数字最左一位向右数而得到的位数,例如：3.2、 0.32、0.032 和 0.0032 均为两位有效位数；0.320 为三位有效位数;10.00为四位有效位数;12.490 为五位有效位数。 （5）非连续型数值：（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位。例如，H 2

3、SO4 中的 2 和 4 是个数。常数 和系数 等。数值的有效位数可视为无限多位。每 1ml滴定液（0.1mol/L）中的 0.1 为名义浓度,规格项下的 0.3g 或“1ml:25mg”中的“0.3” 、 “1”、 “25”均为标示量,其有效位数,也为无限多位。即在计算中，其有效位数应根据其他数值的最少有效位数而定。 （6）pH 值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。22 如：pH=11.26 (H+=5.510 -12mol/L),其有效数字只有两位。 （7）有效数字的首位数字为 8 或 9 时，其有效位数可以多计一位，例如:85%与 115%

4、，都可以看成是三位有效数字；99.0%与 101.0%都可以看成是四位有效数字。 2.数字的修约及其取舍规则 （1）数字修约是指拟修约数值中超出需要保留位数时的舍弃，根据舍弃数来保留最后一位数或最后几位数。 （2）修约间隔是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整倍数。例如:指定修约间隔为 0.1,修约值即应在 0.1 的整数倍中选取,也就是说,将数值修约到小数点后一位。 （3）确定修约位数的表达方式: 指定数位： 指定修约间隔为 10-n(n 为正整数)，或指明将数值修约到小数点后 n 位。 指定修约间隔为 1,或指明将数值约到个数位。 指定将数值修约成 n

5、 位有效位数(n 为正整数)。 指定修约间隔为 10n(n 为正整数)，或指明将数值修约到 10n 数位，或指明修约到“十” 、 “百”、 “千”数位。 指定将数值修约成 n 位有效位数（n 为正整数） 。 在相对标准偏差(RSD)的求算中,其有效数位应为其 1/3 值的首位(非零数字), 故通常为百分位或千分位。 进舍原则 拟舍去数字的最左一位数字少于 5 时,则舍去，即保留的各位数字不变。例如,例1，将 12.1496,修约到一位小数(十分位), 得 12.1。3 例 2，将 12.1496,修约到两位有效位数,得 12。 拟舍去数字的最左一位数字大于 5 时,或者是 5，而后跟有并非全部

6、为 0 的数字，则进一，即在保留的末位数字加 1。 例 1，将 1268,修约到百数位,得 13102。 例 2，将 1268,修约到十数位(即三位有效数字) , 得 12710。 例 3, 将 10.502 修约到个数位,得 11。 拟舍去数字的最左一位数字为 5,而右面无数字或皆为 0 时，若所保留的末位数为奇数(1,3,5,7,9) 则进一。为偶数(2,4,6,8,0)则舍弃。(留双的原则) 例 1,将 1.050 按间隔为 0.1(10-1)修约,修约值为 :1.0。 例 2,将 0.350 按间隔为 0.1(10-1)修约,修约值为 :0.4 例 3,将 2500 按间隔为 1000

7、(103)修约,修约值为:2 103。 例 4,将 3500 按间隔为 1000(103)修约,修约值为:4 103 。 例 5,将 0.0325 修约成两位有效位数,修约值为:0.032 或 3.210-2。 例 6,将 32500 修约成两位有效位数,其修约值为:3210 3。 在相对偏差(RSD)中,采用“只进不舍”的原则, 如，0.163%,如为两个有效位时,宜修约为 0.17%; 0.52%,如为一个有效位时,宜修约为 0.6%。 不许连续修约。 拟修约的数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。 例,15.4546,修约间隔 1, 正确的做法为: 15.

8、454615。 不正确的做法为：15.454615.45515.4615.516。4 为了便于记忆，上述规则可归纳成以下口缺：四舍六入五考虑，五后非零则进一，五后全零看五前，五前偶舍奇进一，不论数字多少位，都要一次修约成。 （在英、美日药典中修约均是按四舍五入进舍的。 ） 运算法则 在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的; 许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大,(即欠准数字的数位最大) 的数值为准,以确定其他数在运算中保留的数位和决定计算结果的有效数位。 许多数值相乘除时,所得的积或商的相对误差必较任何一个

9、数值的相对误差大,因此相乘除时应以诸数值中相对误差最大,(即有效位数最少) 的数值为准,确定其它数值在运算中保留的有效位数和决定计算结果的有效数位。 在运算过程中，为减少舍入误差，其他数值的修约可以暂时多保留一位，等运算到结果时，再根据有效位数弃去多余的数字。 例 1: 13.65+0.00823+1.633=? 本例是数值相加减，在三个数值中，13.65 的绝对误差最大，其最末一位数为百分位( 即小数后二位)，因此将其它各数暂先保留至千分位。即把 0.00823 修约为0.008，1.633 不变。 进行运算： 13.65+0.00823+1.63313.65+0.008+1.633=15.

10、291 然后修约至百分位,即为:15.29。 例 2: 14.1310.076540.78=? 本例是数值相乘除，在三个数值中，0.78 的有效位数最少，仅为二位有效位数，因此各数值均应暂时保留三位有效位数进行运算: 14.1310.076540.78 =14.10.07650.78=1.080.78 =1.38 再将结果修约为两位有效位数,即 1.45 例 3:计算氧氟沙星(C18H20FN3O4)的分子量: 原子数的有效位数可视为无限多位,因此可根据各原子量的有效位数对乘积进行定位.而在各乘积的相加中，则按中国药典对分子量的数值保留到小数点后两位(百分位) 的规定,因此应先将各元素的乘积修

11、约到千分位（小数点后三位）后进行相加，再将结果修约到百分位。 12.05118+1.0079420+18.9984032+14.0067473+15.99944 =216.20+20.1588+18.9984032+42.020241+63.9976 =216.20+20.159+18.998+42.020+63.998 =361.375=361.38 注意事项: 正确记录检测所得的数值 应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定, 确定数字的有效位数(或数位), 检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字。 正确掌握和运用规则进行计算时,应执行进舍规则

12、和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。 要根据取样的要求,选择相应的量具。 “精密称定 ”系指称取重量应准确到所取重量的 0.1%,根据不同的取样量而选用不同精度的天平。如需分别精密称取 5g、500mg、10mg 、样品，按 0.1%的精度要求,这三个样品应分别精确到 5mg、0.5mg 和 0.01mg,因此应分别选用万分之一（感量为0.1mg） 、十万分之一(感量为 0.01mg)和百万分之一(感量为 0.001mg)的天平进行称量。 在实际操作中,当取样量0.1g 时,则按精确至 0.1mg 称量,即应选用感量为 0.1mg 的天平称量 ；当取样量为 100

13、mg10mg 时，则按精确至 0.01mg 称量，即应选用感量为0.01mg 的天平称量 ；当取样量为 10mg 以下时，则按精确至 0.001mg 称量，即应选6用感量为 0.01mg 的天平称量 ； 但在称量基准物质时,要求0.5g 时,按精确至 0.1mg 称量; 0.5g 时,按精确至 0.01mg称量。 （要求更高） “精密量取 ”应选用符合国家标准的移液管，必要时应加校正值。 “称定 ”（或“量取”）系指称取的重量（或量取的容量）应准确至所取重量（或容量）的百分之一。 （千分之一天平） 取用量为“约”时，系指取用量不得超过规定量的 10010%。如取约 0.5g 时，可称取 0.4

14、5g0.55g。 取用量的精度未作特殊规定时,应根据其数值的有效位数选用与之相应的量具;如规定量取 5ml、5.0ml、5.00ml 时，则应分别选用 510ml 的量筒、510ml 的刻度吸管或 5ml 的移液管进行量取。 在判定药品质量是否符合规定之前，应将全部数据根据有效数字和数值修约规则进行运算，并根据中国药典 2005 年版二部“凡例” 第十四条及国家标准 GB 1250-89极限数值的表示方法和判定方法中规定的“修约值比较法” 将计算结果修约到标准中所规定的有效位，而后进行判定。 （4）可疑数据的舍弃 在测定结果中有时会有偏离平均值许多的测定值,被称为可疑数据,由于可疑数据的存在,

15、会使结果发生不应有的偏移,故对可疑数据应予以舍弃。舍弃的方法常见有三种： 四倍法：又称为 4 法或 Chauvenet 法, 其处理方法为： 除可疑数据外，求出其余数据的平均值 和平均偏差 ；nXdi1dd7 如果可疑结果与 之差的绝对值大 时,则将此数据弃去,否则保留此数据。序号 1 2 4 5 6 7 8 9 10 3测定值 i 0.785 0.788 0.778 0.784 0.780 0.787 0.782 0.780 0.785平均值 x 0.783偏差 d +0.002 +0.005 -0.005 +0.001 -0.003 -0.006 -0.001 -0.003 +0.002平均偏差 d 0.0030.8754 =40.003=0.012 =0.875-0.783=0.0924 =0.012 故数据 0.875 应该项舍弃。 Q 检验：在 310 次的测定中，仅出现一个可疑数据时，Q 检验法是一种较为合理的方法。其处理方法为： 将各测量值由小到大,依次排列,可疑数据将在序列的开头或末尾出现。 算出