有效数字修约管理程序

上传人:wm****3 文档编号:42774941 上传时间:2018-06-03 格式:DOC 页数:5 大小:41KB
返回 下载 相关 举报
有效数字修约管理程序_第1页
第1页 / 共5页
有效数字修约管理程序_第2页
第2页 / 共5页
有效数字修约管理程序_第3页
第3页 / 共5页
有效数字修约管理程序_第4页
第4页 / 共5页
有效数字修约管理程序_第5页
第5页 / 共5页
亲,该文档总共5页,全部预览完了,如果喜欢就下载吧!
资源描述

《有效数字修约管理程序》由会员分享,可在线阅读,更多相关《有效数字修约管理程序(5页珍藏版)》请在金锄头文库上搜索。

1、1 目的目的 制订本标准的目的是建立有效数字的修约及运算规范,保证实验数据的运算处 理准确、可靠。2 范围范围本标准适用于检验工作中除生物检定统计法以外的各种测量或计算而得的数值的处理。3 责任责任QC 主管、检验员对本标准的实施负责。4 内容内容4.1 有效数字的基本概念有效数字的基本概念4.1.1 有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差 1 单位。4.1.2 有效数字的定位:是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置

2、可以是十进位的任何位数,用 10n来表示,n 可以是正整数,如 n=1、10110, n=2、102=100,;n 也可以是负数,如 n=-1、10-1=0.1,。4.2 有效位数有效位数4.2.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如 35000 中若有两个无效零,则为三位有效位数,应写作 350102;若有三个无效零,则为两位有效位数,应写作 35103。4.2.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如 3.2、0.32、0.032 和 0.0032 均为两位有效位

3、数,0.0320 为三位有效位数、10.00 为四位有效位数,12.490 为五位有效位数。4.2.3 非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位;常数 、e 和系数(根号 2)等数值的有效位数也可视为是无限多位。例如分子式“H2SO4”中的“2”和“4”是个数,含量测定项下“每 1ml的滴定液(0.1molL) ”中的:1”为个数, “0.1”为名义浓度,其有效位数均为无限多位;规格项下的“0.3g”或“lml:25mg”中的“0.3”、 “1”和“25”的有效位数也均为无限多位。即在计算中,其有效位数应根据其它数值的最少有效位数而定。4.

4、2.4 pH 值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。pH11.26(H+5.510-12mo1L) ,其有效位数只有两位。4.3 数值修约及其进舍规则数值修约及其进舍规则4.3.1 数值修约是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。4.3.2 修约间隔是确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如指定修约间隔为 0.1,修约值即应在 0.1 的整数倍中选取,也就是说,将数值修约到小数点后一位。4.3.3 确定修约位数的表达方式:4.3.3.1 指定数位:4.3.3.1

5、.1 指定修约间隔为 10-n(n 为正整数) ,或指明将数值修约到小数点后 n 位。4.3.3.1.2 指定修约间隔为 1,或指明将数值修约到个数位。4.3.3.1.3 指定修约间隔为 10n (n 为正整数) ,或指明将数值修约到 10n数位,或指明将数值修约到“十”、 “百”、 “千”、数位。4.3.3.1.4 指定将数值修约成 n 位有效位数(n 为正整数) 。4.3.3.2 进舍规则4.3.3.2.1 拟舍弃数字的最左一位数字小于 5 时,则舍去,即保留的各位数字不变。例 1. 将 12.1498 修约到一位小数,得 12.1。例 2. 将 12.1498 修约成两位有效位数,得 1

6、2。4.3.3.2.2 拟舍弃数字的最左一位数字大于 5,或者是 5,而其后跟有并非全部为 0 的数字时,则进一。即在保留的末位数字加 1。例 1. 将 1268 修约到百数位,得 13102。例 2. 将 1268 修约到三位有效位数,得 12710。例 3. 将 10.502 修约到个数位,得 11。4.3.3.2.3 拟舍弃数字的最左一位数字为 5,而右面无数字或皆为 0 时,若所保留的未位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8, 0)则舍弃。例 1. 修约间隔为 0.1(或 10-1)时,1. 050 修约为 1.0,0.350 修约为 0.4。例 2. 修约间隔

7、为 1000(或 103)时,2500 修约为 2103,3500 修约为 4103。例 3. 将下列数字修约成两位有效位数:0.03250 修约为 032,32500 修约为 32103。4.3.3.2.4 不许连续修约,拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。4.3.3.2.5 为便于记忆,上述进舍规则可归纳成下列口诀:四舍六入五考虑五后非零则进一五后全零看五前五前偶舍奇进一不论数字多少位都要一次修约成4.4 运算规则在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的:4.4.1 许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大

8、,因此相加减时应以诸数值中相对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。4.4.2 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。4.4.3 在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。例 1. 13.650.008231.633?本例是数值相加减,在三个数值中 13.65 的绝对误差最大,其最未一位数为百分位(小数点后二位)

9、,因此将其它各数均暂先保留至千分位,即把 0.00823 修约成0.008,1.633 不变,进行运算得 15.291,最后对计算结果进行修约,应只保留至百分位,修约结果为 15.29。例 2. 14.1310.076540.78?本例是数值相乘除,在三个数值中,0.78 的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三位有效位数进行运算,得 1.38,再修约为两位有效位数,修约结果为 1.4。例 3. 计算氧氟沙星(C18H20FN3O4, )的分子量。在诸元素的乘积中,原子数的有效位数可视作无限多位,因此可根据各原子量的有效位数对乘积进行定位;而在各乘积的相加中,由于中国兽药典规定

10、分子量的数值保留到小数点后两位,因此应将各元素的乘积修约到干分位(小数点后三位)后进行相加;再将计算结果修约到百分位,即得。12.011181.007942018.998403214.006747315.99944216.2020.158818.998403242.02024163.9976216.2020.15918.99842.02063.998361.375361.384.5 注意事项:4.5.1 正确记录检测所得的数值。应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的有效位数,检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字。4.5.2 正确掌握

11、和运用规则。不论是何种办法进行计算,都必须执行进舍规则和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。4.5.3 要根据取样的要求,选择相应的量具。4.5.3.1 “精密称定”系指称重要准确到所取重量的 0.1%,可选用分析天平或半微量分析天平;“精密量取”应选用符合国家标准的移液管;必要时应加校正值。4.5.3.2 取样量为“约”时,系指取用量不超过规定量的10% 。4.5.3.3 取样量的精度未作特殊规定时,应根据其数值的有效位数选用与之相应的量具;如规定量取 5ml、5.0ml 或 5.00ml 时,则应分别选用 510ml 的量筒、510ml 的刻度吸管或 5ml 的

12、移液管进行量取。4.5.3.4 在判定药品质量是否符合规定之前,应将全部数据根据有效数字和数值修约规则进行运算,并将计算结果修约到标准中所规定的有效位数,而后进行判定。例异戊巴比妥钠的干燥失重,规定不得超过 4.0%,今取样 1.0042g,干燥后减失重量 0.04089,请判定是否符合规定?本例为 3 个数值相乘除,其中 0.0408 的有效位数最少,为三位有效数字,以此为准。0.04081.004100.0%4.064%因药典规定的限度为不得过 4.0%,故将计算结果 4.064%修约到干分位为 4.1%,大于4.0%,应判为不符合规定(不得大于 4.0%) 。也可因本例规定限度 4.0%的有效位数为两位,故在计算过程中可暂多保留一 位(即保留三位有效数字) 。0.04081.00100%4.08%再将结果修约成两位有效数字得 4.1%,大于规定的限度 4.0%,应判为不符合规定。如将上述规定的限度改为“不得大于 4%”,而其原始数据不变则0.0411.0100%4.1%再修约成一位有效位数得 4,未超过 4%的限度,则应判为符合规定(不得大于4%) 。

展开阅读全文
相关资源
正为您匹配相似的精品文档
相关搜索

最新文档


当前位置:首页 > 生活休闲 > 社会民生

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号