有效数字和数值的修约运算及极限数值判定

《有效数字和数值的修约运算及极限数值判定》由会员分享，可在线阅读，更多相关《有效数字和数值的修约运算及极限数值判定（48页珍藏版）》请在金锄头文库上搜索。

1、有效数字和数值的修约运算 及极限数值判定,部门：质量管理部 姓名： 刘贵平 日期： 2016.02,习题,请判断有效数位 35103 盐酸氨溴索口服溶液规格100毫升0.6克 称定12g，应选用精度为多少的天平，称量范围多少？ RSD=1.42%，规定应2.0%，修约完是多少？,解决两问题,有效数位判断、数值结果修约、运算及判定 当标准提出“称g”时，应选用什么精度的天平，称样量是否符合规定（称量范围）,有效位数的判断 数值修约规则 运算规则 极限数值的判定 注意事项,基本概念,有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成

2、的数值，即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。 有效数字的定位（数位），是指确定欠准数字的位置。这个位置确定后，其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位，用10n来表示：n可以是正整数，如n=1、101=10（十数位），n=2、102=100（百数位），；n也可以是负数，如n=-1、10-1=0.1（十分位），n=-2、10-2=0.01（百分位），。,基本概念,在没有小数位且以若干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。 例：35000中若有两个无效零，则为三位有效位数，应写作35010

3、2或3.50104；若有三个无效零，则为两位有效位数，应写作35103或3.5104 。 在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例：3.2、0.32、0.032和0.0032均为两位有效位数0.320为三位有效位数10.00为四位有效位数12.490为五位有效位数,有效位数可视为无限多位的几种情况： 一、非连续型数值(如个数、分数、倍数)是没有欠准数字的，其有效位数可视为无限多位。例如分子式“H2SO4”中的“2”和“4”是个数。 二、常数，e和系数2等数值。 三、含量测定项下“每lml的滴定液(0.1molL)” 中的“0.1”为名义浓度。 四、规格项下的“0.

4、3g”或“1ml25mg”中的“0.3”、“1”和“25”为标示量，其有效位数也均为无限多位。在计算中，其有效位数应根据其他数值的最少有效位数而定。,pH值等对数值，其有效位数是由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。pH= -lg浓度值 pH= 11.26(H+=5.51012molL)。其有效位数只有两位。,有效数字的首位数字为8或9时，其有效位数可以多计一位。 例：85 三位有效位数115% 三位有效位数99.0% 四位有效数字101.0% 四位有效数字,基本定义,一、数值修约：通过省略原数值的最后若干位数字，调整所保留的末位数字，使最后所得到的值最接近原数值的过程。

5、经数值修约后的数值称为（原数值的）修约值。 二、修约间隔：指修约值的最小数值单位。修约间隔的数值一经确定，修约值即为该数值 的整数倍 。 例1：如指定修约间隔为0.1，修约值应在0.1的整数倍中选取，相当于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值应在100的整数倍中选取，相当于将数值修约到“百”数位。,确定修约间隔 一、指定修约间隔为10n(n为正整数)，或指明将数值修约到n位小数。 二、指定修约间隔为1，或指明将数值修约到“个”数位。 三、指定修约间隔为10n (n为正整数)，或指明将数值修约到10n数位，或指明将数值修约到十”、“百”、“千”数位。 四、在相对标准偏差（

6、RSD）的求算中，其有效数位应为其1/3值的首位（非零数字），故通常为百分位或千分位。,进舍规则 1、拟舍弃数字的最左一位数字小于5，则舍去，保 留其余各位数字不变。 2、拟舍弃数字的最左一位数字大于5，则进一，即保留数字的末位数字加1。 3、拟舍弃数字的最左一位数字是5，且其后有非0数字时进一，即保留数字的末位数字加1。 4、拟舍弃数字的最左一位数字为5，且其后无数字或皆为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，即保留数字的末位数字加1；若所保留的末位数字为偶数（0，2，4，6，8），则舍去。,口诀：四舍六入五考虑，五后非零则进一，五后全零看五前，五前偶舍奇进一，不论数字

7、多少位，都要一次修约成。,习题,12.1498修约到一位小数 12.1 12.1498修约成两位有效位数12 将1268修约到百数位13102,习题,将1268修约到三位有效位数 12710 将10.502修约到个数位 11 1.050修约间隔为0.1(或101) 1.0,习题,按照修约间隔为1000(或103) 25002103 3500 4103,习题,修约成两位有效位数 0.0325 0.032 32500 32103,RSD修约 只进不舍（只要后面有任何数值都往前进1位，除了0）0.163% 修约成2位有效数位0.17%0.52% 修约成十分位0.6%,不允许连续修约 拟修约数字应在确

8、定修约间隔或指定修约数位后一次修约获得结果，而不得多次连续修约。 例1：修约97.46，修约间隔为l 正确的做法：97.4697 不正确的做法：97.4697.598例2：修约15.4546，修约间隔为l 正确的做法：15.454615 不正确的做法：15.454615.45515.4615.516,报出数值最右的非零数字为5时，应在数值右上角加“”或加“”或不加符号，分别表明已进行过舍，进或未舍未进。 如：16.50表示实际值大于16.50，经修约舍弃为16.50；16.50表示实际值小于16.50，经修约进一为16.50。,如对报出值需进行修约，当拟舍弃数字的最左一位数字为5，且其后无数字

9、或皆为零时，数值右上角有“”者进一，有“”者舍去，其他仍按修约规则进行。 如：将下列数字修约到个数位（报出值多留一位至一位小数）。 实测值 报出值 修约值 15.4546 15.5 15-11.4563 -11.5 -1116.5203 16.5 17 17.5000 17.5 18,0.5单位修约与0.2单位修约,0.5单位修约（半个单位修约） 0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。 将拟修约数值X乘以2，按指定修约间隔对2X依修约规则修约，所得数值（2X修约值）再除以2。 如：将下列数字修约到“个”数位的0.5单位修约 拟修约数值X 2X 2X修约值 X修约值

10、 60.25 120.50 120 60.0 60.38 120.76 121 60.5 - 60.75 -121.50 -122 -61.0,0.5单位修约与0.2单位修约,0.2单位修约 0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。 将拟修约数值X乘以5，按指定修约间隔对5X依修约规则修约，所得数值（5X修约值）再除以5。 如：将下列数字修约到“百”数位的0.2单位修约 拟修约数值X 5X 5X修约值 X修约值 830 4150 4200 840 842 4210 4200 840 - 930 -4650 -4600 -920,熔点,两种修约方式： 按修约间隔1修约

11、按修约间隔0.5修约,熔点,一、按修约间隔1修约 当指标定位为个位数时，如薄荷脑熔点“4244” 四舍六入五成双 例：标准规定应为4244实测数值42.543.2结果修约4243,熔点,二、按修约间隔0.5修约 当指标定位为个位数时，如苯甲酸熔点“121124.5” 0.10.2舍去，0.80.9进位；0.30.7修约为0.5； 例：标准规定应为121124.5 实测数值121.6123.2结果修约121.5123,相加减时以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准相乘除时以诸数值中相对误差最大(即有效位数最少)的数值为准,在运算过程中，为减少舍入误差，其它数值的修约可以暂时多保

12、留一位，等运算得到结果时，再根据有效位数弃去多余的数字。 3步走： 一、判定有效数位二、过程多保留位三、结果修约,13.65+0.00823+1.633=? 一、判定有效数位： 绝对误差最大 13.65 百分位 二、其它各数均暂先保留至千分位 三、结果修约至有效数位,13.65+0.00823+1.633 13.65+0.008+1.633 15.291 15.29,14.1310.076540.78=? 一、判定有效数位： 相对误差最大/有效位数最少 0.78 两位有效位数 二、其它各数均暂先保留三位有效位数 三、结果修约至有效数位,14.1310.076540.78 = 14.10.076

13、50.78 = 1.38 = 1.4,计算氧氟沙星(C18H20FN3O4)的分子量 12.01118+1.0079420+18.9984032+14.0067473+15.99944 =216.20+20.1588+18.9984032+42.020241+63.9976=216.20+20.159+18.998+42.020+63.998 =361.375 =361.38,单种运算时才能直接判断结果有效位或位数。,乘法后：各自保留相应位数,加法前：保留至千分位,结果修约：百分位,定义,极限数值：标准（或技术规范）中规定考核的以数量形式给出且符合该标准（或技术规范）要求的指标数值范围的界限值

14、。,在判定测定值或其计算值是否符合标准要求时，应将测试所得的测定值或其计算值与标准规定的极限数值作比较，比较方法有：1、全数值比较法 2、修约值比较法a、当标准或有关文件中，若对极限数值（包括带有极限偏差值的数值）无特殊规定时，均应使用全数值比较法。如规定采用修约值比较法，应在标准中加以说明。b、比较方法一经确定，不得改动。c、对同样的极限数值，若它本身符合要求，则全数值比较法比修约值比较法相对较严格。,全数值比较法：将测试所得的测定值或计算值不经修约处理（或虽经修约处理，但应标明它是经舍、进或未进未舍而得），用该数值与规定的极限数值作比较，只要超出极限数值规定的范围（不论超出程度大小），都判

15、定为不符合要求。,修约值比较法：将测定值或其计算值进行修约，修约数位应与规定的极限数值数位一致。 当测试或计算精度允许时，应先将获得的数值按规定的修约数位多一位或几位报出，然后按修约规则修约至规定的数位。 将修约后的数值与规定的极限数值作比较，只要超出极限数值规定的范围（不论超出程度大小），都判定为不符合要求。详见示例,一、正确记录检测所得的数值。应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定，确定数字的有效位数（或数位），检测值必须与测量的准确度相符合，记录全部准确数字和一位欠准数字。,二、正确掌握和运用规则进行计算时，应执行进舍规则和运算规则，如用计算器进行计算，也应将计算结果经修约后再记录下来。如由工作站出的数据，可按有效数字修约原则修约后判定。,三、要根据取样的要求，选择相应的量具 1“精密称定”系指称取重量应准确至所取重量的0.1% 2、“称定”系指称取重量应准确至所取重量1 3、“称重”“称取”：一般准确到规定重量下一位 4、取“约XX”时，指取用量不超过规定量的(10010)%。 5、若无“约”，则按照修约原则来确定称量范围,