《有效数字修约.ppt》由会员分享，可在线阅读，更多相关《有效数字修约.ppt（34页珍藏版）》请在金锄头文库上搜索。
1、有效数字修约规则 术语 修约间隔 修约值的最小数值单位 系确定修约保留位数的一种方式 修约间隔的数值一经确定 修约值即应为该数值的整数倍 例1 如指定修约间隔为0 1 修约值即应在0 1的整数倍中选取 相当于将数值修约到一位小数 例2 如指定修约间隔为100 修约值即应在100的整数倍中选取 相当于将数值修约到 百 数位 有效位数 对没有小数位且以若干个零结尾的数值 从非零数字最左一位向右数得到的位数减去无效零 即仅为定位用的零 的个数 对其他十进位数 从非零数字最左一位向右数而得到的位数 就是有效位数 例1 35000 若有两个无效零 则为三位有效位数 应写为350 102 若有三个无效零
2、则为两位有效位数 应写为35 103 例2 3 2 0 32 0 032 0 0032均为两位有效位数 0 0320为三位有效位数 例3 12 490为五位有效位数 10 00为四位有效位数 0 5单位修约 半个单位修约 指修约间隔为指定数位的0 5单位 即修约到指定数位的0 5单位 修约方法 将拟修约数值乘以2 按指定数位依数字修约规则修约 所得数值再除以2 例1 将60 28修约到个数位的0 5单位 或修约间隔为0 5 得60 5 例2 将60 25修约到个数位的0 5单位 或修约间隔为0 5 得60 0 将下列数字修约到个数位的0 5单位 或修约间隔为0 5 0 2单位修约 指修约间隔为
3、指定数位的0 2单位 即修约到指定数位的0 2单位 将拟修约数值乘以5 按指定数位依数字修约规则修约 所得数值再除以5 例1 将830修约到 百 数位的0 2单位 或修约间隔为20 得840 例 2 将842修约到 百 数位的0 2单位 或修约间隔为20 得840 将下列数字修约到 百 数位的0 2单位 或修约间隔为20 确定修约位数的表达方式 指定数位 指定修约间隔 指定将数值修约成n位有效位数 四舍六入五考虑 五后非零则进一 五后皆零视奇偶 五前为偶应舍去 五前为奇则进一 不论数字多少位 都要一次修约成 进舍规则 拟舍弃数字的最左一位数字小于5时 则舍去 即保留的各位数字不变 例1 将12
4、 1498修约到一位小数 得12 1 例2 将12 1498修约成两位有效位数 得12 拟舍弃数字的最左一位数字大于5 或者是5 而其后跟有并非全部为0的数字时 则进一 即保留的末位数字加1 例1 将1268修约到 百 数位 得13 102 特定时可写为1300 例2 将1268修约成三位有效位数 得127 10 特定时可写为1270 例3 将10 502修约到个数位 得11 拟舍弃数字的最左一位数字为5 而右面无数字或皆为0时 若所保留的末位数字为奇数 1 3 5 7 9 则进一 若所保留的末位数字为偶数 2 4 6 8 0 则舍弃 例1 修约间隔为0 1拟修约数值1 050修约值结果1 0
5、 负数修约时 先将它的绝对值按数字修约规定进行修约 然后在修约值前面加上负号 例1 将下列数字修约到 十 数位拟修约数值修约值 355 36 10 不许连续修约 拟修约数字应在确定修约位数后一次修约获得结果 而不得多次按进舍规则连续修约 例如 修约15 4546 修约间隔为1正确的做法 15 4546 15不正确的做法 15 4546 15 455 15 46 15 5 16 在具体实施中 有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出 而后由其他部门判定 为避免产生连续修约的错误 应按下述步骤进行 1 报出数值最右的非零数字为5时 应在数值后面加 或 或不加符号 以分别表明已
6、进行过舍 进或未舍未进 例 16 50 表示实际值大于16 50 经修约舍弃成为16 50 16 50 表示实际值小于16 50 经修约进一成为16 50 2 如果判定报出值需要进行修约 当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时 数值后面有 号者进一 数值后面有 号者舍去 其他仍按数字修约规则进行 例 将下列数字修约到个数位后进行判定 报出值多留一位到一位小数 实测值报出值修约值 15 454615 5 一 1516 520316 5 17 17 5000 17 5 18 15 4546 15 5 一 15 计算法则 加减运算 应以各数中有效数字末位数的数位最高者为准 小数即以小数
7、部分位数最少者为准 其余数均比该数向右多保留一位有效数字 例如 5 89 15 2551 5 89 15 255 21 145 乘除运算 应以各数中有效数字位数最少者为准 其余数均多取一位有效数字 所得积或商也多取一位有效数字 例如 2 1 3 124 2 1 3 12 6 55 平方或开方运算 其结果可比原数多保留一位有效数字 例如 1 42 1 961 233 1 861 对数运算 所取对数位数应与真数有效数字位数相等 例如 lg12 3 1 09 特殊实例 非连续型数值 个数 分数 倍数 名义浓度或标示量等是没有欠准数字的 其有效位数可视为无限多位 常数 e和系数2 1 2等数值的有效位
8、数也可视为是无限多位 例如 1 分子式 H2S04 中的 2 和 4 是个数 2 含量测定项下 每1ml的 滴定液 0 1mol L 中的 0 1 为名义浓度 其有效位数均为无限多位 3 规格项下的 0 3g 或 1ml 25mg 中的 0 3 1 和 25 的有效位数也均为无限多位 结论 在计算中 其有效位数应根据其他数值的最少有效位数而定 pH值 pH值等对数值 其有效位数是由其小数点后的位数决定的 其整数部分只表明其真数的乘方次数 例如 pH 11 26 H 5 5 10 12mol L 其有效位数只有两位 检测方法 1 Q检验法2 4d检验法3 F检验法4 T检验法5 u检验法 4d法
9、检验例 测得如下一组数据 30 18 30 56 30 23 30 35 30 32其中最大值是否舍去 解 30 56为最大值 定为可疑值 x 30 27 d 0 065若 可疑值 x 4d 则可疑值应舍去 若 可疑值 x 4d 则可疑值应保留 是迪克森 W J Dixon 在1951年专为分析化学中少量观测次数 n 10 提出的一种简易判据式 检验时将数据从小到大依次排列 X1 X2 X3 Xn 1 Xn 然后将极端值代入以下公式求出Q值 将Q值对照表3的Q0 90 若Q值 Q0 90则有90 的置信此极端值应被舍去 式中及 极端值与邻近值间的偏差 全距 例现场仪器测在同一点上4次测出 0
10、1014 0 1012 0 1025 0 1016 其中0 1025与其他数值差距较大 是否应该舍去 根据 Q值检验法 4次观测的Q0 90 0 76 所以 0 1025不能舍弃 测出结果应用4次观测均值0 1017 F 检验法是检验两个正态随机变量的总体方差是否相等的一种假设检验方法 设两个随机变量X Y的样本分别为X1 x2 xn与y1 y2 yn 其样本方差分别为s1 2与s2 2 现检验X的总体方差DX与Y的总体方差DY是否相等 假设H0 DX DY 2 根据统计理论 如果X Y为正态分布 当假设成立时 统计量 如右图 服从第一自由度为n1 1 第二自由度n2 1的F 分布 预先给定信
11、度 查F 分布表 得F 2 若计算的F值小于F 2 则假设成立 否则假设不合理 F 检验法还可用于两个以上随机变量平均数差异显著性的检 可用于两样本含量n1 n2较小时 且要求两总体方差相等 即方差齐 homoscedasticity 若被检验的两样本方差相差较大且差别有统计学意义则需用t检验 公式 19 10 公式 19 11 式中sx1 x2 为两样本均数之差的标准误 s2c为合并估计方差 combinedestimatevariance 算得的统计量为t 按表19 4所示关系作出判断 例19 7某医生统广西瑶族和侗族正常妇女骨盆X线测量资料各50例 骨盆入口前后径 瑶族的均数为12 00
12、2 cm 标准差0 948 cm 侗族相应的为11 456 cm 和1 215 cm 问两族妇女的骨盆入口前后径是否有差别 H0 1 2H1 1 2 0 05已知n1 n2 50 x1 12 002 cm s1 0 948 cm x2 11 456 cm s2 1 215 cm 本例自由度v n1 n2 2 98 查t界值表 表内自由度一栏无98 可用内插法 从略 或用v 100估计 T0 05 100 1948 t0 01 100 2 626 今t 2 505 t0 05 1000 P 0 05 按 0 05检验水准拒绝H0 接受H1 可认为广西瑶族和侗族妇女骨盆入口前后径不同 前者大于后者
13、 t检验 可用于两样本含量n1 n2 均足够大时 如均大于50或100 公式 19 9 例19 6某地抽样调查了部分健康成人红细胞数 其中男性360人 均数为4 660 1012 L 标准差为0 575 1012 L 女性255人 均数为4 178 1012 L 标准差为0 291 1012 L 试问该地男 女红细胞数的均数有无差别 H0 0H1 0 0 05今x1 4 660 1012 L s1 0 575 1012 L n1 360 x2 4 1781012 L s2 0 2911012 L n2 255 算得的u 13 63 2 58 P 0 01 按 0 05检验水准拒绝H0 接受H1 可认为该地男女红细胞数的均数不同 男性高于女性 u检验 谢谢欣赏
