《3数据处理方法》由会员分享，可在线阅读，更多相关《3数据处理方法（38页珍藏版）》请在金锄头文库上搜索。
1、数据处理方法数据处理方法 一一. . 平均值计算和异常值剔除平均值计算和异常值剔除 1. 1. 平均值计算平均值计算 Y = f(X Y = f(X1 1，X X2 2，XXN N），），X Xi i都测量都测量n n次次 1 1）先求每次测量的）先求每次测量的Y Yj j，再求，再求Y Y平均值。平均值。 Y Yj j = f = f（X X1j1j，X X2j2j，XXNjNj），），Y =YY =Yj j/n/n 2 2）先求各个）先求各个X Xi i平均值，再求平均值，再求Y Y平均值。平均值。 X Xi i = X = Xijij/n/n， Y = f(X Y = f(X1 1，X
2、X2 2，XXN N）。）。注：公式线性，两法一样；非线性，法注：公式线性，两法一样；非线性，法1 1）好。）好。 有多个输入量重复性，用法有多个输入量重复性，用法1 1）可一起解决；）可一起解决； 仅被测重复性，用法仅被测重复性，用法2 2），计算方便。），计算方便。 2. 2. 异常值剔除异常值剔除 先根据测量过程中异常情况立即判断先根据测量过程中异常情况立即判断. . 数学判断方法很多数学判断方法很多, , 介绍二种介绍二种: : 1) 3 1) 3准则准则 n n次独立测量次独立测量, ,求得实验标准差求得实验标准差s,s,残差残差大于大于3s3s的测量值为异常值删去的测量值为异常值删
3、去. .重新反复计算之重新反复计算之. . 2) 2) 格拉布斯准则格拉布斯准则 同上求得实验标准差和残差同上求得实验标准差和残差, , 残差残差大于大于 g(n)s g(n)s的测量值为异常值删去的测量值为异常值删去. .重新反复计算之重新反复计算之. . g(n) g(n) 临界系数临界系数, ,可查表获得可查表获得. . 临界系数表临界系数表(p=95%)(p=95%) n g(n)n n g(n) g(n)31.15592.21541.481102.29051.715112.35561.887122.41272.020132.46282.126142.507 二二. 数据修约数据修约
4、1.有效数字有效数字 1 1个数据中由前面几位可靠数字加上末位个数据中由前面几位可靠数字加上末位1 1位位可疑数字（有时加上可疑数字（有时加上2 2位可疑数字）组成，则这位可疑数字）组成，则这个数据及其中的每个数字都称为有效数字个数据及其中的每个数字都称为有效数字. .例如：例如：1.35 1, 31.35 1, 3两个数字可靠两个数字可靠. 5-. 5-可疑可疑 23 2- 23 2-可靠数字可靠数字, 3-, 3-可疑数字可疑数字 12345 1,2,3,4,- 12345 1,2,3,4,-可靠数字可靠数字, 5-, 5-可疑数字可疑数字 一个近似数所引入的误差的绝对值小于该一个近似数所
5、引入的误差的绝对值小于该近似数末位数的近似数末位数的0.50.5时时, ,该近似数为有效数字该近似数为有效数字. .有效数字的获得有效数字的获得从测量获得从测量获得 在测量中在测量中,从测量仪器直接观测到或从测量仪器直接观测到或 直接读出的数据中的每个数字都是直接读出的数据中的每个数字都是 有效数字有效数字从修约获得从修约获得 在数据修约完成后的修约数据中的在数据修约完成后的修约数据中的 每个数字都是每个数字都是 有效数字有效数字 (无效数字已舍去）无效数字已舍去） 2. 有效位数有效位数 1个数据都由有效数字组成，这个数据个数据都由有效数字组成，这个数据有几位数字，则称这个数据有几位有效有几
6、位数字，则称这个数据有几位有效数字或称这个数据的有效位数有几位。数字或称这个数据的有效位数有几位。 1个数据的有效位数是从第一个非零数个数据的有效位数是从第一个非零数字字 往后（右）数，共有几往后（右）数，共有几 位，则这个数位，则这个数据有几据有几 位有效位数。位有效位数。有效位数例有效位数例 有效位数与小数点位置无关有效位数与小数点位置无关 例例: 有效数字有效数字 有效位数有效位数 1200.23 6位位 1.20023 6位位 0.120023 6位位 0.001020 4位位 1.0105 2位位 3. 数据修约数据修约修约间隔修约间隔 （修约区间、化整区间）：（修约区间、化整区间）
7、： 修约值的最小数值单位。修约值的最小数值单位。修约间隔一经确修约间隔一经确定，修约数（保留数）只能是修约间隔的整数定，修约数（保留数）只能是修约间隔的整数倍。倍。是确定修约保留位数的一种方法，是确定修约保留位数的一种方法，修约间隔可能是：修约间隔可能是： 0.001, 0.01, 0.2, 1, 2, 5, 10, 200, 5000 N10k N=1, 2, 5 k=0, 1, 2, 3- 拟修约数拟修约数: 一个准备进行修约的数一个准备进行修约的数.国际常用国际常用修约基本规则修约基本规则 -1 如果在修约间隔整数倍的一系列数中如果在修约间隔整数倍的一系列数中, 只有一个数最接近拟修约数
8、只有一个数最接近拟修约数,则该数就是则该数就是 修约数。修约数。如：如：1.150001 修约间隔为修约间隔为0.1 邻近的有两个数邻近的有两个数: 1.1 与与 1.2 (11倍与倍与12倍倍) 其中最接近拟修约数的是其中最接近拟修约数的是 1.2 , 则则 1.2 就是修约数就是修约数修约基本规则修约基本规则 -2 如果在修约间隔整数倍的一系列数中如果在修约间隔整数倍的一系列数中, 有连续的两个数同等地接近拟修约数有连续的两个数同等地接近拟修约数,则则在这两个数中在这两个数中,只有为修约间隔偶数倍的只有为修约间隔偶数倍的 那个数才是修约数。那个数才是修约数。如：如：1.150 按修约间隔按
9、修约间隔0.1进行修约，进行修约， 邻近有邻近有1.1和和1.2同等接近拟修约数同等接近拟修约数(11倍倍和和12倍倍),则则12倍的倍的1.2才是修约数。才是修约数。修约规则例修约规则例1.500 修约间隔修约间隔0.2 , 连续两个同等接近连续两个同等接近 1.4 和和1.6(7倍和倍和8倍倍), 偶数倍的偶数倍的1.6修约数。修约数。1.400 修约间隔修约间隔0.5, 邻近两个数邻近两个数1.0和和1.5 (2倍和倍和3倍倍),取最接近的取最接近的1.5为修约数。为修约数。1.500 修约间隔修约间隔0.5,修约数为修约数为1.5 (3倍倍)。1150 修约间隔修约间隔100, 连续两
10、个同等接近连续两个同等接近 1.1103和和1.2103(11倍和倍和12倍倍),取取12倍。倍。修约注意事项修约注意事项 一个数据的修约应按修约间隔一次一个数据的修约应按修约间隔一次完成修约（一步到位）。完成修约（一步到位）。 特殊情况下（考虑安全问题）修约，特殊情况下（考虑安全问题）修约， 可以规定全部进位或全部截尾（舍弃）。可以规定全部进位或全部截尾（舍弃）。不确定度要进不确定度要进, 有效自由度要舍有效自由度要舍. 按修约规则修约结果从总体上看，按修约规则修约结果从总体上看， 有一半进位，有一半舍弃，是合理的。有一半进位，有一半舍弃，是合理的。GB/T8170-2008标准修约规则标准
11、修约规则 1. 拟舍弃数字的最左一位数字小于拟舍弃数字的最左一位数字小于5时，时， 则舍弃，即保留数字不变。则舍弃，即保留数字不变。 2. 拟舍弃数字的最左一位数字大于拟舍弃数字的最左一位数字大于5时或时或等于等于5，且后面非全部为，且后面非全部为0时，则进一。时，则进一。 3. 拟舍弃数字的最左一位数字等于拟舍弃数字的最左一位数字等于5，且，且后面无数字或皆为后面无数字或皆为0时，保留的末位数为时，保留的末位数为奇数，则进一。末位数为偶数，则舍弃奇数，则进一。末位数为偶数，则舍弃. 4. 非非1单位单位间隔间隔(0.2或或0.5单位单位)修约修约,先先乘乘5或乘或乘2,按按1单位单位间隔修约
12、间隔修约, 再再除除5或除或除2. 修约例修约例: : 间隔间隔 0.01, 15.24499 15.24 0.01, 15.24499 15.24 0.1 , 18.4501 18.5 0.1 , 18.4501 18.5 0.1 , 18.45 18.4 0.1 , 18.45 18.4 0.1,0.1, 18.55 18.6 18.55 18.6 0.05 , 18.225 0.05 , 18.225 22 36 36. .4545 按按0.0.1 1修约修约 36 36. .4 4 2 2 18.2 18.20 0 0.2 , 15.1 0.2 , 15.10 0 5 5 75 75.
13、 .5 5 按按1 1修约修约 76 76 5 5 15.2 15.2 四四. 有效数字运算有效数字运算1. 加法或减法运算加法或减法运算 计算结果的末位数，应与参加运算数据计算结果的末位数，应与参加运算数据中的末位数位最大（最左）的数位相同中的末位数位最大（最左）的数位相同。12.0132 8.642101 0.12345 - 0.101+0.10 修约修约 8.54110112.23665 12.24 8.541 修约修约2. 乘法或除法运算乘法或除法运算 计算结果的有效位数，应与参加运算计算结果的有效位数，应与参加运算数据里有效数字最少的位数相同。数据里有效数字最少的位数相同。0.001
14、23410010 =1.234 修约为修约为 1.2 123.451001.0=1.2345 修约为修约为 1.2 1.234510.0010=1.2345 修约为修约为 1.20.000012341.00105=1.234 修约为修约为 1.231234100=123400修约为修约为123103,1.23105 3. 乘方或开方运算乘方或开方运算 计算结果的有效位数与原来数据计算结果的有效位数与原来数据 的有效位数相同的有效位数相同. 10的三次方的三次方=1000 修约为修约为1.0103混合运算方法：先乘方和混合运算方法：先乘方和/或开方运算，或开方运算，并修约，再乘法和并修约，再乘法
15、和/ 或除法运算或除法运算,并修约，并修约，最后加法和最后加法和/或减法运算或减法运算,对结果修约。对结果修约。 （遵循先乘除后加减的四则运算原则）（遵循先乘除后加减的四则运算原则） 五五. 极限数值的表示方法极限数值的表示方法5.1 极限数值极限数值 (GB/T8170-08极限极限数值数值表示表示和和判定判定) 标准、规程中规定考核项目是定量的（以数标准、规程中规定考核项目是定量的（以数 量形式表示）指标或参数，应当规定极限数值，量形式表示）指标或参数，应当规定极限数值，它表示符合标准要求的数值范围的界限。它表示符合标准要求的数值范围的界限。 极限数值有极限数值有3 种形式：最小极限值、最
16、大极种形式：最小极限值、最大极限值、基本数值和极限偏差值。限值、基本数值和极限偏差值。 规定的极限数值书写位数应该适当，有效位规定的极限数值书写位数应该适当，有效位数可以表示精确程度，即规定了为检验实际产数可以表示精确程度，即规定了为检验实际产品得到的测定值应具有的相应精确程度。品得到的测定值应具有的相应精确程度。 5.2 最大、最小极限数值的表示最大、最小极限数值的表示 某考核指标某考核指标X, 允许采用下列用语允许采用下列用语,符号符号 用用 语语 符符 号号 从从A到到B AXB AB 超过超过A到到B AXB AB至少至少A不足不足B AXB AB超过超过A不足不足B AXB 5.3
17、极限偏差值的表示极限偏差值的表示基本数值基本数值A带有绝对极限上偏差带有绝对极限上偏差+b1和绝对极限和绝对极限下偏差下偏差b2，表示为：，表示为：A-b2+b1 指实测值从（指实测值从（A-b2） 到（到（A+b1）符合标准要求）符合标准要求基本数值基本数值A带有相对极限上偏差带有相对极限上偏差+b1%,相对极相对极限下偏差限下偏差b2%,表示为：表示为：A-b2%+b1% 指实测值指实测值R对对A的偏差的偏差(R-A)/A从从b2% 到到+b1%,符合标准要求符合标准要求 5105%,指实测值指实测值R对对510的偏差值的偏差值 (R- 510)/ 510从从-5%到到+5%符合要求符合要
18、求若某个极限偏差值若某个极限偏差值B已超出标准要求已超出标准要求,则则 应附加括号应附加括号,写成写成“B(不含不含B)”.例例1: 80-1+2(不含不含2)mm 指从指从79mm到接近但不足到接近但不足82mm,符合符合例例2: 5105%(不含不含+5%) 指实测值指实测值R对对510相对偏差值相对偏差值 (R- 510)/ 510从从-5%到接近但不到接近但不 足足 +5%,符合标准要求符合标准要求 六六. 极限数值的判定方法极限数值的判定方法 6.1 两种判定方法两种判定方法 (GB/T 8170-2008 ) 在判定检测数据是否符合标准要求时在判定检测数据是否符合标准要求时, 应将
19、实测结果与标准规定的极限数值作应将实测结果与标准规定的极限数值作 比较比较,比较方法有两种：比较方法有两种： a）修约值比较法）修约值比较法 b）全数值比较法）全数值比较法.修约值比较法用于：只有当标准中规定采用修修约值比较法用于：只有当标准中规定采用修 约值比较法时，才能使用。约值比较法时，才能使用。全数值比较法用于：标准中规定未加说明时全数值比较法用于：标准中规定未加说明时, 特别涉及安全性能特别涉及安全性能仪器误差应用全数值比较法仪器误差应用全数值比较法 6.2 修约值比较法修约值比较法将测定值或其计算值进行修约将测定值或其计算值进行修约,修约后位修约后位 数与标准规定极限数值书写位数一
20、致。数与标准规定极限数值书写位数一致。再将修约后数值与极限数值比较再将修约后数值与极限数值比较/判定判定.。 项项 目目 极限数值极限数值测定值测定值修约值修约值符合否符合否抗拉强度抗拉强度 MPa5610 554 555 556551056105610 不符不符 符合符合 符合符合盘条直径盘条直径 mm 50.5 4.45 4.46 5.54 5.55 4.4 4.5 5.5 5.6 不符不符 符合符合 符合符合 不符不符 6.3全数值比较法全数值比较法将检测所得测定值或其计算值的全部有将检测所得测定值或其计算值的全部有效位数与标准规定的极限数值作比较效位数与标准规定的极限数值作比较 项项
21、目目极限数值极限数值测定值测定值是否符合是否符合抗拉强度抗拉强度 MPa5610 555 559 560 不符合不符合 不符合不符合 符合符合 直直 径径 mm 10.00.1 9.89 9.90 10.10 10.11 不符合不符合 符合符合 符合符合 不符合不符合 7.测量仪器特性评定七七. 测量仪器特性评定测量仪器特性评定(JJF 1094-2002)7.1 基本术语基本术语 1) 测量仪器的准确度测量仪器的准确度 (是定性的概念是定性的概念) 测量仪器给出接近于真值的响应的能力测量仪器给出接近于真值的响应的能力 2) 测量仪器的测量仪器的示值示值误差误差 测量仪器的示值与对应输入量的真
22、值之差。测量仪器的示值与对应输入量的真值之差。 3) 测量仪器的测量仪器的最大允许误差最大允许误差 对给定仪器对给定仪器,规范规范,规程等所允许误差极限值规程等所允许误差极限值. 4) 测量仪器的测量仪器的重复性重复性 在相同测量条件下在相同测量条件下,重复测量同一个被重复测量同一个被 测量测量,测量仪器提供相近示值的能力测量仪器提供相近示值的能力.5) 准确度等级准确度等级 符合一定的计量要求符合一定的计量要求, 使误差保持在规定使误差保持在规定极限以内的测量仪器的等别、级别。极限以内的测量仪器的等别、级别。（等别以赋值的不确定度来划分（等别以赋值的不确定度来划分, 级别以最级别以最 大允许
23、误差来划分大允许误差来划分.)6) 稳定性稳定性测量仪器保持其计量性能随时间恒定的能力测量仪器保持其计量性能随时间恒定的能力.7) 漂移漂移 测量仪器计量特性的慢变化测量仪器计量特性的慢变化.8) 灵敏度灵敏度 测量仪器响应的变化除以对应的激励变化测量仪器响应的变化除以对应的激励变化.9) 显示装置的显示装置的分辨力分辨力 显示装置能有效辨别的最小的示值差显示装置能有效辨别的最小的示值差.(对数字式仪器即末位一个字对数字式仪器即末位一个字,也适用其它装也适用其它装置置)10) 鉴别力鉴别力阀阀使测量仪器产生未觉察的响应变化的最大激使测量仪器产生未觉察的响应变化的最大激励变化励变化,这种激励变化
24、应缓慢而单调地进行这种激励变化应缓慢而单调地进行. （ 可能与噪声、摩擦、激励值有关。）可能与噪声、摩擦、激励值有关。）响应刚觉察时激励值，称为：最小检测限。响应刚觉察时激励值，称为：最小检测限。 7.2 测量仪器特性评定的基本原则测量仪器特性评定的基本原则 1) 评定的依据评定的依据 检定规程、校准规范、技术标准、仪器检定规程、校准规范、技术标准、仪器说明书等说明书等.必须考虑不确定度对评定结果影响必须考虑不确定度对评定结果影响. 2) 评定的形式评定的形式 a) 型式评价型式评价: 政府指定政府指定, 按型式评价大纲按型式评价大纲, 进行全性能试验并审查资料进行全性能试验并审查资料.法制法
25、制,技术要求技术要求. b) 检定检定: 按检定规程要求操作按检定规程要求操作, 法定要求法定要求. c) 校准校准: 按校准规范按校准规范,方法操作方法操作,确定示值确定示值 量值与对应标准所复现量值之间关系量值与对应标准所复现量值之间关系. 7.3 测量仪器特性评定的通用方法测量仪器特性评定的通用方法 1) 示值误差的评定方法示值误差的评定方法 a) 比较法比较法: 测量仪器示值与测量标准提供测量仪器示值与测量标准提供的约定真值的约定真值,在规定条件下在规定条件下,进行一定次数比较进行一定次数比较. b) 分部法分部法: 根据仪器原理根据仪器原理,结构结构,分析和试验分析和试验得到决定示值
26、误差的参量得到决定示值误差的参量,再对各参量评定综合再对各参量评定综合.(分析可能不全面分析可能不全面,不具备比较法时采用分部法不具备比较法时采用分部法) c) 组合法组合法: 被评定一台或多台仪器的多个被评定一台或多台仪器的多个示值示值,用不同方式组合起来用不同方式组合起来,列成若干方程式列成若干方程式,用用最小二乘法求出仪器示值实际值或示值误差最小二乘法求出仪器示值实际值或示值误差. 2) 重复性的评定方法重复性的评定方法 a) 贝塞尔公式法贝塞尔公式法: s2 = (xi - x ) 2/ (n 1) b) 最大残差法最大残差法: s = cn i max c) 极差法极差法: s =
27、(x max - x min ) / d n 3) 偏差的评定方法偏差的评定方法 实物实物 量具的偏差为实物量具的实际值量具的偏差为实物量具的实际值 减去标称值减去标称值, 偏差等于负的示值误差偏差等于负的示值误差. 4) 准确度等级的评定方法准确度等级的评定方法(级别级别) 按有关技术规范对仪器评定按有关技术规范对仪器评定,当仪器示值当仪器示值误差不超出某一档次误差限误差不超出某一档次误差限,其他相关特性也其他相关特性也符合要求符合要求,则判为该仪器符合该准确度级别则判为该仪器符合该准确度级别.合格合格. 5) 准确度等级准确度等级(等别等别)的评定方法的评定方法 a) 完全符合检定规程的要
28、求进行检定时完全符合检定规程的要求进行检定时,测量仪器实际值的扩展不确定度满足某一档测量仪器实际值的扩展不确定度满足某一档次的要求次的要求,并其他相关特性符合规定的要求并其他相关特性符合规定的要求,则判测量仪器在该准确度等别合格则判测量仪器在该准确度等别合格. b) 不完全符合检定规程的要求进行检定时不完全符合检定规程的要求进行检定时,必须对测量仪器实际值进行评定必须对测量仪器实际值进行评定,计算仪器计算仪器实际值的不确定度实际值的不确定度U, 然后按然后按1)的原则评定的原则评定. 当测量仪器已定等级时当测量仪器已定等级时, 则则U必须不大于必须不大于仪器该等级的不确定度仪器该等级的不确定度
29、. 6) 稳定性的评定方法稳定性的评定方法 a) 评定方法之一评定方法之一: 测量标准观测仪器计量测量标准观测仪器计量特性变化特性变化,当变化达到规定值时当变化达到规定值时,其变化量与所其变化量与所经时间之比经时间之比,即为被评定测量仪器的稳定性即为被评定测量仪器的稳定性.例例: 标准物质变化到标准物质变化到1%时时,经过经过3 个月时间个月时间.则则, 标准物质的稳定性为标准物质的稳定性为: 1% / 3 个月个月. b) 评比方法之二评比方法之二:测量标准测量标准定期定期观测仪器计观测仪器计量特性变化量特性变化,在观测期间在观测期间,其变化幅度其变化幅度/时间间时间间隔隔. c) 评定方法
30、之三评定方法之三: 频率源的频率稳定性用频率源的频率稳定性用 阿仑方差的正平方根值评定阿仑方差的正平方根值评定 7) 漂移的评定方法漂移的评定方法 测量标准在规定时间内观测仪器特性慢变化测量标准在规定时间内观测仪器特性慢变化. a) 记录前后的变化值记录前后的变化值例例: 分析仪用标气调到示值分析仪用标气调到示值5%与与85%, 经经24h后记下读数后记下读数,5%点示值变化为零点漂移点示值变化为零点漂移.85%点示值变化减去点示值变化减去5%点示值变化为量程漂移点示值变化为量程漂移. b) 画出观测值随时间变化曲线画出观测值随时间变化曲线 当线性变化时当线性变化时,漂移曲线为直线漂移曲线为直
31、线,其钭率为其钭率为漂移率漂移率. 可用最小二乘法拟合得到最佳直线可用最小二乘法拟合得到最佳直线. 8) 灵敏度的评定方法灵敏度的评定方法 在规定激励值上在规定激励值上,一个小变化激励一个小变化激励x, 得到得到响应变化响应变化y,则则y / x为该激励点的灵敏度为该激励点的灵敏度. 9) 分辨力的评定方法分辨力的评定方法 通过仪器显示或读数装置能有效辨别的最小通过仪器显示或读数装置能有效辨别的最小 示值差来评定示值差来评定. a) 数字显示装置数字显示装置- 末位一个字末位一个字. b) 标尺读数装置标尺读数装置- 最小分度值的一半最小分度值的一半. (当标尺读数装置精细时当标尺读数装置精细
32、时,可可1/4, 1/5 1/10 ) 7.4 测量仪器示值误差符合性评定的基本要求测量仪器示值误差符合性评定的基本要求 1) U 951/3 MPEV 时时, (或或k=2的的U), 则则: MPEV, 判为合格判为合格. MPEV, 判为不合格判为不合格. (MPEV误差限绝对值误差限绝对值, -仪器示值误差仪器示值误差) 2) 依据检定规程进行评定依据检定规程进行评定 当满足检定规程所有规定当满足检定规程所有规定,并量传正确时并量传正确时.所有检定点示值误差不超出误差限所有检定点示值误差不超出误差限, 判为合格判为合格.有一检定点示值误差超出误差限有一检定点示值误差超出误差限, 判为不合格判为不合格.(不确定度将处一个合理范围不确定度将处一个合理范围,不需考虑其影响不需考虑其影响.) 3) U 951/3 MPEV 时时, (或或k=2的的U), 则则: a) 合格判据合格判据 MPEV - U 95 , 判为合格判为合格. b) 不合格判据不合格判据 MPEV + U 95 , 判为不合格判为不合格. c) 待定区待定区 MPEV - U 95 MPEV + U 95 ( 不能下合格或不合格的结论不能下合格或不合格的结论 ) 谢谢 谢谢
