第二章数据处理

《第二章数据处理》由会员分享，可在线阅读，更多相关《第二章数据处理（54页珍藏版）》请在金锄头文库上搜索。

1、第 二 章,定量分析的误差和分析结果的数据处理,第一节 有效数字,一、有效数字的计位规则,一个数据中所有的确切数字在加一位不定数字。,定义：,数据甲的相对误差： 0.01/23.39100%= 0.04%,数据中“0”是否为有效数字？ 只起到定位作用, 不算。 例如: 0.0382 (3), 0.05 (1) (2) 作为普通的数字使用, 算。 例如: 1.0008 (5) 0.0040 (2),分数、倍数及对数的计位,分数与倍数不是测量得到的，可视为无限多位有效数字。,pH, pM, lgc, lgK等对数值，其有效数字的位数取决于小数部分（尾数）数字的位数。,二、有效数字的运算规则,“四舍

2、六入五留双” 规则:尾数4时舍弃；尾数6时进入；尾数=5时，若5后面的数字为0，则5前面为偶数者舍弃，为奇数者进入（留双）；若5后面的数字不为0，则不论5前面的数字是奇是偶，一律进入。,1、修约规则,例如：保留两位有效数字,2、运算规则,几个数字相加减时，它们的和或差的有效数字位数应以小数点后位数最少的数字（绝对误差最大）为根据。,例如： 0.0121+25.64-0.5782=？,解： =0.01+25.64-0.58=25.07,（1）加减法,（2）乘除法,在乘除法中，积或商的有效数字的保留，应与其中相对误差最大的数值相对应。,例如：0.012125.640.5782=？,=0.01212

3、5.60.578=0.179,第二节 误差的产生及表示方法,一、误差的产生,1、系统误差（可测误差） 2、随机误差（偶然误差） 3、过失误差,系统误差,消除测定过程的系统误差,1、对照试验,2、空白试验 3、仪器校正 4、方法校正,增加平行测定次数，减小随机误差,随机误差出现的概率遵循正态分布规律： （1）绝对值相等的正负误差出现的概率相同，大量等精度测量中各个误差的代数和趋于零； （2）绝对值小的误差出现的概率大，绝对值大的误差出现的概率小，绝对值很大的误差出现的概率非常小。,系统误差与随机误差的比较,二、误差的表示方法,1、误差,误差是指测定结果（x）与真实值（xT）之间的差值，包括绝对误

4、差、相对误差。,测定结果真实值时，误差为+，测定结果偏高； 测定结果 真实值时，误差为-，测定结果偏低。,另一合金中Cu的含量，测定结果为8.17%，已知真实值为8.12%，则： E= 8.17 %-8.12%=0.05%,绝对误差,上例中：,相对误差,2、偏差,偏差是指测定结果（x）与多次分析结果的算术平均值（ ）之间的差值。,绝对偏差,相对偏差,平均偏差,样本标准偏差,相对标准偏差 （变异系数，CV）,相对平均偏差,甲乙两人同时测定一生物样品中的蛋白质含量（%） ，都平行测定了8次，获得以下数据： 甲：51.50，50.66，51.63，51.90，51.25，51.39，51.69，51

5、.18； 乙：51.67，51.69，51.02，51.78，51.68，51.22，51.63，51.03。 计算这两组数据的平均偏差和样本标准偏差并对该两人的实验结果进行评价。,例如：,解：,0.10, -0.74, 0.23, 0.50, -0.15, -0.01, 0.29, -0.22,平均偏差：,数据甲:,绝对偏差：,=0.28,样本标准偏差：,=0.38,数据乙:,数据甲：n=8 d=0.28 s=0.38 数据乙：n=8 d=0.28 s=0.32,用标准偏差比用平均偏差更科学更准确,三、准确度和精密度,准确度表示分析结果与真值接近的程度,用以反映测量值的可靠性。 准确度以误差

6、的大小来衡量。,为了衡量测定结果的准确度，人们常以相对真值代替真值。 理论真值，如化合物的组成等； 计量学的约定真值，如各种常数等； 相对真值，即标准值。对同一个试样，采用可靠的方法在不同的实验室、由不同的人进行多次测定，取得大量数据，用数理统计方法求得的相对可靠的值称为标准值。标准值实际上是高精度测量的更接近真值的近似值。,真值xT: 某一物理量本身具有的客观存在的真实数据，真值是不可知的。,精密度表示在相同条件下用同样方法对同一试样进行多次平行测定时，各次分析结果相互接近的程度。 精密度以偏差的大小来衡量,用以说明测定值的重现性 。,绝对偏差,平均偏差,样本标准偏差,测量值，平均值,精密度

7、高不一定准确度高，但是准确度高一定需要精密度高。精密度高是准确度高的必要条件，因为精密度差，便失去了衡量准确度的前提 。,第三节 实验数据的统计处理,一、随机误差的正态分布,规律： 正负误差出现的概率相等 小误差多，大误差少 特大误差出现的次数极少,正态分布曲线方程,式中，y为概率密度，x为测量值，为总体平均值（真值），为标准偏差，（x- ）表示随机误差。,x= 时，,参数=0， 2=1的正态分布是标准正态分布。,横坐标,代表了不同大小偏差的测定值出现的几率总和为1。,正态分布曲线y与横轴所夹面积表示全部数据出现的概率的总和，,显然：,测量值与随机误差的区间概率,概率,f = f =5 f =

8、1,二、置信度与平均值的置信区间,t分布值表,置信度表示在一定条件下，测定值落在一定误差范围内的概率，用P表示,又称置信水平。 测定值落在此区间外的概率用（1-P或）表示，称为显著性水平。,1、置信度与显著性水平,表示在一定置信度下，以平均值 为中心，包括总体平均值的可靠性范围，称为平均值的置信区间，它是正确表示真值的一种统计测定。,2、平均值的置信区间,将总体平均值与样本平均值联系了起来, 证明了样本平均值的可靠性； 平均值的置信区间取决于测定的精密度s, 测定次数n和置信度P. 当置信度固定时, n越大, 置信区间越小； 测定结果精密度越高, 置信区间越小, 准确度越高。,例如：对某未知样

9、品中Cl-含量进行测定，次结果为47.64%，47.69%，47.52%，47.55%。计算置信度为90%，95%和99%时，总体平均值的置信区间。,解：,置信度为90%时，t=2.35，=（47.600.09）% 置信度为95%时，t=3.18，=（47.600.13）% 置信度为99%时，t=5.84，=（47.600.23）%,置信度越高, 置信区间越宽, 准确度越差,置信度就是表示人们所作判断的可靠把握程度。 如前，置信区间越窄，置信度就越小；反之，置信区间越宽，说话留有充分的余地，置信度就越高。 置信度定的越高，判断失误的机会越小；置信度定的太低， 判断失误的可能性就会增大。 置信度

10、越高，置信区间越宽，实用价值不大。 例如：为了吃鱼， 甲判断：鱼在太湖中； 乙判断：鱼在网中。 统计上，都不把置信度定为100%。 例如：推断说某铁矿石含铁量在0-100%之间，置信度为100%，完全正确，但置信区间太宽， 一句完全正确的废话 原则：置信区间的宽度足够小，置信度又很高。 分析化学中，常取95%的置信度，也取90%、99%。,三 、测定结果离群值的弃舍,1、 Q检验法,一组数据，从小到大排列为:,Q计算 Q表，xn舍弃，反之保留,Q计算 Q表， x1舍弃，反之保留,已知n=4时，Q0.95=0.85， QQ0.95， 故1.40这个数据应予以保留。,解：,2、Grubbs法,G计

11、算 G表，xn舍弃，反之保留,一组数据，从小到大排列为:,G计算 G表，x1舍弃，反之保留,因为,已知n=4时，G0.95=1.46，GG0.95， 故1.40这个数据应予以保留。,一组数据，从小到大排列为:,3、 法,因为,所以1.40这个数据应舍弃。,四、显著性检验,显著性检验是用以判别不同方法测定同一样品时两组测定数据的平均值之间是否存在显著的差异。其差异如果是随机误差引起，它属正常不可避免的；其差异如果是系统误差引起，就认为它们之间存在有显著差异。常用统计学中的F检验法和t检验法判断是否存在显著性差异。,F检验法 t检验法,F检验法：确定精密度是否存在显著性差异,假设两组数据的样本标准

12、偏差为s1，s2且s1s2。,若F计F表，则说明精密度存在显著性差异。,若F计F表，则说明精密度不存在显著性差异。,F值总是大于1,例如: 甲乙两人分析同一试样, 甲： 95.6, 94.9, 96.2, 95.1, 95.8, 96.3, 96.0 乙： 93.3, 95.1, 94.1, 95.1, 95.6, 94.0 比较这两组数据的标准方差有无显著性差异?,甲乙的标准方差没有显著性差异。,解：,t 检验法,样本平均值与标准值的比较 用基准物或标准试样来评价分析方法,若t计t表，则说明方法存在显著性差异，即有系统误差。,若t计t表，则说明方法不存在显著性差异，无系统误差。,例如: 用一种新的方法测定标准试样中的SiO2含量(%), 得34.30, 34.33, 34.26, 34.38, 34.38, 34.29, 34.29, 34.23, 已知标准含量为34.33%, 问有无系统误差?,tt0.05,7, 则该新方法无系统误差。,查表：,解：,第四节 提高分析结果 准确度的方法,一、选择合适的分析方法 二、减小测量的相对误差 三、消除测定过程的系统误差,1、对照试验 2、空白试验 3、仪器校正 4、方法校正,四、增加平行测定次数，减小随机误差,