数据处理有效数字及其运算规则

上传人:re****.1 文档编号:579169264 上传时间:2024-08-26 格式:PPT 页数:18 大小:418KB
返回 下载 相关 举报
数据处理有效数字及其运算规则_第1页
第1页 / 共18页
数据处理有效数字及其运算规则_第2页
第2页 / 共18页
数据处理有效数字及其运算规则_第3页
第3页 / 共18页
数据处理有效数字及其运算规则_第4页
第4页 / 共18页
数据处理有效数字及其运算规则_第5页
第5页 / 共18页
点击查看更多>>
资源描述

《数据处理有效数字及其运算规则》由会员分享,可在线阅读,更多相关《数据处理有效数字及其运算规则(18页珍藏版)》请在金锄头文库上搜索。

1、任务三 数据处理 有效数字及其运算规则 授课教师:刘深勇食品工程分院基 础 化 学学 习 目 标教学内容教学内容(一)有效数字1、有效数字的分类2、有效数字的意义3.有效数字的位数(二)运算规则1、有效数字的修约规则2 2、有效数字计算规则有效数字计算规则 1、有效数字的分类、有效数字的分类实验过程中常遇到的两类数字实验过程中常遇到的两类数字:准确数字和实验测得到的数据1、有效数字:指实验能测量到的数字,包括所有准确数字和最后一位可疑的数字如:读取滴定管的读数为读取滴定管的读数为21.18mL(一一)有效数字)有效数字(一) 有效数字2、有效数字的意义:数据的位数与测定准确度有关。记录的数字不

2、仅表示数量的大小,而且要正确地反映测量的精确程度。 比如:0.51800,0.5180,0.518所代表的精确程度一样吗? a. 用万分之一分析天平:10.2345g实验数据的准确性与分析测试仪器的测量精度有关:同一试样采用不同测量精度的仪器测量,所得数据的有效数字位数不同,其中有效数字位数多的测量更精确。准确数字 可疑数字都是有效数字准确数字 可疑数字b. 用精度为0.01g的天平:10.23g如称量某一试样的质量6位4位若干位准确数字末位可疑数字+有效数字=(1)记录测量值时必须且只能保留一位不确定的数字(2)非零数字都是有效数字(3)非零数字前的0不是有效数字: 0.00268 3位 非

3、零数字之间的0是有效数字: 0.20068 5位 对小数,非零数字后的0是有效数字:0.26800 5位(4)数字后的0含义不清楚时,最好用指数形式表示: 如整数末位或末几位的0含义不明: 26800 ? 2.68104 3位;2.680104 4位;2.6800104 5位(5)常数、e及倍数、分数的有效数字位数可认为没有限制 (6)首位数字大于等于8, 可多计一位有效数字:95.2% 4位 (7)对数的有效数字位数以小数部分计: pH = 10.28 2位3、有效数字位数的确定4改变单位,不改变有效数字的位数如: 24.01mL 24.01103 L 5 5其他其他(1)容量器皿;滴定管;

4、移液管;容量瓶;4位有效数字(2)分析天平(万分之一)取小数点后4位表示(3)标准溶液的浓度,用小数点后4位表示: 0.1000 mol/L有效数字位数数字2.060.31000.02050.0308038002.30104pH=10.25有效数字位数3434不确定32课堂练习课堂练习练习0.1000 20.78%0.0526 3.5910-60.02 1103100 1000 答案:4位、3位、1位、位数不确定(二)有效数字的运算规则1修约规则 各测量值的有效数字位数确定之后,就要将它后面多余的数字舍弃。舍弃多余数字的过程,叫做“数字修约”;所遵循的规则称为“数字修约规则” (GB8170-

5、1987) 。口诀:四要舍,六要入,五后有数要进位,五后无数(包括零)看前方,前方奇数就进位,前方偶数全舍光。四舍六入五成双修约后末位数为偶数 将下列数据修约为四位有效数字 2.4374 2.4376 2.4365 2.4375 2.43651 2.4372.4382.4362.4382.437练习10.1 有效数字一次修约到位,禁止分次修约 4.1464.14.154.2注意2位(1)加减运算: 以各项中绝对误差最大的数为准,和或差只保留一位可疑数字,即与小数点后位数最少的数取得一致。 28.5 10.03 0.712+ 4.131643.3736 ? 28.5 10.0 0.7+ 4.14

6、3.3先修约,后计算 0.1 0.01 0.001 0.00012运算规则每个数据的最后一位都存在1的绝对误差(2 2)乘除法)乘除法: : 以相对误差最大的数为准,积或商以相对误差最大的数为准,积或商只保留一位可只保留一位可 疑数字,即疑数字,即按按有效数字位数最少的数有效数字位数最少的数进行修约和进行修约和计算。计算。解:三个数的最后一位都存在1的绝对误差,相对误差各为:(131816) 100 = 0.003计算:0.0235 20.03 3.1816 = 0.147946002 ?(12003) 100 = 0.05(1235) 100 = 0.40.0235相对误差最大,修约时按3位

7、有效数字计算0.0235 20.0 3.18 = 0.148注意:首位数字为8或9,可 多保留一位有效数字。9.35 0.1856 = 1.736如(3)乘方或开方运算 原数据有几位有效数字,结果就可保留几位,若一个数的乘方或开方结果,还将参加下面的运算,则乘方或开方后的结果可多保留一位有效数字。3.142 = 9.860 = 9.86(4)对数运算 在对数运算中,所取对数的有效数字位数应与真数的有效数字位数相等。例:例:1、下列数据各包括几位有效数字?、下列数据各包括几位有效数字?(1) 1.025 (2)0.034 (3)0.0020 (4)10.045 (5)8.610-3 ( 6)PH

8、 = 2.0 (7)113.0 (8)39.23% (9)0.05%422521441课堂练习课堂练习2、根据有效数字修约规则,将下列数据修约到小数点后、根据有效数字修约规则,将下列数据修约到小数点后第三位。第三位。3.1415825 0.51949 15.454046 0.376502 7.69178 2.3525683.1420.51915.4540.3777.6922.3533、按照有效数字运算规则计算下列算式:、按照有效数字运算规则计算下列算式: 213.64+4.402+0.3244=213.64+4.40+0.32=218.36=最后保留最后保留4位位有效数字有效数字=最后保留最后保留2位位有效数字有效数字课堂小结课堂小结1、总结本次课重点内容及学生需要强化练习的内容、总结本次课重点内容及学生需要强化练习的内容2、作业、作业:微信传送习题微信传送习题3、预习:误差产生的原因及减免方法、预习:误差产生的原因及减免方法

展开阅读全文
相关资源
正为您匹配相似的精品文档
相关搜索

最新文档


当前位置:首页 > 医学/心理学 > 基础医学

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号