《劳动出版社精品课件 《电子测量与仪器(第四版)》 A05 762213》由会员分享,可在线阅读,更多相关《劳动出版社精品课件 《电子测量与仪器(第四版)》 A05 762213(7页珍藏版)》请在金锄头文库上搜索。
1、13 数据处理,1能正确地使用有效数字表示测量数据 2掌握有效数字的处理方法,一、有效数字,有效数字在测量数值中,从最左边第一位非零数字算起 到含有存疑数字为止的各位数字。,读数示例,有效数字练习表,1用有效数字来表示测量结果时,可以从有效数字的位数估计出测量结果。一般规定误差不超过末位有效数字的一半。例如,测量结果记为1.000A,小数点后第三位为末位有效数字,其单位数字为0.001A,单位数字的一半即为0.0005A,测量误差可能为正,也可能为负。所以1.000A这一测量结果的误差为0.0005A。,用有效数字记录测量结果时的注意事项:,3有效数字的位数不能因采用的单位变化而变化,通常用1
2、0的乘幂来表示。例如,测量结果为1.000A,若以mA为单位,则记为1000mA,两者都为四位有效数字;若测量结果为1A,以mA为单位,不能记作1000mA,因为1000mA是四位有效数字,这样汇夸大了测量的精度,这里应记作1103mA。,2在测量结果的数字列中,最左边的零不算是有效数字,而末位的零很重要,它是有效数字。如:0.5为一位有效数字,而0.50为两位有效数字。,(3)乘方开方的运算。运算结果比原有数多保留一位有效数字。 例如:,(2)乘除法运算以有效数字位数最小的数为准,其余参与运算的数字及结果中的有效数字位数应与之相等。例如:,为了保证必要的精度,最终结果可以比有效数字最少者多取一位。,