文档详情

有效数字及运算法则

pu****.1
实名认证
店铺
PPT
500.50KB
约32页
文档ID:602586319
有效数字及运算法则_第1页
1/32

单击此处编辑母版标题样式,,单击此处编辑母版文本样式,,第二级,,第三级,,第四级,,第五级,,,*,,第四节,,,,有效数字及运算法则,,一、有效数字的一般概念,例:用米尺测量物体的长度,,,,L,1,= L,2,=,3.4 3.4,5 6,5 6,,,3.4 3.4,,,定义:在测量结果的数字表示中,由若干位可靠数字加一位可疑数字,便组成了有效数字上述例子中的测量结果均为三位有效数字,一、有效数字的一般概念,,,二、有效数字位数的确定,1.关于“0”的有效问题,①.当“0”在数字中间或末尾时有效,如:,、,、,等中的0均有效注意,:,不能在数字的末尾随便加“0”或减“0”,数学上:,物理上:,,1.关于“0”的有效问题,②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字,,如:0.0123dm、0.123cm、0.00123m,均是3位有效数字注意:,进行单位换算时,有效数字的位数不变2.数值的科学记数法,数据过大或过小时,可以用科学表达式,。

某电阻值为20000(欧姆),保留三位有效数字时写成 2.00,10,4,,又如数据为0.0000325m,使用科学记数法写成3.25,10,-5,m,,3.有效数字与仪器的关系,有效数字的位数,,,测量值本身的大小、仪器的准确度,,20分度游标卡尺 L=2.525cm,,,(四位有效数字),,螺旋测微计 L=2.5153cm,,,(五位有效数字),米尺 L=2.52cm,,,(三位有效数字),,三、直接测量有效数字的确定,,——如何读数,(1)用米尺测长度,例:,读数的一般规则:,,读至仪器误差所在的位置,,,当物体长度在,24㎜,与,25㎜,之间时,,,读数为,24.*㎜,当读数正好为,24㎜,时读数为,24.0㎜,被测物体,,三、直接测量有效数字的确定,,——如何读数,(1)用米尺测长度,例:,(2)用0.1级量程为100mA电流表测电流,,,读数的一般规则:,,读至仪器误差所在的位置,,△,仪,= 100mA×0.1% = 0.1mA,指针在,82mA,与,83mA,之间:读为,82.* mA,指针正好在,82mA,上:读为,82.0mA,对于,0.1,级表:,,△,仪,=100mA×1.0%=1mA,对于,1.0,级表,,指针在,82mA,与,84mA,之间:,,可读为,82mA,、,83mA,或,84mA,指针正好在,82mA,上:读为,82mA,,四、间接测量量有效数字的确定,,——有效数字的运算法则,1.加减法,,62 . 5 + 1. 234 = 63 . 7,,62.5,,+ 1.234,,—————,63.734,–,,–,,–,,–,,–,–,,–,结果为 63.7,–,例1:,,,其中:,试确定N的有效数字。

解:,(1)求出N的不确定度,(2),(3)用误差(估计误差范围的不确定度)决定 结果的有效数字,例 2,,四、间接测量量有效数字的确定,,——有效数字的运算法则,1.加减法,加减法运算后的有效数字,取到参与运算各数中 最靠前出现可疑数的那一位运算规则:,,例,19.68 - 5.848 = 13.83,,19.68,,- 5.848,,—————,13.832,–,,–,,–,,–,,–,–,,结果为 13.83,–,–,,四、间接测量量有效数字的确定,,——有效数字的运算法则,1.加减法,2.乘除法,,3.21,,6.5 = 21,,3.21,,,6.5,,—————,1605,–,,–,,–,,–,,–,–,,结果为 21,–,–,1926,—————,20.865,–,–,–,–,–,–,–,例4:,,其中:,试确定N的有效数字解:,(2)计算不确定度,(1)先计算N,(3)根据误差(不确定度)决定有效数字,有:,例 5,,四、间接测量量有效数字的确定,,——有效数字的运算法则,1.加减法,2.乘除法,乘除运算后结果的有效数字一般以参与运算各数中有效数字位数最少的为准。

运算规则:,,,例6,21,21.843=0.96,,_,_,_,_,结果为 0.96,_,,,四、间接测量量有效数字的确定,,——有效数字的运算法则,1.加减法,2.乘除法,3.乘方与开方,,结果的有效数字与其底或被开方数的有效数字位数相同如:,错误,正确,运算规则:,100,2,=100,10,2,,,100=10.0,,,,,49 = 7.0,49 = 7,4.0,2,=16,4.0,2,=16.0,,四、间接测量量有效数字的确定,,——有效数字的运算法则,1.加减法,2.乘除法,3.乘方与开方,4.函数运算,,(1)对数函数,lgx的尾数与x的位数相同,,,例 7,lg 100 = 2.000,,lg 1.983 = 0.297322714,,,,0.2973,lg 1983 = 3.29722714,,,,3.2973,,,(2)指数函数,10,x,或e,x,的位数和x小数点后的位数相同(包括紧接小数点后面的0,),,例 8,10,6.25,=1778279.41,1.810,6,10,0.0035,=1.0080961,1.008,,四、间接测量量有效数字的确定,,——有效数字的运算法则,1.,加减法,2.,乘除法,3.,乘方与开方,4.,函数运算,5.自然数与常量,,①自然数不是测量值,不存在误差,,,故有效数字是无穷位。

②常数,,、e等的位数可与参加运算的,,量中有效数字位数最少的位数相同,,或多取一位,如在D=2R中,2不是一位有效数字,而是无穷位,例 10,L=2,R 其中R=2.3510,-2,m,,就应取3.14(或3.142),即L=2,3.1422.3510,-2,=0.148(m),,综合运算举例,,50.00, ( 18.30  16.3 ),( 103, 3.0 )  ( 1.00 + 0.001 ),=,50.00, 2.0,,100, 1.00,=,1.0,10,2,,,100,= 1.0,,,10.0,2,, lg100.0,,27.3211, 27.31, 35,=,100, 2.0000,,0.01,2,10,4, 35,=,=,2,10,4,, 35,,本章小结,一.有效数字的概念,,二.,直接测量时有效数字的运算,,三.有效数字的运算规则,,,。

下载提示
相似文档
正为您匹配相似的精品文档
相关文档