试验Excel公式自动计算修约

上传人:油条 文档编号:1617637 上传时间:2017-06-28 格式:XLS 页数:3 大小:46KB
返回 下载 相关 举报
试验Excel公式自动计算修约_第1页
第1页 / 共3页
试验Excel公式自动计算修约_第2页
第2页 / 共3页
试验Excel公式自动计算修约_第3页
第3页 / 共3页
亲,该文档总共3页,全部预览完了,如果喜欢就下载吧!
资源描述

《试验Excel公式自动计算修约》由会员分享,可在线阅读,更多相关《试验Excel公式自动计算修约(3页珍藏版)》请在金锄头文库上搜索。

1、数值修约规则(整理版) 2017/6/28规范条目 拟修约数值 保留位数 单位修约 修约间隔 修约值 说明本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。需要修约时,除另有规定者外,应按本标准给出的规则进行。1术 语1.1修约间隔系确定修约保留位数的一种方式修约间隔的数值一经确定,修约值即应为该数值的整数倍。例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定

2、位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。例1:35000,若有两个无效零,则为三位有效位数,应写为 ;若有三个无效零,则为两位有效位数,应写为 。例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。例3:12.490为五位有效位数;10.00为四位有效位数。1.30.5单位修约(半个单位修约)指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。例如,将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)1.40.2单位修约指修约间隔为指定数位的0.2单位,即修约到指定数位的0

3、.2单位。例如,将832修约到“百”数位的0.2单位,得840(修约方法见本规则5.2)2确定修约位数的表达方式a. 指定修约间隔为 (n为正整数),或指明将数值修约到n位小数;b. 指定修约间隔为1,或指明将数值修约到个数位;c. 指定修约间隔为 ,或指明将数值修约到 数位(n为正整数),或指明将数值修约到“十”,“百”,“千”数位。2.2指定将数值修约成n位有效位数3进舍规则12.1498 1 1 0.1 12.1 将12.1498修约到一位小数,得12.1。12.1498 0 1 12 将12.1498修约成两位有效位数,得12。1268 -2 1 100 1300 将1268修约到“百

4、”数位,得 (特定时可写为1300)。1268 -1 1 1270 将1268修约成三位有效位数,得12710(特定时可写为1270)。10.502 0 1 1 11 将10.502修约到个数位,得11。中华人民共和国国家标准数值修约规则 GB/T81703.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。3.2拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。21035031035n10n10 n1021013110 第 1 页,共 3 页数值修约规则(整理版) 2017/6/281.050 1 1 0.1 1.0 修约

5、间隔为0.1(或 )0.350 1 1 0.1 0.4 修约间隔为0.1(或 )2500 -3 1 1000 2000 (特定时可写为2000)修约间隔为1000(或 )3500 -3 1 1000 4000 (特定时可写为4000)修约间隔为1000(或 )0.0325 3 1 0.032 修约成两位有效位数32500 -3 1 32000 (特定时可写为32000)修约成两位有效位数-355 -1 1 10 -360 -3610(特定时可写为-360)将下列数字修约到“十”数位-325 -1 1 10 -320 -3210(特定时可写为-320)将下列数字修约到“十”数位-365 -1 1

6、 -360 -3610(特定时可写为-360)将下列数字修约成两位有效位数-0.0365 3 1 -0.036 将下列数字修约成两位有效位数4不许连续修约4.1拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按第3章规则连续修约。例如:修约15.4546,修约间隔为1正确的做法:15.454615不正确的做法:15.454615.45515.4615.5164.2在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。4.2.1报出数值最右的非零数字为5时,应在数值后面加“()”或“()”或不加符号,

7、以分别表明已进行过舍、进或未舍未进。如:16.50()表示实际值大于16.50,经修约舍弃成为16.50;16.50()表示实际值小于16.50,经修约进一成为16.50。4.2.2如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按第3章规则进行。例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。15.454615.5(一)1516.520316.5()17-15.4546(15.5(一))-1550.5单位修约与0.2单位修约必要时,可采用0.5单位修约和0.2单位修约。3.3拟舍弃

8、数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。3.4负数修约时,先将它的绝对值按上述3.13.3规定进行修约,然后在修约值前面加上负号。1101103102310310431031032第 2 页,共 3 页数值修约规则(整理版) 2017/6/2860.25 0 0.5 0.5 60.0 将下列数字修约到个数位的0.5单位(或修约间隔为0.5)60.38 0 0.5 0.5 60.5 将下列数字修约到个数位的0.5单位(或修约间隔为0.5)-60.75 0 0.5 0.5 -61.0 将下列数字修约到

9、个数位的0.5单位(或修约间隔为0.5)830 -2 0.2 20 840 将下列数字修约到“百”数位的0.2单位(或修约间隔为20)842 -2 0.2 20 840 将下列数字修约到“百”数位的0.2单位(或修约间隔为20)-930 -2 0.2 20 -920 将下列数字修约到“百”数位的0.2单位(或修约间隔为20)(1)本Excel表格采用的计算公式为 =if(abs(abs(拟修约数值/单位修约*10保留位数-trunc(拟修约数值/单位修约,保留位数)*10保留位数)-0.5)10-7,ceiling(abs(trunc(拟修约数值/单位修约,保留位数),2*10-保留位数)*sign(拟修约数值/单位修约),round(拟修约数值/单位修约,保留位数)单位修约;(2)本表格中,绿色部分,即拟修约数值、保留位数、单位修约三个可作为输入参数;紫色部分,即修约值作为输出结果。5.10.5单位修约,将拟修约数值乘以2,按指定数位依第3章规则修约,所得数值再除以2。5.2 0.2单位修约,将拟修约数值乘以5,按指定数位依第3章规则修约,所得数值再除以5。注:保留位数是只保留几位小数,0表示保留到个位,1表示保留到十位,2表示保留到百位,以此类推。此公式未考虑给出几位有效位数的表示方法,只适用于给出修约间隔的情况。单位修约修约间隔 保留位数 110第 3 页,共 3 页

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 电子/通信 > 综合/其它

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号