《四舍五入算法》由会员分享,可在线阅读,更多相关《四舍五入算法(2页珍藏版)》请在金锄头文库上搜索。
精品课件,1,四舍五入算法,精品课件,2,算法,如果要求将数据h精确到小数点后面的第n位,则需要对n+1位进行运算。方法是将该数乘以10的n+1次方后加5,然后除以10并强制转换变量类型为长整型,再将该数强制转换类型为浮点型,再除以10的n次方。 long t; t=(h*10n+1+5)/10; h=(float)t/10n
电脑版 |金锄头文库版权所有经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号