作差,为什么会有这么多小数 |
| 时间:2017-06-11 来源: 作者: |
|
|
|
|
作差,为什么会有这么多小数 - 推吧 作差,为什么会有这么多小数时间2016-10-22 00:04:08 segmentfault原文 ...这个浮点数存储有关,涉及到浮点数计算,保留多少为小数都是自己定的。 ...
为什么excel中两个数的差会多出来个小数_百度知道 问题描述: 701,817.84 -706,463.28 =4645.44000000006本来就是小数啊 你要是不想显示 小数 就设定少显示小数位数好了 在快捷菜单内有图标的,你点点好了。更多关于作差,为什么会有这么多小数的问题>>
小数在计算机中为什么会有误差_百度知道 十进制小数在转成二进制的时候,多数情况下会变成循环小数,而计算机的精度是有限的,所以就产生了误差。在一般工程计算中,如果选择了双精型的小数形式,这种误差基本...更多关于作差,为什么会有这么多小数的问题>>
|
|