首页 / 办公软件 / Excel / Excel-浮点运算给出不准确的结果

Excel-浮点运算给出不准确的结果

在Excel的运算中,有时你会发现类似以下的问题:

B1:0.000123456789012345

B2:1

B3:1.00012345678901

若B3=B1+B2,观察单元格B3,结果好像不正确(应为1.000123456789012345)。那是因为在Excel中最多只能存储15位有效数字的精度所致。

浮点运算

同理,当你在使用非常大的数字来运算时,也会遭遇有效数字不够用的问题。

所以你在计算时,如果要求准确度要很精细的计算,你可能要小心一点处理。你可以参考微软的说明:

在Excel中浮点运算可能会给出不准确的结果(http://support.microsoft.com/kb/78113/zh-cn

1条评论

评论

您的电子邮件不会被公布必填字段标记为 *

*