因为1/8可以精确地表示为基数-2(二进制)分数,但0.1不能.1/8对负三次幂是2,但对任何整数次幂都不是0.1.浮点值以二进制形式存储,因此对于2的整数幂的数学运算更可能返回精确值,而不是非整数幂2的数学.
也就是说,最好假设没有浮点运算完全准确.不同的语言和处理器可能会产生不同的结果,因此不要指望在任何地方工作的1/8求和.
因为1/8可以精确地表示为基数-2(二进制)分数,但0.1不能.1/8对负三次幂是2,但对任何整数次幂都不是0.1.浮点值以二进制形式存储,因此对于2的整数幂的数学运算更可能返回精确值,而不是非整数幂2的数学.
也就是说,最好假设没有浮点运算完全准确.不同的语言和处理器可能会产生不同的结果,因此不要指望在任何地方工作的1/8求和.
京公网安备 11010802040832号 | 京ICP备19059560号-6 