当前位置:  开发笔记 > 编程语言 > 正文

如何修复变量的精度

如何解决《如何修复变量的精度》经验,为你挑选了2个好方法。

在c#中

double tmp = 3.0 * 0.05;

tmp = 0.15000000000000002

这与金钱有关.价值实际为0.15美元,但系统希望将其四舍五入至0.16美元.0.151应该可以舍入到0.16,但不能是0.15000000000000002

有什么方法可以得到正确的数字(如果小数足够高,则为0.15或0.16).



1> AaronSieb..:

使用定点变量类型或基数十浮点类型(如Decimal).浮点数总是有些不准确,二进制浮点表示在转换为基数2时会增加另一层不准确性.



2> Jon Skeet..:

Money应存储为decimal,这是一个浮点小数点类型.其他数据也是如此,这些数据实际上是离散的而不是连续的,并且本质上是逻辑十进制的.

由于显而易见的原因,人类偏向于小数,因此诸如金钱之类的"人工"数量往往更适合十进制形式."自然"量(质量,高度)在更连续的范围内,这意味着float/ double(它们是浮动二元点类型)通常(但不总是)更合适.

推荐阅读
手机用户2402852307
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有