当前位置:  开发笔记 > 编程语言 > 正文

在Delphi中比较货币值时如何避免舍入问题?

如何解决《在Delphi中比较货币值时如何避免舍入问题?》经验,为你挑选了2个好方法。

AFAIK,Delphi Win32中的货币类型取决于处理器浮点精度.因此,在比较两个货币值时,我遇到了舍入问题,根据机器返回不同的结果.

现在我使用SameValue函数传递Epsilon参数= 0.009,因为我只需要2位十进制数字.

有没有更好的方法来避免这个问题?



1> Barry Kelly..:

Delphi中的Currency类型是一个64位整数,缩放为1/10,000; 换句话说,它的最小增量相当于0.0001.它不像浮点代码那样容易受到精度问题的影响.

但是,如果您将货币数乘以浮点类型或除以货币值,则需要以某种方式计算舍入.FPU控制这种机制(它被称为"控制字").Math单元包含一些控制此机制的过程:特别是SetRoundMode.你可以在这个程序中看到效果:

{$APPTYPE CONSOLE}

uses Math;

var
  x: Currency;
  y: Currency;
begin
  SetRoundMode(rmTruncate);
  x := 1;
  x := x / 6;
  SetRoundMode(rmNearest);
  y := 1;
  y := y / 6;
  Writeln(x = y); // false
  Writeln(x - y); // 0.0001; i.e. 0.1666 vs 0.1667
end.

您正在使用的第三方库可能是将控制字设置为其他值.您可能希望在重要计算的起始点明确设置控制字(即舍入模式).

此外,如果您的计算转移到普通浮动点然后再转换为货币,则所有投注都将被取消 - 太难以进行审计.确保所有计算都是货币.



2> Craig Stuntz..:

不,货币不是浮点类型.它是一个固定精度的十进制数,用整数存储实现.它可以完全比较,并且没有Double的舍入问题.因此,如果您在Currency变量中看到不准确的值,则问题不在于Currency类型本身,而在于您将其置于其中.最有可能的是,您在代码中的其他位置进行浮点计算.由于您没有显示该代码,因此很难对此问题提供更多帮助.但一般来说,解决方案是在存储到Currency变量之前将浮点数舍入到正确的精度,而不是对Currency变量进行不精确的比较.


从Delphi帮助:货币类型:8字节(64位)货币编号存储为缩放和带符号的64位整数,其中四个最低有效数字隐含地表示四个小数位.
推荐阅读
echo7111436
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有