处理浮点数中的精度问题

我想知道是否有办法克服精确度问题,这似乎是我的机器内部表示浮点数的结果:

为清楚起见,问题归纳为:

// str is "4.600";   atof( str ) is 4.5999999999999996  
double mw = atof( str )  

// The variables used in the columns calculation below are:   
//  
//                    mw = 4.5999999999999996  
//                    p = 0.2  
//                    g = 0.2  
//                    h = 1 (integer)  

int columns = (int) ( ( mw - ( h * 11 * p ) ) / ( ( h * 11 * p ) + g ) ) + 1;

在转换为整数类型之前,列计算的结果是1.9999999999999996; 距离2.0的理想结果还差不多.

任何建议最受欢迎.

1> kmkaplan..：

---

当你使用浮点运算时,严格的相等几乎毫无意义.您通常希望与一系列可接受的值进行比较.

请注意,某些值不能完全表示为浮点线索.

了解每个计算机科学家应该知道的关于浮点运算和比较浮点数的内容.

2> MSalters..：

---

没有遗嘱问题.

您获得的结果(1.9999999999999996)与数学结果(2)的差异为1E-16.考虑到您的输入"4.600",这非常准确.

当然,你确实有一个舍入问题.C++中的默认舍入是截断; 你想要类似于Kip的解决方案.详细信息取决于您的确切域名,您期望round(-x)== - round(x)吗？

3> unwind..：

---

如果您还没有阅读,那么本文的标题就是正确的.请考虑阅读它,了解更多关于现代计算机上浮点运算的基本原理,一些陷阱,以及解释为什么它们的行为方式.

4> Kip..：

---

将浮点数舍入为整数的一种非常简单有效的方法：

int rounded = (int)(f + 0.5);

注意：这仅在f始终为正时才有效。（感谢j随机黑客​​）

---

@Moshe：不必要是神秘的，但我认为它很可爱... :)如果`f`为正数或0，`（f <0）`为`0`，则整个表达式像以前一样计算为`0.5`，因此正数舍入不受影响；但是如果`f`为负数，则（f <0）的取值为'1'，然后将其从`0.5`减去以得到`-0.5`，这也会导致负数也四舍五入到最接近的值。

---

@Moshe：不确定abs（）会给您带来很多好处，因为大概您希望最终答案具有原始符号，这意味着您需要通过乘以原始符号来“反转” abs（）。仅仅将`0.5`替换为`（0.5-（f <0））`可能更简单。

5> ChrisF..：

---

如果准确性非常重要,那么您应该考虑使用双精度浮点数而不仅仅是浮点数.虽然从你的问题看来你确实已经存在了.但是,检查特定值时仍然存在问题.你需要代码(假设你正在检查你的值为零):

if (abs(value) < epsilon)
{
   // Do Stuff
}

其中"epsilon"是一些小但非零的值.

---

我认为你的意思是"abs(computed_value - expected_value)

推荐阅读

• 程序员

  如何在之前添加hover for ::

  如何解决《如何在之前添加hoverfor::》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  Android:无法解决android studio中的依赖项

  如何解决《Android:无法解决androidstudio中的依赖项》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  请求caretRectForPosition:NSTextStorage有很多变化

  如何解决《请求caretRectForPosition:NSTextStorage有很多变化》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  静态成员函数与C语言绑定？

  如何解决《静态成员函数与C语言绑定？》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  为什么GNU binutils和GDB合并为一个包？

  如何解决《为什么GNUbinutils和GDB合并为一个包？》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  从bitset获取某些位的十进制值的快速方法

  如何解决《从bitset获取某些位的十进制值的快速方法》经验，为你挑选了2个好方法。 ... [详细]
• 程序员

  shouldAutorotate不使用导航控制器swift 2

  如何解决《shouldAutorotate不使用导航控制器swift2》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  扩展方法不起作用(快速图表序列化)

  如何解决《扩展方法不起作用(快速图表序列化)》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  Python列表理解在guard和result中具有相同的功能

  如何解决《Python列表理解在guard和result中具有相同的功能》经验，为你挑选了0个好方法。 ... [详细]
• 程序员

  Spring Boot:如何创建一个自包含的可执行jar？

  如何解决《SpringBoot:如何创建一个自包含的可执行jar？》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  当用户名包含斜杠时,PuTTY PSCP错误"不支持本地到本地副本"

  如何解决《当用户名包含斜杠时,PuTTYPSCP错误"不支持本地到本地副本"》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  如何在Square MockWebServer中使用SSL？

  如何解决《如何在SquareMockWebServer中使用SSL？》经验，为你挑选了0个好方法。 ... [详细]
• 程序员

  如何判断星号的使用是否与指针有关？

  如何解决《如何判断星号的使用是否与指针有关？》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  快速创建主题

  如何解决《快速创建主题》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  在wordpress中如何在注释中显示USER ROLE

  

  如何解决《在wordpress中如何在注释中显示USERROLE》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  下拉预选择而不激发onchange

  如何解决《下拉预选择而不激发onchange》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  pointer-events:none但是捕获click

  

  如何解决《pointer-events:none但是捕获click》经验，为你挑选了0个好方法。 ... [详细]
• 程序员

  在使用迭代器时,使用迭代器从ArrayList中删除东西

  如何解决《在使用迭代器时,使用迭代器从ArrayList中删除东西》经验，为你挑选了1个好方法。 ... [详细]
• 程序员

  Chrome扩展程序(根据官方教程制作)无法正常工作

  如何解决《Chrome扩展程序(根据官方教程制作)无法正常工作》经验，为你挑选了2个好方法。 ... [详细]
• 程序员

  Android http服务器无法间歇性地从网络上的其他设备访问

  如何解决《Androidhttp服务器无法间歇性地从网络上的其他设备访问》经验，为你挑选了0个好方法。 ... [详细]

吐了个 "CAO" !

吐个槽吧,看都看了

会员登录 | 用户注册