当前位置:  开发笔记 > 编程语言 > 正文

浮点数和decimal.Decimal的小数位问题

如何解决《浮点数和decimal.Decimal的小数位问题》经验,为你挑选了2个好方法。

我似乎在漂浮物上失去了很多精确度.

例如,我需要解决一个矩阵:

4.0x -2.0y 1.0z =11.0
1.0x +5.0y -3.0z =-6.0
2.0x +2.0y +5.0z =7.0

这是我用来从文本文件导入矩阵的代码:

f = open('gauss.dat')
lines =  f.readlines()
f.close()

j=0
for line in lines:
    bits = string.split(line, ',')
    s=[]
    for i in range(len(bits)):
        if (i!= len(bits)-1):
            s.append(float(bits[i]))
            #print s[i]
    b.append(s)
    y.append(float(bits[len(bits)-1]))

我需要使用gauss-seidel解决,所以我需要重新排列x,y和z的方程式:

x=(11+2y-1z)/4
y=(-6-x+3z)/5
z=(7-2x-2y)/7

这是我用来重新排列方程的代码.b是系数矩阵,y是答案向量:

def equations(b,y):
    i=0
    eqn=[]
    row=[]
    while(i

然而,我得到的答案并不精确到小数位.

例如,在重新排列上面的第二个等式时,我应该得到:

y=-1.2-.2x+.6z

我得到的是:

y=-1.2-0.20000000000000001x+0.59999999999999998z

这似乎不是一个大问题,但是当你将数字提高到一个非常高的功率时,错误是非常大的.有没有解决的办法?我尝试了这个Decimal课程,但是它在功能方面效果不佳(即Decimal(x)**2).

有任何想法吗?



1> Doug Currie..:

IEEE浮点是二进制,而不是十进制.没有固定长度的二进制分数恰好为0.1或其任何倍数.它是一个重复的分数,如十进制的1/3.

请阅读每个计算机科学家应该知道的关于浮点运算的内容

除了Decimal类之外的其他选项是

使用Common Lisp或Python 2.6或其他语言具有精确的有理数

使用例如frap将双打转换为接近的有理数



2> 小智..:

我不太熟悉Decimal类来帮助你,但你的问题是由于十进制分数通常不能用二进制精确表示的事实,所以你看到的是最接近的可能近似值; 没有使用特殊类(如Decimal,可能),没有办法避免这个问题.

EDIT:十进制类怎么办不适合你呢?只要我从字符串开始,而不是浮动,权力似乎工作正常.

>>> import decimal
>>> print(decimal.Decimal("1.2") ** 2)
1.44

该模块文档解释了需要和使用decimal.Decimal非常清楚,你应该检查出来,如果你还没有.

推荐阅读
手机用户2502851955
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有