当前位置:  开发笔记 > 编程语言 > 正文

是否在Ruby中的BigDecimal中使用String或Integer

如何解决《是否在Ruby中的BigDecimal中使用String或Integer》经验,为你挑选了0个好方法。

参考BigDecimal课程文件,

n,m = a.precs
prec返回有效位数(n)和最大有效位数(m)a.

我对以下与之相关的输出感到困惑BigDecimal.

require 'bigdecimal'    
BigDecimal.new('1').precs # => [9, 18] 
BigDecimal.new(1).precs   # => [9, 27]

我无法弄清楚为什么当a String传递时,与传递a 相比,最大有效位数会减少Fixnum.

它还会导致任何精度问题吗?

推荐阅读
重庆制造漫画社
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有