Tag: math

使用Ruby进行任意精度算术

Ruby如何做到这一点? Jörg或其他任何人都知道幕后发生了什么吗? 不幸的是我不太了解C,所以bignum.c对我没什么帮助。 我有点好奇,有人可以用简单的英语解释它使用的奇迹算法背后的理论。 irb(main):001:0> 999**999

Ruby BigDecimal健全性检查(浮动点newb)

我的理解是正确的,使用Ruby BigDecimal类型(即使具有不同的精度和比例长度)应该准确计算还是应该预测浮点诡计? 我在Rails应用程序中的所有值都是BigDecimal类型,我看到一些错误(它们有不同的小数长度),希望它只是我的方法而不是我的对象类型。