Project

General

Profile

Actions

Bug #3267

closed

BigDecimal/mathでatan()に1.08を入れると戻り値の有効桁数が足りない

Added by wanabe (_ wanabe) over 14 years ago. Updated over 13 years ago.

Status:
Closed
Target version:
-
ruby -v:
ruby 1.9.2dev (2010-05-04 trunk 27600) [i386-mingw32]
Backport:
[ruby-dev:41257]

Description

=begin
2ch.net 上で報告があったので転載します。

Rubyについて Part 40
http://pc12.2ch.net/test/read.cgi/tech/1272248179/121-122

RubyのトランクのBigDecimal/math
atan()に1.08を入れると戻り値の有効桁数が足りない

return pi.div(neg ? -2 : 2, prec) if x.infinite?
return pi / (neg ? -4 : 4) if x.round(prec) == 1

  • x = 1 / x if inv = x > 1
    x = (-1 + sqrt(1 + x**2, prec))/x if dbl = x > 0.5

irb(main):004:0> BigDecimal("1")/BigDecimal("1.08")
=> #<BigDecimal:9940ce4,'0.9259259259 25926E0',16(24)>
irb(main):005:0> BigDecimal("1").div(BigDecimal("1.08"), 30)
=> #<BigDecimal:9957468,'0.9259259259 2592592592 5925925926E0',32(44)>
irb(main):006:0>

ここで桁数が足りなくなるのね。
分母と分子の有効桁数が少ないときに、出力の有効桁数の指定が無い場合は、
適当にちょんぎるのは、言語仕様的には、正解でありましょう。
1/3が来たら、メモリを全部使い切りました、では悲しい。
はい、
x = BigDecimal("1").div(x, prec)
で、なおります。
y = tan(atan(x, prec), prec)
で、ループを廻して、xとyの値を比較していてたら、たまたま発見しました。
あ、トランクにはtanはないのだけど、sinとcosの組み合わせで間に合わせました。
tanはパッと見、収束が遅いようなので後回し。

あと、expの絶対値が大きくなると、戻って来ないのよね。
exp(a*b+c) = exp(a)**b * exp(c)
を使うと、幸せになれるかも。(ん十倍の威力で)
んで、powerも全部の桁を計算してご苦労さんなんだが、integerではないのだから、そんなに気張らなくても..
とは、思います。
expと同じ要領でやると、実行速度がずいぶん速くなります。
(Rubyのコードからpowerをcallするんだが、それでもとても速い。
ソースを書き換える手もあるのだけど、コンパイルするのがめんどくさい。
そもそも、その手の労力を厭わない人は、こっちに来なくて良いでしょ)

logは、exponentが負の場合、
を書いてあるから、正で2桁以上の場合、を追加すると良いですね。
expとlogが実用範囲内になると、実数**実数が(実用的に)使えるようになります。
=end


Related issues 4 (0 open4 closed)

Related to Ruby master - Feature #3269: BigMath.tan がないClosedmrkn (Kenta Murata)Actions
Related to Ruby master - Bug #3270: BigMath.exp が絶対値が大きな引数で遅いClosedmrkn (Kenta Murata)Actions
Related to Ruby master - Bug #3272: BigDecimal#** が実用的な速度ではないClosedmrkn (Kenta Murata)05/11/2010Actions
Related to Ruby master - Bug #3271: BigMath.power が遅いClosedmrkn (Kenta Murata)05/11/2010Actions
Actions

Also available in: Atom PDF

Like0
Like0Like0