Project

General

Profile

ActionsLike0

Bug #5266

closed

BigDecimal#sqrt で、大きな数の平方根の、要求する精度が低いある範囲のとき、結果がおかしい

Added by metanest (Makoto Kishimoto) over 13 years ago. Updated about 11 years ago.

Status:
Closed
Target version:
ruby -v:
ruby 1.9.4dev (2011-07-18 trunk 32577) [x86_64-freebsd8.2]
Backport:
[ruby-dev:44450]

Description

BigDecimal#sqrt で、大きい数(10**n でだいたい n > 100 あたり
から顕著)の平方根を求める時、sqrt の引数(桁数で要求する、精度の下限)
がだいたい 20 ~ 0.55 * n の時、期待するような結果が出ません。

以下具体例を示して説明します。

$ irb19
irb(main):001:0> RUBY_DESCRIPTION
=> "ruby 1.9.4dev (2011-07-18 trunk 32577) [x86_64-freebsd8.2]"
irb(main):002:0> require "bigdecimal"
=> true
irb(main):003:0> BigDecimal("2" + "0" * 100).sqrt(55)
=> #<BigDecimal:801370a88,'0.1414213562 3730925960 0758552551 27E51',36(81)>
irb(main):004:0> BigDecimal("2" + "0" * 100).sqrt(56)
=> #<BigDecimal:8013720b8,'0.1414213562 3730950488 0168872420 9698078569 6718753769 4807317668 1337583355E51',81(90)>

101 桁の数の平方根で、55 桁の精度を要求しても、36 桁の結果しか
帰って来ず、56 桁の結果の値と比較するとわかりますが、20桁程度の精度しか
ありません。

irb(main):005:0> BigDecimal("2" + "0" * 200).sqrt(109)
=> #<BigDecimal:80137ba00,'0.1414213562 3730950488 0168872420 9698078570 3148413402 613295E101',63(135)>
irb(main):006:0> BigDecimal("2" + "0" * 200).sqrt(110)
=> #<BigDecimal:80137d0a8,'0.1414213562 3730950488 0168872420 9698078569 6718753769 4807317667 9737990732 4784621071 8501120828 2516704398 7185098437 5959938108 258992945E101',144(144)>

201 桁の数だと、要求する精度が 109 桁と 110 桁の間に境界があり、
また異常のある結果の精度も倍程度になります。

Added by Kenta Murata about 11 years ago

Revision ff3e5850

  • ext/bigdecimal/bigdecimal.c (BigDecimal_sqrt): Fix the precision of
    the result BigDecimal of sqrt.
    [Bug #5266] [ruby-dev:44450]

  • test/bigdecimal/test_bigdecimal.rb: add tests for the above changes.

git-svn-id: svn+ssh://ci.ruby-lang.org/ruby/trunk@43764 b2dd03c8-39d4-4d8f-98ff-823fe69b080e

ActionsLike0

Also available in: Atom PDF