oku (剛 奥山)
- Login: oku
- Email: oku1111@gmail.com
- Registered on: 11/29/2011
- Last sign in: 05/28/2012
Issues
12/02/2011
-
10:02 AM
Ruby
Bug #5699: Windowsで一部のFloat値が正しく扱えない
- FAQでした、すみません。
1.9.2 は、より正しく表示出来るようになったということで
納得しました。
https://github.com/rdp/ruby_tutorials_core/wiki/ruby-talk-faq#floats_imprecise
>> 1.1
=> 1.1 # in reality this probably doesn't equal exactly 1.1 deep down--but it's equal t...
oku (剛 奥山)
-
09:14 AM
Ruby
Bug #5699 (Rejected): Windowsで一部のFloat値が正しく扱えない
- Windows XP SP3にて、
ruby 1.9.2p290 (2011-07-09) [i386-mingw32] で、
x = 0.002877 #=> 0.0028770000000000002
となってしまいます。
ruby 1.8.7 (2011-06-30 patchlevel 352) [i386-mingw32] では、
x = 0.002877 #=> 0.002877
となります。
oku (剛 奥山)
Also available in: Atom
Loading...