久しぶりのJava へのコメント http://blog.k1kuch1.com/2008/07/%e4%b9%85%e3%81%97%e3%81%b6%e3%82%8a%e3%81%aejava/ Webアプリケーションの開発や雑多なメモ Sun, 27 Dec 2009 10:50:59 +0900 http://wordpress.org/?v=2.8.4 hourly 1 tkskkc より http://blog.k1kuch1.com/2008/07/%e4%b9%85%e3%81%97%e3%81%b6%e3%82%8a%e3%81%aejava/comment-page-1/#comment-11 tkskkc Wed, 09 Jul 2008 13:01:22 +0000 http://blog.k1kuch1.com/?p=165#comment-11 コメントありがとうございます。 どうなんでしょうね？ ＞ 誤差 ということで簡単な検証をしてみました。 0.1を10回足す計算をやってみたところ、0.99999...という結果に。 それ以上は面倒だったので追いかけてませんが、誤差まで実装されている模様です :-) 確かに逆ポーランド式にした方が処理しやすいですね。 コメントありがとうございます。

どうなんでしょうね？ ＞ 誤差
ということで簡単な検証をしてみました。
0.1を10回足す計算をやってみたところ、0.99999…という結果に。
それ以上は面倒だったので追いかけてませんが、誤差まで実装されている模様です :-)

確かに逆ポーランド式にした方が処理しやすいですね。

]]> spider-man より http://blog.k1kuch1.com/2008/07/%e4%b9%85%e3%81%97%e3%81%b6%e3%82%8a%e3%81%aejava/comment-page-1/#comment-10 spider-man Wed, 09 Jul 2008 11:04:39 +0000 http://blog.k1kuch1.com/?p=165#comment-10 動作確認したこと無いんで分からないんですけど、たぶん javascript と同じ動きするんですよね？ だとすると単純に計算すると誤差が発生しちゃうんですよね・・・・。 検索すると結構でかいライブラリがヒットして僕もげんなりしましたけど 結局、逆ポーランド式に変換して BigDecimal を使って計算するようにしました。 逆ポーランド式に変換さえ出来ればそれほどでかいライブラリにはならないと思います。 動作確認したこと無いんで分からないんですけど、たぶん javascript と同じ動きするんですよね？
だとすると単純に計算すると誤差が発生しちゃうんですよね・・・・。
検索すると結構でかいライブラリがヒットして僕もげんなりしましたけど
結局、逆ポーランド式に変換して BigDecimal を使って計算するようにしました。
逆ポーランド式に変換さえ出来ればそれほどでかいライブラリにはならないと思います。

]]>