新しいアカウントで始めました。

身の回りの出来事や写真が中心です。

Rubyで遊んでました。eの計算その7。BigDecimalを使いました。

2017-09-23 18:19:33 | パソコン

前に「C言語による実用アルゴリズム入門」からshort intの配列を使って、高精度の数値計算をやって見てました。

勿論それはそれで良いんでしょうが、Rubyのマニュアルにπの計算が載ってました。それによれば、BigDecimalを

使って、小数点以下を計算してました。

何とかできないものか、四苦八苦してみました。上の図の後半部分の数行で何とかなりましたよ。特別なテクニックも

要りませんでした。驚きです。( ;∀;)

仕上げはループ回数です。やみくもにループしないで、収束したら終わるですね。10の-1001乗で1000桁まで

誤差が出ないようです。

コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« Rubyで遊んでました。ローカ... | トップ | Rubyで遊んでました。素数の... »
最新の画像もっと見る

コメントを投稿

ブログ作成者から承認されるまでコメントは反映されません。

パソコン」カテゴリの最新記事