中野智文

中野智文(VOYAGE GROUP)のコンピュータなどのメモ

1に近い値の対数の近似

2014-02-17 15:01:37 | ruby
背景 0に非常に近い実数値は、指数関数表現で問題なく表される。 一方、確率など扱う場合など、1に非常に近い値も扱うこともあるが、その場合、丸められてしまう。 例えば、 irb> 1.0-0.0000000000000001 => 1.0 など。その場合、1-xのxだけを計算すればよいのだが、対数(log)を計算した時がある。 そんなとき、そのまま入れても、 irb> M . . . 本文を読む