裏 RjpWiki

Julia ときどき R, Python によるコンピュータプログラム,コンピュータ・サイエンス,統計学

Julia の小ネタ--029 実数演算の誤差

2021年06月27日 | ブログラミング

どうという計算ではないのに,結果が違う。

実数演算にはご注意ということではあるが。

x = 0.0:0.1:1.0

n が 123 のときは,両辺等しい。

n = 123
n*x .== n*collect(x)

11-element BitVector:
 1
 1
 1
 1
 1
 1
 1
 1
 1
 1
 1

n が 122 のときは,等しくない

n = 122
n*x .== n*collect(x)

11-element BitVector:
 1
 0
 0
 1
 0
 1
 1
 0
 0
 1
 1

コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« ダイナマイトプロット 再び | トップ | Julia の小ネタ--030 円周率... »
最新の画像もっと見る

コメントを投稿

ブログラミング」カテゴリの最新記事