裏 RjpWiki

Julia ときどき R, Python によるコンピュータプログラム,コンピュータ・サイエンス,統計学

modulus は「絶対値」じゃない

2010年09月09日 | ブログラミング
絶対値で精度が完全に失われた可能性があります 」というのは実に日本語的に意味が分からない珍訳だと思うのだけど,英語では "probable complete loss of accuracy in modulus" だ。
modulus が絶対値という訳になるのは,「(複素数の)絶対値」だから,当てはまらないだろう。
modulus ということで,一番最初に頭に浮かぶのは「(整数論の)法」

それにしても,どういう状態か分からないのでいろいろ捜索の結果,以下のような場合に出たり出なかったりというエラーのようだ。

> 30284005485024840 %% 7
[1] 4

> 30284005485024840 %% 6
[1] 0
 警告メッセージ:
 絶対値で精度が完全に失われた可能性があります 

やはり,modulo に関係するもののようだけど,除数により出たり出なかったりというのがわからない。
コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« 処理に適したデータ構造を | トップ | コマンドラインからディスク修復 »
最新の画像もっと見る

コメントを投稿

ブログラミング」カテゴリの最新記事