ひろひろの生活日記(LIFE Of HIROHIRO)

パソコン講習とソフト開発をしています。自作小説も掲載しています。ネット情報発信基地(上野博隆)Hirotaka Ueno

問003メモ2011・04・04(浮動小数点/格納方式).txt

2011年04月04日 16時54分14秒 | 応用情報技術者[問題]
浮動小数点格納方式

┌─┬────┬───────────┐
│s│e(4桁│  f(11桁)   │
└─┴────┴───────────┘
s:仮数部の符号(全体の数字の符号)(1:負 0:正)
e:指数部(乗で±n乗)
f:仮数部

式:
誤り)
      ±e
-1×s×f

正解)
  s  ±e
-1 ×f
補足:sが乗になっているのは、乗算だと0のとき値が0になるた

めです。


正規表現:fの最上位桁を1にするようにする。
補足:誤差が少なくなる。

コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« タイピングソフトの振込先を... | トップ | 問004メモ2011・04... »
最新の画像もっと見る

コメントを投稿

ブログ作成者から承認されるまでコメントは反映されません。

応用情報技術者[問題]」カテゴリの最新記事