浮動小数点格納方式
┌─┬────┬───────────┐
│s│e(4桁│ f(11桁) │
└─┴────┴───────────┘
s:仮数部の符号(全体の数字の符号)(1:負 0:正)
e:指数部(乗で±n乗)
f:仮数部
式:
誤り)
±e
-1×s×f
正解)
s ±e
-1 ×f
補足:sが乗になっているのは、乗算だと0のとき値が0になるた
めです。
正規表現:fの最上位桁を1にするようにする。
補足:誤差が少なくなる。
┌─┬────┬───────────┐
│s│e(4桁│ f(11桁) │
└─┴────┴───────────┘
s:仮数部の符号(全体の数字の符号)(1:負 0:正)
e:指数部(乗で±n乗)
f:仮数部
式:
誤り)
±e
-1×s×f
正解)
s ±e
-1 ×f
補足:sが乗になっているのは、乗算だと0のとき値が0になるた
めです。
正規表現:fの最上位桁を1にするようにする。
補足:誤差が少なくなる。