屁理屈爺さんIT放談

お気に入りソフトやデジモノ紹介。その逆に使っていて困る事例の紹介(主にヒューマン・インタフェースの観点から)

Excelの計算がおかしい?

2004年11月12日 | Excelあれこれ
-2から0.2ずつ加える、という数式をコピーしていくと、あるところで0になるのは、中学生ならすぐに分かるはず。
Excel使っていたら、なんと、0になってくれない!
えーー?足し算も正確にできないの?

A2に-2をいれて,A3以下 =A2+0.2 という式をコピーしたのですがね。

あ、怖くて使えなくなりそう。=A2+0.200000 とでもしないとだめ?→だめでした。
それともこんな計算でも、いちいちRound関数で丸めないとだめなのかな?

教えてgooに出してみようか‥‥‥
2000年問題より重大な気がするけど。
まさか0.2を加える式をコピーしてはいけないというのが常識とは思えないし‥‥‥
(私の勘違いであって欲しい)


最新の画像もっと見る

3 コメント

コメント日が  古い順  |   新しい順
できましたよ (yucco)
2004-11-12 23:31:55
できましたけど・・・。

ただ、「0」になるセルだけは指数形式になってしまうので、セルの書式設定で「数値」にしてあげれば大丈夫です。
返信する
しかし (actbemu)
2004-11-13 07:55:46
yuccoさん、おっしゃる通りです。

しかし、sign関数で符号を調べると、0になってくれなくて、-1となります。つまりif関数や、int関数など条件判断の際は、書式を変えただけでは0とは判断されないのです。
返信する
やはりね (actbemu)
2004-11-13 09:46:04
http://www.asahi-net.or.jp/~FV6N-TNSK/gates/excel.txt

にも書いてありましたが。内部の演算のせいですね。きっと。

BCD演算でなく、バイナリーで演算しているためでしょう。それにしても0のところだけ指数表示になる、というのは何か例外処理しているようで気になります。



計算結果で場合分け、条件判断、vlookupでの表検索などをする時はよほど注意しないと怖いな。

返信する

コメントを投稿