日々適当

hibitekitou

商の余りを切り捨てる時の挙動

xsi |2011-10-12
これはどーいうことなんでしょ?
ICEで以下のようなTreeを組みます。割り算をして、余りを切り捨てる、という内容です。



分かりやすくするために、分数(割り算)の分母の値の2倍の数を分子に入れています。ですから答えは常に2になるはずです。余りは0のはずなので、切り捨てた(Floor)結果出てくる整数値も2のはずです。
ところが、値によってはそのようになりません。このように↓なります。



切り捨てた結果の値が1になってしまいました。
どんな時にそんなふうになるのか分からないのですが、そうなる場合がいくつか存在するようです。

そのため、Softimage付属のコンパウンドの中身をみて見ると、このような割り算の余りを切り捨てるという計算をする時、余りが0の場合は結果を四捨五入して整数にする、という事をしていました。

なんでそんなふうになるんでしょ?
コメント ( 0 )|Trackback ( )

まずはiTunes

mac |2011-10-12


たぶんダウンロード祭りになるであろうと予想しているんですけどね。日本時間の今日明日ぐらい。iTunes 10.5、iOS 5。そしてMac OS X 10.7.2が登場するとふんでいるんですけど、iOS 5とiTunes経由のiCloud同期にはMac OS X 10.7.2は必要ないのか? であれば、遅れてもいいのかもしれないという気になってきますな。でも、さっさと登場してー。Safariのアップデートも早くしてー。
コメント ( 0 )|Trackback ( )
  ・