暫定記録帳

備忘録

IDLで四捨五入、切り捨て、切り上げ

2009-09-15 23:17:44 | IDL
1.四捨五入
result=round(X)
戻り値はinteger

ex.
IDL>print, round(100.5)
IDL>101

IDL>print, round(100)
IDL>100

2.切り捨て
result=floor(X)
戻り値はinteger

ex.
IDL>print, floor(100.5)
IDL>100

3.切り上げ
result=ceil(X)
戻り値はinteger

ex.
IDL>print, ceil(100.1)
IDL>101

※各関数を任意の桁数に対して実行したい場合は
目的の桁を小数点第1位に持ってくると良い


コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« IDLの構造体について | トップ | IDLで多項式フィッティングを... »
最新の画像もっと見る

コメントを投稿

IDL」カテゴリの最新記事