山口屋~活動日誌~

私生活で主な出来事をピックアップ

階乗 オーバーフロー 浮動小数点数 整数

2020-08-15 10:54:45 | ソフトウェア開発
階乗:n!や二重階乗:n!!を、Excel(倍精度浮動小数点数)で試算してみた。

階乗は、n≦170までは計算できたが、n≧171ではオーバーフローを起こした。nを整数型で指示する場合、1Byteの符号なし整数型で十分なようだ。

二重階乗は、n≦300までは計算できたが、n≧301ではオーバーフローを起こした。

最新の画像もっと見る

コメントを投稿