山口屋~活動日誌~

私生活で主な出来事をピックアップ

二次方程式 解の公式 桁落ち

2020-09-13 14:17:44 | ソフトウェア開発
数値計算において、二次方程式の解の公式での桁落ちはよく知られた話で、根号を分子から分母に持っていく変形をすると桁落ちせずに求められる。だがこれは実係数の場合の話で、複素係数の場合は桁落ちが回避できないケースがある。

冷水催眠:桁落ちを回避できない複素数係数二次方程式
コメント
  • Twitterでシェアする
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする