世界の闇が集まる場所

※ブラウザバック推奨

C言語 __float128

2016-10-13 22:04:13 | 日記
int64_tに続いて、__float128(アンダーバー2つ)という128bit小数型の存在を知った。

昨日DSD変換の処理を変更して、データを分割しても積分値は引き継ぐように変更した(分割せずに処理したのと同様の処理結果になる)。
そしたらオーバーフローしたので、16bitの範囲を超えたらリセットするようにした。
誤差により、ノイズが乗った。

今回128bit小数型の存在を知ったので早速積分の上限を128bitにしたところ、ノイズが消えた。
ジャンル:
ウェブログ
コメント   この記事についてブログを書く
この記事をはてなブックマークに追加
« DSD変調 音質 | トップ | DSD変換 GUIが出来た »
最近の画像もっと見る

コメントを投稿


コメント利用規約に同意の上コメント投稿を行ってください。

数字4桁を入力し、投稿ボタンを押してください。

トラックバック

この記事のトラックバック  Ping-URL
  • 30日以上前の記事に対するトラックバックは受け取らないよう設定されております。
  • 送信元の記事内容が半角英数のみのトラックバックは受け取らないよう設定されております。
  • このブログへのリンクがない記事からのトラックバックは受け取らないよう設定されております。
  • ※ブログ管理者のみ、編集画面で設定の変更が可能です。