goo blog サービス終了のお知らせ 
「PIC AVR 工作室」サイトの日記的なブログです。
サイトに挙げなかった他愛ないことを日記的に書き残してます。
PIC AVR 工作室 ブログ



例によってFFTのライブラリをカスタムしながら
シミュレーション。出力数値のワイドレンジ化と
計算誤差を小さくするのをなんとか両立でき
ないかともがく。


表計算ソフトのシミュレーションでは行ってない
パターンも色々試してみると…予想外にレンジを
はみ出るケースがいっぱい。うーん…

やりようによっては両立できないこともないと
思うんだけど、あっちを立てればこっちが立たず…
みたいなことがいっぱいあって悩ましい…


多少の処理時間の長さに目をつぶってしまえば
ある程度の速度は得られるんだけど、最大で
数千クロック単位で長くなっちゃう。うーん。

あと、直流成分はどうしようもないんだよな…


あ、あともう一つ忘れてた。実数と虚数に2組の
信号を投入して、1回のFFT計算で2組の信号を
処理しちまおうと思ってたんだった。これも
加味すると、いま目論んでる方法でどこまで破綻
せずに処理できるのか、もう一度表計算ソフト
で洗いなおしておこうかな。



コメント ( 0 )
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする



« カスタム版のF... 相変わらずFFT »
 
コメント(10/1 コメント投稿終了予定)
 
コメントはありません。
コメントを投稿する
 
名前
タイトル
URL
コメント
コメント利用規約に同意の上コメント投稿を行ってください。

数字4桁を入力し、投稿ボタンを押してください。