超大規模な量子化学の SDP を解いているが、relative gap という意味でどうも精度が上がらない。精度の問題は大きな問題として捉えられており、先日のシンガポールの Workshop でもかなり大きな関心事項だった。4倍精度の変数(つまり 128bit/16byte)を使用することが一つの解決法であろうが、opteron でも直接 128bit の変数は扱えないようだ。128bit のレジスタはあるが SSE3 の 64bit + 64bit の SIMD として使うための物である。64bit 環境では long double は 128bit の変数なのだが、これを計算に用いると大変遅そうだ。
4倍精度の需要はあまり無いのかと思うのだが、科学技術計算では確かにあるだろう。しかしゲーム機の世界ではまだ単精度計算が主流だったりするので、普及は遅そうだ。精度に関してはアルゴリズムでカバーするしかないかもしれない。POP の SDP 緩和にしても SDP の精度が非常に重要になってくるだろう。
4倍精度の需要はあまり無いのかと思うのだが、科学技術計算では確かにあるだろう。しかしゲーム機の世界ではまだ単精度計算が主流だったりするので、普及は遅そうだ。精度に関してはアルゴリズムでカバーするしかないかもしれない。POP の SDP 緩和にしても SDP の精度が非常に重要になってくるだろう。