CUDAプログラミングのサンプル

明日手に入る「はじめのてCUDAプログラミング」ですが、どうもCD付録はなくて、サンプルなどはサポートページより入手できるようです。
粒子計算や拡散方程式の応用例題のサンプルプログラムが、Windows / Linux / MacoS X などで動作するソースプログラムが公開されています。早速、明日から試してみようと思います。

はじめてのCUDAプログラミング

研究情報も共有してこそ、色々な展開が期待できるので、このブログを再活用して、情報発信して行きます。
さてメジャーブレーク寸前のGPGPUですが、ハードの調達は比較的誰でも出来るのですが、キラーアプリケーションが限定されているのが気になっていました。また自作プログラムをGPGPU化するには、プログラミングの具体的な情報が無くて敷居が高い感じがしていました。
こんな時、ついに出ました第１人者の青木先生の「はじめてのCUDAプログラミング」です。
目次を見る限りでは、はじめてCUDAに取り組みために必要な情報が網羅されているようで、期待しています。自分は２４日に入手できると思うので、また続報をお伝えします。

今どきのGPUには電源が必要でした

少し時間が空きましたが、やっとTeslaを搭載するPCが準備出来たので、接続をしようとハードウエアのインストールマニュアルを眺めてみました。と、今どきのGPUと言うのは、PCI-Eと記された電源を別途接続するようです。
Teslaの場合には、PCI-Eの電源ケーブルの、6pinを２本か8pinを１本、必要になります。そこで、電源から出ているケーブルを調べたら、6pinが１本だけで、あー駄目ジャンと思ってしまいました。
で良く見ると、枝分かれした2pinのコネクタがあり、これをうまくあわせると8pinになるようなのです。まだマニュアルやウエブの資料収集の段階ですが、実際に試したら、また報告します。
なお、詳細はPCI Express 8ピン 電源コネクタの仕様を参考にしました。

Tesla Personal Super Computer

PC関連では、久しく新しいジャンルのハードウエアが出てきませんでしたが、最近になり新しく２つの方向性が出てきたと思います。１つは、EeePCから始まったUltra Mobile PC : UMPC と呼ばれる小型の携帯PCで、性能は程ほどですが価格が安く、一気に広がりを見せています。
それともう１つが、Teslaを代表とするGPGPUだと思います。こちらは主にハイエンドPCになりますが、PCのパーツや全体の価格が極めて安価になる中で、高価格製品として期待があるのか、大メーカーから小ショップまで、至る所で宣伝が展開されていますし、ユーザーの期待もあります。
しかし、ここで重要なのはハードが普及するためには、TeslaなどのGPGPUのキラーアプリケーションが出ないことには、一部の研究開発の分野でしか利用が広がらないと思います。誰もがGPGPUの恩恵に受けることが出来てこそ、広く普及に新しいGPUによるコンピューティングが実現すると思います。
Tesla Personal Super Computer の記事の例

NVIDIA と ATI

昔は色々とあったグラフィックボードメーカーですが、現在は、２つの大きな GPU メーカー「NVIDIA と ATI」に絞られてきているようです。NVIDIA は GeForce、ATI は Radeon と言うメジャーなブランドがあります。いずれも将来の GPGPU に向けて、それぞれ戦略を練っているようです。しかし、NVIDIA は GPU 専門メーカーで、ATI は親会社が AMD ですので、GPGPU に関する立場も異なっているようです。つまり、ATI の場合、親会社 AMD が CPU を作っている以上、それを凌駕する位置づけは難しいのだと思います。
さて、GPGPU のプログラミングに関しては言えば、NVIDIA の CUDA がリードしていると思います。ATI は、ATI Strem がありますが、まだ始まったばかりですので、多くの情報が充実し、研究開発などでも実績を上げている　CUDA が、デファクトになる可能性も高いです。ただ将来的には、OpenCL として統合される計画もあるので、将来が楽しみです。
NVIDIA CUDA
ATI Stream
OpenCL

Tesla C1060 の仕様

Tesla C1060 の仕様がありましたので、参考のため転記しておきます。
ストリーミングプロセッサーコア数　240
プロセッサコアの動作周波数　1.296GHz
ボードのメモリ　4GB
計算性能　933GFLOPS(32bit単精度）
　　　　　78GFLOPS(64bit倍精度）
メモリ帯域　102GB/秒
メモリ速度　800MHz
最大消費電力　ピーク　225W　通常　160W
ここで、ストリーミングプロセッサ SP が 240 もあるところがミソだそうで、ここで膨大なスレッドを処理することで、高速演算を実現しているそうです。逆に言うと、数千のスレッドを生成する計算モデルでないと、GPU の効果は大きくならないとのことです。
計算性能としては、グラフィック処理が主目的ですから単精度は得意ですが、倍精度については１割以下になってしまいます。ですので、倍精度しか実現しない計算については、カタログの 1TFLOPS に迫ることは難しいことになります。そう考えると、んーーん。

ついに Tesla C1060 現る

と言うことで、化粧箱に大切に収められた Tesla C1060 を取り出してみました。第１印象は、大きくて重い！でした。だんだん大きくなるグラフィックボードですが、ついにここまできたかと言う感じです。もちろんスロット２つ分の厚みがありますが、 PC ケースで言う奥行きが長く27cmもあります。
写真で言うと、白い枠がＡ４用紙サイズなので、その大きさが分かってもらえると思います。性能もすごいものです。もしこの速度でアプリケーションが動いたら、それは本当にパーソナルスパコンですよね。しかし、この性能を生かすためのアプリケーションには色々と制限があるようです。
そこが、ソフトウエアの開発技術にかかっているようです。これまでハードの性能向上に依存していた計算効率ですが、またソフトで頑張る時代が来たのかもしれません。自分的には、年内に予定されている Fortran サポートに期待しています。いまさら Fortran? と言われそうですが、いまでも Fortran! です。

なぜ Tesla C1060 にしたのか

GPGPUは、用はグラフィックボードを汎用計算に使うわけで、一般的なGPUを搭載したボードであれば、良いわけです。むしろ、Tesla は GPGPU に特化するため、画像出力がありません。また、画像出力がメインのボードで同じGPUを搭載している方が、数が出るだけに安価になるようです。
しかし、Tesla の魅力は、そのメモリの大きさです。なんと 4GB も搭載しているのです。PC のメモリに匹敵する大きな空間です。でも、GPGPU 計算をするためには、これでも足りないぐらいだそうです。つまり、GPU の計算では、CPU とのデータ転送を避けて、GPU のメモリ内での計算を中心にしないと、速度向上が望めないので、メモリは大きいほど良いのだそうです。（学会発表などの受け売りです）
と言うことで、一応手に入る最高の GPGPU を入手したので、がんばってみようと思います。

Tesla C1060 の購入方法

待ち続けた Tesla C1060 の購入に当たっては、７月ぐらいから待ち続け、見積もりを取ったり、納期未定で待たされたり、と続きましたが、やっと１１月になり、納品です。まあ、それまでは通常の GPU で練習をしていたのですが。
それで、今回の購入ではハードウエアでは珍しく、アカデミック価格があるようです。教育機関に納品している業者さんであれば、相談してみると良いと思います。NVIDIA に登録することになりますが、随分と割引してもらえますので、大学なので購入される方は、得です。

ついにTesla C1060 を入手

夏休み前から、待ちに待っていた「NVIDIA Tesla C1060」ですが、やっとのこと手に入りました。理論演算性能１TFLOPSと言うとてつもない計算能力を持つGPGPUが何と２０万円ぐらいで手に入るのです。これからは、このデバイスの能力を発揮させて、パーソナルはHPCを目指してゆこうと思います。
今日は、パッケージについてです。通常、GPU のパッケージは、派手な女性の CG のイメージが多いのですが、この Tesla は違います。Apple のパッケージに迫る、非常に高級感のあるものです。何か、すごい可能性を期待させます。