強者どもが夢の跡 V: Connection Machine I: W. Daniel Hillis

[06/11/22]
"Thinking Machines
　Danny Hillis talks about the real-world challenges of creating artificially intelligent machines.", Technology Review, November 14, 2006
　http://www.technologyreview.com/InfoTech/17709/
==========
[06/03/31]
Bradley C. Kuszmaul, Research Scientist at in the Supercomputing Technologies Group at the MIT Laboratory for Computer Science
　http://bradley.csail.mit.edu/~bradley/
　Papers and Publications
　　http://bradley.csail.mit.edu/~bradley/papers.html
で Connection Machine CM-5のネットワーク関係の論文等が公開されています。
Kuszmaul博士は CM-5の Principal Architectsの一人です。
(博士論文：Synchronized MIMD Computing, May 1994. には
　"I was the first member of the CM-5 design team,"
　と記されています。9ページの脚注)

Supercomputing Technologies Group (SuperTech), Computer Science and Artificial Intelligence Laboratory, MIT
　http://supertech.csail.mit.edu/
==========
[06/02/14]
Thinking Machines社の Connection Machineについてのリンク集

何故いまさら Connection Machine (特に CM-2) かと言えば、
あらためてデータパラレル/SIMDの歩んできた路について再検討 (調査) すべきと勝手に感じたからです。
ストレージにしても、データがシステム全体の中でどのように流れるかを重視すべきです。
適宜文献等を増やしていきますが、順不同です。


書籍：
　"コネクションマシン―65,536台のプロセッサから構成される超並列コンピュータ",
　　ダニエル ヒリス (著), W.Daniel Hillis (原著), 喜連川 優 著訳, 1990年10月 (現在も販売してます)
　　http://www.personal-media.co.jp/book/comp/062.html
　　　"原著に追加情報とベンチマーク値を増補。"
　　　は知らなかった、原著はどっかにあるけど改めて翻訳版も手に入れなければ

Thinking Machines社の直接の関係者ではありませんが、次の書籍はお勧めです：
　"Vector Models for Data-Parallel Computing",
　　Guy E. Blelloch, Carnegie Mellon University,
　　MIT Press, August 1990 (残念ながら絶版)
　　http://mitpress.mit.edu/catalog/item/default.asp?ttype=2&tid=5103
　　"Vector Models for Data-Parallel Computing describes a model of parallelism that extends
　　 and formalizes the Data-Parallel model on which the Connection Machine and other
　　 supercomputers are based."
　Guy E. Blelloch, Professor
　　Department of Computer Science, Carnegie Mellon University
　　http://www.cs.cmu.edu/~guyb/


いきなり原点
　"The Connection Machine",
　　Hillis, W. Daniel, MIT Artificial Intelligence Laboratory, Memo No. 646,
　　1-Sep-1981.
　　http://hdl.handle.net/1721.1/5679
　"The connection machine",
　　Hillis, W. Daniel, Advisors: Gerald Sussman,
　　Thesis (Ph. D.)--Massachusetts Institute of Technology, Dept. of Electrical Engineering and Computer Science,
　　1988.
　　http://hdl.handle.net/1721.1/14719
　　　Chapter 1
　　　Introduction
　　　1.1 We Would Like to Make a Thinking Machine
　　　"Someday, perhaps soon, we will build a machine that will be able to performe the functions of
　　　 a human mind, a thinking machine. One of the many problems that must be faced in designing
　　　 sucha a machine is the need to process large amounts of information rapidly, more rapidlry
　　　 than is ever like to be possible with a conventional computer. This document describes
　　　 a new type of computing engine called a Connection Machine, which computes through
　　　 the interaction of many, say a million, simple identical processing/memory cells.
　　　 Because the processing takes place concurrentlty, the machine can be much faster than
　　　 a traditional computer."

"W. Daniel Hillis",
　From Wikipedia, the free encyclopedia
　http://en.wikipedia.org/wiki/W._Daniel_Hillis

　Hillis博士は、Thinking Machines社の破産後、Vice President, Research and Development at
　Walt Disney Imagineering等を経て、現在は applied minds, inc.の Co-Chairman and Chief Technology Officer、
　および Long Now Foundationの Co-chairman of the board of directorsにつかれています。
　　applied minds, inc.
　　　http://www.appliedminds.com/
　　　Co-Chairman and Chief Creative Officerの Bran Ferren氏は Walt Disney Imagineering社の
　　　Research & Development and Creative Technologyの Presidentを務めていました。
　　Long Now Foundation > Board Members > Danny Hillis
　　　http://www.longnow.org/people/board/
　　　Board Membersには Brian Enoも含まれています

　"The Mind of an Inventor",
　　Newsweek, 10 October 2005
　　http://www.msnbc.msn.com/id/9558120/site/newsweek/

　"Richard Feynman and The Connection Machine",
　　W. Daniel Hillis
　　http://www.longnow.org/views/essays/articles/ArtFeynman.php

　"思考する機械コンピュータ サイエンス・マスターズ",
　　ダニエル ヒリス (著), W.Daniel Hillis (原著), 倉骨 彰 (翻訳)
　　草思社, 2000/10, ISBN: 4794209924


"Connection Machine",
　From Wikipedia, the free encyclopedia
　http://en.wikipedia.org/wiki/Connection_Machine
"Thinking Machines",
　From Wikipedia, the free encyclopedia
　http://en.wikipedia.org/wiki/Thinking_Machines

"Thinking Machines Corporation",
　Student Project, Fall 1997
　The Structure of Engineering Revolutions: STS.185/6.972, MIT Class, 1997.
　http://theory.lcs.mit.edu/classes/6.972/TMC%20Corp.html
　CM-1, CM-2の背景についてよくまとまっています。

"The Rise and Fall of Thinking Machines",
　Inc. Magazine, September 1995.
　http://www.inc.com/magazine/19950915/2622.html



Hillis博士の Connection Machine (MIT Press)が本箱に埋もれていて、どこまで解説しているか判りませんが
"Architecture and Applications of the Connection Machine",
　Lewis W. Tucker and George G. Robertson,
　IEEE Computer, August 1988 (Vol. 21, No. 8).
　http://doi.ieeecomputersociety.org/10.1109/2.74
が要領よく解説しているようすです(ざっと目を通しただけですが)。

65536個のプロセッサからのデータを、ストレージ側でどのように処理するか気になっていたところ、
CM-2では DataVaultという High-performance fault tolerantな Massively Parallelなストレージが
開発されていました(上記 IEEE Computerで概略を説明)。

Connection Machines
　http://home.hakuhale.net/rbc/symbolics/cm.html
等の CM-2の代表的写真のキューブ (プロセッサ部) の隣の素敵な形が DataVaultストレージです。

DataVaultについては
Connection Machine and DataVault from Thinking Machines Corporation
　http://www.svisions.com/sv/cm-dv.html
"I/O Performance on the Connection Machine DataVault System",
　John Krystynak, NASA Ames Research, NAS Technical Reports, RND-92-011, 1992.
　http://www.nas.nasa.gov/News/Techreports/1992/1992.html
が参考になりそうです。
CMPE 202 - Computer Architecture,
　Baskin School of Engineering, University of California, Santa Cruz
の講義資料：Chapter7 I/O System:
　http://www.soe.ucsc.edu/classes/cmpe202/Fall03/notes/ch7.2p.pdf
　"RAID-2 - Bit intereleaving with error correction" の実例として CM2 DataVaultを記してます。
関連特許：
　"Method and apparatus for operating multi-unit array of memories",
　　United States Patent 4899342,
　　Filing Date: 1988-02-01, Publication Date: 1990-02-06,
　　Assignee: Thinking Machines Corporation.

"Parallel I/O Subsystems in Massively Parallel Supercomputers",
　Dror G. Feitelson et al., IEEE Concurrenency, Fall 1995(Vol.3, No.3).
　http://doi.ieeecomputersociety.org/10.1109/M-PDT.1995.414842
　Massively parallel processors (MPPs)スーパコンピュータの Parallel I/Oについてのサーベイ
"Survey of commercial parallel machines",
　Gowri Ramanathan and Joel Oren,
　ACM SIGARCH Computer Architecture News, Volume 21, Issue 3 (June 1993).
　http://portal.acm.org/citation.cfm?id=152837&coll=ACM&dl=ACM&CFID=68470339&CFTOKEN=209464
　Kendell KSR-1, CM-200/5, MasPar-1, Transputer T9000, Ncube, Sequentについてのサーベイ
"Implementing the NHT-1 Application I/O Benchmark",
　Samuel A. Fineberg, NASA Ames Research, NAS Technical Reports, RND-93-007, 1993.
　http://www.nas.nasa.gov/News/Techreports/1993/1993.html
　Cray Y-MP(8Processors), CM-2(32768Processors), iPSC/860(128Processors)での
　NASA NAS NHT-1 I/O (Input/Output) ベンチマークのレポート


慶應義塾大学 理工学部 情報工学科 天野先生の授業資料
　Special Course on Computer Architectures, 2005
　　http://www.am.ics.keio.ac.jp/comparc/
　　Slides used in April the 8th (intro.ppt)
　　にて CM-2を紹介されています (他のスライドもとても勉強になります)。

東京大学 理学部 天文学教室 牧野先生の
　"スーパーコンピューティングの将来" (適宜更新されています)
　　http://grape.astron.s.u-tokyo.ac.jp/~makino/articles/future_sc/face.html
　はスーパーコンピュータの歴史を知るためにもお勧めです。


関連？エントリー
強者どもが夢の跡 V: Connection Machine II: デザイン (Cray), 2006-02-14
ルネサス テクノロジ：マトリックス型の超並列プロセッサを開発, 2006-02-10