意味ある振る舞いを記憶する

　キズメットが「世界で存在し反応するもの」として環境世界に「意味」を生み出すのであれば、人間のつくる機械は、いずれは人間の幼児のように、自分で考え、行動し、自分自身の内部に「意味」を見いだしていく、いわゆる真の「知性」をもつ存在になることができるのでしょうか。
　六本足で歩くゲンギスは本物の昆虫のように動き回り、獲物を追跡する捕捉行動をとることができます。本物の昆虫たちがそうであるように、この時ゲンギスの内部には、外界の刺激に対する反射的なルールの単純なアルゴリズムがあるだけで、自らの行動や外界の反応を“記憶”する必要はほとんどありません。本物の昆虫たちも本能という何世代もかけた長期的な記憶をわずかにもつだけなのです。
　このように環境世界で存在し反応することに必要な能力（可動性と、正確な視覚と、動的な環境世界のなかで生存に関連する作業をやってのける能力）を想定するサブサンプション・アーキテクチュアの初期の階層では、記憶装置はほとんど必要ないことがわかっています。この初期の階層がつくりだす行動が、環境における“意味ある振る舞い”を生み出す時にはじめて、それらを“記憶”にとどめることが重要になってくるのです。そのことによって環境における“意味ある振る舞い”を再認識することができるようになったり、それらを使って次なる行動を“連想”するようになること、それが自分自身の内部環境の中に“意味”が生まれてくる契機となるのではないでしょうか。“意味ある振る舞い”を記憶する階層を初期の階層に付け加えることによって、クリーチャーたちは次の段階に進むことができるのです。事実、昆虫などからはるかに進化した哺乳動物たちは、より高度な記憶能力を持っています。そして犬や猫などのペットたちと人間の幼児の決定的な違いは、その“記憶容量”の桁違いの大きさにある、といえるのかもしれません。


人間の幼児は外部環境にある「意味ある振る舞い」をものすごい勢いで記憶していきます。
　
　クリーチャーが現実環境の中で問題解決を図ろうとするとき、通常は次の2つの主要な構成要素からなる外部環境によって方向づけられる、とハーバード・サイモンさんは指摘＊01します。1つは目、耳、肌などを通じて感じとられ、また手、足、舌などを通じて働きかけられる「現実の世界」で、もう1つは、長期記憶に貯蔵され再認ないし連想により検索されうる、現実世界についての（正確、不正確な）大量の記憶情報です。そしてより「意味豊かな領域」で問題を解く場合、問題解決の探索活動は、その大半が長期記憶のなかで行われ、その記憶内の情報によって方向づけられるというのです。サイモンさんは、思考にとっての外部環境たる現実世界と長期記憶とは、ともにたえず変化するものであり、学習とは、環境適応能力に多少なりとも永久的な変化を生みだすような、そういったあるシステムにおける変化のことで、理解するシステムとは長期記憶の中で適応的に生じる変化によって生まれるこうした学習するシステムにほかならない＊01というのです。

＊01：システムの科学／H・A・サイモン／高宮　晋監修、倉井武夫・稲葉元吉・矢矧晴一郎訳／ダイヤモンド社／1969.12.04
　第3版／稲葉元吉・吉原英樹・稲葉洋平訳／パーソナルメディア／1987.12.01

 

環境への適応が生みだす意味

　現実環境の中で、社交性のある振る舞いを見せるロボット＝キズメットは、それ自身は極めて単純な行動（プログラム）を包摂させたものでしかありません。その行動を複雑に見せているものは、ハーバード・サイモンさんが指摘するように、彼がおかれている環境の複雑さにほかならないのです。いいかえれば、彼が生み出す“意味”ある振る舞いは、彼がおかれている環境にある“意味”にほかならない、といえるかもしれません。
　サイモンさんが定義したアーティフィシャル（人為性）とは、目的ないし目標に照らしながら環境にうまく適応できるような形態と行動をもった「システム」＊01を意味しています。そして彼がここで想定する「システム」とは、人間が何らかの働きかけをおこなったもの（人為）だけにとどまりません。それは人間がつくらない多くのもの、総じていえばあらゆるものにも、同じように適用できるものなのです。
　地球に根差した生き物たちの進化の過程を見たとき「可動性と、正確な視覚と、動的な環境世界のなかで生存に関連する作業をやってのける能力」＊02の獲得こそが、真の知能の発展にとっての不可欠の基盤を提供してきたことがわかります。それはまさしくサイモンさんのいう目的（生存すること）に照らしながら環境にうまく適応できるような形態と行動をもった「システム」にほかなりません。そしてこのように「世界で存在し反応する」＊02ことこそが環境世界に“意味”を生み出してきたともいえるのです。環境のもつ“意味”とは、人間が理解できる言葉としての“意味”だけではありません。むしろもっと広範囲に生き物たちが環境に働きかけ、そして適応するときに必然的に環境から生まれてくるもの、といえるものなのです。


世界で存在し反応するものたち

＊01：システムの科学／H・A・サイモン／高宮　晋監修、倉井武夫・稲葉元吉・矢矧晴一郎訳／ダイヤモンド社／1969.12.04
第3版／稲葉元吉・吉原英樹・稲葉洋平訳／パーソナルメディア／1987.12.01
02：表象なしの知能／ロッドニイ・A・ブルックス／柴田正良訳　現代思想　1990.03　青土社

 

アーティフィシャルの科学

　波や風によってできる複雑な形を残す海岸の砂浜を、蟻が苦労しながら歩いていきます。蟻は自分の巣に帰るために前進したり、小さな丘をよじ登ったり、小石を避けて迂回したりするのですが、蟻の歩いた跡を幾何学的な図形としてみると、不規則で、複雑で、記述しにくいものとなります。しかしそこにみられる複雑性は、ほんとうは「蟻が歩いた海岸の複雑さを示しているのであって、その蟻の複雑さを示すものではない」＊01のです。
　これはノーベル賞を受賞した経済学者で認知科学の創始者の一人でもあるハーバード・A・サイモンさんが1960年代に提唱したアーティフィシャル（artificial／人為性）の科学を説明する文章＊01の中で取り上げた例えですが、生きとし生きるものたち（Creatures―自然の生き物たちだけではなく人間が創り出した“自律的”に働くものたちも含みます）自身の「内的」環境とそれらが生きる「外的」環境の関係の重要性に注目したものです。
　現在われわれが生きている世界は、非常に人為的な世界で、自然の世界とかけはなれたものであると彼はいいます。たとえば森林は自然現象ですが、農場はそうではありません。人間は穀物や畜牛などの食物なしに生きてゆけませんが、多種多様な食物はみな、人間の工夫、考案の産物なのです。そのように考えると、耕地は、舗装道路同様、すでに自然の範疇には入らないのです。しかしこれらの人為的で人工的と呼ばれるものは自然と無関係なのではなく、自然の法則に従いながら、人間の願望によって設定される多種多様な目的や目標に適応できるように人間の手が加えられたもののことなのです。


ウィリアム・グレイウォルターが1950年に創り出したタートル型のロボット「エルシー」は、自律的に動き回り、障害物を回避し、ハウスへ戻るのですが、その軌跡は複雑な図形を描きます。サイモンさんはこのオートマトン（自分の意思で行動する自動機械）の行動と蟻の行動の類似性に着目したのです。
https://www.youtube.com/watch?v=pPTQ4DcdAeE

　アーティフィシャル（人為性）の科学とは、人工物自体の実体と組織を意味する「内的」環境と、それが機能する周囲、つまり「外的」環境との接合点、すなわち「接点」として人工物をみることにある、とサイモンさんはいいます。内的環境が外的環境に適合しているか否かによって、人工物が意図する目的に奉仕できるか否かが決まるというのです。そしてそれは人間がつくらない多くのもの、総じていえばあらゆるものにも、同じように適用できるというのです。
　すなわちこのアーティフィシャル（人為性）とは、目的ないし目標に照らしながら環境にうまく適応できるような形態と行動をもった「システム」を意味していて、人間も一つの行動システムとして見ると、それはきわめて単純なものであり、その行動の経時的な複雑さは、主として彼がおかれている環境の複雑さを反映したものにほかならない、というのです。
　ピュタゴラスに端を発した、抽象化という還元主義的手法によって自然を科学的に理解するという西洋科学の大きな流れは、いつしか自然（外部環境）から抽象化によって抽出されたものだけを特別視し、その「内部」環境の中での微視的な観察に終始するようになっていきました。それが西洋文明を一種の袋小路に追い込み、行詰り感を助長するものともなっていったのですが、これに対しサイモンさんは、その「内部」環境に対する「外部」環境の重要性を指摘し、その境界線上の学問を提唱したのです。

＊01：システムの科学／H・A・サイモン／高宮　晋監修、倉井武夫・稲葉元吉・矢矧晴一郎訳／ダイヤモンド社／1969.12.04
第3版／稲葉元吉・吉原英樹・稲葉洋平訳／パーソナルメディア／1987.12.01

 

現実環境の中で意味を生み出す

　ある小部屋の中に、英語しか理解できない人がいるとします。その彼に外から小さな穴を通して一枚の紙きれが差し入れられました。そこにはいままで彼が見たこともない文字（漢字－中国語）が並んでいました。彼に与えられた仕事は、その文字の列に新たな文字を書き加えて、紙きれを外に返すことです。部屋の中には1冊のマニュアルがあって、どういう文字の列に、どういう文字を付け加えればよいかということが全て書かれています。彼はこの作業をただひたすら繰り返します。すると、部屋の外にいる人は「この部屋の中には中国語を理解する人がいるに違いない」と考えます。しかしながら、部屋の中にいる彼は全く漢字が読めず、作業の意味を全く理解しないまま、ただマニュアルどおりの作業を繰り返しているだけなのです。それでも部屋の外部から見ると、中国語による対話が成立しているのです。


漢字の文字列

　これがジョン・サールさんが提起した「中国語の部屋」＊01とよばれる思考実験の内容です。この話はコンピュータのアナロジーになっていて、部屋全体がひとつのコンピュータで、マニュアルが作業のルールを示したアルゴリズムに相当します。部屋の中にいる人は、そのアルゴリズムによって処理をこなすCPUでしょうか。
　この「中国語の部屋」＝コンピュータに、現実の世界で動き回れる物理的な身体を与え、「部屋」の外にいる人間たちとの“対話”をさせたのがキズメットです。
　「中国語の部屋」の内部すなわちキズメットの頭の中に注目すると、アルゴリズムというコンピュータを動かすプログラムは、形式的構造、すなわち統語論的構造のみによって完全に定義されていて、サールさんが主張するようにそれだけでは意味を生むのは十分ではありません。
　しかしひとたび視線を「部屋」の外に移してみると、「部屋」全体（キズメット）と外部の人々との間には、たしかに“対話”が生まれているのです。それは純粋な言葉だけでのやり取りによる対話ではなく、身振りや手振り、目線といった現実環境における物理的な行動を通じた“対話”なのです。キズメットは寂しげな表情でキョロキョロと人を探したり、楽しげに玩具を見つけたり、興味深そうに手の動きにつられて目を動かしたり、韻律の違う言葉（たとえば怒っているような声）を投げかけると驚いた表情を浮かべ、さも叱られた子供のように作業を止め、じっと見つめ返すのです。このように人々は、彼の行動を○○といった“意味”をもった行動として理解するのです。
　たしかに彼の中には巧みなアルゴリズム（マニュアル）が組み込まれているだけで、それによって外界からの刺激に対しそれらしく振る舞っているにすぎません。彼はその行動を理解していないし、真の知能を持っているわけでもありません。しかし現実世界の中での彼の行動は、ペットたちがそうであるように、人間たちが近寄ったり、話しかけたりすることに反応し、様々な振る舞いをすることによって人との間に“対話”を成立させているのです。いや正確には、その場で彼と対峙する人々は“彼の行動は、彼と人々がおかれた現実環境と、その時の状況に応じた“意味”をもっている”と理解している、といったほうがいいかもしれません。
　自らの行動の意味を彼自身は理解していないにもかかわらず、現実世界の中でおこる彼の行動は、そこにいる人間との相互作用の中において “意味”を生み出している、といえるのです。

＊01：J. Searle, 1980, "Minds, Brains and Programs", The Behavioral and Brain Sciences

 

知性をもつロボット

　キズメットは人々の発言の中の韻律的な響きを聞き取るシステムを持っています。韻律とは、音声の強さ、長さ、高さ、それらの反復によって作り出される言葉のリズムのことで、人間のコミュニケーションにおいて、意図、態度、感情の表現に重要な役割を果たしています。この韻律の違いによって人々は喋る人の気持ちを伝えることができるのです。またこの韻律を通して、幼児は承認、禁止、注目、安らぎなどを感じることができます。それと同じようにキズメットもまた、これらの人間の発声を聞きながら「感情的なメッセージをそこから抽出する」＊01ことができるのです。
　キズメットの「感情システム」は、顔や声を通しても表現されます。内部の感情を眉、唇、耳などを使って表現するとともに、「自分の発声にも韻律を含ませる」ことができるのです。
　シンシア・ブレジールさんは、研究室を訪れる多くの人々とキズメットの交流＊01を観察しています。なかには数十分もキズメットと話し込む学生もいて、彼らは一様にキズメットが知性を持っていると確信した、というのです。しかし実際はキズメットは、自分に向かって話しかけられた言葉を理解しないし、また意味のある言葉を発することもできないのです。
　ブルックスさんは、キズメットと人々の交流を通じて「会話の成立にこれらの制約が大した足かせにならない」＊01ことが分かったと述べています。「キズメットは人々が話していることを検出し、また音声の中の韻律を検出する。このロボットは、同様に英語の単語を断片的に発声するが自分の発言内容を理解しないし、発声する音声や音節をどう結合すれば意味ある言葉になるかを知っているわけではない。キズメットはただ会話に際しての発言の順番管理のための手段として発言に間を置く、目線を移す、相手がしゃべろうとしない時に間を持たせるための発声をする、などのメカニズムを持っているにすぎない」＊01にも係らず、人々はそこに社交性のある振る舞いを見出し、キズメットを知性を持つものと認識するのです。
　犬や猫なども人間の言葉を理解するわけではありません。自分に向かって繰り返し発せられる単語を音として覚え、それに反応することで、人々はペットが自分の名前を理解していると信じているのです。それと同じことがキズメットでも起こっているのです。


生き物と同じように知性をもつロボット

　このシチュエーションは、人工知能が真の知能を持ち得ないと主張したジョン・サールさんの思考実験「中国語の部屋」とよく似ています。

＊01：ブルックスの知能ロボット論―なぜMITのロボットは前進し続けるのか／ロドニー・A・ブルックス／オーム社　2006.01.30　五味隆志訳