●気味の悪い「ＡＩ」って何なんだ 魂まで左右するのか
以下は、西垣通氏（ＩＴのカリスマ・『ＡＩ言論』著者）千葉雅也氏（哲学者・立命館大学准教授）の対談を通じて、怪しくも難解な「ＡＩ」について、その一端を、無謀にも知ろうとしてみる（笑）。多少、理解できた場合はコメントを差しはさむが、チンプンカンプンの場合は、引用掲載のみとさせていただく。賢明な読者のみなさまにおいて、ご理解いただきますように……。
まだ適当な理解だが、ＡＩは人間を超える場面もあるが、「人間」にはなれないのは確実なようだ。まぁ、それよりも、マイクロソフトやグーグルが、ＡＩに拘る奥底に、ノアの箱舟的な米福音派の執念が見える部分がゾッとする。日本会議の「神話」が可愛く思えてくる。日本会議などは、安倍一代の泡沫勢力だが、福音派は泡沫勢力とは言いがたいから問題だ。以下、引用が長いので、この辺で……。
≪「AIは人間を超える」なんて、本気で信じているんですか？（１）
哲学の視点から語る「科学の限界」 西垣 通 , 千葉 雅也
AIが人間を超える知性をもつ、AIで多くの人の仕事が奪われるーーそんな議論が盛んになって数年。空前の「AIブーム」は、どんな結末を迎えるのか？ 一部の人が夢見る「シンギュラリティ」はやってくるのか？
こうした過熱に「待った」をかけるのは、情報学者の西垣通氏だ。元エンジニアでコンピュータに精通した氏は、なぜ「AIは人間を超えない」と考えるのか。そこにはカンタン・メイヤスー、マルクス・ガブリエルなど気鋭の哲学者が提唱する、最先端の哲学が関係していた。
今回、メイヤスーの主著『有限性の後で』の翻訳でも知られる、哲学者・立命館大学准教授の千葉雅也氏と西垣氏の対談が実現。科学者さえ気づいていない「AIの限界」を存分に語り尽くす。
■AIブームは、これで3回目
千葉：西垣先生の新著『AI原論』では、「思弁的実在論」と銘打って、僕も訳者の一人であるメイヤスー1の『有限性の後で』という本を、かなり大々的に議論の中に取り込んでくださっています。新しい哲学の動きを、現在のAIブームの状況を考えるためのガイドにして議論を立てていいたので、とても驚きました。
西垣：そうですか。私としては、その試みが絶対に必要だと感じていたんです。ですから、自然な流れでした。というのは、いったいこの本をなぜ書いたのかという話に繋がるんですよね。
千葉：ぜひ詳しくお聞かせください。
西垣：AIは今、すごいブームですよね。しかし実は、AIのブームというのはこれが3回目なんです。
第1次ブームは1950年代から60年代で、私も当時はまだ学生でした。それは日本にはあまり影響しなかったんですが、1980年代の第2次ブームは、日本も非常に盛り上がったんですね。
私はちょうどその頃スタンフォード大学にいたものですから、その渦中にまきこまれました。専門家の思考をシミュレーションする「エキスパートシステム」を考えた先生が、私がいた学部の学部長だったんですね。 日本では、その頃第五世代コンピュータ2というものが出てきました。
これは戦後日本のIT産業のなかで最大の国家プロジェクトで、私もスタンフォードから帰って一時期参加したこともあったんですが、見事に失敗したんです。技術的には成功したものの、実際の産業ではまったく応用されずに終わった。
当時の技術者たちは、「なぜダメだったんだろう」と悔しがったのですが、ご存知の通り、そのあと覇権を握った本当の「新世代コンピュータ」は、つまりパソコンとインターネットだったんですよ。
昔は「メインフレーム」と呼ばれる大型のコンピュータの中で計算をやっていましたが、第五世代コンピュータはその延長です。でも、本当にイノベーティブなシステムは、小型のパソコン群とそれをむすぶインターネットだった。それが90年代から2000年代に一気に広まって、現在に至るわけです。
千葉：大規模システムで集約的に計算するんじゃなくて、個人向けのコンピュータをネットワークでつなぐという発想が、結局は新しいパラダイムだったんですね。
西垣：どうしてそうなったのかを考えてみたいんです。私の周囲にも、第五世代プロジェクトに関わっていた技術者はたくさんいました。彼らとしては非常に心外ですよね。なぜ失敗したんだろう、っていう思いが当時ありました。大変な予算をかけてやったわけですし。
現在のAIブームは、はっきり言って米国の後追いですが、その第五世代コンピュータは、少なくとも日本オリジナルのものを作ろうとしたわけです。それが失敗した理由をちゃんと考えないといけないだろう、という思いが私にはまずありました。
第五世代コンピュータというのは、「知識命題」にもとづく自動的な推論操作を突き詰めて、高速化していくことに真正面から挑戦したプロジェクトだったんです。 知識命題というのは例えば、「こういう症状が出たら、この人はこの病気にかかっている」というふうに医者が結論を出したり、あるいは法律家が「こういう事件を起こした場合はこういう罪になる」と判断したりするような、そういう推論の基礎になる命題のことです。
エキスパートの専門知識を、コンピュータの中で自動的に組み合わせて答えを出すという考え方ですね。 しかし、人間の専門家は単に純粋な論理処理をやっているだけじゃなくて、実はそこに総合的な判断とか直感とかを織り交ぜているわけです。
医者も、こういう症状が出たら100%これだって言うわけじゃなくて、いろいろ試行錯誤しながら診断しますよね。全部を自動的に判断しても、出てくる答えが正しいとは限らないわけです。
【1) カンタン・メイヤスー（Quentin Meillassoux）：1967年生まれのフランスの哲学者。パリ第一大学准教授。近年注目されている新しい哲学のムーブメント「思弁的実在論」の中心人物の一人とされる。
2) 第五世代コンピュータ：1982年から1992年にかけて、当時の通産省が取り組んでいた人工知能開発の国家プロジェクトにおいて、開発目標とされたコンピュータのこと。プロジェクトには約570億円が投入され、機械翻訳システムなどの開発が目指されたが、目標を達成できなかった。】
■「機械は人間のように考えられる」のか？
千葉：つまりその世代のシステムは、正しいエビデンスと正しい推論に基づいて、全て正しい論理の連鎖を組み立てて答えを出すシステムだったわけですね。
まさに、いくつかの患者さんのパラメータから病気の症状を導き出すといった試みは、現在の第3次AIブームでもやろうとしていることですよね。現在は論理処理だけでなく、より統計的なアプローチでそれをやろうとしている。
西垣：おっしゃるとおりです。80年代の第2次ブームのとき生まれたエキスパートシステムにも残っているものもある。「ある程度間違っていても、まあまあ合っていればいい」という応用分野にかぎっては、今も使われているんです。
例えば「列車の運行速度を制御する」というものだと、多少の誤差があってもそれなりに動けばいい。 ただ、当時、出発点としては「AIとは絶対的な真理を自動的に実現する機械である」というパラダイムでしたから、それでブームがしぼんじゃったんです。一方で第3次ブームがなぜ成功しているかというと、今おっしゃった通り、統計誤差を容認するというアプローチを使っているからです。
千葉：それが大きな発想の違いですよね。
西垣：第2次ブームの時も、例えば自動翻訳は色々な試みがありました。私の周囲の技術者や専門家も、いろんな工夫をしていたんですが、なかなか上手くいかないんですね。
というのも人間の翻訳家は、色んな要素を組み合わせながら総合的に訳すわけです。ある文をどう訳すのが正確かということは、全体的な文脈で決まりますから。
そういうことを、昔はあまり考えなかったから失敗した。 しかし現在は「コーパス」、つまり用例ベースといって、日本語の文と英語の文の組み合わせがインターネット上に膨大にあるから、その用例をデータベース上で統計的に調べて、ある組み合わせの中で統計的な頻度をとって、一番確率が高いものを出してやれば当たるんじゃないか、という発想ですよね。
千葉：Googleが無料で提供している様々なサービスは、まさにそういう言葉の用例の対応関係を膨大な数、収集するためにあると言ってもいいわけですよね。
西垣：全くその通りです。「絶対に正しい答えを出す」という理想を捨てて、「まあまあ合っていればいい」と。実際に、医者も自分の経験に基づいて推測しているわけですから、そう考えると統計的な処理というのは必ずしも悪い戦略ではないんですよ。
千葉：むしろ人間が自然にやっていることを、すごくたくさんのデータについて高速でやる、という考え方でやっている。
西垣：今の第3次ブームのAIは完全にそうです。いわゆる「ディープ・ラーニング（深層学習）」も全くそうですね。統計的に世界を分類する。
しかし、ここからが本題なのですが、統計を活用するのはいいんだけど、それでもって「機械も人間のように思考できるんだ」「機械も正しい判断を下せるんだ」と言い出した人たちが少なからずいるんです。この言葉の妥当性については、やっぱりちゃんと考えなければいけない。
千葉：西垣先生の本はそういう、「AIが最も公正な判断をする」とか、下手をすると「世界のジャスティスを司る」とか、さらに「人間の知性を超える」というようないわゆる「シンギュラリティ仮説」3——それで国の予算をとってくるような人たちもいるみたいですが——というものに対して、哲学と情報学をつなぎながら疑問を突きつける、という内容ですね。
西垣：シンギュラリティを語る超人間主義者（トランス・ヒューマニスト）の代表はカーツワイル4ですが、超人間主義者たちの本を読むと、人間の知能を代替するだけじゃなく、もっと何か深遠なものを機械が実現してくれるんだ、と考えているような節があるわけですよ。彼らのその夢って、いったいなんだろう、ということに興味があったわけです。それを探求してみたい。
【3) シンギュラリティ仮説：「技術的特異点仮説」とも。指数関数的に進化を続けたAI・人工知能が、ある時点から「自分で自分を再帰的に改良・強化できる能力」を身につけた場合、そこから先は人類の知能を超えるばかりか、自らの能力を爆発的に進化させることも理論上は可能になると考えられる。そのような画期を、宇宙論における「特異点（通常の物理法則が通用しなくなる空間上の一地点）」になぞらえた呼び方。
4) レイ・カーツワイル（Ray Kurzweil）：1948年生まれの米国の発明家、未来学者。マサチューセッツ工科大学在学中にコンピュータ会社を設立、電子楽器開発などに携わる。2005年に著書の中でシンギュラリティ仮説について詳しく述べ、シンギュラリティ論の第一人者と目されるようになった。】
シンギュラリティって、普通に考えるとちょっとおかしいじゃないですか。だって、機械は身体を持っていないですよね。人間の知性というのは、やっぱり自分の感性や感情、身体といったものによって支えられていて、その一部に論理というものがある。それなのに、例えば脳を全てスキャンしてコンピュータの中に入れていけば…
千葉：人間ひとりの人格さえも複製できるというような。
西垣：コンピュータの中でずっと生きられる、と言うわけです。それはちょっとおかしいじゃないですか。直感的に考えても。
つまり彼らの論理は、私には、何かに取り憑かれているような感じがするんですね。「テクノロジー」という窓を通して宇宙の深遠さ、あるいは真理とか、そういう宗教的なものを追い求めたい、進歩していきたいというモティべーションが、彼らをドライブしているのではないかと思ったんです。 それを解き明かそうとすると、もちろん宗教学も必要なんだけど、やっぱり哲学です。
近代哲学は何を考えてきたんだろうと。 カント5は、人間がまずあって、人間は人間の枠組みというものを通して世界を認識しているんだ、だから人間が認識できるのは、「物自体」ではなくて「現象」なんだ、と言いますよね。
千葉：そうですね。人間の知性が世界をどう捉えているか、人間の知性のフレームがどうなっているかを問うのが、カントに始まる近代哲学の発想です。
■「素朴実在論」を信じる人々
西垣：ところが、今の超人間主義者たちの話を聞くと、どうもそこのところを、あんまり考えていない感じがする。 「絶対的に正しい知性」というのは、人間にとって正しいのか、それとも人間がいなくなっちゃっても「正しい」のか…そういうことを彼らは本の中でいっぱい書いています。
「どこかに人間より優れた知性体がいる」といったことも語るわけですが、でも「人間より優れた知性体」って何なのか、そういうものを我々は認識できるのか、という疑問が出てくる。そうなるとやっぱり、カントの近代哲学まで戻ってちゃんと考えないといけない。そこで私としては、メイヤスーに着目したんですよ。 メイヤスーっていう哲学者は、千葉さんにちゃんとお話しいただいたほうがいいと思うんだけど、いくつぐらいですか？ 40歳くらい？
千葉：もっと上ですけど、中堅の学者ですね（1967年生まれ）。
西垣：彼は、もちろんカントの議論や近代哲学の流れを全部知った上で、「そういう近代哲学の前提に基づいてものを考えるだけじゃ、不十分じゃないか」と言い出したわけですね。
千葉：そうですね。いわゆる自然科学者というのは、何か物体について、あるいは宇宙というもののあり方について、「人間がどういう風に意味付けるか」という主観性の問題から完全に切り離して、単にその物の「真理」を客観的に言える、記述できるというふうに、普通は考えています。
これは「素朴実在論」という考え方ですが、しかし真剣にカント以後の哲学の展開を引き受けるとすれば、人間は言ってみれば「自分の考えているようにしか世界を考えていない」わけです。
つまり「純粋な客観的認識」って、不可能なんですよ。 この「不可能ぶり」をちゃんと引き受けている人って、よほどの哲学好きの人以外にはいませんね。普通の生活をしている人や、科学者や技術者は、そういう近代に発見された「人間は人間の思考の中で思考している」という制約を深刻には引き受けていない。だから、人間がいろいろ計算した結果がそのまま実在のモノを記述している、という発想になる。
【5) イマヌエル・カント（Immanuel Kant）：1724年−1804年。プロイセン王国（ドイツ）の哲学者。主著『純粋理性批判』で、「人間は対象（物自体）を直接認識することはできず、あくまでも現象を主観的に認識することができるだけである」と唱えた。】
ところが、カントを前提にすると、そんなことは言えない。
じゃあそうなったときに、「客観的な科学」というのものは近代以後は不可能になってしまったのか、という疑問が出てくる。 メイヤスーはそれをちゃんと考えて、言ってみれば「一周回ってまた素朴実在論をやる」というか、改めて素朴実在論的とも言えるような、単に「モノそのもの」について記述するような自然科学を、どうすれば正当化できるかということを考えるんですよ。
■AIの「責任」や「主体性」とは？
西垣：ほとんどの科学者や科学技術者がそうしたカント的なことを考えないのは、それで事実上は問題が起きないからです。例えば天文学とか、多くの物理的な現象の分析については、「人間が考えられる範囲がどうのこうの…」と考えなくても、通常の手続きを踏めばほとんど問題はない。
千葉：実際、実用に耐えるものができるわけですね。
西垣：天体がこういう軌道を描くだろう、といったことを予測するのは、素朴実在論に基づいて考えても、ちゃんと当たるわけです。 ところがAIというものは、例えば病気の診断とか法律とか、人間社会の問題を扱うのが目的じゃないですか。そうなってくると、人間の存在がやっぱり絡んでくる。純粋な論理だけでうまくいくのかどうか、という問題がどうしても出てきてしまう。 かつての第2次AI ブームの時、ハイデガー6を研究しているドレイファス7やサール8といった哲学者は、AIに対して猛烈な批判の声を上げました。 ハイデガー流に考えると、人間は世界というものの中に「投げ込まれて」、自分を「投企」9しつつ生きているわけです。
しかし、機械にはそうした生活世界がない。そんな機械が、どうやってものを考えられるのか、できないでしょう、という猛烈な反発があった。でもAI学者の側はあんまり気にしなかったんですね。 ただし、彼らは、「フレーム問題」とか「記号接地問題」と言われる問題を提起しました。例えば「水」という物体と「water」という言葉があるわけですが、AIは「water」という記号は処理できるけど、水の「実体」みたいなものと記号を結びつけることはできない、というのが記号接地問題です。そういうプラクティカルな問題で挫折していった。
千葉：しかし、フレーム問題や記号接地問題というのは、工学的にはそういう言い方をしているけれど、実はカント主義的な批判にまさしく対応する問題だったわけですね。そこを工学者たちは曖昧にスルーしてきた。 当時はコンピュータがパズルを解いたり、ごく限定された状況の中で回答を出すことが、限られた計算能力しかなかったこともあって目的とされていたわけです。
ところが、今日ではコンピュータの計算速度がはるかに上がってしまったために、ある種、擬似的な形で人間の質的な概念、例えば価値であるとか、あるいは責任意識や主体性を持っているような振る舞いをするチャットボットなどがそれなりに実現できるようになった。 そうすると、ますますそこで行われている推論や計算過程と、人間的概念との相関性というものを真剣に考えなければいけなくなったということですよね。（第二部「AIが絶対に人間を超えられない『根本的な理由』を知ってますか」につづく）
【6) マルティン・ハイデガー（Martin Heidegger）：1889年-1976年。ドイツの哲学者。フッサールに師事して現象学を学んだのち、存在論に関して多くの足跡を残した。
7) ヒューバート・ドレイファス（Hubert Lederer Dreyfus）：1929年-2017年。米国の哲学者。マサチューセッツ工科大学教授、カリフォルニア大学バークレー校教授、アメリカ哲学会会長などを歴任。メルロ＝ポンティやハイデガーといった現代ヨーロッパ哲学を専門とし、哲学の見地から人工知能を批判し続けた。
8) ジョン・サール（John Rogers Searle）：1932年生まれの米国の哲学者。言語哲学、心の哲学を専門とする。「中国語の部屋」などの思考実験を発案し、人工知能（チューリング・テスト）批判を展開した。
9) 投企：ハイデガーが提唱した哲学的概念。好むと好まざるとにかかわらず、人間は世界の中に否応なく「投げこまれている」存在であり、その上で自己の可能性を追い求めて生きているという考え方。】
≪AIが絶対に人間を超えられない「根本的な理由」を知ってますか（２）
第一部に続き、AIが「知性」たり得るか否かについて、議論は白熱してゆく…。
■AIは猫を「知っている」のか？
西垣：最近流行っている深層学習のニューラルネットワークという考え方は、実は1950年代や60年代からありました。自己符号化1というやり方を使って現在の深層学習は行われているんですが、そのアイディアももう80年代からあって、そんなに新しいものじゃないんです。 当時はものすごく計算時間がかかるから全く実用化できなかったんですが、2010年代になり、サーバーをいっぱい使って、ようやく実用化できるまで計算能力があがって、注目されているだけなんですよ。
千葉：要するにAIというものは単なる計算過程で、その計算は言ってしまえば、何の意味もないものです。それは統計的な計算なわけですが、計算でとにかく何らかの結果を出す。その結果がどうやら人間的な意味の世界と対応するようだ、ということで実用性が担保されている。 それは結局、どこまで行っても「量」の世界ですよね。しかし今では、「計算能力の爆発的な向上」というクオンティティ上の変化が、まるで「質」、クオリティの問題に踏み込んでいるかのように言われている。実際は計算量が増えているだけなのに、それがまるで人間の質的思考に代わるようなものをコンピュータが帯び始めたかのような幻想を引き起こしている。
西垣：今、幻想とおっしゃいましたよね。賛成です。しかし、幻想ではないと言う人もたくさんいるんですよ。量の変化というものは質の変化をもたらす、とね。 深層学習というのは、パターンの特徴入力がいらない。ご承知の方も多いと思うんですが、例えば世界には色々な物がありますね。ビンもあるし机もある。そういう物のパターンを認識するためには普通、例えばビンを認識するためには、ここは丸くなっていて、こことここは対称になっていて…とか、そういう特徴を記述していって、それを集積してようやく認識する。この記述が大変だったんですね。 ところが、深層学習の場合にはそれをせずに、コンピュータがダイレクトに世界をいろんな「似たもの同士」で分類してしまうわけです。
千葉：大量のデータを与えると、その中から勝手に答えが浮き上がってくる。「教師なし学習」ですね。
西垣：はい。ところで「教師なし学習」と言われると、なんとなく「コンピュータが事物を理解してるんじゃないか」という感じが出てくるじゃないですか。
千葉：でも、実は「行きあたりばったり」が収束しているだけなんですよね。
西垣：GoogleのAIは、猫を認識することに成功しました。あれは16台のプロセッサを備えたコンピュータを1000台くらい用意して、3日間計算しつづけたそうです。人間なら小さい子供でもたちまち認識できるのですが、そういう大掛かりな計算でようやく認識した。
でもものすごくセンセーショナルなニュースで、「ついにAIが猫という概念をつかんだんじゃないか」と言われたわけです。 しかし、そう簡単じゃないんですよ。例えば犬だったらどうでしょう。
犬って、外見が猫よりも多様ですよね。ブルドッグもいれば狆（ちん）もいるし、大きさもいろいろで、いろんな顔をしてる。そうすると、我々人間が犬という概念を捉えるとき、これは単に表層的なビジュアルが似たものをグルーピングしているのではなくて、もっと生物学的な、あるいは文化的なものから犬の概念を導き出しているわけです。 でもコンピュータは、似た形のものをグルーピングしているにすぎない。そのグルーピングが人間とぴったり一致していれば便利なんですが、全然見当違いのこともいっぱいあります。
千葉：実際に、画像認識で、人間が思いもつかないような分類がされてしまうのが面白い、みたいなことがアートに応用されていますよね。つまり、AIの分類は意味を生成するためのものではなく、どこまでいっても無意味なプロセスですが、それが人間から見るとちょっと面白い、ということがあるわけですね。
西垣：囲碁や将棋の最強はAIになっていくと言われますね。あれは身もふたもないことを言うと、当然です。AIは盤面上の配置を一つの状態、「ステート」と見ればいいわけですから、このステートの数が有限であれば、原理上、コンピュータの計算能力が上がれば人間はコンピュータには絶対に勝てません。それはもう大昔からわかっていることなんです。
例えば詰将棋を考えてみると、ゴールである「詰んだ状態」からさかのぼって、現在の状態までいく一つ一つの道筋を全部計算してたどる。超高速で計算して、見つかった手筋で最短のものを使えばいい。そうしたら、人間は絶対に勝てません。せいぜい引き分けです。だから、人間の名人がAIに負けたという話はそんなにショッキングじゃないんです。
千葉：有限状態ゲームの場合は、勝負は単に「時間の問題」になるということですね。
西垣：ええ。囲碁や将棋は状態数が天文学的なので、局所最適化しかできず、人間が勝つことはまだありますが、量子コンピュータなどでもっと計算能力があがれば時間の問題です。ですから、人間が負けるようになったからといって、「AIが人間より賢くなった」なんて言うのは、私に言わせれば、ちょっと違うんじゃないかと。
ただ面白いのは、やっぱり人間って、直感で「この手が最善だ」というのを見極める道筋みたいなものを持っていて、それが定石と言われるようになったわけですね。人間がまだ見つけていない、「定石みたいなもの」をAIが見つける可能性はあるんですよ。
【1）自己符号化：機械学習におけるアルゴリズムの一種。AIにあるデータを学習させる際、そのデータの特徴を抽出する作業を何度も繰り返させることで、最も適切にデータを再現できるような特徴を抽出させる。】
■それでもGoogleはAIにこだわる
千葉：超知性といった話とは別に、人間が歴史の中で培ってきた定石を崩すような形で、例えば文学の創造などでAIが面白いことをする可能性がある。 シュルレアリスムや、あるいは「偶然性の音楽」2では、機械的なアルゴリズムによって思いもよらないような言葉や音の結びつきを作り出していたわけじゃないですか。
それと似たようなもので、我々の常識からすると盲点になっているようなパターンを、コンピュータが作り出してくることがある。 それは超知性というよりも、むしろ「他者性」ですよね。「他者としてのAI」。ただ、この「他者」というのも注意深く扱わないといけない概念で、人間みたいに内面性を持つものではなくて、純粋にただ無意味に計算処理をするだけの「他者」です。そういうものとして面白い存在だとは言えますね。僕はAI 論ではそういう部分に興味があって、ポジティブな思いも持っているんですが。
西垣：とはいえ問題もあって、シュルレアリズム、あるいは自動筆記3といった考え方の中にも、やっぱりそうした手法を通して「我々とは異なる『スーパー知性』のようなものがあって、それと交信する」「交信を通して何かすごいものを作り出す」という意図がどこかに潜んでいる。
芸術的に「ただ面白い」というだけじゃなくて、「それは実は偉大なことなんだ」という考え方が、いわゆるユダヤ・キリスト教的な文化の中に伏流していると思う。私はそれをえぐり出したいんですよ。 「シンギュラリティなんて、そんなもの来ないよ、荒唐無稽だよ」と批判するだけなら誰でもできるんです。でも、なぜGoogleやマイクロソフトはそれに膨大な資金を投入しているのか。
我々は、まあアートで面白いものが出るかもね、とか言っているわけですが、彼らはそういうつもりじゃなくて、やっぱりビジネスでやっているんだし、その背景には、何か崇高な知性がロジックの連鎖の中に出現するんだ、という考え方がどうもありそうだと。
千葉：強い信念がある。
西垣：これを私は、メイヤスーという哲学者の話を引きながら解き明かしたかったんですよ。
さっきのお話に戻ると、いわゆる科学的言説、例えば宇宙が130億年前とか140億年前にできたというのは、科学者の言説の中でそうなっている限りにおいては、正しいんですよ。もう少し正確に言うと、学会があり、そこに参加する研究者の中でいろんな学説があり、精度の高い天体望遠鏡で観測すると宇宙はこういう速度で膨張してるから宇宙年齢がわかる、といった言説は正しい。
ただそうした科学の言説は、私の知っている限りでも、すぐに移り変わっていきます。昔は宇宙の年齢は約130億年と言われてたのが、150億年になり、今は138億年というふうに、10億年くらいはすぐに変わる。実験データと理論との整合性が科学者コミュニティで認められればいい。ですから、あくまでも「人間的な試み」と位置づける限りにおいては、という意味で正しいんですよ。 でも、メイヤスーはそこからさらに問いかけるわけですよね。
千葉：そうなんですよね。たとえ数値がぶれるとしても、その言明自体が「実在に対して直接コミットする言明である」ことは動かない、というのが科学者の信念なわけです。その信念と、「いまの学会では一応そういう話になってます」というのは、やっぱり区別されるというのがメイヤスーの議論ですよね。
西垣：たしかに相対主義というのは、ヘタをすると何もかもがあやふやになってしまう。「科学者がそう言っているだけで、本当かどうかわからない」というように。キリスト教のファンダメンタリスト（原理主義者）は、「聖書によれば、地球は神様が7日間で作ったんだ」と言いますが、科学はそれを否定できるのか、できないんじゃないか、という疑いが出てくると。
千葉：メイヤスーはまさに、出発点にそういう疑念をもっています。だから、実在に対して「じかに」触れているような科学的言明の権利を改めて保証しないと、キリスト教原理主義とか、どこぞの大統領が言っているようなことと区別がつかなくなる、と主張するんです。
西垣：最近は「ポスト・トゥルース」って言いますが、事実かどうかわからないけれど、とにかく「面白い話」を科学が否定できなくなってしまう。そういう状況の中で、現代哲学では「何もかも相対的だ」という話になっているけど、それは違うんじゃないか、というのがメイヤスーの考えですね。
しかし、そうは言っても素朴実在論は使えない。その上で、どうやって「事実性」というものを論証するのかという話になるが、これは千葉さんが訳された『有限性の後で』に書いてあります。
千葉：かなり難しい話ですけどね。
西垣：結局のところ、彼のたどり着いた結論は、まず「事実」というものが存在するーー事実というのは、例えば135億年前に宇宙ができたとか、地球は45億年前にできたとかーーそういうことはまず、ちゃんと認めようと。 ところが、すごいのはそのあとなんですね。そうした「事実」を認める方法を論理的に推論していくんですが、大雑把に言うと、メイヤスーは「確実に存在するのは偶然だけだ」という結論にたどり着くわけです。「偶然性だけが必然的なのだ」という結論になってしまう、と。
【2）偶然性の音楽：20世紀に流行した現代音楽の作曲・演奏技法。五線譜以外の記譜法で作曲された楽曲を演奏したり、音楽とは無関係な法則に従って作曲したり、「聴衆が発する物音」を演奏の一部に取り入れたりするなど、音楽を「偶然」と関連づけた。米国の作曲家ジョン・ケージ（John Milton Cage Jr., 1912-1992年）が創始したとされる。
3）自動筆記：『シュルレアリスム宣言』を著してシュルレアリスムを創始した、フランスの詩人アンドレ・ブルトン（André Breton, 1896-1966年）らが取り入れた詩作・著作技法。高速で半ば反射的に単語を書き続けるなどの方法で、著者の作為を作品から徹底的に排除しようとした。】
千葉：そうです。だから地球が45億年前に誕生したという事実、それは自然の法則やさまざまなできごとの連なりの結果誕生したわけですが、それを根本まで辿ったとき、どうして我々の宇宙はこうなっていて、さらにその中で地球が誕生したのか、ということの根本的な理由はない、と言うんですね。
「この世界が、いまこうであるということの根本的な理由」をライプニッツ4は「充足理由」と呼び、また「この世界のすべてのことには、根本的に理由がある」という命題を「充足理由律」という法則だと考えたんですが、メイヤスーはその充足理由律を否定するということですね。
「世界は根源的に、完全に理由なしだ」と。僕はすごくそこに惹かれたんですよ。それを聞いて、なんだかすごくスッキリして（笑）。
西垣：すべて偶然だったわけですね。今日ここに皆さん（聴き手）がおられるのもね。 宇宙は「一寸先は闇」
千葉：ただ、そこはちょっと繊細な議論も必要で、メイヤスーは一応、この世界が法則的なものとして成り立っていることは認めているんですよね。しかしそれは、決定論的な法則ではなくて確率論的な法則系です。
皆さんが何かの用事を済ませてここに来るのにはしかじかの理由があって…ということに関しては、一応理由があるわけですよね。つまり、そういう細かい因果の連鎖はあるんだけど、それを可能にしている確率論的法則系の「全体」が偶然的なものだということですよね。
西垣：もう少し補足すると、いま千葉さんは確率とおっしゃいましたが、その確率法則は局所的に安定して成立することはあるけれど、全体としてはどうなるかわからないと主張する。だから、メイヤスーは「潜在性」と「潜勢力」という2つの偶然的な概念を区別しています。
千葉：「バーチャル」と「ポテンシャル」を区別するんですね。
西垣：「ポテンシャル」のほうは確率法則で予測できるんだけど、「バーチャル」のほうは予測できない。
千葉：根源的な偶然性が「バーチャリティ」ですね。そこだけ取り出してみると、メイヤスーはまるで反科学主義者みたいに見えるんです。でも同時に、そういう偶然性が根本にありながらも、この世界が当座、法則的に成り立っていて、その中で実験科学が可能であるということを認めている。
というか、むしろ「科学が可能である」ということを保証したいがゆえに、あえてアンチ科学的なテーゼを立てるというアクロバティックな議論をやっている。
西垣：その通りなんですよ。難しいですが、非常に面白いですよね。 さっきの話に戻ると、メイヤスーがなぜ物事には「自然的な理由」がないと主張するかというと、「あることが起きたら、それをもたらした理由が必ずある。その理由にもさらに理由がある…」というふうにどんどん遡っていくと、最後は「何か究極的な理由がある」という話にどうしてもなってしまうんですよね。
その究極的な理由って、つまり「神」なんですよ。神に行き着いてしまう。 メイヤスーはそれを踏まえて、本当の意味で世界を支えているのは偶然である、言い換えると、「もし世の中で何か必然的なものがあるとしたら、それは世界が偶然性を孕んでいるということだ」と言うんですね。 これはなかなかショッキングな発想です。
メイヤスーは、世界や事実は存在する、それは数学的にもちゃんと記述できるんだ、と言いたいわけです。するとしかし、それには代償があって、現在成り立っている物理法則も、偶然によっていつ崩れるか分からなくなってしまう。今は天体の動きも何もかもちゃんと物理法則に従っていますが、それだって一瞬先の未来には変わってしまうかもしれない。
そうなると、例えばAIが未来予測をしても、導き出された答えは将来的に全く通用しないかもしれない、ということになってしまう。
【4）ゴットフリート・ヴィルヘルム・ライプニッツ（Gottfried Wilhelm Leibniz, 1646-1716年）：ドイツの哲学者・数学者。哲学においては「モナド論」、数学においては微積分法の発明など多くの足跡を残した。】
千葉：AIがある物理法則に則ったできごとの予測をするとして、そこで出てきた答えは絶対的真理ではない、ということですね。AIはあくまで事実的予測を行うシステム、事実の世界の中で作動している事実のシステムにすぎない。
西垣：もう少し噛み砕くと、キー概念は「時間」なんです。この宇宙では時間とともに新しい世界が立ち現れる。でもコンピュータやAIが使う統計は、ビッグデータもそうですが、過去に得たデータです。それに基づいて分析して、一番いい方針はこれだ、とやるわけですね。
だけど、生物はちょっと違う。生物は、次にどうなるか全然わからないけど、とにかく生きていこう、という動機だけです。だから、自分で自分の生き方を変えられる。
それは計算しているというよりも、本能的にもがいているわけで、結果として生きていればそれでいい、というものなんですね。
言い換えると、新しい環境状態に適応する力を持っているわけです。過去のデータにあまり引きずられると、その生命力がそがれるんじゃないかという懸念がある。プラクティカルな工学者として、そこが私の心配しているところです。
■「目的」を持てるのは生命だけ
千葉：つまりAI技術は人間を過去に溺れさせるような技術で、生命体としての人間が未来志向的に知性を使う方向性から堕落してしまうんじゃないか、とおっしゃりたいと。
西垣：そういうことです。人間というのは、人生の時間の中で、常に自分を「投企」していく。そうして新たな自分を作っていくわけですね。それが「生きる」ということなんじゃないかと。 ところが今後は、「AIの判断」なるものが入ってきます。すると過去にとらわれて、例えば「前例がないから」といって新しい道を拓けない、というふうになるのではないか。
千葉：先ほど、現象学で使われる「志向性」5という言葉が出たじゃないですか。それはつまり、「何かに向かっていく」という矢印ですよね。生物には志向性がある。
未来というのも、どこに行くか分からない。機械はどこまでいっても「原因があり、それに対する結果がある」だけですが、それに対して「目的」というものを設定するのが、生物の独特の問題だといえます。 アリストテレスの四原因6の中でも、「目的因」というのは非常に厄介なものです。
科学の発展においては、目的因というものは破棄された。 人文学がいま直面している問題、もっと言うといわゆる「文系vs.理系」の問題というのは、アリストテレスにまでさかのぼると、目的因と作用因の抗争と捉えられる面がある。近代科学では、すべてを作用因に還元するわけですよ。
しかし、その結果「剰余」として残ってしまう目的因的なものが、実は時間性の問題とも深く結びついている。 近代科学においては、時間というものは時空連続体のなかの一つの次元パラメータにすぎない、とされるわけですよね。
それに対し、べルクソン7は「時間の実在的な意味は空間とは別のものだ」と考えたわけですが、このことは、作用因の連鎖にはどうしても還元されないような目的因という「謎」がどうしても残ってしまうということとパラレルなんじゃないか。そしてそこが、どうやら人間の知的活動というものと本質的に関わっているんじゃないか、と思うんです。
西垣：なるほど、そうですね。結局、科学は目的因というものをひたすら排除してきたわけですね。 機械っていうのは、ある条件を満たすという設定で作動してみて、うまくいったら、もうそのパラメータで動きつづけることになってしまうわけです。
ところが自然では、その環境そのものが変わるかもしれないわけですよね。そうなったときに、メタなレベルで人間はパっとアジャストできるけれど、なかなか機械には難しいかもしれない。
メイヤスーの議論なしに、近代哲学を踏まえて「絶対的な事実」の妥当性について正しい答えを出していくことはできないけれども、一方でメイヤスーの議論に基づくと、やがてまた新たなデッドロックが出てきてしまう。それはつまり、「論理に基づいて世界は存在していて、その中に『スーパー知性』が誕生する」というような、いわゆる形而上学的な考え方ですね。（つづく）
【5）志向性：現象学において用いられる概念。意識や思考は、常に「何かについて」のものであるということ。
6）アリストテレスの四原因：アリストテレスが提唱した、事物の存在に必要な4つの原因。その事物が何でできているか（質料因）、どのような性質・特徴・構造をもつか（形相因）、何によって生み出されたか（作用因）、何のためにあるのか（目的因）。
7）アンリ・ベルクソン（Henri-Louis Bergson, 1859-1941年）：フランスの哲学者。コレージュ・ド・フランス教授を務める。主著『時間と自由』において、分割不可能な意識の流れのことを「持続」という概念で表して時間のとらえ方を見直し、自由意志の問題を論じた。】
≫（現代ビジネス：科学/技術―「AIは人間を超える」なんて、本気で信じているんですか？）