「機械（＝人工知能）は知能を持てるか？」という問いは、かなり以前からありました。その中で具体的に機械が知能をもったか否かを判定するテストを提案したのが、1950年にイギリスの数学者アラン・チューリング（Alan Turing 1912-1954）＊01さんが論文「Computing Machinery and Intelligence」の中で発表したチューリングテスト（Turing test）です。
それは、機械（＝人工知能）と人間が別々の部屋にいて、審査員（別の人間）との間でキーボードとプリンターで質疑・応答をする。審査員が様々な質問をし、機械または人間（どちらかはわからない）の回答をみて審査員は相手が機械か人間かを判定する、というものです。そして最終的に機械が「人間である」と判定されれば「この機械は考えることができる」、つまり「知能を持った機械」と見なせる、というわけです。
Alan Turing's statue at Bletchley Park.
このチューリングテストを最新のChatGPT-４などに厳格に当てはめた場合、人間のChatと区別がつかず「合格」した、とスタンフォード大学のマシュー・ジャクソンさんは報告＊02しています。しかしこのチューリングテストに合格したとしても「知能を持ったとはいえない」という議論も数多くあります。
その代表例がアメリカの哲学者ジョン・ロジャーズ・サール（John Rogers Searle、1932-）さんが1980年に提案した思考実験「中国語の部屋」＊03でしょうか。
ある小部屋の中に、英語しか理解できない人がいるとします。その彼に外から小さな穴を通して一枚の紙きれが差し入れられました。そこにはいままで彼が見たこともない文字（漢字－中国語）が並んでいました。彼に与えられた仕事は、その文字の列に新たな文字を書き加えて、紙きれを外に返すことです。部屋の中には1冊のマニュアルがあって、どういう文字の列に、どういう文字を付け加えればよいかということが全て書かれています。彼はこの作業をただひたすら繰り返します。すると、部屋の外にいる人は「この部屋の中には中国語を理解する人がいるに違いない」と考えます。しかしながら、部屋の中にいる彼は全く漢字が読めず、作業の意味を全く理解しないまま、ただマニュアルどおりの作業を繰り返しているだけなのです。それでも部屋の外部から見ると、中国語による対話が成立しているのです。
この話はコンピュータのアナロジーになっていて、部屋全体がひとつのコンピュータで、マニュアルが作業のルールを示したアルゴリズムに相当します。部屋の中にいる人は、そのアルゴリズムによって処理をこなすCPUでしょうか。
ジョン・サールさんは、人工知能が真の知能を持ちえない理由を、記号論を構成する統語論と意味論を用いて明確にした、非常に強力な論理を「中国語の部屋」を例にして展開しているのです。統語論とは言葉がどのように並べば文になるかを調べることで、意味論とは言葉と世界の在り方の関係を明らかにし意味を作り出すことですが、この議論を支えるロジックとは柴田正良さんによれば次のようなもの＊04です。
［前提］（1）：統語論は意味論を生むには不十分である。
（2）：コンピュータのプログラムはその形式的構造、すなわち統語論的構造のみによって完全に定義される。
（3）：心は心的内容、とりわけ意味論的内容をもつ。
［結論］（4）：いかなるプログラムも、それだけではシステムに心を与えるのに不十分である。要するに、プログラムは心ではないし、またそれだけでは心を持つのに十分ではない。
このサールさんの論理構成は明確で、前提条件もその通りであり、従って結論も疑いようのないものに見えます。事実この議論を知って人工知能は不可能と断じる人も多いといいます。
記号論自体がそうですが、それは社会の成り立ちを還元主義的に分解し、抽象化して理解するひとつの方法にほかなりません。ユークリッド幾何学のように幅のない線や大きさのない点に現実世界の物理現象を還元し、抽象化することと同じなのです。ユークリッド幾何学が科学全般の基礎理論として大成功を収めたように、記号論もまた人間の社会活動、心理を明らかにするうえで、非常に大きな役割を果たしています。
その記号論（統語論と意味論）＊05に従えば人工知能は真の知能を持ちえない、というのです。
＊01：「計算機科学のノーベル賞」として知られる彼の名前を冠した「チューリング賞」が1966年から毎年選定されています。
＊02：Scott, Cameron. "Study finds ChatGPT's latest bot behaves like humans, only better | Stanford School of Humanities and Sciences".2024.02.22
＊03：J. Searle, 1980, "Minds, Brains and Programs", The Behavioral and Brain Sciences
＊04：ロボットの心―7つの哲学物語／柴田正良／講談社 2001.12.22
＊05：チャールズ・W・モリス（1903-1979）によれば、記号論は統語論（構文論）、意味論、語用論の三分野に分けられます。
記号理論の基礎／Ch.W.モリス／内田種臣・小林昭世訳 勁草書房 1988.01
