goo blog サービス終了のお知らせ 

蓼科浪漫倶楽部

八ヶ岳の麓に広がる蓼科高原に、熱き思いあふれる浪漫知素人たちが集い、畑を耕し、自然と遊び、人生を謳歌する物語です。

記号接地問題   ⁻

2025-06-23 | 日々雑感、散策、旅行

    今日(6/23)は、沖縄慰霊の日です。あれから80年が過ぎたのです。今なお多くの不発弾が残って
     いるそうです。糸満市摩文仁の平和記念公園ほか各地の慰霊塔で追悼式が行われるようです。

 

 

 先(6/13)の拙ブログ「AIの本」のところで触れました「記号接地問題」です。

 聞きなれない言葉ですが、AI(人工知能)の更なる発展の大きな壁であるそうです。
大きな壁にはもう一つ「フレーム問題」というのがあるようですが、今回は、「記号
接地問題」について、ちょっとだけ取り上げてみました。 にわか勉強で十分わかって
いないのですが・・。

 記号接地問題とは、認知科学者のスティーブン・ハルナッドという人が1990年に
提唱した「シンボルグラウンディング問題」(Symbol grounding problem)で、シン
ボル=記号、グラウンディング=接地で直訳された表現ですね。 どういうことかと
いえば、例えば「リンゴ」といえば、赤くて、丸い、甘い果物と分かりますが、この
ことは「リンゴ」という記号が「リンゴ」の概念に接地されているからだというのです。

         (生活クラブより)

 しかし、コンピュータに「リンゴ」といっても、それは単にリ・ン・ゴという記号に
過ぎず、赤く丸い、甘い果物とは理解できないですね。それは、記号が実体の概念に
接地していないからなんです。

 ネットに例題として、引用されている「中国語の部屋」(アメリカの哲学者が提唱)の
例を見てみますと、

       (Ledge.ai より)

 この部屋の中には、英語は話せるが、中国語は皆目知らない人がいて、中国語の質問書
と回答などのマニュアルが完備されている。この状態で、外部から中国語の質問書を
見せると、部屋の中の人は、正しく回答する。この状況は、あたかも部屋の中の人は
中国語を知っているかのような対応をしていますが、内容は全く理解出来ていないのです。
 つまり、コンピュータは、この部屋にいる人の対応と似ているというんですね。本人は
全く理解出来ていないけれども、外部から見れば十分理解できているように振舞って
いるのです。

 最近のAIは、何か質問をすれば、たちどころに、流暢な言葉づかいで回答をよこして
きます。あたかもAIは、その質問の意味を理解しているかのように振舞っていますが、
実は何も理解していないのですね。上述の「中国語の部屋」と同じような状況で、質問の
意味が実体の概念と接地していないから、単に質問の記号から、回答を選んで、それを
上手に出力しているにすぎないのです。

 ある分野に特化したAIは、かなり(理解しているように)回答出来るように振舞えます。
「リンゴ」ですと、AIにあらかじめ、丸く赤い、甘い果物・・などと、データを構成
しておけば、リンゴと質問された時に、それらのデータから回答が出来て、それなりに
理解されているように思えますが、産地は? 年間出荷量は? などと質問されると、
それらのデータがあれば回答できますが、データが無ければできませんね。

 たとえば、小学生に同じような質問をすれば、丸くて赤い甘いリンゴのことは回答
できても、産地や出荷量までは知らないかもしれませんね。それは知識の量に依存して
いると考えられますね。リンゴという記号が接地していなくてもある程度までは、理解
しているように振舞うことは出来るのです。

          (北海道新聞より)

 しかし、リンゴの実体的な概念があれば、たとえば、「リンゴは水に浮くか?」との
質問に、人間はこれまでの経験や状況(リンゴの比重など)から想像して「浮く」と
答えられますが、AIにこのデータが無ければ何も答えられないですね。ここで初めて、
記号が接地されているかいないかが大きく分かれるところですね。

 AIは、記号接地が出来ないから、ある特定の分野に限って、その分野のデータを大量に
読み込んでおけば、理解しているように回答できますが、その分野とは違う分野になると
皆目役立たずになってしまうのです。

 AIが人間の能力に近づき、あるいはそれを超えるためには、この記号接地の問題が
解決される必要があるというのです。

                   

 ここまで来て、はて! と思ったことがあります。 人間が概念を知っているとか、
理解できるというのは、一体どういうことなのか? 人は、リンゴを持ったことも食べた
ことも、いつごろ収穫出来るとかも経験や知識(データ)として記憶しています。
しかし、栄養素の成分は?  と聞かれれば、それは知識が無ければ答えることが出来
ない。つまりデータがないから・・。リ・ン・ゴの記号が接地されていても、知らない
ことは知らないのですね。

              

 石に躓いて、痛い目に合った。「痛い」と言う概念は、このほかにも、ナイフで指を
切ったとか、頭をドアにぶつけたとか・・それぞれの痛みは経験して理解出来ています
が、コンピュータに「痛い」という経験はないですね。しかし、コンピュータに様々な
状況での「痛み」をデータとして埋め込んでおけば、痛さの実感はないけれども、対応は
できるでしょう。

 身体的に痛さを体験しているということは、具体的にどういうことなのでしょうか?

 大けがをすると、その痛みはもっと大きく、場合によっては・・などと、痛みについて
の感覚の広がりが想像できますが、接地していないコンピュータにはそれが出来ないと
いうことなんですね。

 

 「AIの本」では、第7章  言葉や文章の世界におけるAI の初めの方にあります。

    AIの泉 https://ainofntn.com/

 

 

 

記号接地問題から読み解く生成AIの意味理解と発展の可能性

 

 

 

 


コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« アスコット競馬   ⁻ | トップ | 夏は甘酒で・・   ⁻ »
最新の画像もっと見る

コメントを投稿

サービス終了に伴い、10月1日にコメント投稿機能を終了させていただく予定です。

日々雑感、散策、旅行」カテゴリの最新記事