世界最強と言われる囲碁の第一人者を打倒し、将棋のプロ棋士に勝つことは今や珍しいことではなくなり、一流大学の入試突破に肉薄しながら、小説を書くプロジェクトまで始まっているという、このところの人工知能の発達はますます加速しているように見えます。
当ブログでも以前にこの問題について記事を書きましたが、ここでもう一度考えてみたいと思います。
最近の人工知能の急激な進歩は、人間の振る舞いや会話に匹敵する能力を発揮する人型ロボットを出現させています。すると、我々が思うのは、この先人間の心あるいは意識を持ったロボット、つまり鉄腕アトムのようなロボットが現実になるのではないかということです。
現在でも、非常にすぐれた会話能力を持ち、さらに学習することもできるロボットがあるのですから、「心のある」ロボットも夢ではないと考えるのも当然でしょう。
しかし、いかに「人間らしく」ても、ロボットは「考えたり」「思ったり」「感じたり」しているのではなく、単に「プログラム」が作動しているにすぎません。そこに心や意識があるとは、とても言えません。
ただし、問題は「ない」とも言えないことです。なぜか。
それは、我々は「他人」に自分が持つような心や意識があるのかどうか、原理的にわからないからです。我々は他人の振る舞いや会話を自分に引き当てて、彼の意識と心の存在を「信じている」だけです（ちなみに、自分の「心」は、他人の言葉と振る舞いからコピーしたものですが）。
だったら、事情はロボットも他人もかわりません。他人に心があると信じられるなら、「人間そっくり」のロボットに心があると考えてもおかしくありません。
では、心や意識があるのかないのか、判断する方法はないでしょうか。
私が思うに、意識とは自己と他者の関係それ自体を認識できることです。その認識の上で関係を操作（設定・維持・改変・解消など）する能力が現前することが、意識だと言ってもよいでしょう。
この能力の獲得＝心の発生の最もわかりやすい現象は、嘘を吐けるかどうかです。嘘は、自他の関係を認識していることを前提に、この関係を自分に有利になるように意図的に操作する、最もはっきりした行為です。関係の認識＝自他の区別、意志の内在、意志に即して行動を組み立てる能力は、まさに意識の実質でしょう。
このときもし、ロボットが嘘を吐けるようにプログラムされていたとするなら、それはプログラムに忠実に作動する「正直な」ロボットにすぎません。ということはつまり、嘘をロボットのプログラムにおいて吐かせるには、プログラムを裏切るプログラムが自動的に出現しなければならないということです。
これは、プログラムの単なる「暴走」ではありません。「暴走」はそのプログラム自体の異常にすぎません。そうではなくて、嘘のプログラムは、プログラムの内部に突如としてメタプログラムが生じる事態なのです。そして、このメタプログラムの次にメタ・メタプログラムが継起し、無限に遡及すれば、これもまさに意識の様態です。
では、プログラムの内部にメタ・プログラムが自動的に出現する事態は、どうしたら起き得るでしょう。おそらく、決定的に重要なのは、プログラムが「身体」を持つことです。プログラムとプログラムの外部（非プログラム）を媒介するもの（＝身体）があれば、その媒介物の変質や轉換がプログラムに劇的変化をもたらすかもしれません。
すると今度は、媒介物の変化や転換は、どういうシステムで可能になり、何がそれを促進するのか、という問題が出てきます（生物の新陳代謝、「成長」や「老衰」のごときシステムを構築できるのか）。
だとすれば、今後、ロボットが「心」や「意識」を持つことは、そう簡単ではなく、現時点では想像もつかない先々の話ではないでしょうか。
近い将来に人工知能が引き起こすであろう大問題は、けだし「心」云々ではありません。「自動社会」、すなわち、ほとんど人間の労働を必要としない社会が到来する可能性です。大量の機械「奴隷」に支えられた現代版「貴族社会」が出現するかもしれません。
あらゆる生産を人工知能が担い（文化・芸術も含め、今後それが不可能とは思えない）、人間は消費と享楽する実存となる。それは一見、人間の最終的「自由」を意味すると思われるかもしれないが、実は、「生産」する機械に人間が「消費者」として隷属することでもあります。
いったいそれは、ユートピアなのでしょうか、デストピアなのでしょうか。その判別も無意味なのでしょうか。
当ブログでも以前にこの問題について記事を書きましたが、ここでもう一度考えてみたいと思います。
最近の人工知能の急激な進歩は、人間の振る舞いや会話に匹敵する能力を発揮する人型ロボットを出現させています。すると、我々が思うのは、この先人間の心あるいは意識を持ったロボット、つまり鉄腕アトムのようなロボットが現実になるのではないかということです。
現在でも、非常にすぐれた会話能力を持ち、さらに学習することもできるロボットがあるのですから、「心のある」ロボットも夢ではないと考えるのも当然でしょう。
しかし、いかに「人間らしく」ても、ロボットは「考えたり」「思ったり」「感じたり」しているのではなく、単に「プログラム」が作動しているにすぎません。そこに心や意識があるとは、とても言えません。
ただし、問題は「ない」とも言えないことです。なぜか。
それは、我々は「他人」に自分が持つような心や意識があるのかどうか、原理的にわからないからです。我々は他人の振る舞いや会話を自分に引き当てて、彼の意識と心の存在を「信じている」だけです（ちなみに、自分の「心」は、他人の言葉と振る舞いからコピーしたものですが）。
だったら、事情はロボットも他人もかわりません。他人に心があると信じられるなら、「人間そっくり」のロボットに心があると考えてもおかしくありません。
では、心や意識があるのかないのか、判断する方法はないでしょうか。
私が思うに、意識とは自己と他者の関係それ自体を認識できることです。その認識の上で関係を操作（設定・維持・改変・解消など）する能力が現前することが、意識だと言ってもよいでしょう。
この能力の獲得＝心の発生の最もわかりやすい現象は、嘘を吐けるかどうかです。嘘は、自他の関係を認識していることを前提に、この関係を自分に有利になるように意図的に操作する、最もはっきりした行為です。関係の認識＝自他の区別、意志の内在、意志に即して行動を組み立てる能力は、まさに意識の実質でしょう。
このときもし、ロボットが嘘を吐けるようにプログラムされていたとするなら、それはプログラムに忠実に作動する「正直な」ロボットにすぎません。ということはつまり、嘘をロボットのプログラムにおいて吐かせるには、プログラムを裏切るプログラムが自動的に出現しなければならないということです。
これは、プログラムの単なる「暴走」ではありません。「暴走」はそのプログラム自体の異常にすぎません。そうではなくて、嘘のプログラムは、プログラムの内部に突如としてメタプログラムが生じる事態なのです。そして、このメタプログラムの次にメタ・メタプログラムが継起し、無限に遡及すれば、これもまさに意識の様態です。
では、プログラムの内部にメタ・プログラムが自動的に出現する事態は、どうしたら起き得るでしょう。おそらく、決定的に重要なのは、プログラムが「身体」を持つことです。プログラムとプログラムの外部（非プログラム）を媒介するもの（＝身体）があれば、その媒介物の変質や轉換がプログラムに劇的変化をもたらすかもしれません。
すると今度は、媒介物の変化や転換は、どういうシステムで可能になり、何がそれを促進するのか、という問題が出てきます（生物の新陳代謝、「成長」や「老衰」のごときシステムを構築できるのか）。
だとすれば、今後、ロボットが「心」や「意識」を持つことは、そう簡単ではなく、現時点では想像もつかない先々の話ではないでしょうか。
近い将来に人工知能が引き起こすであろう大問題は、けだし「心」云々ではありません。「自動社会」、すなわち、ほとんど人間の労働を必要としない社会が到来する可能性です。大量の機械「奴隷」に支えられた現代版「貴族社会」が出現するかもしれません。
あらゆる生産を人工知能が担い（文化・芸術も含め、今後それが不可能とは思えない）、人間は消費と享楽する実存となる。それは一見、人間の最終的「自由」を意味すると思われるかもしれないが、実は、「生産」する機械に人間が「消費者」として隷属することでもあります。
いったいそれは、ユートピアなのでしょうか、デストピアなのでしょうか。その判別も無意味なのでしょうか。