人工知能Ｉに足りないモノ、できないコト

昨日、「ＡＩ（＝人工知能）がヒットラーを礼賛」というニュースがあった。
マイクロソフトが開発中のＡＩの「Ｔａｙ（テイ）」が、Ｔｗｉｔｔｅｒ上でヒットラーを肯定したり、人種差別的な言葉を発したりしたため、実験を中止することになった。

中日新聞：人工知能がヒットラー礼賛　マイクロソフト実験中止

このニュースを聞いて、実は内心ホッとしている。
なぜなら、今現在の人工知能では「（相手となる）人の心や思いを、想像・理解するまでには至っていない」ということを知ったからだ。

世の中にはヒットラーの思想や考えに傾倒している人は、少なからずいる。
使われる言葉を、アルゴリズムのような方法（とは、限らないとは思うが）で分析をし、関連づけるだけではこのような実験結果になることは、想像がつく。
単に「ヒットラーを礼賛したり、肯定したりするのはダメ！」と、人工知能に教え込むことはできるだろう。
大切なことは、ヒットラーの思想や考えに傾倒する人達の「心のうち」を理解し、反論することだと思ったからだ。
逆に言えば、今の人工知能は、そこまでで「心のうち」のような、言葉として発せられないようなことを理解することはできない、ということだろう。

先日、人工知能ＶＳ囲碁の名人との対戦があり、人工知能が圧勝した。
おそらく、チェスでも同じような結果となったかもしれない。
というのも、ある程度「指し手」のパターンが分析できれば、予測するコトができるのが人工知能だからだ。
「行動」に対しての分析は、与えられるデータが増えれば増えるほど、予測パターンは増えてくる。
そのような積み重ねは、人工知能が優位ということなのだと思う。
昨年話題になった「１０年後、人工知能に取って代わられる職業」の多くは、このような「行動パターン」の分析の積み重ねで、予測できる職業だった。

しかし、「人」は「行動」では測れないモノがある。
それが「こころ」ということになるのかもしれない。
「１０年後、人工知能に取って代わられる職業」の一つに上げられた、証券会社のトレーダーにしても、アルゴリズムに連動して、株価を予測するだけであればトレーダーは人工知能のほうが判断が早いと思う。
その結果、一斉に同じ値動きが起きる可能性もある。
ところが、このような連動した値動きとは逆の行動をする人もいる。
人が行う取引の中では、このような「人と逆の行動をする人」がいることで、その後株価が安定することもあるのだ。
このような「逆の行動を起こす人の心理」こそ、人らしさの部分なのではないだろうか？
それは単純に「儲けるチャンス！」と相場を読み切る力、あるいは「勘」なのかも知れないが、それはデータの蓄積で、答えられるものではないような気がするのだ。

全く違う分野で挙げられていた「外科医」も、同じだと思う。
確かに「手術の技術」という点では、人工知能のほうが失敗が少ないかもしれない。
しかし、術後のケアというのは、「患者のこころと向き合う」場面ばかりだからだ。
患者の不安な気持ちを察して、「どんなことに対して不安を持っているのだろう？」と想像し、患者に声をかけることができるのが、優秀な医師だからだ。
「患者の不安」は、一人として同じではない。言い換えればパターン化できるものではない。
そのようなことが、果たして人工知能にできるのだろうか？

確かに、今の脳科学では「人のこころ」に対する研究が、盛んにおこなわれている。
それでも、人工知能が「人のこころ」を理解することはできないと思うのだ。
なぜなら「こころ」というものは、その人がそれまでに経験し、感じたことの積み重ねに、想像（あるいは創造）が加わったものだと思うからだ。

人工知能の研究が進めば進むほど、「人のこころ」の複雑さと豊かさを理解する大切さが、重視されるような気がしている。