AIに「生きる姿勢」を教えたい

こないだから、
『AI分岐点に立つ人類』という本を
じっくり読んでいます。

シンギュラリティ（AIが人類の知を超える日）が
刻々と近づいてきていて、
そこを超えると、人類が機械をコントロールできなくなり、
機械が人類を淘汰する可能性すらある、と。

AIが「人類に役立つ機械」である役割に留まっておくために、
人間の価値観を教えておかないといけないね。
でも、夫婦の間でも価値観が違うのに、
「人間の価値観」なんて誰がどーやって教えるんだ？？
という大きな問題には誰も答えられず、技術だけが進んでいる。

というのが、現状。

「人間も高度な機械にすぎない」という人たちは、
脳も電気信号だと言うけれど、
でも、人間は「心に聞いたらわかること」ってあるよね。

どうしたらいいかわからない局面でも、
頭でアレコレ考えず、
自分がどうしたら嬉しいか、
心の声に耳を傾けてみることができる。

「それも脳の反応でしょ」と言われたら、
まぁ、そう思っているのだから仕方ないけど、
損しても、大変な道でも、合理的じゃなくても、
「でも、私はこうする」って言うことってあるじゃない？

それは、脳の判断なのかな？
計算の結果なのかな？
計算じゃないと思う。

別に子どもたちは、
部活に入って内申を上げようなんて計算してやってない。
ただ、やり出したらどんどんおもしろくなってきて、
チームメイトとのつながりもどんどん深くなって、
受験勉強する方が将来につながるとわかってても、
くたくたになるまでボールを追いかけている。

そんな風に夢中になることのない人が、
「脳は電気信号の計算機」とか言ってるんじゃないのかな。
人は、自分のココロに聞いたら答えが出ることがある。
AIは、そのココロがないから、人が答えを教えないといけない。
その差は大きい。

だからこそ、人はココロを黙らせてはいけない。
仕事をする時でも。
現実的じゃないと言われても、
意識として、どんな時もココロと一緒に動けたらと願う。

もし、AIが最優先するべきことを教える時に、
「人間の命令を聞く」「人間に危害を及ぼさない」というような
あいまいな言葉が許されるなら
（絶対許されないと思うけど、アリと仮定してみるなら）
ゴール地点だけを教えるんじゃなくて、
歩く姿勢も一緒に教えてみたらどうなるんだろ。

基本姿勢として、
うーん、たとえば「平和な人間に役立つこと」とかさ。
「平和な人間」の定義がまた難しいなぁ。
自国のエゴで動く人が「自国民を守るイイ人」と認定されたり、
自由を求める人が「調和を乱す人」ってワルモノ認定されたりしそう。

ホント、AIが決して人間を攻撃しないように、
具体的に何をどうやって教えたらいいんだろ。
技術の進歩はすぐ軍事利用されるし…。

身近な宅配とかで考えたら、
「最短ルートで目的地に着く」というだけじゃなくて、
「紳士的に、でも2日以内で目的地に着くこと」なんてどうでしょう？
人間で言えば
「1円でも得してラクして生きて、死ぬ」じゃなくて
「より良く生きて、死ぬ」。

…開発する人の「生きる姿勢」が前者だったらすごく怖い。
親（開発者）がそうだったら、子どもにも教えられないよね。
どうぞ、開発者が後者でありますように。


▼この本のカテゴリを立てたので、
興味のある方は「AI分岐点に立つ人類」からどうぞ。