いいかげんさが頼もしい響き

　デジタル・ニュースをチェックしていたら、生成ＡＩがコントロールする攻撃ドローンが、あろうことか命令者を攻撃するようになったので、そのシミュレーション実験を中止したというフェイク紛いの「情報」があった。フェイク紛いと思ったから発信元もシミュレーションの主体も覚えていない。だが概ねこんな話であった。
　はじめ、敵のあるものへの攻撃を命じた。だが破壊してよいかどうか疑念があったので、攻撃中止を命じた。ところが、ドローンは中止を命じた本部を先ず攻撃破壊しようとした。そこで、命令の発信元を変更して攻撃中止を命じたところ、経由通信元を攻撃し、命令元への攻撃をして、然る後に最初の攻撃目標を破壊するに至った、という。
　生成ＡＩの自律的判断が、何処の時点で「命令」を受け止め、何を至上の命令目標と定め、その達成のために妨害となるさまざまな「工作」を乗り越えて、目的を達成するのか。そういうことが、生成ＡＩの動作を考える上で欠かせない課題になると、教えているようだ。
　そうだね。生成ＡＩのもたらす現実の「想定」は、間違いなくここ百年ほどの間にヒトが思いついたＳＦの世界になってきた。ＳＦを読んで育ってきた私たちは、ヒトってそういうことを考えるんだよねと、展開する事態を（現実化するメディアがあるわけじゃないから）面白がって読み、且つ映像にし、仮想の世界に託して、人間の本質を感じ取りながら共感同意してきた。そのメディアが、現実になってきた。生成ＡＩという、ものごとの判断を自律的にする人工知能が、何処から自律的に判断し、何処までは命令者の指示に従うのかを、限定しなければならなくなった。だが限定すると、「自律的」ではなくなる。
　生成ＡＩがコントロール本部の意思にしたがうことを前提にするというのは、現今の人間社会がそのようなシステムで動いているからである。だが考えてもみよ。上司の命令を下司が受けて、命令通りに実行する、形だけ従う振りをする、サボる、あるいは従わずに反抗するというのは、それぞれ（後付けになるが）由緒由来があってのことだ。
　ところが、例えばつい先日の自衛隊射撃場における見習い隊員の教官たちの銃撃事件。厳しい訓練に対する怨恨かと思ったのは市井の老爺の経験則。それ以前に面識もなかったというから、どうも、なぜかわからない。それと関連付けていうと、「（殺害するのは）誰でも良かった」とか街中の「無差別殺人」とか八つ当たり傷害事件が相次いでいる。コトを起こす本人自身も、なぜ自分がそのような衝動に駆られるのかワカラナイままに、コトを起こしてのちに、尋問されてそれ後付けの「説明」をする事例が多い。
　それが、生成ＡＩに起こらないとは、限らない。人ならば、狂ったというであろう。だが生成ＡＩとなると、自爆も含め目的達成を最高指令と考えて放たれると、障碍を乗り越えて徹底遂行するのは極めて合理的である。
　攻撃対象の破壊を命じた後にそれを中止せよという指令が何者かによってだされたき、それを妨害工作と受け止めるのは「理に適っている」。発信元を変更したりするのは、もっと「怪しい」と考えるのも合理的判断だ。そもそも、生成ＡＩは、なぜ自分がそのように判断したかを解析して説明する回路を持っていない。だから、ヒトのように迷うこともしない。妨害をかいくぐってひたすら任務を遂行する。
　いや、参ったなあ。そんなドローンが近隣国から多数やってきて、執拗に、ひたすら攻撃するようになる。「参った。降参」 と手を上げても、勘弁してもらえないのだろうね。
　意思堅固、初志貫徹、徹底遂行って言葉よりも、優柔不断、己を疑え、凡俗中庸って言葉を生成ＡＩの身につけさせるにはどうしたらいいのかな。そんなことを，設計者は考えてんのかなあ。それとも、それは邪道と思ってんのかなあ。
　人のいいかげんさが、何だか頼もしい響きを持つような感じがしてきた。