NHKスペシャル「天使か悪魔か 羽生善治 人工知能を探る」：ＡＩが大ブーム

　自分のゼミ生の就職活動に一喜一憂する日々の私。

　面接で聞かれる質問や小論文で密かにブームらしい「人工知能（ＡＩ）」。

　同僚との飲み会でも話題になっており、とにかくまあ、面白いのである。



　どう面白いのかを簡単に理解するうえで最良の手引きとなるのが、タイトルにあるＮＨＫスペシャルの企画。

　気をよくしたＮＨＫは、今週末から新たなＡＩシリーズを放送予定。

　すでに一部で大きな話題になっている。



　ここまでで少しだけ興味を持ったかもしれない読者諸氏に、件のＮＨＫの番組について、ざっと説明したい。

　「天使か悪魔か 羽生善治 人工知能を探る」では、ＡＩが（日本やアメリカの）社会のなかで、すでにどこまで影響力を持っているのかを明らかにする。

　導入は、将棋でＡＩが人間の名人を完膚なきまでに倒すエピソードから始まる。

　私が小学生の頃は、スーパーファミコンのソフトがアマチュアの３段程度だったが、２０年ほど経て、遂に人間を追い抜いたのだ。

　なぜそんなことになったのか？

　ここで注目すべきなのが機会学習と呼ばれるシステムだ。

　将棋の事例でＡＩが行った学習とは、以下のようなものだった。

　まず、ＡＩにこれまで行われたプロの対局データ（棋譜）を入力する。

　このデータの束が、いわばＡＩの教師となる（「教師データ」）。

　ＡＩは、このデータの束を分析し、どうすればゲームで勝てるようになるのかを学習する。

　一昔前のコンピュータの場合、人間が将棋で勝つための法則性をある程度入力していたらしいのだが、現在のＡＩの場合、それはしない。

　人間は教師データを入れるだけで、あとはＡＩが勝つためのルールを発見する。

　ＡＩは、自分のなかで対局を無数に行い、実践を繰り返す。ここがポイント。

　それによって、より優れたルールを作り出すわけだ。

　番組によれば、すでにＡＩは人間が２０００年ほどかけて行う試合を自分のなかで行ったという。

　将棋が現在のようなかたちになったのが１６世紀後半以降らしいから、せいぜい４００年程度の歴史しかない。

　これに対して、ＡＩは２０００歳のプロ棋士（しかも、まったく休まずに指し続けている不死身の棋士）なのであり、未来から来た将棋指しということになろう。

　それゆえ、名人の想像を超越した指し手を実践してくるのである。



　ＡＩが人間を凌駕してしまったのは将棋だけではない。

　株などのトレーディングもそうだ。

　ＡＩはわずかな未来の株価を予想しながら、一秒間に数千もの取引を行い、利益を上げていく。

　人間はただ黙ってそれを見守るだけだ。

　こうなると、どういうプログラムをつくって他のトレーダーを出し抜くかがカギになる。



　この番組でカギとなるのが、アメリカの裁判所の事例だ。

　アメリカの一部の州では、裁判所の判断の補助のためにＡＩを導入しているそうだ。

　そこでは、犯罪者のデータをＡＩに読み込ませ、再犯可能性などを判断させる。

　再犯可能性が高ければ、刑期の途中での仮釈放は否定される。

　ＮＨＫの取材では、実際に仮釈放が認められずにいる受刑者にインタビューしている。

　「あなたの刑期の判断にＡＩが使われているを知っていますか？」と、ダイレクトに尋ねるＮＨＫ。

　当然そんなこと知らない受刑者。

　問題は、ＡＩがどういう理由で「再犯可能性が高い」と判断したのか分からないことだ。

　「分からないけど、高いんだから、刑務所にいろ」というわけである。



　そう、この番組が問うのは、ここだ。

　ＡＩは人間が気が付かない社会的な法則性を発見してしまっている。

　もちろん、それは「教師データ」の内容によるわけだが、

　たとえ、そのデータを研究者が長年かけて分析しても見いだせていないことをＡＩは見出してしまっている。

　ところが、その法則性をＡＩは人間に説明できないのである。

　ＡＩは答え（予測）は教えてくれるが、それがどういう理由で、どういう根拠で出てきたのかは説明してくれない。

　つまり、決定的にブラックボックスになってしまっている。



　政治でも司法でも説明責任が重要だ。

　なぜなら、人間は誰しも間違うのであり、それを検証できるようにしなければ大きな過ちにつながるからだ。

　しかし、ＡＩがそこに入ってくると、説明責任が果たしにくくなる。

　（まあ、そもそも行政府がせっせと公文書を廃棄しているような日本や、説明責任という概念がない中国では、ＡＩがやっても同じようなものかもしれないが。いや、むしろマシな可能性すらあるが。）



　さらにＡＩは人事管理にも利用されつつあるという。

　たとえば、離職率が問題になっている会社で、次に辞職しそうな人を探し出すというプログラムが利用されているのだという。

　こちらはまだマシな事例だが、将来的に昇進や給与の査定にＡＩが入ってくると、これは非常にシビアである。

　ただ、人間があいまいに判断するよりずっとマシな可能性もある。



　ここからは、私の簡単な感想を書く。

　無論、ＡＩは手段だ。それを良しするのも、ひとつのイデオロギーであり、何らかの価値規範を前提にしている。

　たとえば、職場の離職率を問題にする場合、

（１）離職しそうな人を探し出すのか、

（２）それとも、離職の原因を改善するのか、

（３）あるいは、優れた人だけを残し、他を離職させるよう促すのか、といった選択肢がある。

　ＡＩに何をさせるのかは、人間次第だ。

　鉄人２８号の歌にあるように、ＡＩもまた「あるときは正義の味方　あるときは悪魔の手先」。

　当然、軍事利用もされているはずだ。

　使い方に加えて、ＡＩに入力する「教師データ」についても同じことが言える。

　データの採集方法それ自体に何らかのイデオロギーが反映されているはずだからだ。

　だから、ＡＩが無規範で中立で透明だと考えるべきではない。

　まあ、当たり前のことだけどね。