NHK「AIに聞いてみた」：因果関係と相関

　炎上商法という言葉あるが、NHKの「AIに聞いてみた」はそれに近い。

　もう少しマイルドに言えば、この番組はセンセーショナリズムそのものだ。

　直観的に強い違和感や驚きを引き起こす話を意図的に利用して、番組を盛り上げている。

　問題は、それがミスリーディングだということだ。

　すでに多くの論者が指摘するように、番組では因果関係と相関がごちゃごちゃになっている。

　おそらく、意図してそうしている。



【NHKのセンセーショナリズム】

　「番組では因果関係と相関を切り離しています」というアリバイ作りをちゃんとやっている。

　テロップやナレーションで注意事項として、この点を指摘している。

　その一方、「政策提言」になると、急にこれがごちゃごちゃになっている。

　たとえば、「健康になりたければ、病院を減らせ」という提言。

　これは意図してミスリーディングだ。

　因果関係と相関を切り離しているなら、こういう政策提言にはならないはずだから。

　司会者も番組制作者の意図を忖度するかのように、因果関係と相関をごちゃごちゃにしながら、議論を進める。

　しかし、司会者が悪いというわけでもない。

　「相関がなぜ存在するのか、とりあえずその場で説明しろ」と言われれば、あんな感じになる。



【因果関係と相関が別である件】

　おそらく、わざわざこんなブログを読んでいる読者諸氏には至極当たり前のことだろうけれども、因果関係と相関は別のものである。

　たとえば、「熱中症の救急搬送者数」と、「水難事故発生件数」の月別平均の関係を考えてみよう。

　簡単に調べるかぎり、このふたつは７、８月にかけて山型を形成していた。

　もし片方が増加すると、もう片方も増加するという「正の相関」が見られるとして、因果関係はどうだろう。

　言わずもがなである。

　にもかかわらず、「熱中症患者を減らすには、水難事故を減らせ！」と言い始めたら、どうだろう。

　水難事故を減らすために、プールを閉鎖し、河川での監視を強化したとして、それで熱中症患者は減るだろうか？



　さて、ここでNHKの政策提言をもうひとつ見てみよう。

　「４０代の一人暮らしが日本を滅ぼす。そこで家賃を下げれば、４０代ひとり暮らしが激減する。」

　果たして、これは適切な提言だろうか？

　相関と因果関係をごちゃごちゃにしていないだろうか？

　言うまでもなく、番組制作者にとっては、これが適切かどうかなど問題ではない。

　これが議論を呼び起こし、話題になることが重要なのだ。

　このどうでもいいブログで話題にしている程度ではあるが、その意図は一応成功しているだろう。



【一方で大事なメッセージもある】

　ただ、それでもNHKの意図の良い部分も指摘したい。

　相関が分かれば、何かの役に立つ可能性はある。

　相関があることが事実なら、それは否定すべきではない。

　たとえば、ある工業地域で「魚をよく食べる人が特定の病気に罹患している」という現象があったとしよう。

　因果関係を解明するには、きわめて長い時間がかかる。

　水質汚染が病気と関係しているかもしれない。しかし、それは科学的に実証されていない。

　この場合、たとえ因果関係が分かっていなくても、一旦、魚を食べないようにすべきだ。

　因果関係の解明に拘りすぎると、大事なメッセージを見落とす場合もあるのだ。

NHKスペシャル「天使か悪魔か 羽生善治 人工知能を探る」：ＡＩが大ブーム

　自分のゼミ生の就職活動に一喜一憂する日々の私。

　面接で聞かれる質問や小論文で密かにブームらしい「人工知能（ＡＩ）」。

　同僚との飲み会でも話題になっており、とにかくまあ、面白いのである。



　どう面白いのかを簡単に理解するうえで最良の手引きとなるのが、タイトルにあるＮＨＫスペシャルの企画。

　気をよくしたＮＨＫは、今週末から新たなＡＩシリーズを放送予定。

　すでに一部で大きな話題になっている。



　ここまでで少しだけ興味を持ったかもしれない読者諸氏に、件のＮＨＫの番組について、ざっと説明したい。

　「天使か悪魔か 羽生善治 人工知能を探る」では、ＡＩが（日本やアメリカの）社会のなかで、すでにどこまで影響力を持っているのかを明らかにする。

　導入は、将棋でＡＩが人間の名人を完膚なきまでに倒すエピソードから始まる。

　私が小学生の頃は、スーパーファミコンのソフトがアマチュアの３段程度だったが、２０年ほど経て、遂に人間を追い抜いたのだ。

　なぜそんなことになったのか？

　ここで注目すべきなのが機会学習と呼ばれるシステムだ。

　将棋の事例でＡＩが行った学習とは、以下のようなものだった。

　まず、ＡＩにこれまで行われたプロの対局データ（棋譜）を入力する。

　このデータの束が、いわばＡＩの教師となる（「教師データ」）。

　ＡＩは、このデータの束を分析し、どうすればゲームで勝てるようになるのかを学習する。

　一昔前のコンピュータの場合、人間が将棋で勝つための法則性をある程度入力していたらしいのだが、現在のＡＩの場合、それはしない。

　人間は教師データを入れるだけで、あとはＡＩが勝つためのルールを発見する。

　ＡＩは、自分のなかで対局を無数に行い、実践を繰り返す。ここがポイント。

　それによって、より優れたルールを作り出すわけだ。

　番組によれば、すでにＡＩは人間が２０００年ほどかけて行う試合を自分のなかで行ったという。

　将棋が現在のようなかたちになったのが１６世紀後半以降らしいから、せいぜい４００年程度の歴史しかない。

　これに対して、ＡＩは２０００歳のプロ棋士（しかも、まったく休まずに指し続けている不死身の棋士）なのであり、未来から来た将棋指しということになろう。

　それゆえ、名人の想像を超越した指し手を実践してくるのである。



　ＡＩが人間を凌駕してしまったのは将棋だけではない。

　株などのトレーディングもそうだ。

　ＡＩはわずかな未来の株価を予想しながら、一秒間に数千もの取引を行い、利益を上げていく。

　人間はただ黙ってそれを見守るだけだ。

　こうなると、どういうプログラムをつくって他のトレーダーを出し抜くかがカギになる。



　この番組でカギとなるのが、アメリカの裁判所の事例だ。

　アメリカの一部の州では、裁判所の判断の補助のためにＡＩを導入しているそうだ。

　そこでは、犯罪者のデータをＡＩに読み込ませ、再犯可能性などを判断させる。

　再犯可能性が高ければ、刑期の途中での仮釈放は否定される。

　ＮＨＫの取材では、実際に仮釈放が認められずにいる受刑者にインタビューしている。

　「あなたの刑期の判断にＡＩが使われているを知っていますか？」と、ダイレクトに尋ねるＮＨＫ。

　当然そんなこと知らない受刑者。

　問題は、ＡＩがどういう理由で「再犯可能性が高い」と判断したのか分からないことだ。

　「分からないけど、高いんだから、刑務所にいろ」というわけである。



　そう、この番組が問うのは、ここだ。

　ＡＩは人間が気が付かない社会的な法則性を発見してしまっている。

　もちろん、それは「教師データ」の内容によるわけだが、

　たとえ、そのデータを研究者が長年かけて分析しても見いだせていないことをＡＩは見出してしまっている。

　ところが、その法則性をＡＩは人間に説明できないのである。

　ＡＩは答え（予測）は教えてくれるが、それがどういう理由で、どういう根拠で出てきたのかは説明してくれない。

　つまり、決定的にブラックボックスになってしまっている。



　政治でも司法でも説明責任が重要だ。

　なぜなら、人間は誰しも間違うのであり、それを検証できるようにしなければ大きな過ちにつながるからだ。

　しかし、ＡＩがそこに入ってくると、説明責任が果たしにくくなる。

　（まあ、そもそも行政府がせっせと公文書を廃棄しているような日本や、説明責任という概念がない中国では、ＡＩがやっても同じようなものかもしれないが。いや、むしろマシな可能性すらあるが。）



　さらにＡＩは人事管理にも利用されつつあるという。

　たとえば、離職率が問題になっている会社で、次に辞職しそうな人を探し出すというプログラムが利用されているのだという。

　こちらはまだマシな事例だが、将来的に昇進や給与の査定にＡＩが入ってくると、これは非常にシビアである。

　ただ、人間があいまいに判断するよりずっとマシな可能性もある。



　ここからは、私の簡単な感想を書く。

　無論、ＡＩは手段だ。それを良しするのも、ひとつのイデオロギーであり、何らかの価値規範を前提にしている。

　たとえば、職場の離職率を問題にする場合、

（１）離職しそうな人を探し出すのか、

（２）それとも、離職の原因を改善するのか、

（３）あるいは、優れた人だけを残し、他を離職させるよう促すのか、といった選択肢がある。

　ＡＩに何をさせるのかは、人間次第だ。

　鉄人２８号の歌にあるように、ＡＩもまた「あるときは正義の味方　あるときは悪魔の手先」。

　当然、軍事利用もされているはずだ。

　使い方に加えて、ＡＩに入力する「教師データ」についても同じことが言える。

　データの採集方法それ自体に何らかのイデオロギーが反映されているはずだからだ。

　だから、ＡＩが無規範で中立で透明だと考えるべきではない。

　まあ、当たり前のことだけどね。