Neuro-sama、沙耶の唄、「共感」という病

 

 

 

 

Neuro-samaについては「AIで制御されたサンプルアバター(桃瀬ひより)を用いた配信者」としてネットニュースで知ってはいたが、少し前にbanされたということもあり、一体どんな配信をしているのか昨日初めて見てみることにした。

 

例えば「マインクラフト」について学習の速さと全く学習しない分野のアンバランスさなどはあるものの、コメントへの応答は時に飛躍、時に意味不明なものを含みながらもしっかりと返しており、さらには歌も歌えるなど(歌姫というよりむしろセイレーンかｗ)、なかなかにおもしろいと感じた。

 

また、チャット欄やコメント欄の反応については、愛でる者、危険な発言を引き出そうとする者、杞憂する者と様々で、中には(どこまでが韜晦かは不明だが)もうこれで良くない(≒生身の友達とかいらなくない)？というものまで存在した。実際のところ、これほどエスプリに富んだ(ように見える)返しをしてくれる存在がいつでも自分の相手をしてくれて、かつ自分はそちらの都合を斟酌する必要がないなら、これほど楽なことはないだろう。確かに毒舌の気があって傷心の時に同様のコメントをもらうと破壊衝動にかられるかもしれないが、それだったら癒し用botを準備すればよい、という寸法である。

 

まあ人間の価値観は様々なので、あくまで生身がよいという人間も相当数残り続けるだろうが、Neuro-samaの言行に一喜一憂する様は、進化するbotに耽溺する人間が少なからず出てくる未来を想像させるには十分だと感じた。なお、これは何度も話していることだが、AIの「進化」が社会にもたらす影響について吟味する際、人間の「劣化」という問題も必ず並行して考慮する必要がある。

 

これは「情報のフォアグラ」と化した人々の姿を例に出せば、思い半ばに過ぎるというものだろうが、さらには経済衰退と社会の閉塞感、そして複雑性・多様性の広がりが組み合わされば、(継続的で良好な)生身の人間関係を構築することの難易度が上がっていき、そこにコミットするくらいなら(発展の見込みもある)botの方が「コスパがいい」というわけだ。

 

というわけで、このような話は「沙耶の唄」という傑作に関するレビュー(初出は2006年)からずっと言い続けていることだが、さらにそれがディープラーニングなどAIの発展を通じて具体性を帯びてきており、Neuro-samaはその可視化現象と見なすことが可能だろう。

 

ところで、今回のNeuro-samaとそれへの反応を見て、私が「沙耶の唄」のレビューで触れた他のことも可視化されたように思うので、少しその話をしておきたい。

 

それは何だったかというと、「もし沙耶のビジュアルが醜女だったら？あるいは中年のオッサンだったらどうなっていただろうか？」という話だ。「孤独に打ち震えるいたいけな少女が、寄り添ってくれる主人公への献身の果てに世界を変える」というのが沙耶の唄の一つの見方で、それは(作者が予想もしなかった)「純愛ゲーム」という評価へとつながったわけだが、では沙耶が中年のブスであったら、それでもこの作品を同じように評価しただろうか(そもそも郁紀の行動を今の沙耶の時と同様に評価しただろうか)？と私は問いかけたのである。

 

これは突拍子もない仮定というか、単に水を差す行為だと思われたかもしれないが、全くそんなことはなく、極めて本質的な問いである。これを同じく、Neuro-samaにも適用してみたい。もし彼女のビジュアルが弱々しい少女のそれではなく、成人女性だったら？あるいは中年男性だったら？私たちは同じように反応するだろうか？

 

容易に想像できるのは、「彼女」による突拍子もない発言が生むinnocenceやそこから派生するcuteの観念(未成熟さに向けられる庇護欲、とでも言おうか)は、成人のそれと組み合わさった場合insanityとして認識され、(少なくとも今よりはっきりとした)嫌悪や嘲笑が向けられる要因となったのではないか？(実年齢による違いなど存在しない以上)同じAIによるアウトプットであるはずなのに、である。

 

この落差、もっとはっきり言うならバイアスこそ、私が沙耶のビジュアルに関して述べたかったことである(おそらく「沙耶の唄」の作者虚淵源も類似のことを考えており、ゆえにプレイヤーはシニカルな反応をして主人公たちの世界に没入するような解釈はしないだろうと予測したものと思われる)。

 

このような人間のバイアス、あるいは(カール・マンハイムの件でも触れた)認識論については、別で書いた「共感」の危険性ともリンクする(なお、例えば飼い犬が泣いている赤ん坊をあやすかのような遠吠えをしたり、あるいは幼児に悪戯をされても反撃しなかったり、したとしてもかなり軽めのものだったりするケースが見受けられることからすると[もちろんこれは家族の行動から学習しているだけの可能性はある]、「小さいもの」「弱々しいもの」への対応はひとり人間だけの特徴ではなく、よりプリミティブな感覚に根差している可能性もあることには注意を喚起しておきたい)。そこで述べたことを大づかみに言うと、「共感」とは、自分が他者の痛みを感じたかのような錯覚を覚える存在に同情したり、思わず助けたくなったりする現象のことだが、その働き方の傾斜に無頓着であることによって、同じような苦しみを持ち助けを必要としているはずの存在について、少女や猫は助けたいと思う一方で、オッサン・オバサンは自己責任で切り捨てるという思考・行動を当たり前のように取ってしまうという話だ。

 

このような傾向と弊害については、『「共感」という病』や『反共感論』として書式化されたり、あるいは「かわいそうランキング」といった言葉で問題化されている(あるいは「ドライブ・マイ・カー」で取り上げられたテーマともリンクしうるだろう)。誤解しないでいただきたいが、これらで主張されているのは間違っても「惻隠の情は下らない」といったような馬鹿げた話ではない。「人間とは必謬性を持った存在であるがゆえに、その感情の働き方に無頓着であると、しばしば社会設計において重要な判断を誤る」という話をしているのである。

 

情報が洪水のように溢れているがゆえに脊髄反射的反応をしやすくなっている今こそ、こういったバイアスの存在とそれへの対処を共有しておく必要があると思う次第である。

 

さて、以上述べてきたように、Neuro-samaとそれにまつわる諸々の反応は、人間とAIの関係性はもちろん、人間のバイアスや認識論、あるいはそれに基づいた社会設計を考える上でも有益な材料となりそうだと述べつつ、この稿を終えたい。