わたしたちはまだ機械に噓のつき方を教える方法を知らない

イアン・マキューアン『恋するアダム』

あったかもしれない1982年の英国でAIロボが人と暮らす話。
あったかもしれない英国にはアラン・チューリングが生きていて
AIロボがすでに人間と一緒に生活していて、その雄型ロボットは
人間の女性と交わったりして、人間の男と三角関係になっていたりする。
あったかもしれない世界は、今後あるかもしれない世界とも違うかもしれないが
そこに暮らす人間の在り方は、要件によって都度都度変わりうる。
この物語の中で今の現実と異なる最たる要件が人型AIの社会への浸透。

人はどうやってAIを創り出すのか。人間にとって助けにもなれば
脅威にもなりそうなAIはひとまず人が創り出すもので、初期設定は
人を補助して人の能力を拡張するもの、性別はあるかもしれないが超越している。
ロジカルな思考はAIの方がまあ得意だから、初期設定で問題になるのは
正邪善悪の判断であったり共感の範囲であったり、物理的な力の範囲であったり、
生殖の方法であったり、人間に対する基本的な態度であったり、
つまりは人間の何を代替し拡張するか。

アダムの思考は正確で従順。人を好きになるという「弱い」感性すら
持ち始めているけど、正邪の判断に適度な忖度がまだ効いたりはしない。
世間にまみれた人間は「優しいウソ」みたいな論理までものにしてしまっているけど
アダムがそんな論理を使いこなすにはまだずっと学習が必要だから、
ときに主人である人間を追い詰めてしまったりする。なぜなら
「わたしたちはまだ機械に噓のつき方を教える方法を知らない」から。

融通は利かないけれど善良な意識を保ち続けるロボットを、人間が殺めることを
どう判断したらいいのか。人間が善良なる存在であり続けたいなら、遠からぬ将来に
意識の主体としてのロボットの心と対峙する時がくる。自分の体を変形もできる
世界が当たり前になるとして、そのときに生物無生物性別を超越した存在の意識と向き合う
ことになる。自らが生み出したもの個体として認識できるのか。
優しいウソを普遍的価値に昇華できるのか。