【AIはどちらを犠牲にする？】正解のない究極の２択「トロッコ問題」とは何か？【科学・ざっくり解説】ぶーぶーざっくり解説【小学生でもわかる科学】
メインテキスト：ベンジャミン・クリッツァー『２１世紀の道徳 学問、功利主義、ジェンダー、幸福を考える』（晶文社令和３年初版、令和５年４刷）
先日の読書会で、日本在住の（国籍は）アメリカ人が、ブログなどのＳＮＳで日本語で展開してきた、倫理に関連する言論をまとめたものを読んで、思うところがあったので書きます。
クリッツァー氏（以下、著者、と表記する）は、この書籍の発刊当時３２歳で、若い。と、言うと、ＡＵのコマーシャルであのちゃんが「『若い』でまとめないで下さい」と言っていたのを思い出す。もちろん、おじさんおばさんにいろいろあるように、若者にもいろいろある。それでも、そのおじさんおばさんの若い頃の一般的な傾向とは少し違うな、と思える特徴があって、そんな感想が出てくる所以を自分で分析すると、次の二のからだ。
（1）例えば「革命」などの観念からではなく、現実、と見えるものから出発しようとするところ、保守的な感じ。
（2）その現実の動きに一本の論理の筋を見つけると、それをどこまでも押していこうとするところ、けっこう過激。
順に述べると、「第９章 ロマンティック・ラブを擁護する」と「第12章 仕事は禍いの根源なのか、それとも幸福の源泉なのか？」が（1）の典型になる。これらについては、恋愛や仕事（労働）には価値があるし、幸福の基になる、なんて当然すぎる話ではないか、なんでそんなことをわざわざ言うんだ、と不思議に思う人もいるだろう。
その反応がまだ世間の普通と言っていいだろうが、言論や表現の世界ではdiversityを推進するポリコレ派に勢いがあって、いわゆる普通の、昔ながらの異性愛を称揚するのはオクレている、反動だ、とされそうな雰囲気がある。言わば、ある人々にとって好ましい「多様性」という価値観を一様に押しつけられるような状況はあるのだから、それに対して改めて言う価値ならある。
労働についての言説はもう少し複雑な感情がからむ。「働いたら負け」なる言葉は聞いたことがあるが、２０００年代にネット上に現れたミーム（≒流行語）であることは本書のおかげで知った。その謂いは、昭和後期に若者だった我々とあまり変らない、と即断して回想風に語ろう。小此木啓吾が言って流行語になった「モラトリアム人間」（昭和５３年）とか、浅田彰の「スキゾ・キッズ」（昭和５９年）などの標語が言い現しているのは、職業≒一定の社会的な立場、によって自分の社会的なペルソナ（外向きの顔）が決まってしまうことへの嫌悪、否むしろ恐怖だった。
平たく､身も蓋もなく言い直せば、「自分たちの親のような、つまらない大人になりたくない」という気分。これが、主に大学生、その中でも生産に直接結びつかない人文系の学部（有益な批判的観点をもたらすことだってある、と、本書の「第２章 人文学は何の役に立つのか？」では力説されている）に学ぶ若者の間で色濃く見られた。これは私自身が陥った状態で、文学部なんぞというところにいたので周囲にもたくさん見たので、必要以上に確信を持って語ってしまいます。
古くは夏目漱石「それから」（明治４２年）の主人公がそういう心性の持ち主だが、彼は３０歳になってもなぜ働かないのか、ちゃんと説明できていない。ありようは、２０年以上かけて頭の中で肥大してきた自己像（時々「理想」などと呼ばれた）が、うまくおさまるような場を、現実社会の中に見つけることが難しかったということ。とりわけ我慢ならないのは、周囲からの「お前ももう大人なんだから」という声に負けて就いた職業上の「責任」でもやっぱり負わされるところ。ざっとこういうのが「働いたら負け」の中身である。もちろん、いつの時代でもそんな若者ばかりだったわけはないが、この言葉が多少はバズる（流行る）程度には共感が持たれる。
ただ、明治時代では働かなくても生活できる男はわずかだったが、戦後の高度成長期を経た日本なら、五十万人程度のニートを養うぐらいの富は、一般家庭にも蓄積されていたのである。
こういう者たちにとって、「社会は不正に満ちている」というような言説は、現実的・論理的な整合性より、自分たちを正当化してくれるようなのですばらしくも正しくも思え、いつまでも後を絶たない。マルクス主義がその絶対王者的代表だが、近年の話題作としては、D・グレーバー『ブルシット・ジョブ クソどうでもいい仕事の理論』を著者は紹介している。これらにはもちろん、正しい面もある。r（資本成長率）>g（経済成長率）は常に成り立ち、資本家と労働者の経済格差は開く一方である。有害無益な権威や地位を守るための牛の糞なみの仕事もあり、しかもそのほうが人間社会に必要不可欠なエッセンシャル・ワークより高賃金だったりする。
このような社会の矛盾や害悪が存在するからといって社会に出ないとしても、それによって社会のほうがどうにかなるわけではないのはもちろん、その人自身にも何ももたらさない。単なる妄想以外には、自己満足さえも、ない。人間は社会的な生物なのであって、「幸福を得るためには他者の存在が不可欠であるし、社会に対してなんらかのコミットメントをしなければならない」（P.352）からだ。
このへんを私なりに敷衍して述べると、他者とは現実そのものなのだ。人間は誰も、自分第一に生きているのだから、他人を丸ごと、そのまま受け入れてくれることなどない。わかりきった話なのだが、誰にとっても自分は特別な存在なので、そこまでなかなか思い至らない。即ち、自己をなかなか客観視できないのが、人間一般の通弊なのである。
さらにまた、（普通は）職業を通じて社会にコミットメントすることは、マルクス主義者やグレーバーが指摘した、社会悪にいくらか手を染めることになる。その指摘は部分的には正しいから、それを厭い、避けようとする気持ちも、幾分かは正しいことになるだろう。しかしそれを言っても、単なる言い訳にしかならない。個人に現実を換えられるチャンスが少しはあるとしても、そのチャンスは現実の外側にあるわけはないのだから。現実に身を曝すことを厭う自分には、どこからみてもなんの意味もないのだ。
著者のこのような現実的な平衡感覚は、他でも、例えば「第７章 フェミニズムは「男性問題」を語れるか」のジェンダー論でも発揮されているようである。
フェミニストの中には、男女それぞれの特性と言われているものや、男らしさ・女らしさの価値観などは、すべてが男性中心社会で、男性に都合のいいように拵えられたフィクションだ、と唱える者がいる。これも完全なデタラメではないが、それでも男女の生物学的な体格・体力差を無視するのは馬鹿げている。それは近年スポーツの世界でトランス・ジエンダー選手が女子競技に進出した結果、明らかになってきた。
しかし内面的な、思考や行動の様式・傾向の分野になると、身長・体重・筋肉量のような、明確に測定して数値化できる指標はなく、同性間でも個人差が大きいので、曖昧で恣意的と思える部分がどうしても残ってしまう。以前に紹介した小浜逸郎の男女関係論は、性的な身体性に基づくもので、説得力が高いと個人的には感じられるが、そこから一歩進めて社会的な役割分担の話になると、「蓋然的なことしかいえない」のは小浜本人が認めているとおりだ。
本書で紹介されているサイモン・バロン＝コーエンの「システム化思考」と「共感思考」という枠組み（『共感する女脳、システム化する男脳』）も、男はより理性的、女はより感情的、と昔から言われてきた決まり文句に実をつけたようなものではないか。体験的に「それはそうだな」と思う人が多いからこそ決まり文句になっているのだが、それが進化論的必然によるのか、既存の社会規範によるものか、決して確実な証明はできないし、私見では、そんな証明が重要なわけでもない。なんであれ、女性も男性も、この社会でなるべく幸福になりやすい方途を探すほうが大切なのである。。
この第７章で取り上げられているのは、フェミニストから非難されている「有害な男らしさ」だ。男性は共感力が弱く、他人を傷つけても平気な場合が多い、というのがその内容だが、ではその非難は男性の特性を充分に考えたうえでのものかと言えば、かなり疑問だ。
彼らの議論は「生物学的な要素を無視して社会構築的な要素を強調するという偏向や、女性の立場からの問題意識が議論に混入しているために、問題の原因に関する冷静で正確な分析がおこなわれているとは期待しがたい」（P.183）。フェミニストの議論は女性の「ため」を図る政治的なものであり、客観的な基準は二の次にされている、というわけだ。これはフェミニスト以外の多くの人が抱く見方だろう。
「ただし」と、すぐ後で著者はつけ加える。「フェミニストにもたしかな功績があるかもしれない」。「男性問題」は確かに存在するのだ、と。ただし、外部の社会的な問題ではなく、「自分はシステム化思考に偏っており、共感思考に欠如しているのではないか」などと、「内部」の問題としてこれを捉えることを、男性に勧めている。
これをも含めて柔軟な平衡感覚と評するべきだろうか。そうかも知れないが、それより、「批判している側の顔も少しは立てておこう」という折衷的な態度に見える。本書の他の場所では、「共感思考」より「システム化思考」を重んじている印象が強いので、余計にそう感じられる。
そこで（２）に移る。
本書の「まえがき」で、次のように宣言されている。「答えの出せない思考なんて意味がない。（中略）哲学的思考とは、私たちを悩ませる物事についてなんらかのかたちで正解を出すことの出来る考え方なのだ」と。
個人がある状況に直面したときどうするかの言動にはいくつかのパターンがある。そのうちのどれが他よりましか、より悪いか、答えを出そうとするのが倫理問題だというのはその通りであろう。ただ、「すべてに答えを出せるんだ」と言われたら、その態度には不安が持たれることが多いだろう。著者にもそれがわかっているから、わざわざこう言ったのだろう。
あらかじめ自分自身の立場を言っておくと、私は、倫理問題に関しては、いつでもどこでも誰でもを納得させることができる答えのほうが、例外だと思っている。だから私たちは常に悩まねばならないし、悩み続けること自体に意味があるとも思っている。なるほどそれは「学問」ではないかも知れないが、世の中には学問より大事なことはある。
著者の考え方は、良きにつけ悪しきにつけ、私よりずっと「男らしい」と言える。
例えば、マイケル・サンデル『これからの「正義」の話をしよう』が有名にした「暴走する路面電車」の例は、ずいぶん以前に当ブログでも取り上げたが、ここでは「第５章 「トロッコ問題」について考えなければならない理由」に出てくる。路面電車かトロッコかは問題ではない。要は「複数人の命を救うために一人の命を失わせることは正しいか？」という思考実験だ。摘要だけを述べると。
①「分岐線問題」（と、著者は表記している）爆走するトロッコの前方の線路に五人の作業員がいる。あなたの前にはトロッコの路線を切り替えて分岐線に導くためのレバーがある。このレバーを倒せば五人は助かるが、分岐線のほうには作業員が一人いて、彼は轢き殺されるだろう。あなたはどうすべきか？
②「歩道橋問題」あなたは跨線橋の上から、暴走している路面電車の前方の線路に、五人の作業員がいるのを見る。あなたの隣にはとても太った男（以下、デブと表記する。因みに私も、自他共に認めるデブである）がいた。彼を橋から突き落として電車にぶつければ、その男は死ぬだろうが、電車は止まるか脱線するかして、五人の命は助かる。どうするか？
①の場合、多くの人が、一人の人を死なせることを選ぶだろう、と予想される、ばかりではなく、哲学や心理学の授業でのアンケートで、そういう結果が出ていることが報告されている。
因みに、法律もこれを支持しているようだ。条文を挙げると、刑法三七条（緊急避難）。「自己又は他人の生命、身体、自由又は財産に対する現在の危難を避けるため、やむを得ずにした行為は、これによって生じた害が避けようとした害の程度を超えなかった場合に限り、罰しない。ただし、その程度を超えた行為は、情状により、その刑を減軽し、又は免除することができる」。
ところが②になると、デブを突き落とすべきだ、と答える人数はかなり減る。どこが違うのか？ 五人の人間の命を救うために一人の命を犠牲にするのは同じだ。司法も、それを「やむを得ずにした行為」だと認めたら、「罰しない」ことになるだろう（実際はかなり微妙であることはここでは措く）。しかし、目的も結果も同じであっても、積極的・直接の行為で一人を殺すのは、心理的・感情的に納得できないところが残る。
著者はこの問題については明確な自分の答えを出していない。ただ、「明確な答えは出せないという答え」については批判している。①にしても②にしても、自分が現実に直面する確率はゼロとみなしてさしつかえないだろう。ならば、こんなことを考えること自体が無駄ではないか、というような。これはトレードオフ（二者択一）をいやがる態度である。
思考実験は現実をぎりぎりまで抽象化したものだ。決定的な局面でどちらを選ぶか、迫られる場合は、実人生のうちに決して多くはないけれど、絵空事ではない。小浜『倫理の起源』には、妻が難産で苦しみ、このまま出産を続ければ母体が危険である、と言われた場合が例示されている。そこまで切迫していなくても、介護が必要になった老親を自宅に置くべきか、それとも介護施設に入れるか、などは、今やかなり一般的な問題になった。
つまり、母体と胎児、老親と他の家族、などのどちらかの負担を軽くするために、どちらかに大きな負担を、極限では命に関わる負担を与えねばならない、これは今後どれほど文明（医療や社会制度）が進もうとも、完全に解消することはできない逆境であろう。この世に生きる誰もが、いつかトレードオフを迫られる可能性はあるのだ。そのために、このような思考実験で練習しておくのは有益である……か？
最後以外は完全に同意する、というところで元の問題にもどると、一番上で紹介したYouTube動画にもあるように、「分岐点問題」にはその後様々なヴァリエーションが考え出されている。そのうち本書には②の変型である、
③「落とし戸問題」が紹介されている。跨線橋のデブが立っているところが下に開く落とし戸（絞首台にあるあれ）になっていて、デブの体に触れないで電車にぶつけることができるとしたら？
これはレバーなどの操作で五人を助けることができるという点で、①の場合に近くなる。それで実際に、デブの命を犠牲にしよう、という人が増える。だが結局、違いはどこにあるのか？ デブの体に直接触れるか触れないかだけではないか？
このヴァージョンが出ているのはジョシュア・グリーン『モラル・トライブズ』だが、そこでは、上は感覚的な問題であって、道徳的な優劣ではない、と断定されている。世界全体の幸福は計量可能なのであって、つまり、一人の命を犠牲にして複数の命が助かるなら、そのほうが正しい。これに着目するなら、どう殺すかは問題ではないし、まして体に触れて相手が人間、あるいは生物であることを文字通り実感する負荷（不快感）は無視してよい。
これは功利主義と呼ばれ、著者もこの立場にある。結局これだけが、トレードオフの問題に正解が出せるのだ、というより、正解を求めるなら、これ以外のやり方はない。
それは認めねばならない。倫理とはつまり、AとBの二つのやり方があったら、どちらがよりいいかは見つけることができるという信念に基づく。すべて同じだ、というならニヒリズムで、それに徹するのは人間にはなかなかできることではない。
とは言いながら、このような解決法を示されると、やっぱり「正解」を出すのは難しいな、という思いも同時にしてくる。人間をただ量（数）の点でのみとらえるので、「多数は少数に勝る」で一定の答えが出てくるのだが、もちろん考慮すべき要素は他にもある。
そこで、さらに次のようなヴァージョンも生まれる。
④五人は老人で、一人が子どもだったらどうするか？
⑤五人が凶悪犯罪者で、一人が世のため人のために尽くしてきて、今後もそうするだろうと予想される天才だったら？
問題をいたずらに複雑化しようというのではないことはわかっていただけるだろう。人間の置かれた状況は常に個別具体的で無数のケースがあり、行為には常にその場での熟慮と決心が必要で、しかもその挙げ句に後悔することがないとは限らない。トレードオフに一定の回答はなく、だからこそ人はいつも新たに、決断力が必要とされるのだ。。
著者の合理性は、もっとあからさまに常識を逸脱することがある。それが本書のウリではあろうけれど。
「第６章 マザー・テレサの「名言」と効果的な功利主義」は、マザー・テレサの来日時の発言とされる「大切なことは、遠くにある人や、大きなことではなく、目の前にある人に対して、愛を持って接することだ」（P.137）などの批判から始まっている。同じことは、例えばアダム・スミスなど、多くの人が言っている。
前出のサンデルの本でも、二人の子どもが海で溺れていたとき、一人が自分の子どもで、もう一方がそうでなければ、自分の子どもを優先して助けるのが正しい、とされている。これもトロッコ問題の別種のヴァリエーションになりそうだ。
⑥五人が他人で、一人が自分の子どもだった場合、あなたはどうするか。
子どもを死なせる、とためらいもなく答える人はごく少数であろう。
しかし著者は、今度はピーター・シンガーを援用して、こういうのを「身内びいきのバイアス」と呼び、非合理だ、と言う。もっとも、⑥のような重大な犠牲を払っても、とは言わないが。可能な範囲で寄付しようというような話なら、地球の裏側の人であっても、身近な人たちより困っている場合には、そちらの救済を優先すべきだ、と。
「１０万円しか持たない人がさらに１０万円を得る場合にその人が感じる価値と、すでに１００万円持っている人がさらに１０万円を得る場合にその人が感じる価値を比較した場合、単純に考えると前者は後者の１０倍の価値を感じることになるはずだ」（P.154）という「収穫逓減の法則」からして。
身内びいきが起こる進化的な理由はわかる。人間は個体としてはかなり弱い動物だ。生き延びるために自分を守ってくれる、少なくともそれが可能な身近な人のほうが、顔も知らない人間より貴重なのは当り前なのだ。
しかし、進化論的にはそうでも、それが道徳的に正しいとは限らない、とシンガーと著者は言う。なるほど、一理ある。「他人への思い遣り」を原理化すれば、こういうことになるだろう。疑念はむしろ、実際的な効率の部分にある。
寄付、昔風に言えば義捐金は、災害などの一時的に困っている人にこそ有効であろう。サブサハラの民族の多くが苦しんでいるような絶対的な貧困に対しては、いくら出せばいいのか、ゴールが見えないし、ずっと継続して援助できるとしても、それに頼って生活し続けるのは、その地域の人々の精神状態、つまり誇り、を考えると決していいことではない。その地域自体が経済的に繁栄するに越したことはない。
そのためにはどうすればいいか？ 市場経済に参入することだ。これも原理的に、気候条件や資源の有無などを一切無視して言えば、自分たちでお金が儲けられるようにすればこの問題は本当に解決するのだし、それは不可能ではないははずだ。
豊かな社会とは、もの（サービスを含む商品）が大量に溢れ、それを流通させるためのお金もたくさん流通する世の中を指す。前述のr>gによって、金持ちと貧乏人の差は広がる一方ではあるのだが（だから労働者は世界の少数の金持ちに搾取されていると言ってもいいのだが）、それでもやっぱり我々庶民・労働者の生活も少しずつ豊かになる。理由は至極単純だ。労働者も自由に使えるお金（可処分所得）を持ち、商品を買ってくれた方が、資本家もより多くのお金が儲かるからだ。２０世紀初頭にヘンリー・フォードたちが発明したこの大量生産・大量消費方式が、資本主義はいつか行き詰まるというマルクスの予言を超え、現在までのところ経済成長は続いている。
今の場合に重要なのは、このやり方は、市場から誰かを理不尽な差別によって排除するよりは参加させたほうが、皆にとって都合がいいところである。チャイナの経済が１９９０年代以降奇蹟のような発展を遂げたのも、国内の努力はあったに違いないが、各国の、あるいは国際的な資本が、消費と労働力の市場としての強大なポテンシャルを認めたからこそだ。現在の世界最貧困地帯にこれが起きることを期待しても悪くはないだろう。
実際、本書にも書かれているが、１９６０年代から２０２０年代のコロナ禍まで、各国の収入の差は、少しずつでも狭まっていた。これは、経済成長の恩恵は世界各地に一応は及んでいることを示している。それというのも、これによってもっと儲かると期待できるからで、道徳心ではなく、エゴイズムが原動力になっているからだ。まず資本家が、自分たちの儲けを追求し、そのために広い範囲への市場の拡大が目指される。この企てはかなりsustainable（持続可能）である。
問題がないとは言わない。しかし、これ以外に貧乏人をいくらかでも豊かにする方法を人類が見つけていない以上、貧困問題を解消するのに「身びいきのバイアス」を否定しきることはできないであろう。
最後に、著者の真骨頂と言うべき動物倫理に就いて少し触れる。ビーガニズムそのものに対する批判なら、当ブログでは日本最高のビーガンである宮澤賢治（彼の在世中にはこの言葉はなかったが）について以前に書いているので、そちらを見ていただきたい。また、著者自身がビーガンであるかどうかは明らかではない。P・シンガーなどの論理を祖述しているだけかも知れないのだが、それは追求しない。
「第３章 なぜ動物を傷つけることは「差別」であるのか？」にあるの主張を最も端的にまとめた文は、「知能の高低に関係なく、苦しみや痛みを感じる動物に苦痛を与えることや動物を殺すことは否定される」（P.65）だろう。
この謂いは以下。「なぜ人を殺してはいけないか」を考え詰めて、その人に苦痛や恐怖を与えるからだ、という結論にたどりついた。ところで死に際して恐怖や苦痛を感じるのは人間だけではない。だから、この理由で殺人が悪とされるならば、その程度の知性はあると考えられる動物を殺すのも悪とされねばならない、と。
これは一つの論理の筋を押し通そうとするとどうなるか、の典型であろう。私にもその傾向が、若い頃のみならず、老年と呼ばれる今でもあるので、以下は自戒として書く。
道徳、にもいろいろあるが、著者やシンガーや、それに小浜逸郎も賛同していた功利主義のそれは、人間の世界を／世界でうまくやっていくことを主眼とするのだし、私もそういうものとして優れていると思う。動物倫理は、そこから逸脱している。これによって人間と動物が今よりもっとうまく共存していけるならいいが、それはまず期待できないからだ。
本書でも後のほうに出てくる道徳の黄金律は「自分がしてほしくないことは他人にするな」で、これは世界各地の多くの文化に出てくるし、反対する声はほとんど無いので、そう呼ばれている。要するに契約関係である。前述の「思い遣り」もまたここに由来する。自分が他人にできるだけ厭なことをしないと約束して、それと引き換えに他人からもされない権利を手に入れるわけだ。これが完全な形で履行されるわけではないが、原則としてはあることによって、人間の世の中はなんとか保たれている。
著者は権利という言葉を嫌う。主張した者にしか与えられない感じがあるからだ。動物は主張したりはしない。だからと言って存在を無視されていいものか？ というわけだ。しかし上のような契約関係は「自然」に生まれるわけはない。他人の立場に自分を置き換えてみる想像力が必要となる。それは自然から大きく外れた生活をするようになった人間のものだ。
狼も、危険からは逃げようとするので、殺される恐怖と苦痛は感じるのだろう。が、ではお前に殺されて食われる兎の身になって考えてみろ、と言われても無理だ。能力以前に、そんな不自然な世界に生きていないのだし、第一、他の動物を殺すのを禁ずるのは、彼らの生存を禁ずるのと同じことになってしまう。
道徳は日本語では人道とも呼ばれる。人間が人間の世界で踏まえるべき正しさ、ということだ。そこに後から合理的な理屈をつけるのはいいが、限度を心得ず、「正しさ」をどこまでも拡張しようとすると、人の世をうまく運営するための道、という功利主義の真面目も台無しになってしまう。これもまた道徳の前提として、心得て置かねばならないことであろう。
