AIの究極の難問に取り組む「ロボットに倫理を教える―モラル・マシーン― 」

ロボットに倫理を教える―モラル・マシーン―
ウェンデル・ウォラック (著), コリン・アレン (著), 岡本 慎平 (翻訳), 久木田 水生 (翻訳)



ロボットに教えることが難しいことは何だろうか。
その答えとしてはおそらく、モラルと愛が双璧をなすだろう。
アシモフの三原則は、ロボットに求められる道徳性を、
「～するな」という否定的な文脈だけで提起したが、
ロボットにはたして「～せよ」という肯定的な文脈で道徳を教えることができるだろうか。
人造の機械にいかにして倫理的な判断を教えるかというのは
AIの究極の難問の一つだろう。
この難問に取り組もうとする本書はどこまで到達しただろうか。
ぜひ読んでみたい。


単行本: 388ページ
出版社: 名古屋大学出版会 (2019/1/10)
言語: 日本語
ISBN-10: 4815809275
ISBN-13: 978-4815809270
発売日： 2019/1/10
￥ 4,860

内容紹介
AIやロボットは、果たして道徳的になれるのか? 間近に迫る倫理的な機械の必要性を、哲学的背景も含めて明確に提示。実現に向けた種々の工学的アプローチを概観し、困難ではあるが避けがたい取り組みのこれからを展望する。エンジニアと哲学者を架橋する待望の書。

書籍の目次
序　章

第1章　なぜ機械道徳なのか？
　　　　路面電車トロリーの運転手とロボットのエンジニア
　　　　倫理的な殺人機械？
　　　　差し迫った危険

第2章　道徳の工学エンジニアリング
　　　　それはエンジニアの義務なのか？
　　　　ムーアによる倫理的エージェントの分類

第3章　人類はコンピュータに道徳的意思決定をしてほしいのか？
　　　　恐れと魅力
　　　　意思決定の責任をコンピュータに丸投げする
　　　　羊の皮を被る
　　　　兵士、性玩具、奴隷
　　　　テクノロジーのリスクを適切に評価できるのか？
　　　　未 来

第4章 （ロ）ボットは本当に道徳的になりうるのか？
　　　　配慮すべきテクノロジー
　　　　人工知能 —— そのアイディアの核心
　　　 （ロ）ボットは本当の道徳的行為者エージェントになりうるのか？
　　　　決定論的システムの倫理学
　　　　理解力と意識
　　　　AMAには未だ何ができないか
　　　　AMAを評価する

第5章　哲学者、エンジニア、AMAの設計
　　　　2つのシナリオ
　　　　共同作業を基礎づける
　　　　誰の道徳？　どんな道徳？
　　　　トップダウン・アプローチとボトムアップ・アプローチ

第6章　トップダウンの道徳
　　　　道徳理論を働かせる
　　　　全知のコンピュータは必要か？
　　　　ロボットのための規則
　　　　上位規則の計算
　　　　トップからボトムへ

第7章　ボトムアップで発達的なアプローチ
　　　　有機的な道徳
　　　　人工生命と社会的価値観の創発
　　　　学習機械
　　　　モジュールを組み合わせる
　　　　ボトムからトップへ

第8章　トップダウンとボトムアップを融合させる
　　　　ハイブリッドな道徳的（ロ）ボット
　　　　ヴァーチャルな徳
　　　　徳に対するトップダウン・アプローチ
　　　　コネクショニズムの徳
　　　　ハイブリッドな徳倫理

第9章　ベーパーウェアを超えて？
　　　　最初のステップ
　　　　論理的には道徳的
　　　　事例を明示化する
　　　　事例から暗黙裡に学習する
　　　　マルチボット
　　　　不服従ロボット
　　　　SophoLab
　　　　ベーパーウェアを超えて？

第10章　理性を超えて
　　　　なぜスポックよりもカーク船長なのか
　　　　道徳的意思決定のための合理性以外の能力の重要性
　　　　情動的知能
　　　　認知説あるいは身体説にとっての計算上の課題
　　　　感覚システムから情動へ
　　　　アフェクティブ・コンピューティング（1）—— 情動を検知する
　　　　アフェクティブ・コンピューティング（2）—— 情動をモデル化し使用する
　　　　人間とロボットの相互作用 —— Cogとキスメットを超えて
　　　　他者の心と共感
　　　　心の理論と共感
　　　　マルチエージェント環境
　　　　ロボットはどのように身体化されなければならないのか？

第11章　もっと人間に似たAMA
　　　　あるものみな集めたら何が手に入る？
　　　　LIDAモデル
　　　　人間の道徳的意思決定とLIDA
　　　　ボトムアップの傾向・価値観・学習
　　　　規則を含んだ道徳的熟慮
　　　　計画立案と想像力の実装
　　　　解決、評価、さらなる学習
　　　　もっと先に進む

第12章　危険、権利、責任
　　　　明日の見出し
　　　　未来学
　　　　責任、法的責任ライアビリティ、行為者性エージェンシー、権利、義務
　　　　歓迎か、拒絶か、それとも規制か？

エピローグ （ロ）ボットの心と人間の倫理

　謝 辞
　訳者解説
　注
　参考文献
　索 引

著者について
ウェンデル・ウォラック（Wendell Wallach）
イェール大学生命倫理学学際センターの「テクノロジーと倫理」部会の部会長（2018年10月現在）。専門はテクノロジーの倫理。おもな業績に、先端テクノロジーに関する倫理問題を包括的に扱ったA Dangerous Master: How to Keep Technology from Slipping Beyond Our Control, Basic Books, 2015〔大槻敦子訳『人間VSテクノロジー：人は先端科学の暴走を止められるのか』原書房、2016年〕等がある。

コリン・アレン（Colin Allen）
ピッツバーグ大学科学史・科学哲学部の特別教授（2018年10月現在）。心の哲学や認知科学の哲学の業績で知られている。生物学者のマーク・ベコフ（Marc Bekoff）との共著書Species of Mind: the Philosophy and Biology of Cognitive Ethology, MIT Press, 1997 をはじめ、多数の編著がある。