自動運転「完全」実現に倫理の課題も〜そもそも今の自動運転レベルは安全のために鎧を着るようなもの〜

今日の朝日新聞に以下のような自動運転に関する倫理の問題が取り上げられていた。やっとこのような記事が出てきましたね。コレについて本気で考えたエンジニアや関係者は、最初から気になる問題。レベル1だとかレベル5だとか行っているけど、完全自動はこの倫理問題を考えるとだいぶ先だと私は思う。ひょっとしたら、永遠に解決できないかもしれない。
（今さら聞けない＋）自動運転　「完全」実現に倫理の課題も：朝日新聞デジタル

完全自動運転の実現に向けては課題もあります。その一つ、「倫理問題」を紹介しましょう。
　乗客の乗る自動運転車が横断歩道にさしかかった時、歩行者が現れました。ブレーキを踏む余裕はなく、そのまま進めば歩行者をはねて死なせます。ハンドルを切っても、障害物にぶつかって乗客が死にます。自動運転システムはどちらを選ぶべきでしょうか。
　これは「トロッコ問題」として知られ、例えばマサチューセッツ工科大は、ホームページ（http://moralmachine.mit.edu/hl/ja）でアンケートを実施しています。歩行者が子供で、車の乗客が老人だった場合はどうかとか、歩行者が赤信号を無視していたならどうかなど、さまざまな状況での答えを求めてきます。
　完全自動運転システムの人工知能には、倫理観の概念も備わっている必要があります。そのためには、入力する倫理問題の「正解」を、われわれ人間がそれまでに用意しておかなければなりません。

まさに下の部分が重要。現在の安全装備も厳密にはもうこの領域に入っていると思う。現時点では車を売っているメーカー責任だし、クルマのエンジニアはクルマは使い方を謝ると凶器に変わることを知っており、リコールの怖さや訴訟などの怖さを知っているけど、車以外のソフトウェアの開発者は、開発者自身にそのような倫理観を持つ経験がないと思う。ポケモンGOの話題で有名ですよね。クルマでは開発時点で絶対このような特別な使われ方や100万分の1の可能性などは、事前に想定しなければいけないと思う。他人を傷つける可能性のあるもののソフトを試乗で試すことなどあってはいけないことだと思う。グーグルは、事前にいろいろやりとりして、なんとか認めさせているけど、同じノリで他のメーカーやエンジニアが追従するのは非常に危険。

■記者のひとこと
　自動運転システムでやっかいなのが交通事故の法的処理です。責任はドライバーにあるのか、人工知能プログラムか。プログラムにあったとしても、一つのソフトを不特定多数の人たちが改良する「オープンイノベーション」が普及すると、責任の所在はますます大きな課題になるでしょう。

最後になるけど、現在の自動運転はセンサーなどで色々検知して、検知した事象に対して安全方向に選択するのだけど、これはかなり低レベル。鎧を着て運転するレベルでしょう。上のトロッコ問題などの倫理問題以前の技術レベルだと思う。もっとほんとうの意味で、この場所は以前こういうことがおきてヒヤッとした、新聞でここで事故が起きたと読んだ、ビッグデータを検索した結果、ここではこのように事故事象があるから、こっちを選択した方がいいなどのレベルに達してから、倫理の問題が出てくるのだろう。そう考えると、安全性が人間に勝り完全自動が実現するのはまだまだ遠い先のように思う。