わたしたちがコンピュータの待遇を法律で規制する日

『ユニバース2.0』より　わたしたちは宇宙を創造するべきなのか？
　ロイドは、自由意志を持つためには意識は必ずしも必要ない、少なくとも彼が意識とみなすところのものは必要ないと主張する。本書の第二章では、自由意志を定義しようとすれば地雷原に迷い込むことになるのを見たが、ロイドにとって自由意志を持っているかどうかの本質的な判断基準は、自分か未来に下す決断を予測できないということだ。わたしたちの行動や選択は、脳の中で起こる化学反応のプロセスに至るまで、ビッグバンに始まる一連の出来事によってあらかじめ決定されているのかもしれないし、わたしたちはけっしてその成り行きから自由になれないのかもしれない。それでもなお、昼食をとりにカフェテリアに行って、自分がメニューから選んだものに我ながら驚くこともしばしばだ。ロイドの観点からすれば、それが自由の本質なのである。
　その論文の中でロイドは、決定を下し、「初歩的な自己参照の判断ができる」（自意識ですらなく、自己参照であればよい）コンピュータは何であれ、自由意志があることを示すいくつかの数学的定理を証明した。たとえば、同時に走らせているたくさんのソフトウェアのほかにも、ハードウェアのリソースや、メモリ領域や、入出力のデバイスなどの割り当て方を選択するとき、そのコンピュータのＯＳは自己参照をしている。ＯＳは、各プログラムが将来的に何をするか、あるいは何か必要になるかを推定するときに、ワードプロセッサーをプログラム番号５１３、自分自身をプログラム番号42として参照するかもしれない。
　「プログラム番号42が何をしようとしているのかを問題にすることは、たとえプログラム番号42がＯＳ自身であっても、自意識である必要はないんだよ」とロイド。「しかし、そのＯＳは自己参照能力を持つのだから、自分がやろうとしていることを予測できないということは、数学的に証明できるんだ」
　ロイドは、ＯＳは自分がやろうとしていることを予測できないという「経験をしている」、と主張しているのではない。そうではなく、そのＯＳは、プログラムとして、「プログラムなりのやり方で」、自分がまだ決断を下していないということ、そしてその決断がどんなものになるかを知らないということを了解している、とロイドは言うのだ。「ＯＳは十分に複雑なので、ＯＳがやろうとしていることを予測するためにわれわれが作ろうとしている心のモデルは、彼らの行動を捉えるためには使いものにならない」とロイド。「その結果、コンピュータとスマートフォンの振る舞いは、人間の振る舞いと本質的に同じ意味において、予測不可能だということになる」
　コンピュータが、わたしたちの心と仕事に巧みに干渉してくるのはこのためだ－－コンピュータは自分なりに自由意志を行使しているのである。そのことの倫理的帰結として、わたしたちは近い将来、コンピュータの待遇を法律で規制しはじめなければならないのかもしれない。「こういう問題への取り組みを始めなければならないだろうと思うが、その結果がどうなるかはわからない」とロイドは言う。「そして、われわれが思う以上に、そんな時代がすぐそこまで来ていると思うんだ」
　ロイドと話をして、ペビーユニバースを作ることに関するわたしの懸念はさらに深まった。自分のスマホに人格を認めるまであと一歩だと言うなら、考え、感じる者が、そして苦しむことがわかっている者が生じるかもしれない宇宙を新たに作ることを見直さなければならないのは間違いない。しかし、わたしが倫理について論じるために会った次の人物は、その論法を逆転させるのである。「われわれが作られた存在であっても、生きる意味には影響を及ぼさない」
　一九八○年代に少年時代を過ごしたアンダースーサンドバーグは、当時一般家庭用として普及していたホームーコンピュータ、シンクレアZX81で、小さな太陽系をシミュレーションして遊んでいた。学部を卒業すると、脳にヒントを得た学習のアルゴリズムを使って、人工的なニューラルネットワークのデザインをするようになった。「テレビを見て寛ぐ人もいれば、わたしのように哲学の講義を聞きながらシミュレーションをプログラムする者もいる」と言って、サンドバーグはクスリと笑う。一九九九年のある日のこと、彼は自分のコンピュータからニューラルネットワークをひとつ削除して、「罪の意識に苛まれた」という。「今、小さな生き物を殺してしまったのだろうか」と思わずにいられなかったのだ。
　サンドバーグに会うために、わたしはオックスフォード大学の「人類の未来研究所」［哲学者ニックーボストロムが創設した研究所で、人類とその未来についてのビッグークェスチョンに、数学、哲学、社会科学、自然科学を結集して取り組むことを目指す］にやってきた。スウェーデンのストックホルム出身の彼は、計算神経科学という分野で博士号を取得した。しかし、自分の作ったニュ圭フルネットワークを削除して罪の意識に苛まれて以来、サンドバーグは哲学に重心を移し、現在はシミュレーションの倫理について執筆している。サンドバーグもまたロイドと同じく、人間は自分たちが思っている以上に近い将来、共感を持つ機械をどう扱うべきかという問題に取り組まざるをえなくなるだろうと論じる。それなのに一般の人ばかりか科学者でさえ、この問題に向き合うことには後ろ向きだと彼は言うのだ。
　宇宙を作ろうとしている物理学者たちと話すとき、わたしもまたそれと同じ後ろ向きの態度にぶつかってきた。なかには、実験室で作った宇宙に生き物を創造することの道徳的な意味といった問題は、自分の守備範囲外だとして逃げを打つ人たちもいた。「たいていの人は、よくわからないもののために使える予算があって、その範囲を超えて支出はできないようになっているんだね。残高以上にお金を引き出せば信用にかかわるから、使いすぎるわけにはいかないんだ」とサンドバーグ。「そのせいで、本当は考えなければならない重要な問題にも、口をつぐんでしまう人はたくさんいる」
　ロイドとは対照的にサンドバーグは、スーパーインテリジェントな種族がシミュレーションのプログラムを作り、そこにわたしたちを放り込んだ理由はわかる気がするという。理由の多くは、わたしたち自身がシミュレーションを走らせるときの、ごく普通の事情によるものだ。たとえば、限られた予算を効果的に医療に支出するためにはどうするのがもっとも効率的かを知るのは難しい。人口全体としての健康状態は良くなるが、予算の分配が不平等なせいで、どれかのマイノリティー・グループが悲惨な目に遭う世界のほうが良いだろうか？　それとも、たとえ受けられる医療レペルはかなり低いとしても、誰もが平等に医療を受けることのできる公平な社会を目指すほうが良いだろうか？
　それを判断するためには、それら二つの場合について、世の中がどうなるかをシミュレーションしてみるのが役に立つだろう。シミュレートされた存在が意識的な経験をせずにすむうちは、やってみてもかまわない。だが、もしもそれらの存在が進化して知性と感覚を持つようになれば、あなたは自分が作り出した人工的な世界の中に、期せずして多大な苦しみを生み出してしまったのかもしれない。
　たとえばサンドバーグは、イギリスの国家医療制度が予算をどう使うかによって、国民にどんな影響が及ぶかを調べるための比較的小さなシミュレーションがあって、わたしたちはそのシミュレーションの中で生きているということもありうると考える。その場合、シミュレーションの焦点は、医療資源を利用する個々の国民に合わせられているだろうから、宇宙の中のそれ以外の部分は、リアリティーを与えるためにおおまかに書き込まれただけかもしれない。
　サンドバーグは、自分はシミュレーションの一部だと気づくことが、その人の自意識や人生の目的にどんな影響を及ぼすかを考察した論文を書いた。もしもわたしたちが、自分たちを作り出した者の関心は医療にまつわるさまざまな問題を解決することにあり、わたしたちはそのシミュレーションに登場するチェスの駒にすぎないことを知ったとすれば、病気になって頻繁に医者や病院に行くのが自分の道徳的義務だと考えるようになるだろうか？
　サンドバーグは最終的に、スーパーインテリジェントなプログラマーの動機がどうであれ、生き方に関するわたしたちの選択には影響しないだろうと結論した。「われわれが作られた存在だということは、生きる意味には影響を及ぼさないように見えるんだ」とサンドバーグは言う。こんなありもしない状況を論じるのは馬鹿げていると思うかもしれないが、その結論の要点は、わたしたちの現実の生き方にも適合する、とサンドバーグ。つまるところ、わたしたちはシミュレートされた存在ではなく生物学的な人間だと仮定しても、進化はわたしたちの遺伝子をできるだけばらまこうとしてきたのだ。「われわれを作ったのは進化のプロセスだとしても、子孫を増やすことに持てる時間のすべてを費やすべきだという話にはならない」とサンドバーグ。「人生、それがすべてではないからね」