マレー・シャナハン『シンギュラリティ――人工知能から超知能へ』（NTT出版、2016年）が面白い展開を記している。シンギュラリティというのは、AI （人工知能：artificial intelligence ）が急加速的に進展することによって生じる社会的大転換のこと。電算の処理速度が速くなり、メモリーが大きくなるばかりか、ネットワークを通じてデータの外部保存が巨大化すれば個々人のメモリーはほぼ無限大になる。しかもその技術的進展が指数関数的に進んでいることを指して、2030年頃には人間の知能を越えるだろう、2045年には「シンギュラリティTechnological Singularity技術的特異点」が訪れ、社会的にも大転換が引き起こされるだろうというAI研究者の見立てである。何よりも、人工知能の知的集積が（ネットワークを通じて）自律的に、膨大かつ急速に行われることから、それが人間の実存に及ぼす大きな変異を今から想定して、期待ばかりでなく、制約なり警戒なりをしなくてはならないと、医学生理学、政治経済学や社会学的な側面からの発言が続く一方、逆に、そのシンギュラリティのときに問われる「人間とは何か」という問いを立てて、哲学的に考察することが行われている。
本書は、AI技術の進展の全体像を描き出し、「この地点に到達するタイムテーブルにこだわるのは拙速」と批判的な姿勢をとりながらも、何がしかのブレークスルーを経て「人間レベルの汎用人工知能」ができる可能性は大きく、「人間レベルのAIが実現すれば、人工知能はそのすぐ後に続くだろうという主張は真剣に受け止める必要がある」と見て取り、それを「超知能」と名づける。その超知能の「人権」をどう見るか、超知能が倫理性を持つとは考えられないが、ではどうすれば「倫理性に相当する」（暴走の）歯止めをどのように設計するかと、究極の地平を想定して考えている、その一冊。
カーツワイルがシンギュラリティを言い出した時に想定していたのは、人の生体の一部を代替するAIの活用であった。脳の一部に埋め込まれ、データの記憶の媒介装置として機能しはじめたとき、クラウドやネットワークを通じて爆発的に知能が進展し、時間軸をも超える「保存」まで可能になるとみていた。それをシャナハンは「特化型AI技術の高度化」みて、その先を問題にしている。
つまり、人の生体脳を模倣してデジタルに制作される「生体脳のエミュレーション」や制作された人工知能をひとたび解体して、その制作手法を模倣する「リバースエンジニアリング」などによって、「超知能」はたちまち世界中を席巻するとみる。そのときに、「超知能」をどう処遇するかが、「人間の処遇」との対比で問題になると考え、先述のように、超知能の暴走に歯止めをかけるのは何かと問いを立てて応えようとしている。
はたして「人間とは何か」という問いにつながっているとみたのは私の我田引水なのだが、それを考えないではいられない地平が眼前に広がっているところが、面白い。シャナハンは超知能のアルゴリズムがどう組み立てられるかを敷衍している。AIが倫理性をもって判断するように仕向けるにはどうしたらいいかと思案する。AIの振る舞いはすべて「報酬関数を最大化すること」に向けられる。だから、どう「報酬関数」をデザインすれば、倫理的に振る舞っているかのように振る舞うかを論じている。これを読んで私は、そうか「人間」は、アルゴリズムでは動いていないのだと、深く思い当たった。
アルゴリズムというのは、デジタル的に物事を組み立てるときの「ハードやソフトのプログラムを制作の手順」とでもいおうか。ことごとく[YES/NO]の二項対立のいずれかを選んで先へすすみ、あるいは元の段階に戻るように設計していく思考組み立てのやり方である。つまり、デジタルのプログラムは二項対立のどちらを選ぶかが常に明快で、そこに判断する層(レイヤー)を重ねて複雑な回路をつくるのだが、「人間」の感情や思考は、つねに二項対立の判断を明快にするようには行われていない。自分の「判断」がつかないし、(見極めが)なぜつかないかもわからないことによって人は自分の輪郭を描き出して、成長変容していく。昨日のブログ記事の表現を借りれば、《「わたし」を発見》していくのが、人間なのだ。この安定的実存を「動態的平衡」と呼ぶのかもしれないが、アナログというのは、自ら「じぶん」の輪郭を描いて生い育ってきた過程のさまざまな無意識の刷り込みを、人や社会との「かんけい」を媒介にして一つひとつ剔抉して、「わたし」を発見することだ。その起点が「わたしはひとり」という認識であり、「わたしの発見」がじつは「（わたしの）世界を描き出すこと」でもある。それが人生だと、昨日のブログで記したばかりだ。
人工知能がそのような自己の発見をする機会を持つとは、シャナハンも想定していない。彼の著書を紹介した要約記事には、「並列的な処理」を通じて急速に超知能が進化することを記したあとに次のような一文がある。
《創造的なプロセスの最重要な必要条件は、素材が無制限の組み替えに適していなければならない。さらに普遍的な報酬関数が必要である。容易すぎる報酬関数は斬新さを促せない。そして、最適化アルゴリズムが充分強力でなければならない。充分な時間さえ与えられれば、たとえシンプルで力づくなアルゴリズムからも先進的なテクノロジーは生み出せるのだ。》
つまり、超知能に「わたし」はない。「人間」との究極の違いは「わたし」があるかどうかだ。「わたし」がないものを「知能」と呼ぶかどうかも、ひとつの論題にしたいところだ。デジタル時代がもたらしたことに「アルゴリズム」思考があると、いま思う。それに適応しようと「人間」自身が自己を再帰的に変えていこうとさえしている。若い人が「マニュアル人間」と非難を受けるのも、そのアルゴリズムの急激な浸透にアナログ時代の古い世代が戸惑っていたからだたと、これまた、いま思う。つまり「人間」自身がすでに変わりはじめているのかもしれない。
そんなことを考えていたら、今朝（11/11）の朝日新聞「科学季評」欄に、山際寿一が「AIによる情報通信革命 安心な人の輪広がるか」と題して一文を寄せている。面白いと思ったのは、ヒトの脳は150人ほどの集団に暮らしに適していて、増える人口と生活領域のグローバル化のなかで(人は)「身体感覚でつながることができず、強固な信頼関係を造れないでいる」と述べ、次のように付け加えている。
《私たちは今豊かな情報に恵まれながら、個人が孤独で危険に向き合う不安な社会にいるのである。仲間と分かち合う幸せな時間はAIにはつくれない。》
さすが動物学者。近代になって、人の実存が集団から切り離されて「個人」になってしまったことから「わたし」が問われるようになった。昔の集団の時代に戻ることはできないであろうが、では「わたしの時代」以後があるのだろうか。「知能の時代」とか「超知能の時代」となって、もはや「人間の時代」ではなくなっているのだろうか。かつてSFでお気楽に娯しんでいた空想が、2045年という時期を区切って現れてきた。私はすでに彼岸に渡っているが、子や孫はどう生きるのだろうか。ちょっと心配ではある。