仕事や権利の剥奪、兵器の反乱や暴走…AIは「脅威」なのか？ 知能の根底にある構造や原理の発見を目指す
現代ビジネス より 220220 ヤン ルカン
⚫︎FB副社長・ヤン ルカンの語る「機械学習に求められている課題」
Facebook副社長で、ディープラーニングの父であるヤン・ルカン氏のベストセラー、AIとその中核をなす「ディープラーニング」の過去と現在、そして未来像を語った『ディープラーニング 学習する機械』は、フランスで発行部数10万部に達しました。
ルカン氏がエキサイティングに綴った本書から、読みどころをご紹介する記事。今回はAIの問題点についてです。 AIについてのあふれかえるほどの疑問や不安、これらについてどう考えるか、ルカン氏の考えを聞いてみます。
⚫︎嵐のように押し寄せてくる疑問
AI は多くの問題を投げかける。社会を揺るがし、経済を大きく変える。これまでの技術革命と同じように、新しく生み出される仕事もあれば、なくなってしまう仕事もあるだろう。得をするのは誰なのか？
AIは技術であり、科学であり、道具であり、そのすべてが入り混じったものだが、仕組みを理解しないと使えないものなのだろうか？ 説明がつかないと信頼できないものなのだろうか？
AIは脅威なのか？ スマート兵器は恐れるべきものなのか？ 殺人ロボットや悪意をもったドローンが出現する日は来るのだろうか？ われわれの想像力は、判断を曇らせる情報で埋め尽くされている。
将来的には、法律や規則によって、その能力を制限するべきだろうか？
AIはおそらく、人間は自らの力で成長するものだという人間観を変えてしまうだろう。AIはすでに人間の脳の働きを理解するのに役立っている。しかし、人間や機械の認知能力の本当の限界はどこにあるのだろうか？ 多くの分野で機械に勝てないのであれば、人間の知能は思ったほど万能ではないと結論付けるべきだろうか？
機械は生物に対抗できるのだろうか？
そして人間の脳が、AIに追いつかれるくらいの限られた能力しかもたない機械であるとしたら、人間の地位はどのような影響を被るだろうか？
機械はいずれ、あらゆるゲームで人間より強くなるのだろうか？ 創造力や意識をもつようになるだろうか？ 衝動や感情、道徳や倫理さえもつようになるだろうか？ 機械の価値観を人間の価値観と一致させるにはどうすればいいのか？ 機械は人類を支配しようとするだろうか？
嵐のように疑問が押し寄せてくる。
⚫︎AIに対する不安
AIに対する人間の不安を表現した作品で最も有名なものは、スタンリー・キューブリックの映画ならびにアーサー・C・クラークの小説『2001年宇宙の旅』である。この作品は子どものころの私にとって最も意義深い作品だった。
すでに何度か触れたが、人間と機械を対立させる葛藤の本質については、まだ述べていなかった。宇宙船を制御するコンピュータHALは、ミッションの本当の理由と目的を人間の乗組員には明かさないようプログラムされている。このことが、HALの判断ミスにつながる。
HALは読唇術によって、乗組員がHALを切断しようとしていることを知る。しかし、当然ながら、HALは自分のことをミッションの成功に不可欠な存在だと考えている。この大義に突き動かされているHALは、乗組員全員を暗殺しようとして、3人の科学者が入っている人工冬眠カプセルの電源を切り、船外活動中の宇宙飛行士フランク・プールを殺害する。そして最後に、フランクを助けようとして船外に出ていたボーマン船長が宇宙船に戻るのを防ごうとする。
何としてでもミッションを達成するようプログラムされていたHALは、次第に乗組員を障害とみなすようになったのだ。システムにプログラムされた目的と人間の価値観とのあいだにある「ずれ」の好例だ。HAL の企ては失敗に終わったが、それでも、自らの被造物に追い越された人間をめぐる、われわれの尽きせぬ空想を豊かにすることには成功した。
おそらく人々の心の中にさらに印象付けられているもうひとつの例に、映画『ターミネーター』がある。知能が芽生えたシステムSkyNetが、兵器の支配権を手中に収め、人類を絶滅させようとするというストーリーだ。
現在のわれわれからすれば、こんな話は絵空事でしかない。では、どうして心配するのだろうか？
⚫︎心配する声
スティーヴン・ホーキングはこの問題についての意見を表明している。2014年にはBBC に、「AI は人類の終わりを意味する可能性がある」と語った（後に考えを変えた）。優れた天体物理学者であった彼の時間尺度は、数百万年、数十億年単位で測定されていたのだ。しかし、たかだか数十万年しか存在していない人類が、100万年後、1000 万年後、1億年後にどうなっているかなど、知りようもないではないか。
ビル・ゲイツも懸念を表明したが、後に撤回した。テスラの派手なCEOイーロン・マスクはどうかというと、極端に悲劇的な発言をしている。ターミネーター流のシナリオを的確に回避するべく、AIを規制するよう行政機関を説得しようとさえしたが、大した成果は上げられなかった。
彼と議論したことがあるが、AIが人間を変えるまでに要する時間を甘く見ているように思えた。おそらく彼は、資金源を探し求めるスタートアップ創設者たちの話に耳を傾けすぎたのだろう。その手の人たちは、人間並みのAIがすぐそこまで来ているなどと調子のいいことを大した根拠もなしに言い立てるものなのだ。
イーロン・マスクの愛読書の一冊に、ニック・ボストロムの『スーパーインテリジェンス』（＊） がある。このオックスフォードの哲学者は、AIが創造者の支配から逃れる最悪のシナリオを列挙している。
一例を紹介しよう。ペーパークリップ工場を制御するために超知能コンピュータが作られる。その唯一の使命は、生産量を最大化することだ。コンピュータはもちろん、生産、原材料の供給、エネルギー消費などを最適化する。次に、その優れた知能によって、最初の工場よりもさらに効率がいい工場を次々と設計し、建設していく。より多くの資源を提供してもらおうと人間を説得しさえする。目標を達成するために人間が邪魔になり、コンピュータはとうとう人間から権力を奪う方法を見つけ出す。そしていつの間にか、この知能は、太陽系全体をペーパークリップに変換してしまう。
これは「魔法使いの弟子」のシナリオの何度目かの焼き直しにすぎない。ただこの話では、弟子の創造物が弟子の統制を逃れてしまった。
これは起こりそうにもない話である。超人的知能をもつコンピュータを設計できるくらい頭のいい人間が、こんなばかげた使命を与えてしまうほど間が抜けているわけがない。用意周到に何らかの歯止めを組み込んでいるはずだ。たとえば、最初の超知能コンピュータの機能を停止することを唯一の目的とする別の超知能コンピュータを作っておけばいいのである。
だが、人類にとって有益だと誰もが同意する技術革命には、必ずマイナス面があることを忘れてはならない。
知識の普及を可能にした印刷機の発明は、カルヴァンやルターの思想の普及にも貢献し、ヨーロッパにおける16世紀から18世紀にかけての血なまぐさい宗教戦争の発端となった。
ほかにも、ラジオは1930 年代にファシズムの台頭をもたらしたし、飛行機は距離を縮めただけでなく、都市全体の爆撃を可能にした。
電話やテレビから、インターネット、ソーシャルメディアによる情報テクノロジーに目を向けると、これまでテクノロジーごとにさまざまな問題が生じてきたが、最終的には解決されている。
＊：Nick Bostrom, Superintelligence. Paths, Dangers, Strategies, Oxford University Press, 2014. 〔ニック・ボストロム『スーパーインテリジェンス：超絶AIと人類の命運』倉骨 彰訳、日本経済新聞出版社、2017 年〕
＊：Nick Bostrom, Superintelligence. Paths, Dangers, Strategies, Oxford University Press, 2014. 〔ニック・ボストロム『スーパーインテリジェンス：超絶AIと人類の命運』倉骨 彰訳、日本経済新聞出版社、2017 年〕
⚫︎すばらしいパフォーマー
われわれは、機械に現時点での能力を超えるものを貸し与えている。AIに対して使われている「知能」「ニューロン」「学習」「判断」といった用語は、本来は人間と動物のために割り当てられていたもので、混乱を招く。たしかに、高度に特化したタスクでは、人間よりもAIを搭載したシステムのほうが断然速い。たとえば、囲碁やチェスの試合をしたり、腫瘍や攻撃目標を特定したり、消費者をプロファイリングしたり、何千ページもの文献の中からひとつの情報を探し出したり、世界のありとあらゆる言語に翻訳したりといったタスクがそうだ。
しかし今のところは、すでに述べたように、AIがどんなにすばらしいものであっても、猫ほどの良識もない。AI搭載の機械は常識を欠いている。ひとつのタスクを実行するよう訓練されているため、世界に対する知識や理解はきわめて狭い。
意思を育てることも、意識を育むこともできない。「戦略を練り、世界を深く理解することのできる、本当の知能をもつ機械を作るとなると、レシピの材料さえ手に入らない。今日、われわれに欠けているのは基本的概念なのだ」と、FAIR の共同ディレクターを務める同僚のアントワーヌ・ボルドは言う。私が言いたいのもまさしくそういうことだ。
⚫︎生得的なものと後天的なもの
数学者のウラジーミル・ヴァプニクは、機械学習の統計理論を公理化し、システムがデータから概念を学習する条件を規定した。簡単にまとめると、ある実体が学習能力をもつには、必ず限定された範囲のタスクに特化していなければならない、ということだ。
この定理は人間にも当てはまる。人間の知能は万能ではない。生得的なもの、つまり脳の能力を限定して学習を加速させるための事前の配線が必要なのだ。われわれに脳のメカニズムを制御する力はないが、それでも、脳の一部の領域が独自のアーキテクチャをもち、特定のタスクに特化していることはわかっている。
動物や人間の脳に事前配線が存在することは、背理法でも証明できる。先に述べたとおり、畳み込みニューラルネットワークのアーキテクチャのヒントになった視覚野は、特定のタスクに特化している。
ここで、ある特殊なメガネをかけている場面を想像してみよう。レンズに映る像のすべてのピクセルがランダムに入れ替わっているという奇妙なメガネだ。レンズはふつうの透明なものではなく光ファイバーで構成されており、像のピクセルを視野内の異なる場所に送るようになっている。したがって、メガネに映る像はすっかりごちゃまぜになってしまって、まったく意味をなさない。
像内で物体が動くと、一部のピクセルが点灯し、一部のピクセルが消灯する。もともとは隣り合っていたピクセルが、メガネを通過した時点で、そうではなくなってしまうのだ。このような状態では、配線が適切でないため、脳はほとんど何も認識できない。脳は、隣り合うピクセルが通常は似たような値をもち、相関性があるという事実を前提にして配線されている。これは、人間の脳が万能ではなく、極度に特化していることの手がかりになる。
人間の脳はまた、きわめて順応性が高い。実験によって、一種の「大脳皮質の普遍的な学習手順」が存在することが明らかになっている。
つまり、機能を決定するのは、そこに到達する信号の束であって、それを受信する領域ではないということだ。1990 年代後半、MITのミリガンカ・スールらは、生まれる直前のフェレットの胎児を取り出し、視神経を切断して聴覚野に接続する手術を行った（＊＊）。その結果は示唆に富むものだった。聴覚野が視覚野として機能するようになり、通常は一次視覚野のV1領域に存在するニューロン（一定の方向をもつ物体の輪郭を検出するニューロン）が発達したのである。
聴覚野の初期配線は、視覚野のものと少し似ている。だから、配線の初期構造が適切であれば、学習の結果として機能が出現する。つまり、大脳皮質の特定領域で実行される機能は、実際にはそこに到達する信号によって決定されるのであり、脳内の「視覚器官」の遺伝的な事前プログラミングによって決定されているわけではない。
大脳皮質の「普遍的な学習アルゴリズム」が存在する可能性は、知能と学習の根底にひそむ単一の組織化原理を探している私のような科学者に希望を与えてくれる。
＊＊：Jitendra Sharma, Alessandra Angelucci, Mriganka Sur, “Induction of visual orientation modules in auditory cortex”, Nature, 2000, 404 (6780), p. 841.
⚫︎新たなフロンティア
知能は知的能力のみに還元されるものではなく、行動のあらゆる領域にかかわっている。知能とは、学習であり、適応であり、判断力である。動物や人間がどのように学習するのか、必ずしもまだ十分に解明されていないとすれば、答えの一部は、その欠如によってAIが教えてくれる。
機械が何をもっていないかを知ることで、機械の知能と人間の知能を隔てる大きな溝が明らかになる。AIはこのようにして、われわれが進むべき研究の道を指し示してくれるのだ。
手段の節約という意味では、機械は人間の脳より何千倍ものデータとエネルギーを消費する。人間の脳が簡潔に機能するのは、生物学的ニューロンの場合、速度は遅いが、コンパクトで数が多く、エネルギー消費がきわめて少ないからだ。
このエネルギーの節約というのは、脳内では各瞬間に、ごく少数のニューロンしか活性化しないというようなことだ。活性化したニューロンにしても、たいていはかすかに活性化するだけだし、サイレントニューロンは、スパイクを送るニューロンよりもはるかに少ないエネルギーしか消費しない。この活性状態の節約については、将来の人工ニューラルネットワークの実現に向けて、ぜひとも探究すべき課題である。
まだ大きな謎が残っている。人間はどのようにして身のまわりの世界から素早く抽象的表現を構築するのだろうか？ 人間は抽象的表現を操りながら、どのようにして推論することを学習するのだろうか？ 複雑なタスクをより単純なサブタスクに分解できるようにする行動計画の設計をどのようにして学習するのだろうか？
こういった質問に答えられれば、そのほかの謎の解明につながるかもしれない。人間はほとんどサンプルに頼らずに学習する。いくつものシナリオを思い描くことで、行為の結果を予想し、一部の学習を節約しているのだ。現在、サンプルやエネルギーを浪費しない学習法の研究が一部で進められているが、これは、今日のAIを特徴付けるものである。
◇
AI研究はまだ発明の段階にあり、科学の域には今なお達していない。知能についての一般理論が欠けているからである。学習の理論ならひとつあるが、それはあくまで教師あり学習に限った理論だ。
この理論は可能なことの限界をわれわれに知らせてくれる。だが、脳の詳しいメカニズムや、脳の特徴である自己教師あり学習に対する正しいアプローチ方法については教えてくれない。
知能の理論というものを思い描けるだろうか？ 学習可能な機械の発明から知能の科学は生まれるだろうか？
私の今後数十年間の研究計画は、自然知能か人工知能かを問わず、知能の根底にひそむメカニズムや原理を発見することである。
⚫︎監・訳：松尾 豊／訳：小川 浩一
本記事は『ディープラーニング 学習する機械——ヤン・ルカン、人工知能を語る』を再構成したものです。
ディープラーニング 学習する機械——ヤン・ルカン、人工知能を語る
著：ヤン・ルカン／監・訳：松尾 豊／訳：小川 浩一
AIとその中核をなす「ディープラーニング」の過去と現在、そして未来像とは？ ディープラーニングの父で、facebook副社長でもあるヤン・ルカン氏がエキサイティングに綴る！
ヤン・ルカンは、なぜあきらめなかったのか？
AI革命の恩恵を受けるのは、誰か？
ディープラーニングは、論理的思考ができない？
AIが、人間の「常識」を持つ日はくるのか？
