言の葉89ハラリ氏インタビュー
Ａ Iが支配する世界
ＡIが支配する世界 ハラリ氏 インタビュー朝日新聞朝刊 2019年（令和元年）9月21日（土）より抜粋
国民は常に監視下 膨大な情報を持つ独裁政府が現れる
——私たちが直面する大きな課題とは、何でしょうか。
「三つあります。核戦争を含む世界的な戦争、地球温暖化などの環境破壊、そして破壊的な技術革新です」
「三つ目が最も複雑です。Ａ Iとバイオテクノロジーの進歩は今後20〜40年の間に、経済、政治の仕組み、私たちの暮らしを完全に変えてしまうでしょう。Ａ Iとロボットがどんどん人々に取って代わり、雇用市場を変える」
「新たな監視技術の進歩で、歴史上存在したことのない全体主義的な政府の誕生につながるでしょう。
Ａ Iとバイオテクノロジー、生体認証などの融合により、独裁政府が国民すべてを常に追跡できるようになります。20世紀のスターリンやヒットラーなどの全体主義体制よりずっとひどい独裁政府が誕生する恐れがあります」
——21世紀の技術は、民主主義より専制主義を利すると。
「20世紀、中央集権的なシステムは非効率でした。中国やソ連の計画経済は情報を1カ所に集めようとしましたが、データを迅速に処理できず、極めて非効率で愚かな決定を下しました」
「対照的に、西洋や日本では情報と権力は分散されました。消費者や企業経営者は自分で決定を下すことができ、効率的でした。だから冷戦では、米国がソ連を打ち負かしました。しかし技術は進歩している。いま、膨大な情報を集約し、Ａ Iを使った分析することは簡単で、情報が多ければ多いほどＡ Iは有利になる」
「例えば、遺伝学です。100万人のD NＡ情報を持つ小さな会社が多くあるより、10億人から集めた巨大なデータベースのほうが、より有能なアルゴリズム（計算方法）を得ることになる。危険なのは計画経済や独裁的な政府が、民主主義国に対して技術的優位に立ってしまうことです」
——世界を支配するのは人間ではなくなるのでしょうか。
「何も手を打たなければ、新たな技術は、ごく少数のエリート、国によっては独裁的な政府に強大な力を与えるでしょう。もっと深いレベルでは、真の力はアルゴリズムが持ちます。人間では不可能な量の情報を集めて分析するからです。金融システムを例に挙げましょう。今でも、どう機能しているかを理解している人は全体の1%かもしれない。でも30年後にはゼロになる。『金融危機に直面しています』と大統領に進言するのはアルゴリズムになります」
——働き手や企業にとっては、何が問題ですか。
「最大の問題は仕事の消失です。仕事はＡ Iやロボット、自動運転車などに奪われる。新たな職業は生まれます。問題は、仕事の絶対量の不足ではなく、自らを再訓練できるかです。例えばバスの運転手が、自動運転車のせいで仕事を失ったとします。車のデザインやソフト作成の仕事はある。では、40歳の運転手をソフト開発者に再訓練できるでしょうか」
「精神的な問題もあります。ある年齢になって、自己改革を迫られるのはストレスのかかることです。監視の問題もある。10年後に就職面接に行くと、アルゴリズムがすべてのデータを確認する。あなたの生活すべてが、長くストレスのたまる就職面接なのです」
■ ■
——政治について聞きます。米国のトランプ大統領は多くのうそをついて大統領になり、「ポスト•トゥルース（真実かどうかは重要ではない）時代」と言われます。
「フェイクニュースやポスト•トゥルースの現象は非常に心配です。だが、新しいものではない。人類の歴史と同じだけ存在しています。20世紀初頭のファシズムや共産主義のプロパガンダが多くの人をだましたように、過去は今よりもっと悪かった」
——ではなぜ今、世界各地でポピュリズムが隆盛を迎えているのでしょうか。
「大多数の人にとって世界を理解するのは『物語』を通じてです。事実や統計に基づいてではありません。その『物語』が次々と崩壊し、真空状態にある。真空状態は良識ある未来へのビジョンではなく、過去への郷愁に満ちた空想（を語るポピュリズム）によって埋められています」
「20世紀には、共産主義、ファシズム、自由主義という、世界を説明する三つの大きな『物語』がありました。第2次世界大戦でファシストの物語が崩壊した。次に共産主義と自由主義との間の闘争となり、共産主義が崩壊した。多くの人々は『歴史は終わった』と感じたが、自由主義の物語も崩壊しつつある。気候変動、機械による自動化、Ａ Iの進展によって生じる多くの困難を、自由主義は解決できずにいます」
データを使われて操作されぬため己を知り抵抗を
——ポピュリストの何が問題なのでしょうか。
「独裁的な傾向を持っていることです。間違いを認めない。物事がうまくいかないときは、外敵や裏切り者のせいにする。『力が足りないから失敗したんだ。だからもっと強大な力をくれ』と。だが、彼らに力を与えても、また失敗する。未来へのビジョンがないのですから。すると、『まだ裏切り者のがいる。さらに力を与えよ』というでしょう。ファシズムや独裁主義への道につながります」
「ポピュリズムは、民主的で前向きな運動として始まることがあります。置き去りにされていると感じる人たちが、自分たちの権利や不安が顧みられていないという感情を表明するためです。それがポピュリストたちによってハイジャックされ、過激にされうるのです。（過激化する前に）そうした人たちの悩みや問題に、解決策を提供すべきです」
■ ■
——大きな課題の一つ目として挙げられた世界的な戦争や核を使ったテロが起きる可能性は。
「可能性は高くないと思いますが、懸念すべきレベルではあると思います。5年前なら、可能性はきわめて小さいと言ったでしょう。しかし2016年以降、世界の地政学は急速に悪化しました。自由世界を牽引してきた米国と英国は、その役割を基本的に放棄しました。『自分第一』と言うリーダーにはだれもついて行きたいと思いません。こうした状況が世界的な戦争や核戦争に至る懸念を強めています」
「それはすべての人にとっての大惨事です。前世紀からの教訓にの一つは、戦争は誰にとっても悪いことなのに、気をつけないと、また、起きるということです。人間の愚かさゆえです。人間は愚かな間違いを犯すのです」
——あなたは将来、一部のエリートが大多数の「無用者階級」を支配する危険を指摘しています。エリートは自らを批判的に見て、謙虚になるべきだと考えているのでしょうか。
「人間は間違います。我々は、政府が誤りをおかすことを考慮して政治システムをデザインする必要があります。同様に個人の哲学においても、無謬性を前提にすることは、大きな誤りです。作り出すものすべて、デザインするものすべてについて、失敗を考慮する必要があると思います」
■ ■
——これからの世界で一部のエリート、あるいは独裁的な政府による「支配」から逃れるにはどうすれば良いのでしょう。
「誰がデータを所有し、どんなＡ Iを開発しているのかが問題です。少数の企業や政府が、すべてのデータを所有するようになったら手遅れです。逆らおうとする者は、簡単にスキャンダルを見つけ出され、おとしめられます。データ（独占を防ぐよう）所有を規制する必要があります
。政府がやるべきことです。政府を動かすには、市民が団結して圧力をかけねばなりません。一つの国だけでなく、国際協力も欠かせません。
——個人にできることは。
「古来、ソクラテスなどの思想家は『己を知る』ことの大切さを説いてきましたが、今は急を要します。あなたを監視し、解読しようとする企業や政府があるからです。彼らがあなた自身よりもあなたを知るようになったら、あなたを操作するのは簡単です。ポピュリストのやり方も、同じです。彼らは、人々が何を嫌悪し恐れているかを見つけ出し、感情のスィッチを押し、さらに強い嫌悪と恐怖を生み出します」
「抵抗するには、まず、あなた自身の弱さを認識する必要があります。『自分には、移民やイスラム教徒への偏見がある。そういったテーマのフェイクニュースにだまされるのは簡単だから気をつけよう！』と。方法はたくさんあります。私自身は（1日2時間の）瞑想を実践していますが、心理士に会うとか、芸術に触れてもいい。山登りやハイキングを、自分自身を理解する機会としても使えるでしょう』（聞き手 編集委員
山脇岳志•渡辺淳基）