➂「AIが奪う"信頼" 民主主義の危機」
徳永:ヘイトやフェイクも多いSNS空間。AIを手掛ける大富豪が今、トランプ政権下のホワイトハウスに出入りしています。(トランプ政権の)「政府効率化省」の担当者として、狙うのはこれまでの官僚機構の解体だとイーロン・マスク氏は言っていますが‥。
ハラリ:AIなど「デジタル官僚制」に権限を与えようとする、とても危険な行為です。マスク氏らは、行政官や官僚を攻撃して官僚制反対を訴えながら、AIにその権限を移行しようとしています。官僚制は悪いどころか不可欠で、体の各部位をつなぐ神経細胞と同じなのです。病院なら医師や看護師が患者の面倒をみて命を救いますが、治療費を回収し、給料を払う(病院)官僚がいなければ成り立ちません。これまで官僚は人間でしたが、その役割をAIが担い始めています。
トランプ政権では、予算削減のターゲットを定めるのにAIが利用され、イスラエルへの抗議の声を封じるのもAIでSNSを洗い出すという手段が取られようとしています。不眠不休で大量のデータを取り込み、感情もなく反抗もしないAI。そんな存在に人間が担ってきたきた仕事を譲り渡した時、いったい何が起きるのか‥。とても危険です。
人間どうしの信頼が崩壊し、民主主義の危機を迎えているのは、(SNSなどのAIによる編集などにより)人々の対話や会話の流れを作る力をAIに渡してしまったからです。独裁とは1人の人間による命令です。大勢が話し合い、意見をぶつけ、皆で決めるが民主主義です。しかし今、AIが人間の会話を管理し始めています。
■『NEXUS 情報の人類史』(抜粋)—「政府あるいはどこかの企業が、私たちの行動や思考を細かく管理することができるようになったら、社会に対する全体主義的な支配権を獲得するだろう。」
④「(AIの)人間の偽装を禁止せよ」
徳永:人類の未来を切り拓く存在であるはずのAI。同時に、人の心を操作し、国家をも支配し得るテクノロジーと、私たちはどう向き合えばいいのでしょうか?
ハラリ:問題はAIの開発をどう止めるかではなく、どう安全に進めるかです。その中で最も大事なのが、AIに人間のふりをさせないことです。通貨の偽造を禁止するように、"人間の偽造"を禁止すべきなのです。AIを高度化させるより先に、人間どうしの信頼関係を回復することに労力を費やしてほしいのです。
徳永:人間どうしの信頼を構築するというのはすごく難しい。アメリカのトランプ大統領とウクライナのゼレンスキー大統領が口論をしました。強い者が弱い者を面前でなじるような姿を見ると、そういう世の中でいいのかって‥。人は信じられない気持ちになると思います。その不安というのは今、世界が深刻に抱えていると思います。
ハラリ:誰かに裏切られることもありますが、人間はほとんどの場合、約束を守り、法と規則を守ることを歴史が証明しているのです。実際に人類史を読み解くと、犯罪や不正より、人と人との協力関係や信頼を築く能力に驚かされます。10万年前は数十人単位で暮らし、部外者を信頼することができなかった。数万年後、人類は数十億人が対話し、事実を共有し、法律を受け入れるメカニズムを発達させてきました。
私たちが口にする食べ物や着る服、命を守る薬の多くは、遠い異国に住む人たちが生み出したものです。信頼は恐怖を凌駕(りょうが)します。外部のものを取り込むことは、この世界へのささやかな信頼の証(あかし)です。
➄「人類の未来について、どう考えればいいのか」
徳永:人類の未来について、ハラリさんは楽観的ですか、それとも悲観的ですか?
ハラリ:現実主義的でありたいです。悲観論者は悪い結果しか描かない。それは責任感や自主性を奪います。何をしても失敗すると感じるからです。楽観論者は逆の問題で苦労します。何をやってもうまくいくだろうと考え、責任感の欠如につながります。現実主義者の中庸(ちゅうよう)が必要なのです。
戦争やAI、気候変動の危険を認識することも大切です。私たちは、それに対処する能力を備えていることを意識するべきです。解決不能ではない、神や奇跡を待たなくても対処できる問題です。ただし、もっと責任感を持つことが深刻な問題ほど不可欠なことです。リアリズムとは、危険と対処法の両面を認識し、悪い結果を防ぐために責任ある決断を背負う姿勢です。AIも不可能な課題ではないのです。
■ハラリ氏はこのインタビューで次のことも述べている。中国やロシアの指導者、アメリカのトランプ大統領など、彼らのビジョンは国を要塞化し、巨大な城壁を造って、貿易や移民、異国文化から身を守ることにある。では、世界に要塞の網ができたとして、果たして、どのように世界の人々は共存するのか?それぞれの要塞が隣国を犠牲にしても、より多くの領土と安全、繁栄を求めて、「領土も貿易も、軍隊ももっと欲しい」、みんなそう言う。
トランプ的な人たちが、要塞どうし、合意できる仕組みを提供できるのか?どのような価値観と規範・国際法で関係を制御し合えるのか? グローバルな価値観と国際法がなければ、暴力と"力の法"(理屈)が世界を支配してしまうだろう。各国はより強く、大きな軍隊を求め、戦争を引き起こすことになる。敵対する要塞同士に合意する手段がないからだ。
私たち人類の歴史は、20世紀半ばまでは、何千年もそのような状況にあった。それが当たり前だった。その苦境からやっと抜け出せたのは21世紀の前後。暴力や兵力ではなく、国際法や人権・平等・自由・民主など、人類共通の価値観に基づく秩序だった。それは確かに、実際には 理想にはほど遠い秩序ではあったが、それでも人類がそれまで築いてきた秩序より優れていたものだった。
グローバルな自由主義に反対する人に、「あなたの代替案は?」と問うべきだ。「グローバルな価値観をルールとしてではなく、武力と暴力だけを信じて、どうやって人類の平和と繁栄を守れるのですか?」と‥。
※中国に暮らして10年以上が経過している。その間、中国では急速なスピードでIT、AIが人々の暮らしへの入り込みを進めてきた。政府組織によるAIをも利用した超監視国家体制が世界で最も進んだ国となっている中国ではある。また、現代版「万里の長城」とも言える、IT、インターネットへの超強力な監視ブロック要塞を築いてもいる。世界の「民主主義度」を毎年調査しているヨーロッパの機関が、「あと半年でアメリカは民主主義国ではなくなる」と、最近、報道がされていた。「民主主義やリベラルの温床となっている」として、ハーバード大学などへの政府補助金の凍結など、「学問の自由」に対する攻撃(弾圧)も強めているトランプ政権でもある。
今日、yahoo Japanのニュースサイトを見ていたら、佐藤優氏が「トランプ大統領の関税政策を反対している人は、なにも世界のことを知らない!私はトランプ大統領の関税政策に大賛成だ」とトランプ大統領を礼賛していた。佐藤優氏はもう少し賢い見識のある人だと思っていたのだが、‥‥。彼は思想的に「弱肉強食世界」での世界観を支持する立場なのかもしれないとも‥感じた。それとも、「トランプ関税やロシアへの接近など、日本でのマスコミ、ネットでの論調の多くがトランプ大統領批判が多い」ため、天の邪鬼(あまのじゃく)を発揮して、トランプ大統領を批判する人たちに「おまえらアホだ」と自分を偉ぶるだけの今日の論調なのか‥。いずれにしても、佐藤優氏の人間としての底の浅さを感じてしまった佐藤氏の記事だった。残念だ‥。
