孤帆の遠影碧空に尽き

年に3回ほどアジアの国を中心に旅行、それが時間の流れに刻む印となっています。そんな私の思うこといろいろ。

「無用者階級」を生むAI技術の進歩 「ジョブスのリンゴ」は多くの人々にとっては毒リンゴか?

2019-09-09 22:12:13 | 世相

(人民日報の本社内にある「中央厨房」。壁一面のモニターに個々の記事の反応が映し出される【98日 朝日】

反応を分析してどうするのか? 「反応を見ながら新たな記事を書き、世論を誘導するのです」)

 

【テクノロジーと独裁が融合する危険性】

人工知能(AI)の能力がそう遠くない時点で人間の能力を超えるであろう・・・そのとき人類社会はどのようになるのか・・・・という議論は、極めて今日的な関心事であり、日々あちこちで目にするところです。

 

イスラエル歴史学者、ユヴァル・ノア・ハラリ氏の主張に関する下記記事もそういう多くの議論のひとつですが、彼の言うところの「無用者」階級という言葉が非常に印象的です。

 

なお、「無用者」階級とは言わないまでも、未来社会がAIを駆使する一握りの支配階級と、その他大勢の“(厳しい監視・コントロールを受けながら)単に生かされているだけの人々”に二分されるというディストピアは、近未来を扱うTVドラマ・映画では定番でもあります。

 

****ハラリ氏描く近未来 新階級「無用者」と見えない支配者****

「サピエンス全史」や「ホモ・デウス」の著書が世界で1800万部売れ、オバマ前米大統領ら世界の指導者層からも注目されるイスラエル歴史学者、ユヴァル・ノア・ハラリ氏が、テルアビブ市内で朝日新聞のインタビューに応じた。

 

人工知能(AI)バイオテクノロジーの力でごく一握りのエリート層が、大半の人類を「ユースレスクラス(無用者階級)」として支配するかもしれない、という未来を描いてみせたハラリ氏はインタビューでも、「真の支配者(ルーラー)はアルゴリズムになる。残された時間は多くはない」と、急速にアルゴリズム(計算方法)の改良が進むコンピューターが人類を支配する将来が来かねないと警告した。

 

ハラリ氏は「中央集権的なシステムはこれまで、データを集めても迅速に処理できなかったため非効率だった。だから米国がソ連を打ち負かした」が、「AIとバイオテクノロジー生体認証などの融合により、歴史上初めて、独裁政府が市民すべてを常時追跡できるようになる」として、テクノロジーと独裁が融合する危険性に警鐘を鳴らした。

 

一方、複雑化する金融などアルゴリズムが支配するシステムはやがて誰も理解できなくなり、専門家ですら、膨大な情報を集めるコンピューターのアルゴリズムからのアドバイスに頼らざるを得なくなると指摘。

 

「公式には権力は大統領にあっても、自分では理解できないことについて決定を下すようになる。『引き返せない地点』はすぐそこまで迫っている」。全体主義を防ぐため、データの保有権について政府が規制する必要があり、市民は政府に圧力をかけるべきだと主張した。

 

個人のレベルでも、ネット上などに集まるデータを総合してその人の好みをすべてコンピューターに把握される「データ支配」が強まると不安視されている。

 

それでもコンピューターに選択をゆだねるのではなく、自分自身の弱みや特徴を知り、コンピューターに対抗する必要性を強調。「最も重要なことは、自分自身をより早く、よく知ることだ」と訴えた。ハラリ氏自身は、自分を知るために毎日2時間の瞑想(めいそう)を行っているという。

 

今後10~20年の間に人類が直面する大きな課題を三つ挙げた。核戦争を含む大規模な戦争、地球温暖化、そしてAIなどの「破壊的」な技術革新だ。

 

特に技術革新については「30年後の雇用市場がどうなっているか、どんなスキルが必要なのかもわからない」と話し、どんな仕事にも就くことができない階層が世界中に広がる可能性も示した。

 

インタビューでは「ハラリ現象」ともいえるほど注目を浴びていることについて「私は預言者ではない。異なる可能性を指摘しているだけだ」としつつ、国家単位ではなく、地球的な視点で物事を見ることの重要性を強調した。98日 朝日】

*******************

 

上記の主張は、さほど特異な主張もないように思われます。

 

中国社会がAI技術を駆使した超監視社会を構築しつつあることも常に指摘されているところで、そうした技術の現実政治への適用にあっては、中国的な政治体制が“向いている”ことも事実でしょう。

 

これまで、日本や欧米にあっては、欧米的民主主義・自由主義が共産党の一党支配体制よりも優れている、中国のような政治体制はやがては破局を迎えるという考えが一般的でしたが、AIと相性のいい中国社会が欧米社会を凌駕する結果を示すようになる日も来るのかもしれません。

 

なお、自分を知るために毎日2時間の瞑想云々は、いささか凡人には不可能なことではありますが。

 

【AI・バイオ技術の「脅威」 最新治療の恩恵にあずかれるのは特定階層のみ】

****AI・バイオ技術が人類にもたらすもの 「恩恵」か「脅威」か****

朝日新聞のインタビューに応じたユヴァル・ノア・ハラリ氏が描き出した未来は現実に忍び寄る。人工知能(AI)バイオテクノロジーの進化は、ビッグデータによる支配や格差の拡大を招きかねない。驚異的に進む技術革新にどう向き合えばいいのか。

 

「19世紀には多くの国が、産業革命で蒸気船や鉄道を手にした英国やフランスの植民地になった。それが今はAIで起こっている。20年待つと、多くが米国か中国の植民地になる。国のレベルで今すぐ行動を起こさなければ手遅れになる」

 

人類に恩恵をもたらすはずが逆に脅威になる技術。その一つにハラリ氏は「AI兵器」の存在を挙げる。(中略)

 

自ら動き画像などの情報を収集し、AIが敵味方を判断して攻撃を決定するドローンや戦闘車両――。「自律型致死兵器システム」(LAWS)と呼ばれるロボット兵器は米中やロシア、イスラエル、韓国が研究しているとされる。

 

8月にジュネーブで開かれたAI兵器についての国連の専門家会合は、規制に関する初めての指針を採択した。ただ、条約など法的拘束力のある規制に踏み込むのは簡単ではない。ハラリ氏は「20年後には手遅れになる」と訴える。

 

ハラリ氏がAIとともに「今後20~40年の間に経済、政治のしくみ、私たちの生活を完全に変えてしまう」と警告するのがバイオ技術だ。

 

今年5月、遺伝子治療技術を使った白血病向けなどの製剤「キムリア」の薬価が過去最高の約3349万円に決まり話題を集めた。バイオ関連の技術革新はめざましいが、すべての人が最新治療の恩恵にあずかれるとは限らない。

 

ベストセラーになった著書「ホモ・デウス」で、ハラリ氏は予想している。「2070年、貧しい人々は今日よりもはるかに優れた医療を受けられるだろうが、彼らと豊かな人々との隔たりはずっと広がる」(中略)

 

ゲノム編集のベンチャーをつくった神戸大の近藤昭彦教授は「がんのように遺伝子が壊れた疾患は遺伝子治療で根治できる」とバイオ技術の可能性を強調する一方、「高額の薬価を引き下げて多くの人が使えるようにし、AI兵器と同じように、バイオも倫理面の研究に力を入れないといけない」と指摘する。【同上】

***********************

 

遺伝子治療技術は確実に進歩するでしょうが、それを使えるのは一部の特権的支配階級のみ・・・・という世界になるのかも。

 

そうなると、支配階級は肉体的にも不老不死とは言わないまでも、それに近いものを手にし、その他の人々とは全く異なるライフスタイルになるのかも。

 

まさにドラマが描く近未来ディストピアです。

 

【社会の変化についていけず職に就けない「無用者階級」】

****新階級「無用者」 旅行業者・銀行員「絶滅危惧種」の指摘****

「AIとロボットが人々にとって代わり、雇用市場を変える。学校は子どもたちに何を教えるべきかもわからない」

 

著書で、社会の変化についていけず職に就けない「無用者階級」が生まれる未来を予見したハラリ氏の世界には、日本の経営者も関心を持つ。

 

その一人、みずほフィナンシャルグループの佐藤康博会長は「AIが人の知能を超えるシンギュラリティーが来れば無用者層とも呼ぶべき人たちが出てくる。現代人が日常で感じる将来への不安を深くえぐり出した」と語る。

 

AIやビッグデータといったテクノロジーについていけなければ、金融業は生き残れない。社長時代の17年秋、10年間で約8万人の人員のうち、約1・9万人を削減する構造改革を佐藤会長が打ち出したのも、そうした危機感からだった。(中略)

 

ハラリ氏は、旅行業者と並んで、銀行員を「絶滅危惧種」と呼んでいる。巨大企業の場合、AIの普及で効率化が進むと、人員の余剰感を招きかねない。

 

「人が余れば、フロントに出てお客様に対応する仕事や企画部門といった、人間でしかできないサービスを担えるように再教育することが大切になる」と佐藤会長は考える。

 

ただ、AIやロボットがどこまで進化するかは読み切れない。ハラリ氏はこうも語る。

「AIは進化を続ける。人々は一度だけでなく、何度も自己改革を迫られる。このストレスは耐えがたいだろう」【同上】

*******************

 

AIとロボットによって社会の生産性があがれば、社会の変化についていけず職に就けない者についても、例えばベーシックインカムのような形で、収入を保証されることもあるのかも。

 

ただ、そうした者は単に生かされている「無用者階級」ともなるのかも。「無用者階級」については、後でもう少し詳しく取り上げます。

 

なお、ハラリ氏が「絶滅危惧種」の事例として、いささかマイナーな旅行業者を持ち出した理由は知りません。

 

【データで国家を統制する中国のデジタル国家主義 個人データを巨大な利益に変える「GAFA(ガーファ)」】

****世論を中華に誘導する「厨房」****

「情報を集約して持つことで、計画経済や専制的な政府は、民主主義よりも技術的な優位性を持つ可能性がある。民主主義と自由市場が常によりよく機能する法則があるなどとは考えるべきではない」

 

ハラリ氏は、一国の体制を技術が左右する時代が来たと告げる。その一端がすでに見られる場所がある。

 

北京市内にある中国共産党の機関紙「人民日報」本社ビルの10階にある「中央厨房(ちゅうぼう)(セントラルキッチン)」は、最先端のメディアの現場だ。

 

湾曲した壁一面に広がるモニター画面の中央に、中国全土の地図が青く映し出される。その上に光る大小の黄色の丸。「それぞれの記事がどの地域でどれだけ読まれているかが表示されています」。案内役の女性が説明する。各部が取材結果を持ち込み、次の取材計画を練るという。

 

だが、「厨房」の本当の機能は別にある。世論の流れを読み、「動かす」のだ。画面には読者の性別、年齢層、地域などとともに、読者の書き込みから「記事を読んだ人の感情が肯定的か否定的か」も表示されている。

 

「分析してどうする?」。尋ねると、案内役は当たり前のように答えた。「世論が極端に傾いていないかを見ます。反応を見ながら新たな記事を書き、世論を誘導するのです」

 

今年3月、新華社通信習近平(シーチンピン)国家主席のメディア戦略を報じている。「ニュースの収集、発信、反応などでAIの利用を探求する。アルゴリズムを制御し、世論を導く力を全面的に高めていく」

 

人民日報は新聞、ネット、アプリ、ウェイボーやウィーチャットなどメッセージ機能を持つ「マイクロメディア」の四つの発信源を持ち、17年6月時点でユーザーは約6億3500万人に達する。中央厨房は他の党機関紙のモデルになり、似たようなメディア融合のシステムを、地方の機関紙も取り入れる。

 

ビッグデータが生む価値は「第2の石油」といわれる。個人データを巨大な利益に変えるグーグルやアマゾンなどの巨大プラットフォーマー「GAFA(ガーファ)」。データで国家を統制する中国のデジタル国家主義。双方が台頭する世界を、私たちはどう進めばいいのか。

 

ハラリ氏はこう提案する。

「技術はいい方にも悪い方にも働く。いま国家や企業が市民を監視するために一方的に使っている技術を、市民が国家を監視するためのものとして開発すべきだ」【98日 朝日】

*****************

 

今、国際社会では米中の覇権争いが繰り広げられていますが、将来の世界の支配権をめぐって争うのは、「データで国家を統制する中国のデジタル国家主義」と「個人データを巨大な利益に変えるグーグルやアマゾンなどの巨大プラットフォーマー“GAFA(ガーファ)”」なのかも。

 

その場合、日本・欧米が中国と異なる政治体制にあるとは言っても、それは支配者が「国家」そのものなのか、それとも「国家」を動かす“GAFA(ガーファ)”なのか・・・という違いに過ぎないのかも。

 

【雇用不能な「無用者階級」 支配階層は「不老階級」にも】

ハラリ氏が描く「無用者階級」については、以下のようにも。

 

****人工知能は役立たず階級を生み出すか?--『ホモ・デウス』書評(評者・井上智洋)****

人類史を変えた3つのリンゴ

 人類の歴史には、3つのリンゴに象徴される劇的な変革があった。

一つ目は「アダムのリンゴ」で、これは紀元前一万年頃に始まった「農耕革命」を象徴している。この革命によって、狩猟・採集社会から農耕社会への転換がなされた。(中略)

 

二つ目の「ニュートンのリンゴ」は、アイザック・ニュートンがリンゴの木からその実が落ちるのを見て万有引力を思いついたという逸話から、17世紀の科学革命とそれに続く「工業革命」(第一次・第二次産業革命)の象徴と見なすことができる。工業革命は、農耕社会から工業社会への転換を引き起こした。

 

三つ目の「ジョブスのリンゴ」は、「情報革命」(第三次・第四次産業革命)の象徴だ。このリンゴは、言うまでもなくスティーブ・ジョブス等が設立したアップル社を指している。情報革命による工業社会から情報社会への転換が今まさに進行中だ。(中略)

 

情報革命はディストピアをもたらすか?

 三つ目の「ジョブスのリンゴ」は、人類にとっての「シアワセ林檎」になり得るだろうか?『ホモ・デウス』によれば、情報革命はディストピア(反理想郷)をもたらすかもしれない。

 

科学革命の後の人間至上主義の時代に、森羅万象が科学の対象として分析されたが、人間だけは分割できない神聖な魂によって自由な意思決定を行う唯一の例外的な存在に祭り上げられていた。

 

だが、近年の神経科学と情報技術の発達によって、人間の知的振る舞いは脳内の「電気化学的プロセス」に応じたアルゴリズムの作動に過ぎないのではないではないかと考えられるようになっている。

 

人間の脳とコンピュータは、アルゴリズムにしたがって作動するという意味で本質的な違いはない。そして、コンピュータ上のアルゴリズム(人工知能)は、いずれ人間の脳を凌駕するようになるとハラリは断じている。

 

“意識を持たないアルゴリズムには手の届かない無類の能力を人間がいつまでも持ち続 けるというのは、希望的観測にすぎない。(ハラリ『ホモ・デウス』)”

 

そうすると、人間は買い物から恋人選びに至るまで人生のあらゆる決定を人工知能に任せるようになるだろう。それは既に、アマゾンのレコメンデーション(書籍などの提案)システムや恋人マッチングアプリなどによって半ば実現している。

 

“『すべてのモノのインターネット』の偉大なアルゴリズムが、誰と結婚するべきか、どんなキャリアを積むべきか、そして戦争を始めるべきかどうかを、教えてくれるでしょう(ハラリ『ホモ・デウス』)”

 

ただし、ディストピアじみてはいるものの、生身の人間の脳よりも優れたアルゴリズム様の決定に従うことで、人類はより幸福になるかもしれない。

 

より深刻なのは、人間の脳を凌駕したアルゴリズムの出現によって、生身の労働者が不必要になるという事態だ。多くの仕事が人工知能に任せられるようになり、人間はお払い箱となる。

 

“二十一世紀の経済にとって最も重要な疑問はおそらく、膨大な数の余剰人員をいったいどうするか、だろう。ほとんど何でも人間よりも上手にこなす、知能が高くて意識を持たないアルゴリズムが登場したら、意識のある人間たちはどうすればいいのか?(ハラリ『ホモ・デウス』)”

 

ハラリは、「Useless class」という言葉を用いており、これは「無用者階級」「役立たず階級」「不要階級」などと訳されている。人類全員ではないにせよ、大量の役立たずの人間が発生するという。

 

“二十一世紀には、私たちは新しい巨大な非労働者階級の誕生を目の当たりにするかもしれない。経済的価値や政治的価値、さらには芸術的価値さえ持たない人々、社会の繁栄と力と華々しさに何の貢献もしない人々だ。この「無用者階級」は失業しているだけではない。雇用不能なのだ。(ハラリ『ホモ・デウス』)”

 

その一方で、人類は、戦争と飢餓、疫病の克服には安住せず、次なる目標に向かって驀進していくという。それは、テクノロジーによって肉体をアップグレードして、不死の超人になることだ。

 

神を殺した人類は自ら「ホモ・デウス」(神人)にならんとする。既にグーグルは、「死を解決すること」をヴィジョンとして掲げた「キャリコ」という子会社を設立している。

 

ただし、肉体のアップグレードにはお金が掛かる。『銀河鉄道999』の物語を思い出して欲しい。機械の体を買って永遠の命を生きられるのは、一部の金持ちだけだ。

 

神戸大学の松田卓也名誉教授は、『ホモ・デウス』の描く未来を「不老階級」と「不要階級」の分化としてまとめている。「不老階級」は、実際には不死にまでは至らないにせよ肉体をアップグレードしながら末永くハッピーに生きる。「不要階級」は、仕事がないがために貧しく、生まれたままの肉体をこれまで通り老化させながら慎ましく死んでいく。

 

『ホモ・デウス』の未来予想図にしたがえば、「ジョブスのリンゴ」も多くの人々にとっては毒リンゴとなる。それを「シアワセ林檎」に変えるにはどうしたら良いのか?私達は今から真剣に議論しておくべきだろう。それとも、こうした七面倒な議論もアルゴリズム任せにしてしまおうか?【17日 井上智洋氏 Web河出】

*******************

 

支配階層が「不老階級」となる一方で、生かされている「無用者階級」には「人生定年制」が適用されるような社会になるのかも。ディストピアドラマの見過ぎでしょうか。


コメント   この記事についてブログを書く
« アフガニスタン  「合意間... | トップ | 南アフリカ  頻発する移民... »
最近の画像もっと見る

コメントを投稿

世相」カテゴリの最新記事