AIが職場にやってきた ケビン・ルース 田沢恭子訳 AIという「魔物」と付き合う9つのルール
著者はニューヨーク・タイムズのテクノロジー担当コラムニスト。シリコンバレーにほど近い西海岸のオークランドに住んでいる。テレビ番組やネット上のポッドキャストでホストやレギュラーとして出演し、自動化とAI、ソーシャルメディア、偽情報とサイバーセキュリティなどITがらみの話題について活発に発信している。
副題が「機械まかせにならないための9つのルール」とあり、中身はこちらのほうがぴったりする。IT全盛のなかで、その流れに翻弄されない職場や家庭での実用的、実践的なAIとの付き合い方が解説されている。評者は40年ほど前、当時、「人工知能」と呼ばれていたAI研究の創始者たちにインタビューしたことがある。MITのマービン・ミンスキー教授、スタンフォード大のジョン・マッカーシー教授などこの分野のビッグネームだ。だが、創始者たちも当時、現在のようなAI研究の全盛時代がくることは予想していなかった。近年のAI研究は、目覚ましいという段階を通り越し、恐怖感を感じるほどの進み具合だ。chatGPTなど最新の「生成AI」の登場や進化が驚きの念をもって語られ、新技術への期待と同時に、時代がどういう方向に進むのだろうか、という不安が社会 を覆う。
著者は、ITなどの先進テクノロジーを高く評価し、社会や生活に積極的に活かしていきたいと考えている。その一方で、まだ方向の定まらないAIの先行きにも深い懸念を抱いている。これは評者の考え方とも近く、深く共感して読了した。AIに、興味や関心、拒否感や反発など、ないまぜの感情を持つ多くの人に勧められる内容だ。
「はじめに」で印象的な挿話が紹介されている。サンフランシスコでパーティに顔を出したとき、AIスタートアップの創業者が、NYタイムズのテクノロジー担当記者と知って、熱心に売り込んできた。この人物は工場で、最も生産効率の良い作業順序をAIで決められるシステムを開発した。彼はこのAIを「ブーマーリムーバー(老害除去装置)と呼んでいる。「うちのお客さんの会社には、年齢が行って給料をたっぷりもらっているけれど、じつはもう必要ではない中間管理職がやたらといます。うちのプラットフォームを使えば、そういう人たちの仕事を代わりにやってくれるんです」と話した。実際、ある企業で長年、解雇しようとして果たせなかった自動化担当者のポストを導入後、即座に廃止できたという。
テクノロジーを深く愛してきた著者は、こうした経験をもとにAIへの楽観論を考え直す気持ちになった。第一に、「テクノロジストが好んで語る物語、例えばテクノロジーは奪うよりも多くの職を常に生み出してきたとか、人間とAIは互いに競うのではなく協力するようになるといった話のなかには、偽りではないにせよ少なくともひどく不完全なものがあることに気づいた」、第二に「AIと自動化が世界に及ぼす影響について記事を書くうちに、これらの技術を生み出した人たちの示した展望と、それを利用する人が現実の世界で実際に得る経験とのあいだには、著しいギャップがあることに気づいた」。第三に、「AIと自動化の未来を間近で見守ってきた彼らは、(中略)幅広い仕事や活動で人間を機械に置き換えることが可能だということを、あるいは近々そうなるであろうことを理解していた。(中略)犠牲者が生じるのは避けられないということは誰の目にも明らかだった」(太字は原文の強調)。
上司に命じられ、スイスのダボスで世界のエリートが集う世界経済フォーラム(ダボス会議)に出席した。「そこでは有力な企業役員たちが、企業と労働者の双方を益する『人間中心のAI』を築こうと誓い合っていた」「ところが公式のイベントが終わって、夜になると、参加者は人道主義者の仮面を外し、真の目的を果たすための行動を開始した。(中略)彼らはAIを使って自社を洗練された自働収益マシンに変える方法を教えてくれとテクノロジー専門家に詰め寄る」。そこで大企業の業務自動化を支援するインドのコンサルティング会社の代表と出会う。彼は、「ダボスに来るエリートたちは、仕事を自動化する仕事をやっている自分が予想していた以上に自動化を求めていると教えてくれた」。以前は社員の95%を維持して徐々に自動化を進めたいと言っていた顧客が、「最近では、『人員を今の1パーセントまで減らせないか』と言ってくるんです」。ショックを受けた著者は、研究者や業界関係者など多くの人にインタビューし、会合や発表会にも精力的に顔を出す。関連する本も百冊ほど読んだ。
近年、出版された「ロボットの脅威」や「ザ・セカンド・マシン・エイジ」といった書物は、「どちらもAIが社会を根本から変えて世界経済を変容させると訴えていた。仕事の未来に関する学術的研究としては、たとえばオックスフォード大学が、アメリカでは今後20年以内に雇用の47パーセントが自動化によって失われる『リスクが高い』と予想し、危機感をあおった。2017年にはアメリカの成人の4人に1人が、AIと自動化によって生み出される職よりも失われる職のほうが多いと考え、半数以上がテクノロジーによって富裕者と貧困者の格差が広がると予想していた」。
「AIや自動化が人類にとって歓迎すべきものか、それとも忌むべきものか、どちらの見方をするにしても、これらの用途があたかも運命のように定められているのではないことを忘れてはならない。人間の労働者を排除するのかどうか決めるのは、アルゴリズムではなく企業役員だ。(中略)新しい形態のAIを作るエンジニアはその設計について発言する権限があり、ユーザーはこれらのツールが道徳的に許容可能かどうかを判断することができる」。評者もこのスタンスに全面的に同意する。AIがどんなに複雑なシステムであっても、人間が仕様を決めて設計し、膨大な人手をかけて制作したものだ。現在の技術ではAI自身が仕様を決め、システムを作り上げることはない。ただ、もし悪意の人間が自己の欲望を満たすためにシステムを設計すれば、社会にとって危険なシステムが登場する可能性も出てくる。
第1章は「サブオプティミストの誕生」。情報科学の巨人ノーバート・ウィーナーの言葉が冒頭に出ている。「機械が社会にもたらす危険は、機械そのものではなく、機械の使い方によって生じる」。ここでは楽観論者の言い分が紹介されている。「AIと自動化に関する本を書いていると言うと、反応は2つに分かれる。テクノロジーに懐疑的な友人や同僚は、おおむね好意的だった。仕事を奪うロボットに関する暗い予想を耳にして、不安を覚えていたからだ」。一方、シリコンバレーでの反応は少し異なる。あるCEOは、「へえ、『ロボットが仕事をすべて奪う』とか訴える本を書いて、みんなを恐怖や憂鬱に陥れているんじゃないだろうね?」「不安をあおるメディアによるAI新技術の報道には不満で、私たちの不安は取り越し苦労だと思っている」。
楽観論者は次のように考えている。①以前にも同じこと(AIへの強い批判)があったが、最終的にはよい結果に至った、②AIは退屈な作業を人間の代わりにやってくれるので、人間の仕事はもっとよいものになる、③人間とAIは競うのではなく協力する、④人間には無限の需要があるので、AIが大量失業を引き起こすことはない。著者はこうした言い分を検証する。その結果、「私は全面的な楽観ではなく全面的な悲観でもない立場に至った。私の立場は『サブオプティズム』(楽観未満)と呼ぶべきものだ」。これは著者の造語だ。「AIや自動化に対する最大の恐れは現実とならないかもしれないが、注意を向けるべき差し迫った現実の脅威は存在する」という見方を示す。不安スケールという指標を提示し、1(何も問題を起こさない)から10(あらゆるものを破壊する)まで考えた場合、自分は7あたりに位置するという。
第2章は「ロボットに奪われない仕事という神話」。数年前、大勢の企業役員が集まる夕食会に招かれ、「ロボットに奪われない仕事はどんなものか?」と聞かれた。専門家が次々に発言したが、自分の番になって言葉に詰まった。ロボットに奪われない仕事が存在することは間違いないが、そうした仕事の自動化を目指すスタートアップ企業も存在する。仕方なく、「想像力と高度な問題解決能力を必要とする職業は機械で代替するのが難しい」という「出まかせ」を述べた。著者は「ロボットに奪われ得ない仕事などないのだ」と気づく。AIについての予測は専門家さえあてにならない。オックスフォード大の研究者による2014年の研究では、AIの進歩について、過去60年間に専門家が出した予想と一般人が出した予想を比較したところ、「両者のあいだに大きな違いはないことがわかった。専門家でもお手上げということだろうか。
第3章は、「実際にはどのように機械が仕事を奪うのか」。想像も含めた具体例が紹介されている。「大企業並みの業務を中小企業の人数で」とか「フルタイムの仕事をフリーランスに」といった見出しが並ぶ。「自分の仕事はこれからも本当に大丈夫なのだろうか」と不安を感じ始める人が多いだろう。
第5章までが、第1部の現実編。第2部からはAIと付き合うためのルールだ。ルール1は「意外性、社会性、稀少性をもつ」。専門家へのインタビューで、「現時点で最も高度なAIよりも人間のほうがはるかにうまくできることは何か?」を聞いてまわる。その答えがルール1だ。「明確に定義された静的なルールと一貫したインプットをもつ安定した環境で働く限り、AIは全体として人間よりよく働く」。反対に「想定外の事態に対処したり、ギャップを埋めたり、明確に定義されたルールや完全な情報の欠如した環境で働く場合には、人間のほうが格段にうまくやれる」「スケールの大きな仕事、(中略)世界規模のシステムなどが関与する仕事については、AIのほうが人間よりもずっと得意だ」「その一方で、ありきたりでないスキルの組み合わせや、波乱に富んだ状況、または尋常でない才能がかかわる仕事となると、AIより人間のほうがはるかにうまくこなせる」。
ルール2は「機械まかせに抗う」。「私は長年にわたり、情けないくらい自分の生活を機械に委ねてきた」。ロボット掃除機を使い、Wi-fi接続サーモスタットを買って、自宅の温度管理に利用してきた。メールの返信もGメールで自動生成される応答文(「了解」「それでお願いします」)を使って時間を節約してきた。こうした行動を「機械まかせ」と呼ぶ。これに気づいたのは数年前のことだ。「自分の考えや好みのうち、真に自分のものと言えるのはどのくらいで、機械がもたらしたのはどのくらいなのだろう。私はそんなことを考えるようになった」。アマゾンなどネットショッピングのサイトで買い物をすると、お勧めが表示される。これは「レコメンド」と呼ばれる機能だ。「今やレコメンドエンジンが世界を動かしている」「アルゴリズムによる『おすすめ』が現代の生活のあらゆる部分に入り込んでいるという事実は、今のところほとんど認識されていない」「自分がどんな人であるか、何を望むか、どんな人になりたいか、こうした事柄をレコメンドエンジンが決定する度合いがどんどん高まっている」。この分野に関する著作のあるMIT研究者の言葉だ。
著者は、「過去のレコメンドシステムは時間の節約を目的としていたのに対し、最近のレコメンドシステムは多くが人から時間を奪うことを目的としている」と指摘する。「この種のアルゴリズムは驚くほどの効果をもつ。ユーチューブは、ユーザーがユーチューブに費やす時間の70パーセント以上をおすすめ動画に費やすと発表している」。「機械まかせに抗う第一歩として私が勧めるのは、自分の好みを総点検することだ。1日のうちに自分が下した選択をすべて把握し、それらのうち真に自分で下したのはどれで、機械の指示や誘導に従ったのはどれか判断する。(中略)このリストをいつも手近に置いておこう」。
ルール3は「デバイスの地位を下げる」。著者がスマホへの嫌悪を自覚したのは2018年12月のクリスマスの直前。ニューヨーク・マンハッタンの劇場で妻や友人とダンスシアターの公演を楽しんでいるとき、呼び出し音が聞こえた。いったん無視したが、また聞こえてくる。仕方なく、妻に「トイレ」と伝えて外に出たが、チェックすると意味のないメールやメッセージばかり。ダンスを見損ねたばかりか、心に残る経験をする機会だったはずなのに、と気づいて自分が嫌になった。
著者はこうして「スマホ断ちプログラム」をスタートする。このやり方が実にアメリカ的だ。「スマホを断つ方法」という著書があり、著者にメールを送ってきていた科学ジャーナリストの女性に連絡をとる。それまで、1日5時間から6時間をスマホに費やし、100回から150回もスマホを手に取っていた。「率直に言って、まともではないですね。死にたい気分です」とメールすると、「確かにちょっとすごいですね」と返信がきた。彼女のアドバイスはスマホに輪ゴムをはめること。これには2つの意味がある。輪ゴムは指の動きを妨げる障害になるが、スマホを使うこと自体を妨げない。2つ目は「大事なこと(今、使う必要はあるのか?)を思い出させてくれる」。
ルール4は「痕跡を残す」。ここでひとりの日本人が紹介される。河合満氏。1966年、18歳のとき、トヨタの技能者養成所を経て、愛知県の工場で勤務する若手工員だった。養成所では神様と呼ばれる「熟練工員」のもとで指導を受けていた。そのころ世界最大の自動車メーカーGMでは大型の産業用ロボットの導入が始まっていた。これはジャパンタイムズに紹介された記事だが、彼はロボットとの付き合い方について、反発したり、迎合したりではなく、「機械の支配者となるには、機械に教えてやれる知識と技能を備えている必要があります」と答えている。技能者養成所出身から役員まで上り詰めたのは彼ただ一人だった。ここでは、機械に頼らず、人間性を生かした米国での成功例もいくつか紹介されている。
ルール5は「エンドポイントにならない」。少しわかりにくいが、機械から指示を受けたり、複数の機械をつないだりする仕事が主な役割の人を著者はエンドポイントだという。ビルの警備員が来訪者をセキュリティシステムに登録し、回転ゲートを通過させる仕事、検診で看護師が医療機器の数字を読み取ったりするのはエンドポイントだ。部分的に自動化された仕事の場合、「機械の支援を受ける仕事」と「機械に管理される仕事」の2種類がある。機械に管理される仕事では、仕事の指示や監督のほとんどを機械が行い、人間は機械にはできない仕事をして隙間を埋めるだけだ」。顕著な例として、ウーバーなど業務請負の仕事、アマゾンの倉庫作業員の仕事などを挙げる。最近、大きく増えているこうした仕事は「AIシステムとともに働くというよりも、システムのために働くことが求められる」「実際、機械に管理される従業員を抱える組織はみな、その仕事をいずれ機械に移行したいと考えている可能性がきわめて高い。ということは、機械に管理される従業員は、世界のエンドポイントとして大いに警戒する必要がある」。
エンドポイントの仕事についている人には、「可能なら脱け出す」ことを勧める。それが無理なら「今の仕事をもっと人間味のあるものにして、ツールをもっとコントロールさせてもらえる変更を提案しよう」。これも無理なら「逃げ出す計画を立てるしかない」。
ルール6は「AIをチンパンジーの群れのように扱う」。「今のところ、ほとんどのAIはチンパンジーの群れと似たようなものだ。頭はいいが、人間ほどではない。適切な訓練と監視を受けていれば指示に従うことはできるが、訓練も監視も受けていなければおかしなふるまいをして、破壊的な行動を示すこともあり得る」。「欠陥のあるAIは、社会の主流から外れた人たちに過度の影響をもたらすことが多い。これはアルゴリズムのトレーニングに使う過去のデータソースにしばしばバイアスが含まれていて、そのバイアスがアルゴリズムに取り込まれてしまうからだ」。深層学習のパイオニアの、あるコンピューター・サイエンティストは「有罪判決を受けた重罪犯人の刑期など、人の一生にかかわる重大な判断を下すのにAIを使うことには強く反対する姿勢を表明した」「現在のAIは、そしてさほど遠くない未来に予見されるAIは善悪を判断できるような道徳観念や道徳理解をもたず、この先ももつことはないでしょう。人々はそのことを理解する必要があります」と述べている。
ルール7は「ビッグネットとスモールウェブを用意する」。ビッグネットとは「不意に職を失って打撃を受けた場合に、その衝撃をやわらげることのできる大規模なプログラムや政策」だ。セーフティネットと呼ばれているものだろう。スモールウェブは困難なときに当事者を支援するインフォーマルなネットワーだク。これも著者の造語らしい。
ルール8は「機械時代の人間性を理解する」。大手コンサルタント・アクセンチュア社のテクノロジー責任者の言葉が引用されている。「われわれは人間に機械の仕事をやらせる訓練をしている。しかし、そんなことをするべきではない。人間だけがもつ能力を伸ばす訓練をするべきだ」。AIと自動化の専門家として著者は不安にかられた親たちから「将来に備えるには子どもにどの科目を勉強させたらいいか」と聞かれることが多い。意外性と社会性と稀少性だと確信しているが、いわゆる人文科学がその能力の手立てになるかは自信が持てないと正直に話す。
最後のルール9は「反逆者を武装する」。隠遁生活を好んだアメリカの詩人ソローと、同じ19世紀半ばに生きた組合活動家のバグリーの生き方を対比する。バグリーは労働者の権利擁護のために闘ったが、当時、開発が進み始めていた最先端の電信装置の訓練にも取り組み、新たな職を得た。電信の未来はだれにもわからなかったが、彼女はその可能性にかけ、職を得た。労働運動活動家として名声を得ていたにもかかわらずだ。これが本書の最後のエピソードになっている。
巻末に付録としてルールとその関連リストが掲載されている。ルール3の「デバイスの地位を下げる」では、「一日のスマホの使用時間を1時間半以下にする」。ルール4の「痕跡を残す」では、「毎週1通、手書きの手紙を出す」。ルール8の「機械時代の人間性を理解する」では、「もっと人をほめる」「週に最低一回は昼寝をする」などとなっている。もっと人間性を取り戻そうということなのだろう。最後に参考となる図書リストが掲載されている。全部で17冊。邦訳があるのは約半数。読了してAIの未来に期待し、それを知りつくしていながらも、影の面を深く懸念する著者は非常にまともで誠実な人だという気がする。自分の経験を終始、一人称で書くのにも好感を持った。AIや自動化、労働の未来に関心を持つすべての人に強く一読を勧めたい。