AIは人種的偏見を持っている？

Diamond onlineに興味深い記事が出ていた。それは「AIの判断は人種差別的」米調査に見るAI人事選考の危険性」という記事である。これはアメリカのFBIなどの司法当局が使っているAIで逮捕されて刑期を終えた人物の再犯可能性を評価しているものである。このような予測は完全なことはあり得ないので、「再犯しないと予測したが、実際には再犯した」という間違いと、「再犯すると予測したが、実際には再犯しない」という間違いとを起こす。これを人種別に分析すると白人に対しては前者の間違いが多く、黒人に対しては後者の間違いが多かったという。但し、このAI予測のデータとして人種は用いられていらず、出身地域、学歴、年収等と犯した罪がセットになっているようである。

記事は、「AIは人種差別的判断をしている」と結論付けている。従って就職のエントリーシートの振り分けにAIを使うことは注意しなければならない、と結んでいる。さて、皆さんは「AIは人種差別的判断をしている」と思われるだろうか？

私は全く賛成しない。人種情報は入力されていないのだから、AIは人種差別をしている訳ではない。ただ、人種差別的結果が出たということも事実なので（おそらく十分なデータをそろえたと思われる）、黒人のほうが「客観的に見て再犯率が高いと思われる属人的データ」を持っているということだと思う。本来はAIに対して間違いがあったという結果のフィードバックをかけて、その結果としてAIのアルゴリズムが修正されていくはずだと私は考えている。

このDiamond onlineの記事を書いた人物は文科系のようだが、元になっている論文は元マイクロソフトの社員が書いているそうなので、AIの素人とは思えない。しかし、論文を出す前に、「AIは人種差別的判断をしている」ように見えるのはなぜだろう？、と深く考察するのが本来技術者のあるべき姿だと思うのだが、著者の意識はどうだったのだろう？。あるいは論文を書くことで広く一緒に考えてくれる人を求めたのかもしれない。

先日書いた囲碁のAIでも二つの異なるAIが異なる形を好み、両方が正しいことはあり得ないのでどちらかが間違っているのだが、間違った状態でAIの学習が安定してしまうことは実際に起こっている。この「犯罪AI」の場合も色々な試行錯誤（例えば学習させるデータの順番を変えるなど）してみると様々な知見が得られるはずだと私は考えている。

現在は、AIが出した結論に対して「なぜそのような結論が出たのか？」は分からないことになっている。しかし、Deep Learningの奥のほうのレイヤの動きを観察して、その動作を言語化することは原理的には不可能ではなく、いつかはできるものだと思っている。それができれば非常に大きな価値を生むだろうと思う。

憲法論議について思うこと

衆議院選挙で与党が引き続き全体の2/3の議席を確保したことで憲法論議の話題が増えてきている。私は基本的に憲法の見直しに賛成なのだが、自民党に対しても、野党に対しても、メディアに対しても進め方には違和感を持っている。

それは、「どこをどう改正するか」という具体論がさっぱり見えてこない点である。具体論としてこれまで挙がっているのは安倍総理の「自衛隊明記」くらいである。野党とメディアは自分の意見は一切言わないで「自民党案が出てきたらその文言にケチをつけよう」という態度に見える。自民党は内部で議論しているのだろうが、その内容は一切出てこない。

私は「議員AはX案が良いといった」「議員BはY案が良いといった」ということをリークして、国民の中での憲法論議を盛り上げるのが良いと思っている。その結果としてどの案も全体の賛同を得られなかったとしても、十分な前進だと思う。この問題は国民にプロセスを隠して議論して「賛成か反対か？」を問うような問題ではないと思っている。

私個人の意見としては、問題は「戦争放棄」だけではない、と感じている。例えば「誰が国民か？」というようなことは国の根幹をなす考えだと思うが憲法上明記されていない。数年前に選挙権が20歳以上から18歳以上に引き下げられたが、「誰に選挙権を与えるか」という問題を通常の法律で定義してよいものだろうか、と感じている。通常の法案で選挙権年齢を引き下げられるということは、引き上げることも可能だということである。選挙権のありかたを過半数の議席を取った政党が変えて良いものだろうか？

より具体的な問題としては、「18歳以下の子供に選挙権を与えなくてよいのか？」という気持ちを持っている。中学生以上に選挙権を与えたってよいではないか、と私は感じている。親の意見が強く影響するだろうが、それでも良いと思っている。あるいは選挙権を年齢で切るのが適当かどうか、という疑問もある。日本人の義務は憲法に明記されていて、納税、勤労、教育である。このどれも果たしていない人でも選挙権を持っていて、若いというだけですべての義務を果たしていても（教育は無理だろうが）、選挙権を持たない人もいる、というのはどうなんだろう？と感じている。

憲法というのは日本のビジョンと強くつながっている。野党やメディアのように憲法論議をしたら損か得か、というような判断で議論をするのではなく、「日本はどうあるべきか？」というような観点で議論を活性化するのが重要だと思っている。

現代の中国とローマ帝国

5年に一度の中国の共産党大会が終わって習近平国家主席の独裁体制が明らかになってきた。私にはこの動きが共和制から帝政に移行した時期のローマ帝国と重なって見える。ローマ帝国は紀元前8世紀に王政からスタートしたがすぐに共和制に移行した。その後紀元前数十年の頃に帝政に移行している。帝政の基礎を作ったのはカエサル（シーザー）であり、実際に実行したのはオクタビアヌスである。その後476年に西ローマ帝国が滅びるまでがローマ帝国の時代と言えるだろう。カエサルの頃のローマは地中海沿岸全体を領土とする巨大国家になっていた。多くの周辺国家と小競り合いが続いており、政治交渉も間断なく続いている。それを全体を俯瞰して判断する人物が必要だと判断してカエサル、オクタビアヌスが「皇帝」という地位を定義して、独裁体制を作り上げた。帝政に移行してからもローマは「元老院から皇帝が指名される」、という形を残しており、世襲制にはしていない。元老院が中国共産党幹部、習近平が皇帝という位置づけと重なって見える。

現在、世界のほどんどの国は選挙を採用する議会制民主主義を採用しているが、習近平国家主席は「中国流の統治の仕組みでやる」と宣言している。中国共産党の幹部も、元老院メンバーも選挙で選ばれるわけでは無い。ローマの場合はローマ市民の中から家柄や納税額などをベースに選ばれており、その中から皇帝が選出される。中国はローマ帝国の仕組みを詳細に研究していることは間違いないだろうと思う。

ローマ帝国の歴史を見て感じることは、皇帝の良し悪しで国の状態が大きく変わることである。ローマ皇帝の半分くらいは任期途中で暗殺されている。そして、暗殺の首謀者が次の皇帝になるわけでは無く、別途人気の高い人物（特に軍に人気のある人物）が推挙されている。ローマ帝国は曲がりなりにも400年以上続いたが、良くないトップを排除する仕組みを作らない限り、中国の体制は長続きしないだろう。習近平の粛清にはこの意味もあると思うが、トップを変える仕組みではない。そこを共産党内でどういう議論がされているか、知りたいところである。

世界の大部分の共産党政治が破たんしたのに、中国の共産党がここまで成功してきているのは人材育成の仕組みができているからだと思う。ある中国人に聞いたのだが、中国共産党の人事評価は、上司、同僚、部下と関係者すべての意見を聞いて総合的に評価する「360度評価」を徹底しているとのことである。別の中国人の人からは、候補者を絞るのは360度評価であるが、その中で誰を選ぶかは上司の恣意的な判断が大きく影響しているそうである。両方が真実だろうと思う。共産党員は30代、40代で地方の村長や市長になって人民のために尽くすことを徹底的に叩き込まれるそうである。ヨーロッパの「ノブレス・オブリージェ」に相当する精神がここで培われるのだろう。それでも権力を手にすると、賄賂を贈って儲けようとする人は後を絶たず、腐敗は必然的に進むと思われる。パナマ文書に習近平の親戚の名前が出ていたという話もあり、習近平の腐敗撲滅運動がどこまで実際に効いているのかは不透明だと思う。

民主主義にも多くの問題がある。私は民主主義が絶対だとは思っておらず、中国が今後どのように進むのかに関しては大きな興味を持ってみている。ここまでは中国共産党は全体として非常にうまくやっていると思っており、おそらく習近平の時代は大丈夫だと思っているが、その次に引き継ぐときに、何が起こるかが興味深いと思っている。その頃には自分は認知症になっているかもしれないが・・・

 

人間の知恵とAIの知恵ーアルファ碁から考える

囲碁の分野でグーグルが開発したアルファ碁が人間を超えたことは既に有名である。そのアルファ碁は今年の初めに世界のプロ棋士の強豪を相手に60連勝以上して、その後世界最強と言われる中国の棋士に3連勝した後は「もう人間とは対戦しない」と宣言していた。そのアルファ碁が最近Alpha Go Zeroというのを開発して更に進化した、と発表した。

これでグーグルの開発したアルファ碁はAlpha Go Lee、Alpha Go Master、Alpha Go Zeroと3バージョンになった。Alpha Go Leeは昨年春に韓国のトップ棋士を4勝1敗で破って人類を驚かせたバージョン、Alpha Go Masterは今年の初めに世界のプロ棋士を総なめにしたバージョンである。これらは人間の棋譜を与えてある程度強くした後で、コンピュータ同士の強化学習で強くしたものである。そしてAlpha Go Zeroは人間の棋士の棋譜を与えず、コンピュータ同士の対戦のみから学習させたバージョンである。Alpha Go ZeroはAlpha Go Leeに100戦100勝、Alpha Go Masterには100戦90勝程度だという。そしてバージョンの異なるアルファ碁同士の対戦の棋譜を公開した。それが「棋譜う」というサイトにいくつかアップされている。

棋譜を見るとAlpha Go ZeroとAlpha Go Leeの間にははっきりとした実力差があることが分かる。Alpha Go ZeroとAlpha Go Masterの実力差は私には分からなかったが、結果としてはAlpha Go Zeroがほとんど勝っている。過去の人間の知識が、最適解を見つける際の妨げになっていることが分かる。

Alpha Go ZeroとAlpha Go Masterの対局では「アルファ碁定石」とでも呼べるような同じパタンが何度も出てくる。アルファ碁は次の候補手を得点化して最も得点の高い手を選んでおり、点差が小さいときには乱数を使って着手を選んでいるはずだから、同じパタンが繰り返し出てくるということは、他の手との得点差があるということだろうと思う。

興味深いのは白がA、黒がBという形になる定石が出来た場合に、Alpha Go Zeroは白でも黒でもAの形を選び、Alpha Go Masterは白でも黒でもBの形を選んでいる点である。つまりAlpha Go ZeroはAが有利、Alpha Go MasterはBが有利と考えているようである。学習は通常、初期段階では乱数の要素を大きくしていろいろな手を試し、成熟してくると乱数の要素を小さくするものだから、学習は相当に成熟段階にきていると見てよいだろう。

このことから、過去の人間の着手はかなり良い着手ではあるが、最善ではない。そして、かなり良い手であるがゆえに、Alpha Go Masterは人間の呪縛から抜け出せない、ということだと推測している。

一般的な人間の常識にもこのようなことが多々あり、これからコンピュータに教えられることが増えてくるだろうと思う。

グーグル・ホームのトラブル

グーグル・ホームを購入して問題があったことを2度ほど書いたが、今回解決し、どうやらバグのように思われるので、購入を考えておられる方のために経緯を整理しておく。

グーグル・ホームの実用的な使い道は「便利な音楽プレーヤー」である。そのためにグーグルはGoogle Play musicが3ヵ月無料で使えると案内している。ところが購入してしばらくすると音楽がかからなくなった。話しかけても「済みません、エラーが起きました」というばかりである。グーグルに連絡すると「最初の2週間は無料だが、それ以降は支払い方法を登録しないと使えない」という。やり方を教わって登録したのだが依然として使えない。

そこで再びグーグルに連絡するとGoogle HomeのチームとGoolge Play musicのチームでたらいまわしにされた。最後は「しばらく時間をください」と言われて2-3日して、Google Play musicを3ヵ月無料で利用するための暗証番号が送られてきた。それを登録すると使えるようになった。これから3か月無料で使える。

問題は、Google Homeを設定するときに使うスマートフォンが私のはAndroidではなくiPhoneであることに関係しているようで、iPhoneユーザがグーグル・ホームを購入すると私と同じような問題に遭遇する可能性がある。解決策は既に出ているので「たらいまわし」は無く、一度で解決すると思うが、気を付けたほうが良い。今回のGoogleには3つの問題点があった。

一つ目は、2週間で使えなくなることを言わずに、「3ヵ月無料」だけを謳っている点である。これはある種のビジネスルールの違反である。二つ目はGoogle HomeとチームとGoogle Play musicのチームで連携が取れておらず、たらいまわしにされた点である。私は別の会社にそれぞれのクレーム対応業務をアウトソースしているのではないか、と想像している。三つめはソフトウェアのバグである。おそらくグーグルホームのクラウド側のサービスソフトに問題があったのだろうと思う。私の場合には「特別な暗証番号を送る」という対応をしたが、無条件に3ヵ月無料にするのが最も簡単なのでその対応になるかと想像している。

今回、私はグーグルに対して腹を立てたが、自分の中で「グーグルはハードビジネスに慣れていないから仕方がないか」と許す気分になっている。これは私が日頃、「グーグルにはお世話になっている」と感じているからではないか、と自己分析している。Appleがこのような問題を起こせば私の怒りははるかに強いだろうと思う。

今回の対応で良い点もあった。話がこじれてくると電話での対応を求めるのだが、通常の電話の対応番号では「タダイマコンザツシテオリマス。シバラクオマチクダサイ」といって長時間電話口で待たされることが多いのだが、グーグルの場合には、電話番号を登録すると、向こうからかけてくる。最初は音声ガイダンスなのだが、すぐに人につながる。これは他の企業でも導入してほしいものだと思った。

グーグル・ホームの使い方として便利だろうと思う実際的な機能は「テレビの録画予約」である。これが音声でできると便利だろうと思う。こういった機能はアマゾンのエコーのほうが得意そうに思う。おそらくAlexaのスキルとして登録されているのではないかと思う。テレビの調子が悪くなってきているので、こういった機能付きのAIテレビを早く発売してほしいものだと思っている。

 

日本企業の生涯賃金ランキング

東洋経済が調査した「生涯給料全国トップ500社ランキング」というのが発表されている。調査方法は発表されている従業員の平均年収と、業界毎に厚生労働省が算出している賃金カーブモデルをあてはめ、22歳から60歳まで働くとして算出したものである。

トップレベルにはM&A関連企業などが来ているがこれはおそらく38年間も働けないような企業だろう。一般企業で言うと、大手商社、製薬会社、海運が上位で多く、化学系がこれに続く印象である。

個別ではキーエンス、ファナックといった優良企業に交じって朝日放送とWOWWOWが上位（20位以内）に入っているのが意外だった。他の放送局はベスト500に含まれていない。放送関係ではこの2社が特に良いとも思えない。また、日本を代表する産業である自動車産業がベスト500に殆ど入っていない（日産といすゞだけ）。トヨタなどは平均賃金も高いといわれているので何かおかしいのではないかと感じた。また、銀行もほとんどベスト500に含まれていない。電機業界で言うと比較的賃金が高いといわれていたパナソニックはNEC、富士通よりも下の480位である。

業界で海運が上位にたくさん入っているのは意外だった。海運業界は海運不況と言われたように景気が良いわけでもない地味な業界である。これは、この業界では自動化が進んでいるということかと思う。船のコンテナは人力で運べる大きさではないので、早くから自動化されている。一度に運ぶ荷物の量は多く、それだけ付加価値も大きいのだが、それを少ない人数でもなしている、ということなのだろう。

自動車業界が入らないのは意外だが、ひょっとして技能者の統計への入れ方に違いがあるのではないかと思っている。多くの会社では工場などは子会社にして給与体系を低く抑えている。本体でも年配者になると子会社に転籍させて給与を抑えることはよくある話である。厚生労働省の賃金カーブモデルは本体の給与体系だけを対象にしていて、自動車業界は工場労働者も本体の一部としてカウントしているので高齢者の賃金が低く見えているのではないか、という私の想像である。

このデータだけでそれほど多くのことが分かるわけではないが、眺めていろいろ想像することはできる、面白い情報だと思う。