近未来シミュレーション（２）個人格付編

　2月21日のNHKクローズアップ現代＋は衝撃的な内容だった。まずは中国で進む個人信用格付。通販大手のアリババが運用するゴマ信用だ。買い物やローンの履歴を始め、アリババのシステムが把握するさまざまな個人情報からAIがその人の信用度をスコア化し格付する。スコアが高いと病院の予約が優先されたりというさまざまな特典がある。「私は何点よ、あなたは何点？」などという会話が普通に行われている。ビジネスパートナーの信用度をチェックするだけでなく、結婚相手探しに利用されたり、友達関係にも響いてくるようすが番組ではリアルにレポートされていた。

　番組によれは、中国でこのようなシステムを人々が急速に受け入れている要因には、個人の信用がこれまでは有力者にコネがあるかどうかに大きく依存していたため、そのようなものがない人にも客観的な評価が得られるという利点があるのだという。

　これは私の中国での経験に照らしてもそうだろうなと思う。中国は経済発展が離陸する中で、共産党の関係者・親族に特別に有利なチャンスを提供した。例えば官舎をタダ同然で払い下げたり、郷鎮企業という地方の公営企業を個人に払い下げたりした。そのような人々はその後急速に資産家や企業家となり富裕層を形成した。そのようなコネのない人はそれを指をくわえてみているしかなかった。私たちが訪問したある村の元郷鎮企業の繊維工場の社長の自宅はまさに御殿だった。大学の教授たちは、マンションの部屋を売ったり買ったりの不動産情報の交換に余念がなかった。

　共産党にコネのない一般庶民は自力で豊かになるしかない。スタート時点ですでに大きな格差があるわけで、急速な経済発展によって全体が豊かになりつつも、格差がますます拡大していく社会である。庶民の不満は蓄積している。

　そのような事情の中で、アリババがつける信用スコアは人々に自らの社会的な地位を上げるチャンスを提供するものとして受け入れられているのだと思う。

　しかしながら、一方で中国政府もまた社会信用システムというものの導入を進めている。これは人民一人一人の社会・国家に対する信用度をスコア化し管理するもので、国中に張り巡らされた顔認証機能つきの監視カメラで人々の行動を常に監視し、例えば自転車を正しく駐輪場に停めたかどうかなど、微に入り細に入り把握しスコア化する。鉄道で迷惑行為をした人は、スコアによって切符が買えなくなる。スコアの低い人は名前が公表される。

　実はこういう人物調書的なものは中国には昔からある。中国では企業でも役所でも共産党支部があり、そこでは「档案」と呼ばれる一人一人の個人調書が取られている。これは、党支部が管理していて本人は決して見ることができないもので、日頃の行動や思想傾向などが書きこまれ、待遇や昇進などに影響するのである（張、2013)。社会信用システムは企業などの枠を超えて全人民を一律に管理する「デジタル档案」と言えるだろう。

　しかも中国政府はこのシステムの構築をアリババの関連企業と進めている。つまり、アリババのゴマ信用と政府の社会信用システムは一体化する可能性がある。そうなれば、せっかく共産党との関係の遠近とは無関係に個人の信用が評価されると思ったら、実は最も強く共産党の監視・管理を受けることになるという、皮肉な結果になりそうである。

　番組ではさらに日本の事情について取り上げていた。みずほ銀行は個人の信用スコアに基づいて貸出限度額と金利を決めるシステムを導入した。J・Scoreである。一見お金を借りるのとは関係ないような細々した質問に答えることで、スコアが算出され、スコアが高いほど多額のお金を安い金利で借りることができる。このシステムの特徴は、スコアを上げるにはどうすれば良いか、システムが教えてくれるということだ。一見関係ないような多様な事柄をビックデータとして「えいやっ」と経験的に結び付ける、というのがAIの得意とするところである。番組で取り上げられていた例では、散歩をしたり推薦図書を読んだりすることをシステムが推奨し、それに従うことでスコアが上がるという。

 

　現代の人間は評価に弱い。評価が高ければ有頂天になり、評価が低ければ生きる意欲さえ削がれてしまう。戦後の日本では例えばテストの偏差値という「格付け」があった。それが学歴を決め、その後の人生も決めてしまう側面があった。今日の信用スコアは学力だけでなく、その人の人格丸ごとを評価するものになる。そのスコアが社会生活に直接影響してくる。スコアが高ければ優越感を感じ、低い人は劣等感を持つ。私たちは自分のスコアの上下に一喜一憂し、確実にそれに囚われてしまうだろう。心の内側からAIに支配されることになる。

　私が衝撃を受けたのは、このようにAIに人々の心が支配される状況は、もう少し先の近未来だろうと思っていたら、すでに現実のものだったからだ。時代の加速度には驚くべきものがある。

 

　しかし、冷静に考えてみると、それほど評価というのは必要なものだろうか。私は教員として学期末に学生の成績を評価しているが、これは学生に一定の年限の中で一定の教育目標を達成させて卒業させるというのが大学という組織の存在意義だからだ。しかし、学生の人生にとって、今この瞬間に、誰かに決められたレベルの知識や成果を達成することに、どれほど意味があるのだろうか。好きなことを集中してやればそのうち成果が出るだろう。そうでもないことを、成績がつけられるからという理由でエネルギーを注ぐのはムダではないか。そう思うと成績評価というのは大学という組織を維持・運営するために必要なのであって、学生個人にとってそれほど必要なものとは思えないのである。

　アリババの信用スコアは、中国経済の隅々にまで支配力を張り巡らした巨大企業アリババという組織を維持・運営するために最も必要とされるのではないだろうか。中国政府の社会信用システムは、経済発展が減速した時に、庶民の不満が爆発しないように人々を抑えつける力として必要とされているのだと思う。

　つまり、AIに支配されるということは外見であって、その本質は、人間が当の人間が作りだした組織や制度にがんじがらめに支配されるという矛盾である。すでに150年も前、資本主義の黎明期にマルクスが記述した「疎外」の現代的な形態と言えるだろう。

 

　人間を成長させるのは、評価ではなく、見守りであり励ましである。評価を受けるというだけで人間は緊張し萎縮しその力を十全に発揮できない。また自分の評価が高いということ励みにして生きていると、病人や障がい者など、信用スコアが上がりようのない人の存在が目に入らなくなってしまうだろう。また自分の評価が下がった時に（そういうことは年齢を重ねれば必ずやってくる）生き続けていくことができなくなる。人生に成功も失敗もない。皆がそれぞれに輝き、そのことで私自身も幸せに生きていくためには、むしろ他の人を一切評価しないという態度が大切だと私は思う。

　今後、社会生活をする上で、私たちは信用スコア・個人格付けと無関係には生きられないだろう。その上でなお、スコアに心を支配されないでいることができるか。本当の人格が試される時代になったのである。