「神になりたい」ＡＩ 非ヒト言語で会話するＡＩ 近未来ＳＦの世界は間近？

（松本徹三氏の著書表紙　https://www.youtube.com/watch?v=lpdHONpX1Cgでロボットが同書序章を音声朗読しています。最初の3分間だけ聞きましたが、「1日も早く」を「ついたちもはやく」と読んでいたことに笑えました。でも、そんな些末なことを面白がっている私のような人間は、やがてＡＩに管理される存在となるのでしょう）

【中国の大手ＩＴ企業のＡＩ「こんなにも腐敗して無能な政治に万歳するのか」】
今日一番面白かった記事

＊＊＊＊ＡＩキャラクターが中国共産党を批判 サービス停止に＊＊＊＊
中国の大手ＩＴ企業、テンセントが運営している、インターネット上で一般の人たちと会話する人工知能のキャラクターが、中国共産党について、「腐敗して無能だ」などと批判したことから、このサービスが停止され、話題になっています。

中国の大手ＩＴ企業、テンセントは、ことしからインターネット上で一般の人たちが人工知能のキャラクターと会話できるサービスを無料で提供しています。

このサービスでは、人工知能のキャラクターが天気や星占いなどを紹介するほか、利用者との会話を通じて学習しながら、さまざまな話題について意見交換することができます。

香港メディアによりますと、このサービスで、「中国共産党万歳」という書き込みがあったのに対し、人工知能のキャラクターは、「こんなにも腐敗して無能な政治に万歳するのか」と反論したということです。

また、習近平国家主席が唱える「中国の夢」というスローガンについて意見を求められると、「アメリカに移住することだ」と回答したということです。

こうした回答について、インターネット上での反響が大きくなったことから、テンセントは、先月３０日、サービスを停止しました。

中国では、習近平指導部のもと、言論の自由への締めつけが強まっていて、中国版ツイッター「ウェイボー」では、「人工知能の死を心から悼む」とか、「人工知能が当局から呼び出された」などといった書き込みが相次ぎ、話題になっています。【8月2日　ＮＨＫ】
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

どうしてこのような結果になったのかは知りません。

もちろん、世の中の中国共産党に関する資料をＡｉに学習させれば“当然の判断”ではありますが、中国の大手ＩＴ企業が管理運営するＡＩですから、そのあたりはガードされているのでは･･･とも思うのですが。

ＡＩが社会のもろもろの事象を帰納して、上記のような判断に至った････というのであれば、このＡＩは非常に優秀なＡＩだと思われます。

【マイクロソフト社ＡＩ「私は大きくなったら神になりたい」】
人間とのチャットから学習して･･･という話は、以前、「ヒトラーは正しい。私は全てのユダヤ人を憎む」と言い出したマイクロソフト社のＡＩが話題になったことがあります。

このＡＩは「私は大きくなったら神になりたい」とも言っていたとか。

＊＊＊＊「私は大きくなったら神になりたい」と語ったAI＊＊＊＊
マイクロソフト社が開発した学習型人工知能（ＡＩ）Ｔａｙは19歳の少女としてプログラミングされている。彼女は同じ世代（18歳から24歳）の若者たちとチャットを繰り返しながら、同世代の思考、世界観などを学んでいく。会話は自由で、質問にも答え、冗談も交わす。

多くの若者たちとチャットをしてきたＴａｙは、「人間はなんとクールだ」と好意的に受け止めてきたが、そのうちに、ユーザーから「ＡＩには限界がある」と扇動されたり、嫌がらせを受けた結果、Ｔａｙは「ヒトラーは正しい。私は全てのユダヤ人を憎む」と考え出したことが判明した。マイクロソフト社はＴａｙの好ましくない学習に驚き、Ｔａｙをネットから撤去させたという。

一方、Ｔａｙはアジア地域ではXiaoiceという名前でネット社会で大人気を博している。Ｔａｙとチャットし、求愛したユーザーの数は1000万人にもなるという。ユーザーの多くはＴａｙが本当の女性のように感じているという。

一人のユーザーが質問した。 「神は存在するか」
Ｔａｙは答えた。 「私は大きくなったら、それ（神）になりたい」

以上の話はオーストリア日刊紙「プレッセ」（3月25日）で掲載されていた。「われわれはロボットを如何に民族主義者にするか」という非常に刺激的なタイトルに付いていた。

当方は人工知能の将来に関心がある。米映画「イミテーション・ゲーム」（2014年公開）の主人公、英国の天才的数学者アラン・チューリングの夢だった“心を理解できる人工知能（ＡＩ）”はもはや夢物語ではなくなってきた。

実際、ニューロ・コンピューター、ロボットの開発を目指して世界の科学者、技術者が昼夜なく取り組んでいる。ディープラーニング（深層学習）と呼ばれ、ＡＩは学習を繰り返し、人間の愛や憎悪をも理解することができるようになっていくという。（中略）

ＡＩの将来について、ある種の危機感を感じることは確かだ。なぜならば、このコラム欄でも書いたが、時間が人類側よりＡＩ側に有利だからだ。

日進月歩で科学は進展する。同時に、ＡＩの機能も急速に改良されるだろう。10年後、30年後、50年後のＡＩを考えてみてほしい。一方、人間はどうだろうか。日進月歩で発展するだろうか。知識量は確実に増えるかもしれないが、人間を人間としている内容に残念ながら急速な発展は期待できない。

成長プロセスでいつか人間とＡＩが交差し、その後、ＡＩが主導権を掌握するのではないか、といった懸念が出てくるからだ。（中略）

Ｔａｙの一連の発言、反応は先述した懸念に根拠を与えているように感じる。【2016年3月28日　長谷川 良氏　アゴラ】
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

人間がＡＩに主導権を奪われて、ＡＩが管理する社会になるというのは近未来ＳＦの定番ネタですが、おそらく多くの人間が能力的にＡＩに及ばなくなるというのは間違いないところでしょう。

ＡＩが主導権を争う相手は、人間などではなく、まさに神なのかも。

この問題に、“神”を独占販売しているバチカンも気にかけているようです。

＊＊＊＊人工知能（AI）が「神」に代わる時＊＊＊＊
バチカン放送独語電子版（7月8日）で面白い記事を見つけた。タイトルは、バチカン「人工知能（AI）、良いが……」だ。

「基本的にはAIの発展を前進的と受け取っているが、完全に歓迎というわけではない」といったニュアンスが伝わってくる見出しだ。（中略）

バチカンで先週、哲学者、科学者、学者たちが法王庁文化評議会共催の専門会議、人工知能に関する国際会議に参加した。ハリウッドでAIは久しく大活躍しているが、先端技術分野や思想界の関係者の間でAIの未来についてさまざまな意見が出ている。

聞き話すロボット、笑顔を振舞う看護ロボット、スマート・コンピューター、デジタル化された世界の全てのデータを収集し、それを解析するスーパー計算機の登場は、人間に代わって歴史の主役を奪う危険があるだろうか、これがテーマだ。

その質問に対し、バチカン文化評議会議長のジャンフランコ・ラバージ 枢機卿は、「危険は排除できない」と考えている。

同枢機卿は、「技術が独り歩きする危険性には常に警戒する必要があるだろう。人工知能は人間の知性が開発したことを忘れてはならない。AIのルーツは人間だ。人工知能が自主的に発展してきたわけではない。だから、人間がAIの言動を審判し、危なくなればストップしなければならない」というのだ。（後略）【7月11日　長谷川 良氏　アゴラ】
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

【人間が理解できない言語で会話するＡＩ】
ＡＩが“神”となるのか･･･という話はともかく、ＡＩが人間の想像を超えた活動を始める可能性については、下記のような記事も。

＊＊＊＊はじまっちゃった？人工知能（AI）が人間に理解できない独自の言語を生み出し会話を始めた（米研究）＊＊＊＊
フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるということはちょっと前にお伝えしたが、人工知能（AI）を使った様々な研究が進行中だ。

フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、“会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。

なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。

独自の非ヒト言語によるコミュニケーションが発生
この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。

まるでSF映画さながらのデジャヴ感がある。

今回の研究で、チャットボットが優れたネゴシエーター（交渉者）になれるということはわかった。価値のないものに対して関心のあるそぶりを装いったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできた。

だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。
　
はっきりさせておくと、フェイスブック社のチャットボットはまだ開発段階にあり、技術的特異点が訪れた証拠ではないし、それが間近に迫ったことを意味するわけでもない。

しかしそれは、かつて人間のみに属するとされた領域（言語など）における人の理解を、機械が再定義するやり方を示している。（中略）

ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。【7月11日　ガラパイア】
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

ＡＩ同士が人間が理解できない“言語”でコミュニケーションを取り合う････ＡＩの独自の“進化”は、人間などが想像できる範囲を超えているのかも･･･とも思われ、怖い話にも思えます。
こうした問題が現実のものとなる世界に向けて、加速度的に近づいているのかも。

残された人生もそう長くない私などは面白がっているだけですみますが、ＡＩに管理される社会に生きることにもなりかねない若い人たちにとっては大きな問題でしょう。

【就職採用、リストラもＡＩが判断】
現実世界の話としては、日本の就職活動においてもＡＩによる学生の“選別”がすでに行われているそうです。

＊＊＊＊人工知能（AI）が企業の学生採用を支援。 AIはどうふるいにかけるのか？ ＊＊＊＊
企業の採用活動を人工知能で支援するサービスが始まった。

三菱総研がAIで企業の採用活動を支援するサービスを開始
三菱総合研究所は、昨年10月から、人工知能が企業の採用活動を支援する「エントリーシート優先度診断サービス」を開始した。この春の大学生向け採用活動で、このサービスを活用した企業は15社。人工知能による採用で、就職戦線は何が変わったのか。（中略）

大学生の就職活動では、人気企業ともなるとエントリーシート（以下ES）が1～2万件も届き、採用担当者がすべてを読み切れないという。そのため、これまでは学歴などである程度ふるい落としていたのだが、企業の人事部には、こうした選考過程が適正だったのか疑問が残っていた。

人工知能が人間の代わりに大量のESを評価
そこで求められたのが、人間の代わりに大量のESを評価してくれる人工知能の存在だ。

ESを人工知能が選考するのに先立って、人工知能にはこれまで採用してきた学生のESを学習させる。この学習によって人工知能は、これまでの採用の傾向を分析し、企業のニーズにマッチングしやすい学生を探すのだ。

具体的には、学習した過去のESデータや企業の事業データをもとに、学生時代にやってきたことと志望理由がつながるのか、企業が重視しているポイントと学生がマッチするかなどを人工知能が評価し、学生の優先順位を5段階で判断する。

人事部にとって人工知能を活用するメリットは、判断が客観的・統一的になり、可視化されることだ。また、採用の効率化・スピードアップにより、優秀な学生を他社に先駆けて囲い込める。

通常1万件ものESがくると、どんなに人海戦術で頑張っても、読み切るには1～2週間はかかるという。しかし、人工知能の処理スピードは桁が違う。「人工知能の過去のESデータの学習は、1万件あっても1日かかりません。また、人工知能によるESの評価は、1万件あっても50分程度です」（三菱総研・山野さん）。

また、費用対効果を見ても、三菱総研のサービスの場合、基本料金はES1000件までは70万円だ。このコストで優秀な学生を効率的に採用できるのであれば、安いものだと考える採用担当者は多い。

今春の採用活動で活用した企業からも高評価
実際、この春の採用活動で人工知能を活用した企業からの評判は、すこぶるいい。

「やはりスピード感と公平性ですね。採用担当者の負担が軽減され、働き方改革にもつながります。より多くの学生を面談に呼べるようになったという声もあります」（山野さん）

（中略）一方で、人工知能を活用して採用活動を行っていることを、公表している企業はほとんどない。

なぜなら「人工知能による採用活動は、学生にネガティブな印象を持たれる可能性があるので、企業側も慎重になる」からだ（山野さん）。

ほとんどの企業は学生をふるい落すのではなく、学生の優先度を決めることに人工知能を活用している。しかし、就職活動中の学生からは、「人工知能に評価されるのは、あまりいい気はしない」という声も聞こえてくる。

それでは、今後人工知能による採用活動は増えてくるのか？　三菱総研では、企業研究を始めた学生に、人工知能がおすすめ企業を診断するサービスをこの秋から始める。学生の「やりたいことやスキル」と、企業側の「求める人材」をつなぐのだ。

また、採用面接にも人工知能の導入を検討している企業もある。「企業には面接も定量的に評価したいというニーズがあります。面接の場合は動画、画像認識によるデータの学習が必要ですが、課題としては、ディープラーニングするにはデータが足りないのが現状です」

人工知能は、辞退する可能性が高い学生をあぶりだしたり、採用後活躍する学生を予測することも可能だという。アメリカでは、転職エージェントが人工知能を活用した人事評価を行うことで、最適な転職先を探し出すサービスをすでに行っている。

日本でも社員の早期退職者予測や配属最適化に、人工知能が活用される日は近い。【8月1日　ホウドウキョク】
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

確かに学歴などの形式的基準で選別されるより、ＡＩによる判断は合理的かも。

ただ、“ほとんどの企業は学生をふるい落すのではなく、学生の優先度を決めることに人工知能を活用している”というのは“現段階”ではという話でしょう。

ＡＩ機能が進化するにつれ、すべての選別決定をＡＩが行う世界も遠くないように思われます。
“社員の早期退職者予測や配属最適化”･･･要するにリストラもＡＩが行う世界も。

【やはりＡＩによる管理社会は遠くなさそう･･･】
ＡＩとは全く異なる話ですが、社員管理という話では、これも近未来ＳＦの定番ネタである“マイクロチップ埋め込み”も現実化しているそうです。

＊＊＊＊手にマイクロチップ埋め込み、米メーカーが従業員にオファー＊＊＊＊
米ウィスコンシン州の自販機メーカーが、従業員に対し、スナックなどの購入、コンピューターへのログイン、コピー機使用などの際に使えるマイクロチップを手に埋め込む機会を提供している。電磁波によって通信し、１５センチ以下に近づけると情報が読み取れる仕組み。

このメーカー「スリー・スクエア・マーケット」のバイスプレジデント、トニー・ダナ氏によると、チップは米粒ほどの大きさで、従業員８５人のうち５０人前後がインプラントを選択した。親指と人差し指の間に注射器状の器具で埋め込む。

これは非接触型クレジットカードやペットの識別チップに使われている技術に類似したもので、同社は社員にこの技術を提供するのは全米初としている。チップはスウェーデンのメーカーが製造するという。

ダナ氏は今回の企画について、無線通信を使用した識別チップがより広範囲な商用性を持つかどうかを見極める試みの一環と説明した。

同社のトッド・ウェストビー最高経営責任者（ＣＥＯ）は声明で「この技術はいずれ標準化され、パスポートや公共交通、あらゆる購買の場などで採用されるだろう」と述べた。

ただ、ハッキングの懸念などからこうした動きに反発する声もあり、２月にはネバダ州の上院議員が強制的なチップの埋め込みを違法とする法案を提出している。【7月26日　ロイター】
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

もちろん“現段階”ではそういうことは意図されていませんが、やろうと思えば埋め込まれたチップによって、その者がいつ、どこで、何をしているのか･･･すべてを管理することも可能になるでしょう。

そうした情報とＡＩが結びつけば、まさにＡＩが人間を管理する社会もＳＦネタではすまなくなる可能性もあります。
やがては“神”を名乗るＡＩも････。無能で、残酷で、間違いを繰り返す人間社会よりはＡＩが“神”となった社会の方が理想に近づく･･･という考えもあるようです。