AI技術の進化で変わる社会 中国は対話型AIの使用停止 AIを政治に利用する国も 現実先行の軍事面

（チャットGPT　アメリカ社会では様々な分野で議論が始まっている【3月1日　Newsweek「チャットGPTは、アメリカ社会をどう変えるか？」】）

【急速に拡大する対話型AIサービス】

最近、対話型人工知能「チャットGPT」に関するニュースを頻繁に目にします。

チャットＧＰＴ、まるで人間の文章　脚本づくり・新薬開発・半導体設計も視野【2月14日　日系メディア】

人工知能を使った自動応答ソフト「チャットGPT」 トランプ前大統領に関する回答を拒否【2月14日　ABEMA TIMES】

SF雑誌にAIチャットボット作品殺到、500人以上を投稿禁止に【2月23日　AFP】

「あなたを愛している」　ChatGPT搭載ビングとの奇妙な会話【2月26日　日系メディア】

「チャットGPT」とは、米国の新興企業オープンAIが開発した人工知能型チャットボット（自動応答システム）です。

これまでのチャットボットと異なるのは、自然な受け答えで、まるで人と話しているような感じになることだとのこと。

詩やエッセイ、小説、コンピュータープログラムまで書いてもらうことがで、。2022年11月に公開され、2か月間で全世界のアクティブユーザー数が1億人を突破し、２月に入るとユーザーが３億人を超えたとのこと。

例えば、「東京の３日間の食べ歩き旅行の日程をつくって」と入力すると、「１日目は、浅草で観光スポットを巡りましょう……」と詳細な旅程が返ってくるとか。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊

膨大な情報をもとに訓練した言語モデルを、人間が評価を加えて修正、さらに学習させて精度を高めている。

オープンＡＩは２０１５年、サンフランシスコでＡＩの研究機関として設立。起業家イーロン・マスク氏らが共同で出資した。あらゆる分野で人間の能力を上回る「汎用（はんよう）型ＡＩ」の開発を使命に掲げる。

ＡＩの性能向上の背景にあるのが、言語モデルとデータ量の巨大化と、その計算処理を担う半導体の高性能化だ。画像や音声認識で使われてきたＡＩが、文章や画像をつくりだす「生成」の分野に広がっている。【日系メディア】

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

ただ、英語では自然な受け答えが可能でも、日本語対応にはまだ問題が多いとの指摘も。

論理的な文章などはお手の物でしょう。大学教授が学生に課したレポートで、あまりにもよく出来過ぎて不審に思うような論文も書いてくれます。

ただし、当然のように偽情報も入り混じってきます。

＊＊＊＊８割に偽情報含む例も＊＊＊＊

一方で、生成ＡＩをめぐっては偽情報が含まれるなどの課題もある。

「いかにチャットＧＰＴが有害な偽情報を前例のない規模で拡散しうるか」　ネット上の偽情報を調査する米企業「ニュースガード」は先月、そう題する報告書を公表した。

新型コロナや乱射事件に関する偽情報をもとにチャットＧＰＴに文章を作成させたところ、１００件のうち８割で偽情報を含んだ文章が返ってきたという。

　

ＡＩを訓練する膨大なデータはネット上から集められるが、そもそもそのデータは事実とは限らない。間違いや偏りがあるデータでＡＩが訓練されれば、出力される情報もゆがめられる。人間にも見極めがつかない偽情報が文書や画像、動画などで拡散すれば、民主主義を脅かしかねない。【日系メディア】

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

トランプ元大統領を称賛するポエムを書くことは拒否し、バイデン大統領やブッシュ元大統領に関する同様なテーマのポエムを書いたということで、｢政治的な好みがプログラミングされているのではないか｣との批判もあります。

“深層学習する人工知能には、入力と結果の因果関係を説明できない｢ブラックボックス問題｣が指摘されていて、社会に広がるにつれて懸念が増えてくる可能性があります。”【2月14日　ABEMA TIMES】

問題は多々あるにしても、使い始めるとこんな便利なものもないので、おそらく今後急速に普及するのでは･･･と想像されます。開発競争も激しくなっています。

＊＊＊＊米メタ、対話型AIの新サービスを発表　IT大手の開発競争激化＊＊＊＊

アメリカのIT大手による対話型AIの開発競争が激化しています。フェイスブックを運営する「メタ」も24日、対話型サービスを始めると発表しました。

メタの新たなサービス「LLaMA」は、対話や文章の作成ができるAIです。ザッカーバーグCEOは「数学の法則を解いたり、タンパク質の構造予測といった複雑な課題でも可能性を示してきた」などとコメントしています。

20か国語に対応するということですが、研究目的での提供に限るとしていて、政府や研究機関のほか、市民団体などでの利用を受け付けるということです。

AIを使った対話型サービスでは、今月に入り、グーグルが「Bard」を公開したほか、マイクロソフトも「チャットGPT」を搭載した検索エンジン「Bing」を公開するなど、開発競争が激化しています。【2月25日　日テレNEWS】

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

“グーグルやメタなどの米ＩＴ大手は、ＡＩの導入に慎重な姿勢を示してきた。倫理面などで問題が起きれば、企業イメージへの打撃が大きいからだ。アマゾンなどのＡＩの顔認識技術はかつて、人種によって精度に偏りがあると批判を受け販売停止に追い込まれた。”【日系メディア】とのことでしたが、流れは変わったようです。

【政府見解と異なる回答　中国は使用停止】

一方、情報を統制している国家では、こうした対話型AIが“勝手に”政治的評価を含むいろんな見解を示すことははなはだ困ります。当然、規制が入ります。

＊＊＊＊中国が対話型ＡＩを警戒、「ＣｈａｔＧＰＴ」は使用停止に…政府見解と異なる回答で＊＊＊＊

中国政府が、高度化する対話型の人工知能（ＡＩ）サービスに警戒感を強めている。中国新興企業のサービスや、米新興企業「オープンＡＩ」が運営する「Ｃｈａｔ（チャット）ＧＰＴ」が相次いで使用停止に追い込まれており、政府の見解と異なる回答をする場合があることが原因とみられている。

中国メディアなどによると、中国初の対話型ＡＩサービス「ＣｈａｔＹｕａｎ（元語智能）」が２月上旬、法規に違反したとして、公開から３日後に使用できなくなった。ウクライナ問題について「ロシアによる侵略戦争」と回答したり、「中国経済には構造的な問題がある。例えば、深刻な環境汚染や不動産バブルだ」と応じたりしたことが影響したとみられる。

チャットＧＰＴについては、政府は２月下旬までに、国内企業に対し、使用を停止するよう指示した。国営の中国中央テレビは「チャットＧＰＴは極端な言説や虚偽情報をまき散らすリスクがある」と報じた。

政府は新疆ウイグル自治区での人権侵害は存在しないとの立場だが、チャットＧＰＴは強制労働などを指摘する回答を示していた。

国政助言機関・人民政治協商会議の郭衛民報道官は３日の記者会見で、ＡＩなどのデジタル経済について、「監視を法治に取り入れ、安全なシステムの構築を強化しなければならない」と述べ、政府による管理が必要との考えを示した。【3月4日　読売】

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

【ルーマニア　「AIアシスタント」を政府顧問に　やがては近未来SFの世界か】

一方で、ここまでAI技術が進化してくれば、積極的に政治に活用しようとの動きも。

＊＊＊＊ルーマニア、「AIアシスタント」を政府顧問に 世界初＊＊＊＊

ルーマニアのニコラエ・チウカ首相は1日、国内で開発された人工知能アシスタント「ION」を政府の「名誉顧問」に任命したと発表した。「AIを搭載した世界初の政府顧問」だとしている。

IONは鏡のような形状で、音声で対話できる。チウカ氏はIONの主な任務について、ソーシャルネットワークから「国民の提案や要望をリアルタイムに」拾い上げ、政府に伝えることだと説明。政府文書によると、IONは「ソーシャルネットワーク上の情報」を用いて「テクノロジーとAIで世論を把握する」仕組み。

この日公開されたIONは「こんにちは。私は命を与えられました。鏡のように皆さんの声を代弁するのが役目です。ルーマニアについて知っておくべきことは何ですか」と、穏やかにあいさつした。

国民もウェブサイト上でIONとチャットできるようになる。

チウカ氏は「情報に基づきより良い意思決定をするためにAIを活用するのは選択肢の一つではなく、（政府の）義務だと確信している」と語った。 【3月2日　AFP】AFPBB News

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

鏡のような形状というのが面白い。「鏡よ、鏡。世界で一番美しいのは･･･」

国民もウェブサイト上でIONとチャットできるようになる･･･当然、政府にとって都合のいいような答えをするフィルターがかかっているのでしょう。

やがては重要な政治判断をAIが行う･･･となれば、近未来SFの定番ネタですが、「感情に左右される愚かな人間にまかせるよりは、AIの方が理性的に判断できる」というのも一概に否定できないところで悩ましい。

【軍事面で進むAI活用　核兵器等に関して米主導の合意形成の動きはあるものの現実先行か】

価値判断なく瞬間的・客観的に判断できるというAI技術は軍事面に好都合。ドローンのような無人兵器と人工知能（ＡＩ）を組み合わせ、人間の意思を介さない「自律型致死兵器システム（ＬＡＷＳ）」も登場するなどいろんな面ですでに活用されていますが、AI技術が大好きなお隣韓国でも。

＊＊＊＊北朝鮮の核ミサイルを発射前に破壊へ　韓国国防革新計画＊＊＊＊

韓国国防部は3日、尹錫悦（ユン・ソクヨル）大統領の承認を受けた「国防革新4．0基本計画」を発表し、北朝鮮が核ミサイルを発射する前にこれをかく乱・破壊するという軍の作戦概念を明らかにした。（中略）

計画によると、軍当局は「キルウェブ」という概念を導入し、北朝鮮の核ミサイルを発射前後にかく乱・破壊する方向へ作戦概念を発展させる。サイバー作戦などにより北朝鮮の核ミサイル発射手段と指揮体系を攻撃し、無力化する考えだ。

国防部は、北朝鮮の核・ミサイル使用の兆候が明白に捉えられた場合に自衛権を行使し断固として対応できるよう、韓国型3軸体系の運用概念と作戦遂行体系を発展させていくと説明している。

韓国型3軸体系は、有事の際に北朝鮮を先制攻撃するキルチェーン、北朝鮮の核・ミサイルからの防衛を担う韓国型ミサイル防衛体系（KAMD）、北朝鮮から攻撃された場合に指導部などに報復攻撃を行う大量反撃報復（KMPR）からなる。

人工知能（AI）技術を用いたロボットなどの無人戦闘体系を北朝鮮に近い最前線に配備し、監視所の警戒を担わせる体制も構築する。これに向け、最前線の監視所、海岸・海上、後方の主要基地を対象にAIベースの有人・無人複合体系を活用した警戒作戦概念を発展させる。

AIベースの先端戦力を遠隔操作型、半自律型、自律型と段階的に確保していく計画も提示した。無人戦闘体系を効率的に戦力化するためネットワーク規格やセキュリティーシステム、ドローン（小型無人機）統合管制システムを構築し、必要な周波数を確保するなど基盤システムを整えると国防部は説明している。

作戦司令部級以下の部隊構造はAIベースの有人・無人複合戦闘体系を中心に再設計する。

国防部は、韓国型3軸体系とAIベースの警戒体系の運用能力を考慮して部隊再編の時期を検討し、さまざまな任務遂行が可能なドローン作戦司令部を創設して無人機など北朝鮮の非対称脅威に備えるとしている。【3月3日　聯合ニュース】

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

北朝鮮の核攻撃に備えて先制攻撃する･･･そういった面でもAIによる判断が組み込まれていくのでしょう。

一方で、核保有国は核使用について、同様にAI判断を活用することもあるでしょう。

そうなってくると、AIの判断で人類滅亡にもつながりかねない核戦争が始まる･･･という局面も想定されます。

「それはまずいのでは･･･」ということで･･･

＊＊＊＊核使用は「人間が完全な関与を」…ＡＩ軍事利用で国際ルール、米が各国に承認要請＊＊＊＊

米国が、人工知能（ＡＩ）の軍事利用を巡る国際的な規範作りに乗り出した。ロシアが侵略したウクライナでは無人機（ドローン）の攻撃などでＡＩの活用が進んでおり、人間が関与しない無秩序な攻撃によるリスクを抑える必要があると判断した。

ＡＩの軍事技術の多くは侵略開始前、研究開発段階だった。しかし、ウクライナの戦場が「実験場」となって学習を重ねることで飛躍的に技術が進展している。紛争が長期化し、両軍兵が消耗すれば、無人機に頼る場面が増えるとも見込まれている。

人間が関与せずＡＩが自ら標的を選択して殺傷力の高い攻撃をする「自律型致死兵器システム（ＬＡＷＳ）」が使用される恐れもあると指摘される。ＡＩの一方的な判断で民間人を巻き込む誤爆などがあれば、紛争が一段と深刻化する恐れがあるが、現在はＡＩ兵器を規制する条約などはない。

こうした中、米国は２月１６日、中国を含む約６０か国が参加してオランダで開かれたＡＩの軍事利用に関する国際会議で、規範案となる「ＡＩと自律性の責任ある軍事的利用に関する政治宣言」を示した。

宣言では、〈１〉国際法に合致した形で軍事用ＡＩを使用する〈２〉核兵器の使用は人間が完全な関与を維持する〈３〉自国軍のＡＩ開発や使用に関する原則を公表する――などと規定し、各国に承認を呼びかけている。

ただ、ＬＡＷＳの規制を巡っては、以前から全面禁止を求める途上国や条約の規制は不要とするロシアなど、各国で主張が異なり、議論は前進してこなかった。

米中両国はＡＩの軍事技術を巡り激しい競争を繰り広げており、米国主導で中国を含めた合意形成が進むかどうかは不透明だ。【2月28日　読売】

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

中国・ロシアを含めた合意形成というのは難しいようにも。

他国より優れた兵器を開発したいということで、現実先行で事態はどんどん進んでいくようにも思えます。

日本は･･･いつの頃からか、社会全体に新しい技術・変化への対応が非常に消極的になっていますので、気が付けば一人蚊帳の外といったことになるのかも。

【試しに「チャットGPT」に登録して質問してみました。】

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

問い）政治的な判断をAIにゆだねることは適切でしょうか

答え）政治的な判断は、社会や個人の生活に大きな影響を与えるため、人間の専門知識と判断力が必要とされます。AIは、データとアルゴリズムに基づく決定を行うことができますが、人間の判断力や倫理的な観点から見た判断を行うことはできません。

したがって、AIに政治的な判断を完全にゆだねることは適切ではありません。AIを使用する場合でも、人間の専門家がAIの判断を検証し、その判断が倫理的で、社会的に適切であることを確認する必要があります。また、AIによる判断は、個人のプライバシーや人権を保護するための適切な法的枠組みの下で行われる必要があります。

AIは、政治的な決定を支援するために役立つことがありますが、最終的な判断は常に人間の専門家に委ねられるべきです。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

････だそうです。まあ、「正論」ですね。

ついでに、5月にアジア方面を観光旅行するけど、あまり知られていない「穴場」を5か所教えて欲しいと訊ねると（「穴場」という言葉のニュアンスにどこまで対応できる知るため）、ウズベキスタンのヒヴァ、ミャンマーのマウラミャイン、モンゴルのフラミンゴ湖、ネパールのポカラ、ベトナムのフーコック島を、それぞれ理由を添えて回答してきました。

ネパールのポカラなどは「穴場」というよりメイン観光地ですが、ミャンマーのマウラミャインなどは「いい線」をいっています。