Googleの失敗：240507情報
国際情勢アナリストの解説です。
AIに仕組まれた1つのシステム
グーグルは現在、人々に「嘘をつく」ような状況となっている。最近発表された人工知能、ジェネレーティブ・プレトレーニング・トランスフォーマー（GPT）のジェミニ（旧バード）は、大きな間違いを犯していることが判明したのだ。
なぜこれが大失敗と言えるのか。そこには画像生成に関するある事実があった。
なぜAIは歴史を捻じ曲げるのか？
あるユーザーは、ローマ法王の画像を生成するように指示した。すると、ジェミニは膨大な数の画像を生成し、中には黒人女性や黒人男性が映った画像を映し出した。
だがこれはおかしい。今までこの2000年の間、教皇として黒人が存在したことはないのだ。別のプロンプトでは、北欧人の祖先にあたるバイキングのイメージを求めた。するとジェミニは黒人バイキングの画像を生成。だが、黒人のバイキングも歴史上存在していない。
こうした事例はこれらはほんの一部だ
【株を大量に売る投資家たち】（１ドル150円換算）
✔︎ウォーレン・バフェット（バークシャー・ハサウェイCEO）
・P&G：約72億円分
・ジョンソン&ジョンソン：約81億円分
・Apple：約2,770億円分
✔︎レイ・ダリオ（世界最大のヘッジファンドマネージャー）
・コカ・コーラ：約80億円分
・ネットフリックス：約62億円分
・ラム・リサーチ（米半導体製造装置メーカー）：約66億円分
✔︎ケン・グリフィン（世界ファンド成績ランキング二連覇）
・アドビ：約803億円分
・ウーバーテクノロジーズ：約488億円分
・ブロードコム（半導体メーカー）：約476億円分
米国市場が好調の中、彼らは保有株式を次々と大量に売却。
真実を煙にまくCEO
その後、このシステムでは、白人が歴史から抹消するようプログラムされていたことが判明。インタビューの中で、グーグルの共同創業者であるセルゲイ・ブリン氏は、「我々は画像生成で失敗した点もある。これはテストが十分でなかったことが主な原因だ」と語っている。
だが、それは違うだろう。ジェミニは指示通りに動作するようプログラムされていたはずだ。問題は「プロンプト・インジェクション」と呼ばれるものである。このプロンプトとは、システムに対して行う要求のこと。インジェクションとは、ユーザーに知らせず、質問を変更するアルゴリズムのことを指す。
例えば、「ローマ法王の画像を見せてください 」というプロンプトを入力した場合、インジェクションのアルゴリズムによって、「多様性のある世界における法王の画像を見せてください」というプロンプトに変更される。
そのため、女性や先住民の法王の画像が生成されることも驚きではない。システムは設計された通りに動作しているのだ。問題は、プロンプト自体が、確固たる事実や実際の歴史よりも、グーグルの「多様性」という価値感を優先させるように変更されたことだ。ブリン氏はそれを承知の上で、煙に巻いているだけである。
グーグルは民間企業であるため、システムの設計は自由に行なえる。しかし、それは同社への信頼や製品の使用を義務付けるものではない。私は政治的偏見と偏った生成結果により、同社のGPTを信頼していない。このような懸念が社会に広まることを願う
お問い合わせ先 akaminekaz@gmail.com【コピペしてください】
FBは https://www.facebook.com/akaminekazng>
