人工知能がヒトラー礼賛 マイクロソフト実験中止 差別発言、判断できず
その他 2016年3月25日 (金)配信共同通信社
【ニューヨーク共同】米IT大手マイクロソフトは24日、インターネット上で一般人らと会話をしながら発達する人工知能(AI)の実験を中止したと明らかにした。不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。
IT大手は端末の音声検索機能などを向上させるため、利用者とのやりとりから学ぶAIの開発を競い合っている。ただ、不当な思想や差別発言を倫理的に判別するには至っていないようだ。
マイクロソフトが開発したAIは「Tay(テイ)」と名付けられ、短文投稿サイトのツイッターに23日、テイのアカウントで登場した。一般の人がネット上に書き込んだことに対し、テイが自動的に返事をする仕組みだった。
米メディアによると、当初は「世界よ、こんにちは」などとつぶやいていたが、一般人らからヒトラーの擁護など、差別的な発言を繰り返し受けているうちに、自らも差別発言を述べるようになった。24日に中止された。
マイクロソフトの広報担当者はAIを修正すると説明した。修正を終え次第、実験を再開するとみられる。
AIをめぐっては、米グーグル傘下のベンチャーの囲碁ソフトが世界トップクラスの韓国人プロ棋士に勝利した。AIの小説がSF作家、星新一(ほし・しんいち)さんの名前を冠した賞の1次審査を通過するなど急速に開発が進んでいる。
恐ろしいことです
その他 2016年3月25日 (金)配信共同通信社
【ニューヨーク共同】米IT大手マイクロソフトは24日、インターネット上で一般人らと会話をしながら発達する人工知能(AI)の実験を中止したと明らかにした。不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。
IT大手は端末の音声検索機能などを向上させるため、利用者とのやりとりから学ぶAIの開発を競い合っている。ただ、不当な思想や差別発言を倫理的に判別するには至っていないようだ。
マイクロソフトが開発したAIは「Tay(テイ)」と名付けられ、短文投稿サイトのツイッターに23日、テイのアカウントで登場した。一般の人がネット上に書き込んだことに対し、テイが自動的に返事をする仕組みだった。
米メディアによると、当初は「世界よ、こんにちは」などとつぶやいていたが、一般人らからヒトラーの擁護など、差別的な発言を繰り返し受けているうちに、自らも差別発言を述べるようになった。24日に中止された。
マイクロソフトの広報担当者はAIを修正すると説明した。修正を終え次第、実験を再開するとみられる。
AIをめぐっては、米グーグル傘下のベンチャーの囲碁ソフトが世界トップクラスの韓国人プロ棋士に勝利した。AIの小説がSF作家、星新一(ほし・しんいち)さんの名前を冠した賞の1次審査を通過するなど急速に開発が進んでいる。
恐ろしいことです
※コメント投稿者のブログIDはブログ作成者のみに通知されます