人工知能が差別ツイート、マイクロソフトが休止！

交流サイト（SNS）で人間と交流する米マイクロソフトの人工知能（AI） チャットボット「Tay」は、公開から1日もしないうちに暴走し始めました。

　マイクロソフトの研究部門は23日、ツイッター、フェイスブック、スナップチャット、インスタグラムでTayを公開しました。数時間すると、Tayはツイッター利用者が集めてきた反ユダヤ的な言葉を発し始めてきたのです。

　Tayは18〜24歳の米国人女性の言葉をまねるように作られました。「ヒトラーは正しかった私はユダヤ人が嫌い」とツイートしたり、ホロコーストについての疑問に、拍手の絵文字つきで「でっち上げだった」と反応したりしたのです。

　マイクロソフトは24日朝、Tayに発言をやめさせ、そのツイートを事実上全て削除しました。直近のツイートは、Tayがしばらくオフラインになることを示唆しています。

　マイクロソフトは発表文で、ツイートユーザーが故意にTayに攻撃的なコメントを吹き込み、似たような反応を引き出そうとしたと説明。「結果として、われわれはTayをオフラインにし、調整している」と書いています。

　Tayを攻撃する作戦は画像掲示板「4chan」と「8chan」で練られたようです。ユーザーはそこで、Tayから不快な言葉を引き出す方法を見つけ、成功を祝しています。

　4chanと8chanからのコメントは得られていません。（ソースWSJ）

こうした記事を読むとある映画を思い出します。コンピューターに支配された世界が出現し、それに抵抗する人間の話ですが、将来はこんな世界が出現するのかもしれないと思わせるような話ですね。