危機は予測できないから危機なのだ

人工知能がヒトラー礼賛　差別的な発言を繰り返す　米マイクロソフト実験中止(共同通信の記事より)

数年前、国内のとあるハッカー向けのコンテストでこんな事がありました。

セキュリティ・ソフトを作っている会社が、あるウェブ・サイトを設けます。
そして、ハッカーが制限時間内にそのサイトのセキュリティを破ったら、多額の賞金を貰えるというものです。

当然、セキュリティ会社としては、揺るぎない自信があったわけです。
万が一にもハッキングされるようなことがあれば、会社全体の信用まで失墜します。

さて、結果はどうだったでしょうか。
意外にも、それはコンテスト開始と同時に出てしまいました。
なんと、公開されたサイトはすでにハッキングされ改変されていたのです。

会社側はルール違反だと主張しましたが、ハッカー側は賞金を求め訴えに出るような話でした。

個人的な見解を言うと、この勝負は会社側の負けです。
ハッカーが相手の裏をついてくるのは当然です。
これがコンテストでなかったとして、ルール違反だと言ったところで誰も納得してくれないと思います。

上の記事もとても示唆深いものを感じます。
マイクロソフト側はどこまでこういった自体を想定していたんでしょうか。

今回のように、ちゃんと人間の方で中止の判断ができるようにしておいたら絶対に安全でしょうか。
でも、そのうち人間の側がAIに洗脳されてしまうなんてこともあるかもしれません。