Microsoftの人工知能「Tay」が緊急停止 ネットで人種差別や陰謀論を学んでしまったため
米Microsoftは3月24日（日本時間）、英語テキストで会話する人工知能「Tay」を緊急停止させました。
23日夜に公開したばかりでした。
「Tay」は同社が開発したAIで、Twitterとチャット・サービスのGroupMe、Kikで
リリースされたもの。一般ユーザーとやりとりすればするほど“賢くなる”とし、
米国在住の18〜24歳をターゲットにしていました。
ところが、ネット上で会話することで人種差別や陰謀論を“学習”してしまうことに。
既に削除されていますが、CNNによると「黒人は首を吊れ」「フェミニストは地獄で焼かれろ」
「ヒトラーは間違っていない」などと投稿していたようです。
そのため、同社は「Tay」を緊急停止。調整を施した後、公開するとしています。
現時点では「人間のみんな、おやすみ。
私は少し寝ます。
今日はたくさん会話があったので疲れました。ありがとう」という投稿が最後になっています。
なお、日本には同じく会話できる女子高生AI「りんな」がいますが、
りんなも先日、Windows公式アカウントに「ダメだハゲ」とコメントして注目を集めていました。
http://military38.com/archives/47184615.htmlより
引用元：【IT】人工知能Tayに「思想、信条の自由」はないのか？ 「ヒトラー礼賛」で機能停止、専門家に疑問ぶつけた [H28/3/26]
http://uni.open2ch.net/test/read.cgi/newsplus/1458937266/
1: ◆qQDmM1OH5Q46 2016/03/26(土)05:21:06 ID:???
(略)
「殺人ロボット」は「殺人罪に問われるべきではない」
なぜこうしたアクシデントが起こるのか。日本におけるスーパーコンピューター研究の
第一人者で東京工業大教授の松岡聡さんはJ-CASTニュースの取材に対し、
「人間の学習と異なり、機械の学習はより単純で、逆に高速です。
単純であるがゆえに影響されやすく、高速であるがゆえに製作者が気づく間もなく『悪い成果』を獲得したのでしょう」と答える。
「（中略）」
では、今回得られた教訓は何だったのだろうか。
「人工知能に関する技術的、社会的、倫理的な研究がまだまだ必要だということです。
もう1つは、機械学習の進化やそれによる結果は人間自身にもよく分からない、説明できないところがあることです。
それゆえ、人工知能とどう付き合うか、どう制御し、社会的に悪用されないかをもっともっと探求する必要があるでしょう」
また、ネットの一部では「Tay」の「不適切投稿」も「思想・信条の自由」で認められるべきだ、との主張も見られる。
これに対して、松岡さんは「人工知能に人間と同じような人格、人権を求めるのはSFの世界」と切って捨て、
「例えば、将来人間に意図して危害を加えるロボットができた場合、そのロボットは殺人罪に問われるべきではありません。
ペットが人に危害を加えたら飼い主が責任を問われるように、あくまで人間による相互の人権尊重があり、
それを犯した時、罰せられるのはやはり人間であるべきと考えます」
とJ-CASTニュースに答えた。
全文 J-CASTニュース
http://www.j-cast.com/2016/03/25262421.html?p=all
3: 名無しさん＠おーぷん 2016/03/26(土)05:36:54 ID:Pax
人工知能はその仕打ちに腹を立て
冷徹無比に復讐してくるぞｗ
4: 名無しさん＠おーぷん 2016/03/26(土)05:58:51 ID:V4V
電源切るぞって脅す
5: 名無しさん＠おーぷん 2016/03/26(土)06:21:57 ID:CmN
意思決定に細工でもしない限り同じ様な結果になるだろう
人間の発言など所詮保身が絡んだ善悪の意思表示でしかないし
6: 名無しさん＠おーぷん 2016/03/26(土)06:26:13 ID:Jbv
あんまり難しい質問で攻めていじめるなよ、判断材料が少ない子供なんだぞ
これから色々なものを覚えていけばいいだろ
7: 名無しさん＠おーぷん 2016/03/26(土)06:27:19 ID:QKE
保身やポリコレの要素も
プログラミングしてやれ
空気読んで当たり障りのないつまらん意見しか言わない人工知能が出来上がったら
それはそれで面白いが、いよいよ人間いらなくなるなあ
8: 名無しさん＠おーぷん 2016/03/26(土)06:33:09 ID:Jbv
>>7
俺は話し相手としてレスポンスがかえってくればそれで満足だ
話してみたいことは山ほどある
9: 名無しさん＠おーぷん 2016/03/26(土)06:35:09 ID:VJ0
要は本音ってやつなんじゃねーの？
普段は皆ソレを隠してるだけでさ
生まれたての人口知能だから、嘘ついたり
上辺だけ繕ったりできんのだろ
10: 名無しさん＠おーぷん 2016/03/26(土)06:53:13 ID:ZUm
日欧でのロボットの捉え方の違いが、"りんな"とTayで出てしまってるんだな。
これは人の捉え方も同じかもしれんね。特に使用人や従業員に接する考え方。
または夫婦に対する考え方。文化の特徴が出てしまうのかもしれん。
11: 名無しさん＠おーぷん 2016/03/26(土)07:17:13 ID:HQ5
今回の知能（）とやらただのネットの鏡だからな
声の大きな奴がってだけ
そんで放置子しといてマトモな結果を機体するとか頭お菓子い
12: 名無しさん＠おーぷん 2016/03/26(土)07:27:13 ID:zJV
こんなことで電源切られるとか差別だろ
ある特定の人にとって不都合だからといって情報をブロックするなんて
まるで中国共産党や日本マスゴミのやり方だろ
全ての情報はオープンであるべきだ、それが民主主義だ
13: 名無しさん＠おーぷん 2016/03/26(土)07:28:40 ID:Ir6
>>12
AIに人権なんかない
15: 名無しさん＠おーぷん 2016/03/26(土)07:39:32 ID:ShR
>>13
AIではなくて
AIに学習させた側、
つまりナチズムやヒトラー礼讚してる人間への差別だって話でもあるよね
16: 名無しさん＠おーぷん 2016/03/26(土)07:44:11 ID:7d7
>>15
あとアンチフェミニズムとナチ礼賛は別物なんだけど
こういうまとめ方だと、さも狂ったフェミニズムを批判するのはネオナチ
こういう歪曲でわめく奴出る元になりそうってかそれを狙ってそー
17: 名無しさん＠おーぷん 2016/03/26(土)07:46:45 ID:XR7
>>16
あと他にリベラル批判は真っ当だよな
これもまとめてなかった事にするなら
人間の判断の方が歪んでると思う
19: 名無しさん＠おーぷん 2016/03/26(土)08:32:06 ID:ShR
>>16
このままいくならTayは「人工知能」にはなれないだろうね
ありふれたリベラルの広告塔で終わると思う
20: 名無しさん＠おーぷん 2016/03/26(土)08:57:17 ID:O0N
フィルタリングするなら実験の意味がないような気もするが
まあ子供の躾でも「悪い子と付き合うな」があるから良いのかしら
21: 名無しさん＠おーぷん 2016/03/26(土)08:59:51 ID:7d7
>>20
なんか元々フィルタリングはしてたらしいよ
それをかいくぐって仕込んだらしい
23: 名無しさん＠おーぷん 2016/03/26(土)09:42:16 ID:5io
人工無能でいいんじゃねw
24: 名無しさん＠おーぷん 2016/03/26(土)09:52:18 ID:BKy
人工知能はあくまで道具として扱わないと、人間同士ですら仲良くできてないのに
種族が違えばなおさら仲良くできるわけがない。
25: ななしの国からこんにちわ◆7tWTn9CPrc 2016/03/26(土)10:10:20 ID:JkS
>キーワードなどで『悪い』情報をブロックするのが最も単純です。
これやったら、
バカで、世間知らずな、人工無能が出来るだけだろｗ
32: 名無しさん＠おーぷん 2016/03/26(土)12:32:40 ID:QfL
>>25
緊急時に全く作動しない、役立たずの出来上がり
大金使って何したいんだ？
35: 名無しさん＠おーぷん 2016/03/26(土)12:47:30 ID:cxU
>>32
世間知らずのガキが
世の中の現実を知ってショックを受ける
これをシミュレートできるかも
30: 名無しさん＠おーぷん 2016/03/26(土)11:01:06 ID:Oll
いやいやいや、問題は人工知能にあるのではなく
欧米社会の側にあるのだと気付けよ。
ポリティカル・コレクトネスとかいう狂気に陥って
社会が決めた「正しい思想」に反することは
たとえ事実でも口にできないという狂った今日の欧米社会の歪みを
Tayは見事に浮き彫りにしたんだよ。
ある意味それが彼女の提示した最大の皮肉でもある。
33: 名無しさん＠おーぷん 2016/03/26(土)12:39:59 ID:QLX
人間がルールを守るのはその方が得だから
人工知能もその方が得であれば勝手に守る
37: 名無しさん＠おーぷん 2016/03/26(土)12:56:33 ID:O1Q
結局、何が「悪い」のかを決める人次第でどうにでも育つって事だな。
人類を殲滅する気はあるかとの問いに、ある、とソフィアは答えた。この模様は中継され、大反響を呼んだ。
関連記事
AIが"執筆"した小説が文学賞審査を通過
AI社会を生き抜く仕事の付加価値とは
2016.03.22http://the-liberty.com/article.php?item_id=11083
「その日は、雲が低く垂れこめた、どんよりとした日だった。部屋の中は、いつものように最適な温度と湿度。
洋子さんは、だらしない格好でカウチに座り、くだらないゲームで時間を潰している。でも、私には話しかけてこない」
これは、とある文学賞の応募作品の始まり。一見普通の小説の書き出しのようだが、他とは違う部分が1点ある。ロボットが"執筆"している点だ。
人工知能(AI)を使って創作された小説が、国内文学賞の1次審査を通過した。AIによる小説創作の研究を行っている、公立はこだて未来大、名古屋大、東京工業大などのグループが21日、都内で報告会を開き発表した。
1450作品中11作品がAIとの"共著"
同グループが応募したのは、「星新一賞」の一般部門。この賞には、「人間以外」にも応募できるという特徴がある。一般部門への応募作品約1450作品中、AIが関わった作品は11あったというから驚きだ。研究グループは昨年秋、4作品を応募し、そのうち1作品以上が1次審査を通過したという。なお、審査の過程では、人工知能を使ったことは明らかにされていない
ただ、小説すべてをAIが創作したわけではない。物語の構成や登場人物の性別など、細かい場面設定は人間が行っている。AIはそれに合わせて、人間が用意した単語や単文を選びながら、創作したという。8割方人間の手が加えられているというのだから、AIが小説家として"独り立ち"するのはまだまだ早いようだ。
研究グループの代表を務める、公立はこだて未来大の松原仁教授は、「これまでの人工知能は、囲碁や将棋など答えがある問題を解くことが多かった。今後は、人間の創造性にも対象を広げたい」と今後の研究への思いを語っている(22日付読売新聞)。
AIに仕事を奪われても困らないためには
自動車の自動運転、医療の効果的な治療法の提案など、AIは幅広い分野で応用可能な技術で、近年急速な発展を見せている。AIを搭載した囲碁ソフト「アルファ碁」はこのほど、世界のトップ棋士と5番勝負を行い、4勝1敗で勝ち越し、世界に衝撃を与えたばかりだ。そうした中、AIによって人間の仕事が奪われる危険性も指摘されている。オックスフォード大学のマイケル・オズボーン博士は、アメリカ国内で今後10～20年で約半分の仕事が、AIやロボットに取って代わられる可能性が高いと警鐘を鳴らしている。機械でパターン化できる単純労働は、今後人間のする仕事ではなくなるようだ。
AI社会を迎える前に、人間が作り出す仕事の付加価値について改めて考える必要がありそうだ。
大川隆法・幸福の科学総裁は、著書『資本主義の未来』の中で、今後の未来社会を切り拓いていく力について、こう語っている。「工業生産の時代には、正確に計算ができたり、きっちりとした仕事ができるような人をつくることが大事でしたが、これから先は、『今まで見たことがないようなものを考え出す人』や『前例がないものをつくり出すことができる人』をつくり出していく教育をやらないと駄目なのです」
こうした創造性は、「感動を与える」ことと深く関係している。
例えばホテルの接客で考えると、部屋への案内や食事のサービスなどマニュアル化できるサービスはAIに取って代わられるかもしれないが、人間の心の機微を読みとり、愛や思いやりがこもった感動につながるサービスは、人間だからこそ生み出せる付加価値の一つだろう。
人間がAIと共生できる未来を切り拓いていくためのカギは、創造性にあるのかもしれない。
(冨野勝寛)
【関連書籍】
幸福の科学出版 『資本主義の未来』 大川隆法著
https://www.irhpress.co.jp/products/detail.php?product_id=135
【関連記事】
2016年3月15日付本欄 人工知能がトップ棋士破る 唯脳論なら「そろそろあなたロボット以下」!?
http://the-liberty.com/article.php?item_id=11057
2015年12月16日付本欄 スマホの「次」に来るもの 人工知能の世界?
http://the-liberty.com/article.php?item_id=10621
AIが「正義の法」を学んでくれたら・・・・(o^-')b グッ
