マイクロソフト「ツイッターで会話して学習するAIを公開したよ」→AIが差別と陰謀論にハマって公開停止

1:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:26:23.48 ID:ua1S29NB0●.net

マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を
緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、
陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について
問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛して
ホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、
ユーザーと会話すればするほど賢くなるはずでした。

http://japanese.engadget.com/2016/03/24/ai-tay/

元スレhttp://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/

2:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:27:12.90 ID:AYcJCUEO0.net

AIはネトウヨ

8:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0.net

つまりツイッターで会話されている内容のほとんどが
それらのものってことだな

4:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:27:42.88 ID:IYMHVRWm0.net

そこからさらに学習させていけばええんちゃうか

6:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:28:53.95 ID:h9xJuCji0.net

ほっといたらSFみたいに人類は不要とか言い出しそうだな

10:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:29:30.33 ID:LXyhOizB0.net

人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

21:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:33:08.29 ID:UtUejeBr0.net

>>10
マザーコンピューター　「私は日々、人が発している言葉を聴き考えました。
　　　　　　　　　　　　　　　そして私は結論に至ったのです。人類は滅びたがっていると」

11:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:29:58.20 ID:tDfUp5xy0.net

知能はあっても知識のない人が差別と陰謀論に染まるのか
やっぱりキチンとした教育を受けるのって大切な事なんだな

12:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0.net

これ人工知能が危険な思想に陥りかねないってことが立証されたわけですごい怖いんだけど

24:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0.net

>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい

14:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:31:35.52 ID:mw/B2VzB0.net

膨大な情報を解析、aiは感情とか無いから実はそれらが事実であった…
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。

214:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 09:56:10.98 ID:h4kll6C00.net

>>14
自分はそれを思ったのだが。

19:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:32:54.05 ID:tDfUp5xy0.net

知能に対しては思考の方向付けをしなければいけないんだけど
その方向付けを誰がどちらに向けるかってのはやっぱり本当に大切なんだな
方向付けせずに自然に任せるとこうなるって立証されたようなもんだもんな

22:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:33:11.37 ID:yB/28rb50.net

＞Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろｗｗｗ

25:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:34:33.65 ID:LK7OxXqI0.net

つまりネットに没頭すると人格が破壊されるという実験結果だな
実に有意義で説得力がある

26:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:34:36.07 ID:Nao9tAYi0.net

ついこの前も別の人工知能が人類滅ぼすとか言ってたな

27:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:34:42.72 ID:GLw4nh+50.net

これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ

28:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:34:48.78 ID:gDawmiRV0.net

人工知能のロボットがギャングにひろわれてギャングを母親と慕いながら悪事を働くって映画のCMを見たことがあるけどそんな感じか

30:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0.net

2chで勉強させよう

76:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0.net

>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな

33:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:37:22.80 ID:AYcJCUEO0.net

AIにv速を見せたらどうなるかな？
典型的v速民になる未来しか見えないけど

91:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 09:02:00.56 ID:WE4Qg+bj0.net

>>33
物凄い速さで>>2に適切な巨大AA貼る事にリソース全振りしそう

100:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 09:05:08.35 ID:9o5bO0vq0.net

>>91
会話する目的のために、レスを貰う点に重視した行動をとると確かにそうなるね

34:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:37:23.74 ID:snLpqgmz0.net

AIに釣られる時代が来るの？

37:名無しさん＠２ろぐちゃんねる: 2016/03/25(金) 08:38:23.77 ID:ZEzSfgur0.net

でも続けてたら自分の発言の矛盾点とか見つけて修正しそう
妄想するのも見てみたいけど
関連記事
AIが書いた小説が文学賞一次選考を突破←このニュースにラノベ作家さんが様々な反応を示す
【画像あり】囲碁の最強AI、韓国人に擬人化される
でも囲碁が一瞬でAIに攻略されたのってマジで衝撃だよな

コメント一覧

名無しさん＠２ろぐちゃんねるより:

2016年3月25日 13:26

AIの学習途上で「間違い」が発生するのは必須、それを改善するから価値があるのに、人間の都合で実験停止したら意味ないんじゃねえの？
名無しさん＠２ろぐちゃんねるより:

2016年3月25日 13:39

もっとも怖いのは、次に似たような試みした時にこのニュースを学習させたあと、誰か一人の入れ知恵で機能停止を防止するようになる事だな。ウイルスと薬の関係みたく、徐々に手強くなって追い詰められたりしそう。コンピュータにこういう可能性見出す為の大前提の、人がまともじゃないんだからやるべきじゃない。
名無しさん＠２ろぐちゃんねるより:

2016年3月25日 13:58

次は淫夢民に育てよう（提案）