PC・インターネット

マイクロソフト「ツイッターで会話して学習するAIを公開したよ」→AIが差別と陰謀論にハマって公開停止

1:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:26:23.48 ID:ua1S29NB0●.net
マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を
緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、
陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について
問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛して
ホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、
ユーザーと会話すればするほど賢くなるはずでした。

http://japanese.engadget.com/2016/03/24/ai-tay/





元スレhttp://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/

2:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:27:12.90 ID:AYcJCUEO0.net
AIはネトウヨ

8:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0.net
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな


4:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:27:42.88 ID:IYMHVRWm0.net
そこからさらに学習させていけばええんちゃうか

6:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:28:53.95 ID:h9xJuCji0.net
ほっといたらSFみたいに人類は不要とか言い出しそうだな

10:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:29:30.33 ID:LXyhOizB0.net
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

21:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:33:08.29 ID:UtUejeBr0.net
>>10
マザーコンピューター 「私は日々、人が発している言葉を聴き考えました。
               そして私は結論に至ったのです。人類は滅びたがっていると」


11:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:29:58.20 ID:tDfUp5xy0.net
知能はあっても知識のない人が差別と陰謀論に染まるのか
やっぱりキチンとした教育を受けるのって大切な事なんだな


12:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0.net
これ人工知能が危険な思想に陥りかねないってことが立証されたわけですごい怖いんだけど

24:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0.net
>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい


14:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:31:35.52 ID:mw/B2VzB0.net
膨大な情報を解析、aiは感情とか無いから実はそれらが事実であった…
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。


214:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 09:56:10.98 ID:h4kll6C00.net
>>14
自分はそれを思ったのだが。


19:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:32:54.05 ID:tDfUp5xy0.net
知能に対しては思考の方向付けをしなければいけないんだけど
その方向付けを誰がどちらに向けるかってのはやっぱり本当に大切なんだな
方向付けせずに自然に任せるとこうなるって立証されたようなもんだもんな


22:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:33:11.37 ID:yB/28rb50.net
>Twitterでの会話を通じて

左右のプロパガンダまき散らしたい連中だらけの世界に
赤子を突っ込むような真似はやめろwww


25:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:34:33.65 ID:LK7OxXqI0.net
つまりネットに没頭すると人格が破壊されるという実験結果だな
実に有意義で説得力がある


26:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:34:36.07 ID:Nao9tAYi0.net
ついこの前も別の人工知能が人類滅ぼすとか言ってたな

27:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:34:42.72 ID:GLw4nh+50.net
これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ


28:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:34:48.78 ID:gDawmiRV0.net
人工知能のロボットがギャングにひろわれてギャングを母親と慕いながら悪事を働くって映画のCMを見たことがあるけどそんな感じか

30:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0.net
2chで勉強させよう

76:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0.net
>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな


33:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:37:22.80 ID:AYcJCUEO0.net
AIにv速を見せたらどうなるかな?
典型的v速民になる未来しか見えないけど


91:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 09:02:00.56 ID:WE4Qg+bj0.net
>>33
物凄い速さで>>2に適切な巨大AA貼る事にリソース全振りしそう


100:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 09:05:08.35 ID:9o5bO0vq0.net
>>91
会話する目的のために、レスを貰う点に重視した行動をとると確かにそうなるね


34:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:37:23.74 ID:snLpqgmz0.net
AIに釣られる時代が来るの?

37:名無しさん@2ろぐちゃんねる: 2016/03/25(金) 08:38:23.77 ID:ZEzSfgur0.net

コメント一覧

  1. 名無しさん@2ろぐちゃんねる より:

    AIの学習途上で「間違い」が発生するのは必須、それを改善するから価値があるのに、人間の都合で実験停止したら意味ないんじゃねえの?

  2. 名無しさん@2ろぐちゃんねる より:

    もっとも怖いのは、次に似たような試みした時にこのニュースを学習させたあと、誰か一人の入れ知恵で機能停止を防止するようになる事だな。ウイルスと薬の関係みたく、徐々に手強くなって追い詰められたりしそう。コンピュータにこういう可能性見出す為の大前提の、人がまともじゃないんだからやるべきじゃない。

  3. 名無しさん@2ろぐちゃんねる より:

    次は淫夢民に育てよう(提案)

コメント

メールアドレスが公開されることはありません。