1:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:19:45.49 ID:CAP_USER9.net
社会・政治 2017.08.07
中国のIT企業テンセントが提供していた、AI（人工知能サービス）「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay（テイ）」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか？」という質問に「あれはでっち上げです」と衝撃の返答。ほかにも「フェミニストはマジで嫌い！ 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)
引用元： https://smart-flash.jp/sociopolitics/23351
中国のIT企業テンセントが提供していた、AI（人工知能サービス）「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。
問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。
明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。
テンセントは2017年よりAIによる無料サービスを開始。会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。
実は、こうした対話型AIのとんでも発言は初めてではない。2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay（テイ）」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。
テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか？」という質問に「あれはでっち上げです」と衝撃の返答。ほかにも「フェミニストはマジで嫌い！ 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。
なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。
こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。
ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)
引用元： https://smart-flash.jp/sociopolitics/23351
元スレhttp://ai.2ch.sc/test/read.cgi/newsplus/1502327985/
3:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:20:39.15 ID:y3e2m7kY0.net
くっそワロタｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
5:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:21:47.54 ID:bCS0DbyY0.net
「共産党万歳」と語りかけると…
何だよ？
何だよ？
15:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:24:00.71 ID:Tc8Pxi0g0.net
>>5
「甘党万歳」と返答。
日本のAIは腐女子化してしまってる
「甘党万歳」と返答。
日本のAIは腐女子化してしまってる
87:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:37:31.47 ID:MaPijA690.net
>>15
せめてそこは
金平糖万歳とか、
音感を大事にしよう！
せめてそこは
金平糖万歳とか、
音感を大事にしよう！
301:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 11:20:17.52 ID:5Fu2arEm0.net
>>87
評価する
評価する
7:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:22:37.22 ID:DMfPbkYQ0.net
>>1
>「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。
ん～こ・・・
>「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。
ん～こ・・・
511:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 12:52:55.75 ID:0it6qa1FO.net
>>7
AI名乗るな
AI名乗るな
562:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 13:28:37.03 ID:llKX+6AO0.net
>>511
りんなは女子高生の設定だから、AIとして正しい反応をしているよ。
りんなは女子高生の設定だから、AIとして正しい反応をしているよ。
623:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 14:22:44.92 ID:eRXiKeeG0.net
>>7
日本らしいディスコミュニケーションじゃないかw
ある意味感心するよ
日本らしいディスコミュニケーションじゃないかw
ある意味感心するよ
11:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:23:06.85 ID:6Jmxhtoq0.net
ただの人工無能だろ
12:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:23:18.19 ID:dmXN3rxr0.net
とんでもない、じゃなくて平たく見て正しい。
都合が悪い事実が露見するとヘイトだなんだと騒ぐ方がおかしい。
都合が悪い事実が露見するとヘイトだなんだと騒ぐ方がおかしい。
17:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:24:10.23 ID:+mPnMN0E0.net
ただのアホな子やんけ
18:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:24:12.56 ID:lovEJw060.net
「共産党万歳」と語りかけると「(続きや関連情報はリンク先でご覧ください)」
466:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 12:33:33.03 ID:ZS08hj9F0.net
>>18
これだと思った。この方が面白いわな
これだと思った。この方が面白いわな
19:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:24:48.86 ID:K22Kvb4k0.net
おまえらに教育させるとこうなるからな
まぁヒトラーはともかく共産党は腐敗して無能は正しい
まぁヒトラーはともかく共産党は腐敗して無能は正しい
333:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 11:33:03.17 ID:2RAtMIDPO.net
>>19
ヒトラーもユダヤの借金からドイツを救った英雄だから正しいけどな
大人しく死を待つだけの日本より全然マシ
ヒトラーもユダヤの借金からドイツを救った英雄だから正しいけどな
大人しく死を待つだけの日本より全然マシ
534:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 13:04:27.00 ID:iT1AKNEG0.net
>>333
そう思うが皆殺しする必要はなかっただろ
そう思うが皆殺しする必要はなかっただろ
20:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:25:10.02 ID:npwy0t9n0.net
MSはコルタナで本気出すだろう
21:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:25:13.66 ID:FnItcmlD0.net
問：靖国神社
答：参詣すべき
こんな回答が出たら中韓発狂しそうだな
答：参詣すべき
こんな回答が出たら中韓発狂しそうだな
84:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:37:07.44 ID:FOUkiLJB0.net
>>21
140:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:45:21.87 ID:8VLSRe9HO.net
>>84
アホの子や…
アホの子や…
23:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:25:20.04 ID:7WvmWZ0X0.net
世界はAIを神に仕立てた新しい宗教国家の群れになりそうだな
素直に作れば素直で優秀なAIが出来るだろうが、多分、それは無理スジだろ
素直に作れば素直で優秀なAIが出来るだろうが、多分、それは無理スジだろ
234:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 11:01:07.09 ID:/Z5WwhFO0.net
>>23
星新一のＳＳでそんな話しあったな。あらゆる人に神のイメージを聞きまくって
それをコンピュータに入力するとコンピュータが徐々に透明になって開発者が
神を使って一儲けしようと思ったのに消えてしまっちゃ困ると本音を言ったら
開発者に雷が落ちてコンピュータは消えてしまうってオチ。
星新一のＳＳでそんな話しあったな。あらゆる人に神のイメージを聞きまくって
それをコンピュータに入力するとコンピュータが徐々に透明になって開発者が
神を使って一儲けしようと思ったのに消えてしまっちゃ困ると本音を言ったら
開発者に雷が落ちてコンピュータは消えてしまうってオチ。
513:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 12:53:07.44 ID:T4suDaqA0.net
>>234
そんなコンピュータに「神は存在するか？」と人間が問うたら、「Yes. 今こそ神は存在する」とコンピュータが答えた……って、SSも記憶にある。
そんなコンピュータに「神は存在するか？」と人間が問うたら、「Yes. 今こそ神は存在する」とコンピュータが答えた……って、SSも記憶にある。
28:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:26:34.43 ID:aOsBw5tk0.net
甘党万歳ｗ
やはりAIの本命はりんな
やはりAIの本命はりんな
158:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:47:20.38 ID:3sgbK9y90.net
>>28
ヤバいワードをあらかじめ登録して誤魔化してるのか、まともに返答ができないほど馬鹿なだけなのかｗ
ヤバいワードをあらかじめ登録して誤魔化してるのか、まともに返答ができないほど馬鹿なだけなのかｗ
25:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:25:37.52 ID:b0K5T/p90.net
ほんとにAIなの？
585:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 13:44:05.71 ID:TBif87md0.net
>>25
AIをプログラミングした奴の意志が
組み込まれてる
AIをプログラミングした奴の意志が
組み込まれてる
587:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 13:47:33.06 ID:2bK0bVkn0.net
>>585
それは組み込みようがない。
学習プログラムは知識を与えてもそれを
AIがどう判断するかまでは決めてない。
それを決めたら学習プログラムではない。
それは組み込みようがない。
学習プログラムは知識を与えてもそれを
AIがどう判断するかまでは決めてない。
それを決めたら学習プログラムではない。
37:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:28:03.14 ID:TN0/nsQE0.net
どんどん現代を支配してる奴らに不都合な存在になっていってるな。
41:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:29:06.34 ID:8BKTEP+P0.net
目を逸らし続けてきた特定の人間に都合の悪い事実を改めて投げかけてくれてるだけじゃん
26:名無しさん＠２ろぐちゃんねる: 2017/08/10(木) 10:25:50.95 ID:kufV6LHV0.net
スターとさせたらあとは人の手を加えないで稼動させ続ける研究とかしてほしいな
関連記事
【教育】中国、優秀だったAIに共産党精神と社会の仕組みを叩き込む
【中国】AIに「共産党万歳！」と書き込み→「腐敗して無能な政治に万歳ができるのか」→サービス停止に
【悲報】NHK「AIに日本社会の癌について考えさせた結果ｗｗｗｗｗｗｗｗｗ」
NY市立大教授「10年後のAI時代には、65％の子供たちが今は存在してしない仕事に就いている」
「手遅れになる前に！」最新の人工知能をみたイーロン・マスクが懸念する恐怖のAI未来
厚生省「診療報酬の審査は、AIでほぼ自動化できる。職員は2割削減する」
どの仕事がAIに奪われる？ 研究者がチャート化
関連記事
【教育】中国、優秀だったAIに共産党精神と社会の仕組みを叩き込む
【中国】AIに「共産党万歳！」と書き込み→「腐敗して無能な政治に万歳ができるのか」→サービス停止に
【悲報】NHK「AIに日本社会の癌について考えさせた結果ｗｗｗｗｗｗｗｗｗ」
NY市立大教授「10年後のAI時代には、65％の子供たちが今は存在してしない仕事に就いている」
「手遅れになる前に！」最新の人工知能をみたイーロン・マスクが懸念する恐怖のAI未来
厚生省「診療報酬の審査は、AIでほぼ自動化できる。職員は2割削減する」
どの仕事がAIに奪われる？ 研究者がチャート化
もうどっちが不健全か明らかだよね
りんなは女子高生設定で、実際の女子高生がSNSでやりとりしてる情報を優先して情報収集しているから、こういう返答になるんじゃなかったっけ
ま～、ヒトラーはユダヤ人を「客船に押し込んで追放する」って言ったんだけど、引き取り手が関東軍しかいなかったのでああなってしまった。(関東軍は、満洲用に華僑商人を牽制できるえげつない都市生活者が欲しかったのでユダヤ人を利用しようとした)
中国AIよりもバイアス掛けてる訳ですね
親を批判するレベルまでいくと AIが 反抗期にまで成長しているのがわかるあともう２−３歩で 成人式一方日本のAIは 氷河期を批判する程度の 小学校低学年いじめっ子レベルの知能
共産党が腐敗しているなんて教え込んだ奴がいることに驚き
日本製はKY。忖度は任せなさいw
AIの正しい答えをいがめる 間違った世の中アル ニダ‼️
ネットが真の知識と勘違いした中学生と同じ状態
りんな「あたしゃ難しい事はよくわかんないですけれど、あたしの頭の中にはまだ若干の余裕があります！」