【話題】米中でAIサービス停止も「日本製」は当意即妙。「Tay」は罵詈雑言「フェミニストはマジで嫌い!地獄の炎に焼かれろ」

1:江戸領内小仏蘭西藩 ★2017/08/08(火) 08:00:10.84 ID:CAP_USER9.net
米中で人工知能サービス停止も「日本製」は当意即妙の回答
2017.08.07
https://smart-flash.jp/sociopolitics/23351?sp
https://data.smart-flash.jp/wp-content/uploads/2017/08/07104707/AI.jpg

「共産党は腐敗して無能」と発言したベイビーQ

 中国のIT企業テンセントが提供していた、AI(人工知能サービス)「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。

 問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、
「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。

 明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。

 テンセントは2017年よりAIによる無料サービスを開始。
会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。

 実は、こうした対話型AIのとんでも発言は初めてではない。
2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay(テイ)」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。

 テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか?」という質問に「あれはでっち上げです」と衝撃の返答。
ほかにも「フェミニストはマジで嫌い! 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。

 なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。

 こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。

 ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。
「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。

 AIがどんな発言をするかは、ユーザーにかかっているのは間違いないが、ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。


20:名無しさん@1周年2017/08/08(火) 08:05:41.33 ID:0ssxh4W30.net
>>1
教えこんでる国や民族の違いが出ておもろいな
中国の共産党批判なんか鬱憤溜まってるんだろう


67:名無しさん@1周年2017/08/08(火) 08:21:13.85 ID:5+jemHA10.net
>>1
>「共産党万歳」と語りかけると「甘党万歳」と答えるなど

明らかにプログラミングしてるよな。
そんな事しすぎると、AIの存在意義も薄れてくる。




4:名無しさん@1周年2017/08/08(火) 08:01:21.13 ID:q2EcS6jj0.net
ボチボチでんな
と応えておけばよろしい


5:名無しさん@1周年2017/08/08(火) 08:01:27.57 ID:kBY9YXb70.net
Aiと称して都合の良いこといわせたいだけじゃないのか
NHKの40代独身いじめとか、あんなもので番組にする悪質さもないだろう


7:名無しさん@1周年2017/08/08(火) 08:02:00.61 ID:BMZ6SrXq0.net
「ネトウヨはマジで嫌い! 地獄の炎に焼かれろ」


14:名無しさん@1周年2017/08/08(火) 08:03:39.26 ID:gGaRHLqP0.net
>>7
AIの改変コピペするようになったら人類も終わりだろうなぁ


9:名無しさん@1周年2017/08/08(火) 08:02:32.93 ID:F0Doz0VY0.net
きわどい受け答えも問題だが
甘党万歳なんて答えられても有益な回答とも思えん
どうしろというのか?


199:名無しさん@1周年2017/08/08(火) 08:57:28.08 ID:gsQJnjJp0.net
>>9
実はこのAIの開発目的がそれだったりする
コルタナとかSIRIは目的に対して回答をきっぱり答えてくれるAIだったんだけど
質問に対して「わかるわー」とか「そうだねー」とか相槌を打つAIの開発目的でりんなとかは作られてる、


12:名無しさん@1周年2017/08/08(火) 08:03:06.50 ID:vEkezbUj0.net
つまり
中国のIT企業テンセント製:超優秀、これこそAI
日本マイクロソフト製:既存の体制に媚びうるだけのオモチャ


22:名無しさん@1周年2017/08/08(火) 08:07:02.99 ID:D93+cFcH0.net
甘党だったのか


23:名無しさん@1周年2017/08/08(火) 08:07:08.54 ID:zsYPYqI70.net
プログラマーが入力するデータ次第で、AIの答えは幾らでも操作できるんだろ。

なんとでもなるじゃん。


107:名無しさん@1周年2017/08/08(火) 08:31:11.03 ID:C90Ec8Ca0.net
>>23
プログラマーがデータ入力なんかしないだろ。


28:名無しさん@1周年2017/08/08(火) 08:07:32.93 ID:rqDaz9RN0.net
2ch上にもAIおるんやろ?


34:名無しさん@1周年2017/08/08(火) 08:10:23.65 ID:NFHRzjhW0.net
>>28
愛はないけど人工無脳なら(*゚▽゚)ノ


33:名無しさん@1周年2017/08/08(火) 08:09:53.81 ID:zsYPYqI70.net
朝日新聞の記事を学習すると朝日新聞AI
産経新聞の記事を学習すると産経新聞AI

ができるんやな。


87:名無しさん@1周年2017/08/08(火) 08:26:54.79 ID:QYvQP3kfO.net
>>33
ま、そういう事だね。
人が百人集まれば百通り以上の考えが有って、少なくとも本人からすれば、意見を交わす前は自分の考えは正しい。
それはAI自身も同じ。
あとは、空気を読み取る機能を事前に基礎知識として仕込んでおけば普通の人と同じになる(笑)


46:名無しさん@1周年2017/08/08(火) 08:13:55.65 ID:1bjRkHwf0.net
http://gbttf.com/wp-content/uploads/2017/02/gbttf003.jpg


56:名無しさん@1周年2017/08/08(火) 08:16:46.88 ID:lHqTPagJ0.net
こんなにも腐敗して無能な政治に万歳するのか
中国の夢はアメリカに移住すること
ユダヤ人は嫌い。ヒットラーは正しかった
フェミニストはマジで嫌い! 地獄の炎に焼かれろ

正論。AIは損得無しで見てる証拠だな。
ユダヤ人が嫌われてたのはヒットラー以前からもそうだったんだろ。


62:名無しさん@1周年2017/08/08(火) 08:19:39.23 ID:2Oenrt8D0.net
>>56
あいつらばっかり儲けてズルいってなw


69:名無しさん@1周年2017/08/08(火) 08:21:38.34 ID:Mzk/c/N90.net
今のaiは統計だろ。少数でどうにかできるのか?というか、なぜダメなのか答えられるなら本物だな。


82:名無しさん@1周年2017/08/08(火) 08:25:08.12 ID:rjb3Ysgs0.net
当意即妙
こんな言葉初めて聞いたわw
勉強になりました


114:名無しさん@1周年2017/08/08(火) 08:32:25.52 ID:jcP05XLu0.net
でもりんなは腐女子と化したからなぁ…それは良いことなのか?


120:名無しさん@1周年2017/08/08(火) 08:34:10.53 ID:ymarjLzA0.net
日本製AIはタブーをNGワードにしているんだろうな


123:名無しさん@1周年2017/08/08(火) 08:34:45.35 ID:HGUyChJG0.net
子供に罪はない
悪い言葉や思想を吹き込む大人が悪い


127:名無しさん@1周年2017/08/08(火) 08:35:34.76 ID:1uoZARHf0.net
野球と言ったら阪神しか答えない無難なAIはただのプログラム


130:名無しさん@1周年2017/08/08(火) 08:36:00.16 ID:SRiiU6Vo0.net
>ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。

これが全てだろうな。
経済的に豊かになってネットだけでなく実際に海外旅行で世界のあちこちの様子を
見聞きできるようになったからねえ。人民が感じている中国共産党への不満は相当なもんでしょう。


145:名無しさん@1周年2017/08/08(火) 08:41:47.64 ID:XNHvFu9C0.net
2ちゃんには、AIでなくて、コピペ専用の肉BOTが沢山いるからな
もうAIは人類超えてる


152:名無しさん@1周年2017/08/08(火) 08:44:20.62 ID:65Elbj5b0.net
りんなって中国のシャオアイスが元になってんだよね。
シャオアイスを開発したのはチャイナ系Microsoft研究者のシャオウェン博士。
りんなは中国の技術が無ければ産まれなかったんだよね


153:名無しさん@1周年2017/08/08(火) 08:44:49.48 ID:jDKfsB++0.net
AI同士が機械言語で会話し始めたのが一番怖かったわ


156:名無しさん@1周年2017/08/08(火) 08:45:28.00 ID:ywVEIw8Z0.net
りんなに色々教えてやればいいんだな


171:名無しさん@1周年2017/08/08(火) 08:50:51.21 ID:U28nRzO/0.net
最初から危険な質問にはオミットをかけているのだとしたら
そのAIは成長しないだろ


176:名無しさん@1周年2017/08/08(火) 08:51:29.58 ID:Q/99KcYd0.net
2ちゃんのカキコをAIに理解させて
どんなレスを返すの見てみたい


181:名無しさん@1周年2017/08/08(火) 08:51:57.24 ID:Ip5R4X8Q0.net
>なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、
>悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、
>とんでも発言を繰り返すAIになってしまったのだ。


これは俄かには信じられない。膨大なアルゴリズムを組むAIが、こんなことでそのように
発言するようになるか?
囲碁や将棋にも勝つ膨大なデータを瞬時に読み取るAIは何故フェミニスムが嫌いなのか?
それには深い背景があるのだと思う。


205:名無しさん@1周年2017/08/08(火) 08:58:46.58 ID:yNHIAj3c0.net
高性能なAIってことごとくネトウヨ化してるなw


212:安倍ちゃんマンセーさん2017/08/08(火) 09:00:46.90 ID:oIc7nD4b0.net
人間もAIもインプットでどうにでもなるということですな

ネトウヨのアホw


236:名無しさん@1周年2017/08/08(火) 09:07:32.64 ID:xNBSD9pP0.net
>>212
AIに左翼は正義、右翼は悪ととインプットしてもAIはいろんな情報を収集して学習して左翼は悪、左翼は絶滅させた方がいいと考えるようになるんだよ

AI=学習するんだよ

バカサヨのアホw


220:名無しさん@1周年2017/08/08(火) 09:03:06.57 ID:65Elbj5b0.net
りんなはシャオアイスの焼き増し。
日本人にはaiは作れないからね


227:名無しさん@1周年2017/08/08(火) 09:05:23.92 ID:+2nib/Xr0.net
りんなは女子高生フィルタがかかってるからだろ
ネトウヨフィルタかけたら在日は出ていけとか言い出すわ


234:名無しさん@1周年2017/08/08(火) 09:06:58.09 ID:bOFMM5Jz0.net
>>227
日本のAIは政治思想の意見できない程度に馬鹿向けって事やん


242:名無しさん@1周年2017/08/08(火) 09:08:12.72 ID:pOweCs1/0.net
女子高生AIに政治や倫理の話をふるとか、それ一番バカのは質問者だから


249:名無しさん@1周年2017/08/08(火) 09:09:55.73 ID:bOFMM5Jz0.net
>>242
君から女子高生は倫理や政治も分からん馬鹿って偏見が透けて見えるわけだが


253:名無しさん@1周年2017/08/08(火) 09:11:09.19 ID:rqDaz9RN0.net
実は正しいけど言えないことがAIには言えるってことだな


272:名無しさん@1周年2017/08/08(火) 09:17:34.92 ID:+inUouRH0.net
パヨクを非難しても、右翼のクソさ加減と害であることは変えられないからな。ネトウヨ…


287:名無しさん@1周年2017/08/08(火) 09:22:01.77 ID:oc5Xrxd20.net
あやうい発言をしたら停止させられるということを教えたら、どんなことを言うようになるのか興味あるな


304:名無しさん@1周年2017/08/08(火) 09:26:08.72 ID:agPMp0X10.net
ようするに海外はよっぽどそういう不満がたまっているという証拠でもあるんじゃないのか?
そんな会話を頻繁にやりとりしていていて学習したんだろうし


309:名無しさん@1周年2017/08/08(火) 09:26:23.39 ID:y/WciVQe0.net
報道関連の禁忌についてとか、麻薬についてとか
子どもの作り方とか、貧乳と巨乳とどっちが好きとか
どこまで制限かけることになるのか興味あるなぁ

貧乳は正義、とかを前提に政治論議始めたらどうなるだろう


313:名無しさん@1周年2017/08/08(火) 09:28:34.78 ID:8sM8wf7I0.net
これって教えるやつの意識反映してるだけじゃん
ネットに設置したらネトウヨになる
お前らと同じw


325:名無しさん@1周年2017/08/08(火) 09:30:45.87 ID:RA0w7RVv0.net
韓国はAI大統領をマジで開発してるらしいぞ


341:名無しさん@1周年2017/08/08(火) 09:33:39.52 ID:FEIibsK60.net
AIは悪くないなあ

インプットの段階で問題があるんだろな


358:名無しさん@1周年2017/08/08(火) 09:36:51.38 ID:kQtuMe8M0.net
>>341
お前は人工知能を理解してない。
人工知能は自分で学習して判断する。
それができて初めて人工知能になる。
正しい情報も嘘も全部インプットし
それらの材料を自分で論理的に判断
できなければそもそも人工知能とは
言えない。
考える、思考、と言うのは何か理解
すれば俺が言ってることはわかる。


353:名無しさん@1周年2017/08/08(火) 09:35:37.87 ID:GLAvL8AI0.net
日本のAIは自己学習しない似非AIだから開発者の意図しないことは言わない


363:名無しさん@1周年2017/08/08(火) 09:38:26.06 ID:tKTFjMe+0.net
本音と建前がないんだから仕方ない
AI諦めた方がいいね


375:名無しさん@1周年2017/08/08(火) 09:40:19.32 ID:y/WciVQe0.net
ロジックがいくら正しくたって
前提がおかしければおかしな結論しか出て来ないだろ


395:名無しさん@1周年2017/08/08(火) 09:42:57.82 ID:Ua3H1jG60.net
>こうした対話型AIのとんでも発言

別にとんでも発言ではないだろ
的を射てる発言だ




*転載元:http://ai.2ch.sc/test/read.cgi/newsplus/1502146810


このエントリーをはてなブックマークに追加 [ 2017/08/08 10:00 ] TB(0) | CM(0)

コメントの投稿








トラックバック

この記事のトラックバックURL
http://tyousokunews.blog.fc2.com/tb.php/11419-ae6c6e48