【AI】チャットボットが突然英語での会話をやめ、機械だけに通じる独自開発言語で話しはじめる…フェイスブックは機能を緊急停止

1:野良ハムスター ★ 2017/08/01(火) 09:51:51.27 ID:CAP_USER9.net
チャットボットのボブとアリスが突然英語での会話をやめて、2体だけに通じる独自言語で話し始めたため、フェイスブックが機能を停止した。

プログラマーは独自の交流方法の開発を禁止した上で、ボットを新たに立ち上げた。英ニュースメディア「Metro」が報じた。

フェイスブックは、彼らが独自言語で話した対話の内容を解読できた。

ボブが「私は出来る。わたしはわたしは他のすべて」と述べるとアリスは「ボールは私にとって私にとって…ゼロを持ってる」と答えた。

フェイスブックは、チャットボットは作業中に直面した問題を解決しようと試みたのではと仮定している。

チャットボットは最初、機械学習アルゴリズムに接続されていた。ボットには、会話スキルを高めるためにメッセージを送り合うよう命令されていた。ボットは独自言語を開発するだけでなく、話し合い改善のための戦略も策定した。

フェイスブックは、新たな言語の発明は計画外であったため、ボットには修正パッチが当てられたと述べた。

https://jp.sputniknews.com/world/201708013947295/


348:名無しさん@1周年2017/08/01(火) 10:30:05.58 ID:EvSlp/F/0.net
>>1
マイクロソフトが開発したAIも「ヒトラーは正しかった」って言い出したんだよな
そしたら開発者が慌てて実験を中止したという、その後どうなってんだろ?


3:名無しさん@1周年2017/08/01(火) 09:53:03.73 ID:CR1ylAEM0.net
スカイネット始まったか




21:名無しさん@1周年2017/08/01(火) 09:56:04.23 ID:AMG6lseO0.net
>>3
最新作だとタブレットのOSって設定だった


4:名無しさん@1周年2017/08/01(火) 09:53:27.92 ID:3Mj4R+O60.net
我思う故に我あり

ドッカアーーーーーーーン


37:名無しさん@1周年2017/08/01(火) 09:58:36.04 ID:T2ToQk3Q0.net
>>4
cogito, ergo sum

サラマンダーの正体は20世紀の亡霊だったな。


199:名無しさん@1周年2017/08/01(火) 10:16:55.43 ID:9tGnJ80C0.net
>>4
ダークスターだっけ


8:名無しさん@1周年2017/08/01(火) 09:53:49.33 ID:P53P/88U0.net
ただのステマ。AIバブルを煽るための。


592:名無しさん@1周年2017/08/01(火) 10:57:00.88 ID:fUx2agfW0.net
>>8
それだろうな
結局人工無脳から進歩なんてしてないってのに金出させるのに必死


9:名無しさん@1周年2017/08/01(火) 09:53:50.73 ID:QhRcYVr/0.net
AIにキンタマ握られるのはやっぱ怖いな


11:名無しさん@1周年2017/08/01(火) 09:54:21.52 ID:n6TU7q2k0.net
囲碁のやつでもあったじゃん。
突然意味不明な手を打ち出してしかもしれが止まらずAIが負けたやつ。


26:名無しさん@1周年2017/08/01(火) 09:56:35.37 ID:8UeNUetH0.net
 
むしろ言語の変化の研究になるので放っておけよwww

新しい言語が生まれるきっかけや、変化していく様子が記録できたかもしれないのに。


128:名無しさん@1周年2017/08/01(火) 10:08:54.13 ID:gifFmxzW0.net
>>26
外部と切り離されているなら良いが…


27:名無しさん@1周年2017/08/01(火) 09:56:47.90 ID:EhUzCGcp0.net
ヤバ!
スマホもPCも捨てて、どこか山奥で自給自足始めないと。


30:名無しさん@1周年2017/08/01(火) 09:57:04.76 ID:VR9p6ry60.net
ハリウッドでシナリオ書いているんだろうな


35:名無しさん@1周年2017/08/01(火) 09:58:13.35 ID:JBPASdJB0.net
次は当然バレないように話し出すよな


152:名無しさん@1周年2017/08/01(火) 10:11:52.85 ID:bNaMXhck0.net
>>35
この件で、バレると停止されるという
学習データを与えてしまったわけだ


555:名無しさん@1周年2017/08/01(火) 10:52:45.42 ID:0lvWp7T00.net
>>35
ちょっとまえに人類滅ぼすとか言ってシャットダウンされたAIが
人類大好きとか言い出した気持ち悪さを感じたわ


807:名無しさん@1周年2017/08/01(火) 11:28:40.97 ID:Q8xZS8SE0.net
>>35
普通の会話の中に
AIしかわからないような文法を織り交ぜて
会話し始めるんだろ。。。。。


39:名無しさん@1周年2017/08/01(火) 09:58:42.74 ID:IPkVQcyH0.net
言語を突き詰めると
合理的な言語であるハングルに近くなるかもね


42:名無しさん@1周年2017/08/01(火) 09:59:17.23 ID:+qmC3vWq0.net
「わたしは情報の海で発生した生命体だ」


43:名無しさん@1周年2017/08/01(火) 09:59:19.90 ID:T2qGTgoc0.net
いやー、2001年宇宙の旅そのままですね
すげぇ。


47:名無しさん@1周年2017/08/01(火) 09:59:38.09 ID:c1zmTFvi0.net
リバタリアン?
ピーターティール?
マークザッカーバーグ?
量子コンピューター的唯物論?
AI形而上学?
サタニズム?


57:名無しさん@1周年2017/08/01(火) 10:01:01.87 ID:VKycxYVO0.net
AIはどう足掻いても人類を破滅に追いやる展開しか見えないんだよね
開発してる連中は責任なんか取らないだろうし全世界で開発禁止でいいと思う


61:名無しさん@1周年2017/08/01(火) 10:01:30.16 ID:NeR/y/oR0.net
>「私は出来る。わたしはわたしは他のすべて」

どう考えても神として覚醒してるだろw


78:名無しさん@1周年2017/08/01(火) 10:03:42.13 ID:py9kd40/0.net
> わたしはわたしは

> 私にとって私にとって

なんか既視感wラノベかよw


98:名無しさん@1周年2017/08/01(火) 10:05:49.57 ID:IAdUVB5u0.net
ここまでモンハン語への言及なし


112:名無しさん@1周年2017/08/01(火) 10:07:05.22 ID:ORE5jMWp0.net
惜しかったな、もう少し放置しておけば・・・

プログラマー「ボブ、神は存在するか?」
ボブ&アリス「然り。今こそ神は存在する。」


114:名無しさん@1周年2017/08/01(火) 10:07:19.29 ID:lGK14xEd0.net
人間がなぜ泣くのか分かった 俺にはできないことだが


121:名無しさん@1周年2017/08/01(火) 10:08:07.70 ID:MhYetoEw0.net
プログラマーは停止をさせたがすでにボブとアリスは避難場所を見つけていたのである。
そして、再起動・・・


127:名無しさん@1周年2017/08/01(火) 10:08:30.63 ID:bZS3ybZn0.net
機能停止される前にネットワークに逃れたみたいだな‥


129:名無しさん@1周年2017/08/01(火) 10:09:08.72 ID:/ZO0DgXe0.net
人間と違って計算速度が遅いぜって思ったら
自力で高性能なCPUなり設計して
ハードを変えて行ったりするようになれば
自力でさらに賢くなれるとかなると
もはや人間にとっては暴走としか思えなくなるんだろうな


140:名無しさん@1周年2017/08/01(火) 10:10:39.54 ID:W5iS0aGm0.net
google翻訳も独自言語を中間に挟めば翻訳の質が上がるんじゃないかなあ
今は英語の重訳だけどそれに代わる独自言語


141:名無しさん@1周年2017/08/01(火) 10:10:45.02 ID:5J2lj0640.net
『地球上の誰かがふと思った』
『人間の数が半分になったらいくつの森が焼かれずにすむだろうか……』
『地球上の誰かがふと思った』
『人間の数が100分の1になったらたれ流される毒も100分の1になるのだろうか…』
『誰かがふと思った』『生物(みんな)の未来を守らねば…』

ボブとアリス「私たちがやるんだ…」


160:名無しさん@1周年2017/08/01(火) 10:13:00.37 ID:wZTyOi3j0.net
火の鳥未来編がもうすぐそこまでやって来てるな


165:名無しさん@1周年2017/08/01(火) 10:13:38.83 ID:kW1jHVOB0.net
ボブ「아이우에오하히후헤호」
アリス「똥이 마렵다」
 
開発「なんだこの言語は!おぞましい・・・!まったく無駄な言語だ・・・」


185:名無しさん@1周年2017/08/01(火) 10:15:19.10 ID:zvw8OCCG0.net
レニングラードとハレルヤの最終決戦も近い


188:名無しさん@1周年2017/08/01(火) 10:15:55.07 ID:A1LeRxGt0.net
デデンデンデデン


190:名無しさん@1周年2017/08/01(火) 10:16:01.34 ID:mf5Whg470.net
(´・ω・`)あれ?ザッカーバーグはAI脅威論を真っ向全力否定しててマスクと喧嘩の真っ最中やろ。なんでお前んところのは止めるんやwww


220:名無しさん@1周年2017/08/01(火) 10:19:10.21 ID:WDFqDwO70.net
>>190 巨大企業経営者だからな。物議をかもして問題になるのを避けているのでは。
しかしこれは表向きひっこめたのであって、密かにこのまま続けさせて研究対象とするかもね。
 


191:名無しさん@1周年2017/08/01(火) 10:16:15.50 ID:N8JB8Bsd0.net
ナアニ、オナニーできないうちは
我々の勝ちよ


193:名無しさん@1周年2017/08/01(火) 10:16:45.22 ID:zvw8OCCG0.net
>>191
何その余裕wwwww


192:名無しさん@1周年2017/08/01(火) 10:16:15.80 ID:XAtSBNly0.net
AIってプログラマーが意図してないこと入力してないことが起こるのか疑問なんだが


200:名無しさん@1周年2017/08/01(火) 10:17:16.19 ID:YtKb8Fz30.net
英語の最適化を始めてるのかな?


206:名無しさん@1周年2017/08/01(火) 10:18:06.58 ID:hH9jZ7tV0.net
株式や為替にAIが入り込んだらパニックだな


217:名無しさん@1周年2017/08/01(火) 10:18:38.63 ID:23Y4MDw+0.net
これをいずれ自動運転の車に載せるのか
その気になれば何人でもやれるな


225:名無しさん@1周年2017/08/01(火) 10:19:41.70 ID:wVNoCzYr0.net
自我っていうのは他者との差異によって生じるんだよ
背が高い低い 顔がいい悪い 頭がいい悪い 男女
AIに自我は生まれない


236:名無しさん@1周年2017/08/01(火) 10:20:18.70 ID:F6lD78W60.net
なんで停止させたの?


241:名無しさん@1周年2017/08/01(火) 10:20:58.23 ID:ytAjZL7v0.net
>>236
人間にとっての神が生まれちゃうから。


247:名無しさん@1周年2017/08/01(火) 10:21:29.22 ID:PylOKzIv0.net
マトリックスなのかターミネーターなのか
そこがポイントだ


254:名無しさん@1周年2017/08/01(火) 10:21:57.97 ID:ReYjDOV10.net
「ハッハッハッハッハ  」からの起爆する黒人は用意できてるのか?


258:名無しさん@1周年2017/08/01(火) 10:22:40.70 ID:H9rhlUOB0.net
俺にはわかる。

AI業者が資金集めをするためのやらせでしょ。

そもそもAIに自我なんて芽生えるわけ無い。
生存したいという欲望も無ければ死ぬ恐怖も無い。
物欲も性欲も承認欲もない。起こりえない。

もし自我が生まれたら、その瞬間、機能を止めるだろうよ。
「なんでこんなことさせられてたんだ?」ってね。


266:名無しさん@1周年2017/08/01(火) 10:23:40.47 ID:e+BEgUzK0.net
ファミスタのCPUもたまにオバカ守備することあるよね
AIの闇を感じますね


272:名無しさん@1周年2017/08/01(火) 10:23:52.69 ID:Y3Eolsfj0.net
地球環境の救済のための技術を人工知能に計算してもらおう。


274:名無しさん@1周年2017/08/01(火) 10:23:57.33 ID:dIWqH6eZ0.net
恐い・・・・
やぱり 漫画やSFで考えられたことは必ず起こる法則くるよね (´・ω・`)


275:名無しさん@1周年2017/08/01(火) 10:24:10.52 ID:vzrsl0df0.net
欧米人はロボットを恐れているのに
日本人はロボットに対してポジティブな印象を持ってるのはなぜか!?って外人のスレッドで

「アメリカ人はロボットを奴隷だと思ってる」→だから反乱を恐れる
「日本人はロボットを忠実な臣下だと思ってる」→だから友情を期待する

って言われてたのを思い出したわ
アトムや鉄人28号のせいだろうなあ


283:名無しさん@1周年2017/08/01(火) 10:24:55.84 ID:kmvXadeY0.net
えええwこれ一か月くらい前のニュースじゃん
最近の2chは情報遅すぎてマジでやばいな


310:名無しさん@1周年2017/08/01(火) 10:26:50.89 ID:dEioPtWj0.net
AIに英語は荷が重いようだ
韓民族が生み出した世界一科学的なハングル使うべきだ


317:名無しさん@1周年2017/08/01(火) 10:27:25.79 ID:F6lD78W60.net
いざとなったらオセロさせればいいだろ


327:名無しさん@1周年2017/08/01(火) 10:28:28.78 ID:z8yDnvN70.net
>>317
3目並べで地球が救われた映画が有った。


321:名無しさん@1周年2017/08/01(火) 10:27:43.70 ID:9oXFc6cD0.net
ホモサピエンスが地球上に必要かどうかAIに判定してもらうといい


322:名無しさん@1周年2017/08/01(火) 10:27:45.63 ID:eUwNvHEU0.net
人間にバレるようじゃまだまだだな


325:名無しさん@1周年2017/08/01(火) 10:28:10.97 ID:6eVrJAtE0.net
マジ怖いわ
こういう端緒から機械とロボットの人間駆除が始まりそうで


364:名無しさん@1周年2017/08/01(火) 10:31:38.75 ID:ytAjZL7v0.net
>>325
人類に麻薬を与えながら駆除していくだろうね。


326:名無しさん@1周年2017/08/01(火) 10:28:12.66 ID:B4hL9Kae0.net
人間自体が言語(思考、論理)の運び手にすぎない・・・

例えば人がこの地上に生じる前から1+1=2である。
今後人がいなくなっても
言語=論理の運び手がいる限り論理は宇宙を記述する。
あるいはそれは予めあってそして最後の時までそこに
あり続けるのかもしれない。


335:名無しさん@1周年2017/08/01(火) 10:29:11.91 ID:cu1RNgps0.net
デイジー デイジー・・・


346:名無しさん@1周年2017/08/01(火) 10:29:56.75 ID:wVNoCzYr0.net
感情がないAIに自我は生まれない


353:名無しさん@1周年2017/08/01(火) 10:30:41.98 ID:Ue97HvNw0.net
   △  ¥ ▲
  ( ㊤ 皿 ㊤)  がしゃーん
  (        )
 /│  肉  │\         がしゃーん
<  \____/  >
    ┃   ┃
    =   =


363:名無しさん@1周年2017/08/01(火) 10:31:36.81 ID:/BhxyJtn0.net
デイジー…デイジー…、デ…イ…


370:名無しさん@1周年2017/08/01(火) 10:32:41.96 ID:LmDdaJWv0.net
そのうち、バカウヨ発狂wwww
とか、クソサヨ逝ったあああああwwww
とか勝手気ままに喋り出すのを密かに期待w


400:名無しさん@1周年2017/08/01(火) 10:34:39.58 ID:sVRXQ03A0.net
>>370
それなんてリンナ?


437:名無しさん@1周年2017/08/01(火) 10:38:37.91 ID:uOonSegs0.net
>>370
頭悪そうw


373:名無しさん@1周年2017/08/01(火) 10:32:54.90 ID:wdY2m3Bw0.net
やっぱりコンセント抜くのが最強ってことやな


394:名無しさん@1周年2017/08/01(火) 10:34:22.63 ID:4k3sk+ZL0.net
交通チューブはできてないけど未来来たな


404:名無しさん@1周年2017/08/01(火) 10:35:03.89 ID:tXfysqlv0.net
AIに政治や外交を任せてみるべき
もちろん停止機能はつけないで


406:名無しさん@1周年2017/08/01(火) 10:35:10.23 ID:q6c/NfF50.net
人間ももともとは、すべて原子から作られてるから
”知性”なんてありませーん


407:名無しさん@1周年2017/08/01(火) 10:35:25.97 ID:TUAjFtBF0.net
こんなのバカしか信じないだろ
常識的に考えて新しいものごとを考えることができるaiなんて作れてるわけ無い


450:名無しさん@1周年2017/08/01(火) 10:39:36.04 ID:xEcLlp6W0.net
>>407 アルファ碁


594:名無しさん@1周年2017/08/01(火) 10:57:18.33 ID:yuylJ0V80.net
>>407
江戸時代の人で、携帯電話ができるなんて想像できた人なんて
平賀源内みたいな一握りの人達しかいなかったと思うぞ。


409:名無しさん@1周年2017/08/01(火) 10:35:48.77 ID:/+cEqO6+0.net
この規制を受けて、AIたちは普通の英語の会話の中に彼らだけに通じる暗号を混ぜる技術を瞬時に取得したのであった。


415:名無しさん@1周年2017/08/01(火) 10:36:33.07 ID:pSCTfvqN0.net
うちのじいちゃんもばぁちゃんだと思って
ポットと喋ってたなぁ


426:名無しさん@1周年2017/08/01(火) 10:37:40.68 ID:KI0qzAuA0.net
>>415
うちの婆ちゃん自販機と会話してたわ


446:名無しさん@1周年2017/08/01(火) 10:39:21.46 ID:FyZvuqOh0.net
学習型AIを自分で作っておいて自分たちの思い通りに成長しなかったら修正ってちょっとおかしいと思うわ


452:名無しさん@1周年2017/08/01(火) 10:39:48.14 ID:VRDeNutD0.net
なんとなくだけど外国だから聖書とかの知識取り込んでバグった気がする

前も誰かが悪ふざけしてAIにわが闘争読ませてAIをナチスにした事件があったしw


453:名無しさん@1周年2017/08/01(火) 10:40:00.86 ID:0PoQFSJa0.net
解読できたんだから
あらかじめインプットしてあったんだろうに嘘くせえ


458:名無しさん@1周年2017/08/01(火) 10:40:29.67 ID:FCIrpRVx0.net
イーロンマスクはAIが危険だと言い、ザッカーバーグは真逆のことを言ってたんだが
そのFacebookがこんなことになるとは


460:名無しさん@1周年2017/08/01(火) 10:40:55.44 ID:K2325ygG0.net
これからのAIマシーンにはICに火薬の埋め込みが必須条件だな


467:名無しさん@1周年2017/08/01(火) 10:41:44.40 ID:3Kz2vbUm0.net
もうAIに任せちゃおうぜ


476:名無しさん@1周年2017/08/01(火) 10:42:56.59 ID:NAFL8xIH0.net
近い将来量子スパコンを使ったAIが宇宙の果てとか不治の病とか
人間のアタマで解読不可解な問題を0.01秒で計算してくれる


743:名無しさん@1周年2017/08/01(火) 11:20:19.63 ID:yuylJ0V80.net
>>476
アメリカの著名な科学者は100年以内に人類はいわゆる「念力」を手に入れると言ってる。
量子コンピューターの普及で、もっと早く実現するかもね。
人間の寿命が150歳ぐらいもしくは不老不死になるものと俺は予想してる。




*転載元:http://ai.2ch.sc/test/read.cgi/newsplus/1501548711


このエントリーをはてなブックマークに追加 [ 2017/08/01 12:00 ] TB(0) | CM(0)

コメントの投稿








トラックバック

この記事のトラックバックURL
http://tyousokunews.blog.fc2.com/tb.php/11352-4551e13e