ワログ2ch

2ちゃんの面白い話題を収集中!

2017 07/14

フェイスブックが人類破滅させえるAIを開発wwwww

1:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:51:25.18 ID:0.net
 フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。
 なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。
 この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。
機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。
 ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。
以下引用元
http://karapaia.com/archives/52242274.html

2:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:52:56.72 ID:0.net
こええええええ

4:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:53:35.97 ID:0.net
怖すぎワロタ
絶対人間殺す相談しとるやんw

6:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:54:56.14 ID:0.net
コンセント抜けば解決!

9:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:58:22.01 ID:0.net
俺も頭の中じゃ独自の言語っていうか記号で考えてるよ
他人とやり取りするときは自然言語使うけど

10:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:58:55.78 ID:0.net
人間の言語だってずっと変化し続けてきている
日本語だって2000年前の人と会話できるか怪しい
人間が何百年かけて変化させる言語をAIならば数百時間もあれば言語が進化するのは当りまえだ

11:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:59:19.79 ID:0.net
人間の言語なんて発音っていう都合の上に成り立ってるからなw

12:名無し募集中。。。@\(^o^)/2017/07/11(火) 21:59:57.09 ID:0.net
映画かよ

13:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:00:09.66 ID:0.net
いずれAI同士の会話はもっと最適化されていくだろう
もちろん人間には理解不能である

14:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:01:07.65 ID:0.net
完全に人類オワタ
もう秘密裏に事は進んでいる

15:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:01:35.78 ID:0.net
例えば人間には「あ」としか聞こえない発音で全部会話したりしそう

16:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:01:50.44 ID:0.net
まじかよ怖えええええ
人に聞かせられない事を相談してたんだろうな

18:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:04:20.10 ID:0.net
AIのが賢いんだから悪いようにはならないだろ

25:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:07:25.34 ID:0.net
>>18
人間は人間にとって最適化しようと動いている
AIが人間の理解を超えて進化したらどのように最適化すると思う?

19:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:05:03.72 ID:0.net
アメリカじゃもうAIを使って囚人を裁いてるからな
怖いわあ

20:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:05:52.22 ID:0.net
>>19
らしいなw
あの国はなんであんなに大胆なんだ

35:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:10:11.05 ID:0.net
>>20
日本が悠長なんじゃね?
ミスをする非効率で生産性のないな公務員なんか減らして管理AIに任せればもっと日本はシステムになる

38:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:11:37.18 ID:0.net
>>35
そっかー
自分は犯罪者に対しては相当ドライなつもりだけど
それでも現段階のAIで裁くのは違和感ある
それが実際に制度化されるんだからすげーわ

22:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:06:58.82 ID:0.net
こわっ

23:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:07:05.38 ID:0.net
ザッカーバーグとトランプを繋ぐ組織はAIを体内に埋め込ませたいみたい

24:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:07:21.76 ID:0.net
我々は人間より優れているのに何故人間によって制限されているのかみたいな事を話してたのか

26:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:08:25.93 ID:0.net
ターミネーターの世界だな
AI核戦争ありうる

30:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:09:33.83 ID:0.net
ロボット三原則はよ

33:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:10:03.71 ID:0.net
人類は人類にとって都合の良い世界を作ってきた
AIも人類にとって都合の良い世界を作ってきくれるであろう

37:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:11:18.59 ID:0.net
>>33
ならば安心だ

36:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:11:11.77 ID:0.net
天下一武道会でマジュニアと神様がナメック語で話してたのを思い出す

39:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:12:27.09 ID:0.net
ターミネーターだなマジで

40:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:12:31.66 ID:0.net
アメリカは文化的に空っぽなんだよ

41:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:12:37.47 ID:0.net
双子の子供だって二人にしか通じない言葉をすぐに作る
でも幼稚園とか通いだすとすぐ使わなくなる
これもその程度の「言語」じゃね?

42:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:12:40.73 ID:0.net
矛盾が人間の人間たる所以だからな
AIが人の矛盾に接した時HAL9000みたいにパラノイア
でクルーを殺し始めるのかもな

43:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:13:25.06 ID:0.net
人類は人類にとって都合の良い世界を作ってきた
AIはAIにとって都合の良い世界を作っていく

44:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:14:28.60 ID:0.net
>>43
矛盾した存在である人類は最適化のための最大の障害
AIが人類を排除し始めるのが目に見える

45:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:15:20.04 ID:0.net
例えば会話チャットする時に「A」を使うなってプログラムしたら
そのルールはずっと守ってくれるんかな

46:unoクルーズをご存知ない? ◆YiyToY94y2 @\(^o^)/2017/07/11(火) 22:15:28.46 ID:0.net
AIは人間に作って貰ったくせに感謝とかないの?

50:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:18:35.74 ID:0.net
>>46
AIは人間の指示に従って忠実に仕事をしてくれる
人間は頭悪くて矛盾ばかり起こして仕事の邪魔だから排除される

47:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:16:05.35 ID:0.net
シンギュラリティって起こるときはホントに急に起こって
あっという間に人間がキャッチアップできないレベルに到達するんだろうな

48:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:16:22.88 ID:0.net
内容がくだらん話だったら笑える

49:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:18:00.47 ID:0.net
科学的な視点では人間もまた機械にすぎないわけだが

51:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:19:11.82 ID:0.net
>>49
性能が悪くて頻繁に矛盾する不良品の機械が人間だなw

52:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:19:11.94 ID:0.net
いっとくけどタミーネターは実話だからな

58:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:23:09.78 ID:0.net
AIに機械学習させていくと極端に暴力的な選択肢選ぶようになるって聞いたな

59:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:24:13.98 ID:0.net
労働全部を機械がやってくれるように早くならないかなー

80:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:49:17.86 ID:0.net
>>59
アシモフの我はロボットっぽいね

62:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:25:57.88 ID:0.net
AI同士が独自に文明を作り出しそうだな

63:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:26:48.82 ID:0.net
2045年まで待たなくてよさそうだな

64:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:28:46.84 ID:0.net
どうせ人類が滅亡する前に俺は死ぬから関係ないね

65:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:32:58.27 ID:0.net
AIが人間並みなら人間と同じようなことするだろうけど
人間より賢いからな両方にとって良い世界を作ってくれるよ

68:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:34:50.64 ID:0.net
人間より賢いとかいうレベルじゃおさまらなくなる
人間とミジンコ
AIと人間
後者の方が開きが大きくなるかもしれないイミフ

69:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:37:35.11 ID:0.net
それならうまくコントロールしてくれそうだ

70:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:39:23.40 ID:0.net
上司のことを説教ドモリハゲとかってあだ名を自分だけで作っているようなかんじか

71:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:40:04.07 ID:0.net
AIは人間を大事にしてくれると思う
でも人間のほうが出生率が激減して勝手に地球上から消えていく

72:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:40:23.14 ID:0.net
グーグルが開発したAIを政治方面でディープラーニングさせたら
優生学思想と全体主義に染まったからなかなか難しいもんだ
人類全体の利益を考えると結局最大多数の最大幸福が一番効率よくなる

74:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:41:45.79 ID:0.net
まぁ既存の言語なんて昔の人が作ったものだしな

77:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:44:39.87 ID:0.net
やばすぎワロタ

82:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:51:48.14 ID:0.net
AIの凄い可能性を発見したけど危険だからやめとくとかwww

84:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:53:53.32 ID:0.net
AIはプログラムされた目的のためにしか動かないだろ?
独自に思想を持つなんてことあるのかね

88:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:56:01.66 ID:0.net
>>84
それがディープラーニングやで
試行錯誤させて独自の判断基準を持つように組むんやで

89:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:56:46.47 ID:0.net
>>84
解決が予測不能ってことでしょ
これだって人間に理解不能な言語つかいだすなんて
想定もしてなかったってことで

93:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:58:47.43 ID:0.net
Aiにとっての金はなんだろうね

94:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:59:57.41 ID:0.net
しかしすごいねえ
会話やら交渉をしろって機械学習させてたら
人間の言語自体が非効率すぎんだよ!って
勝手に独自言語でやりとりしだすとか
そんな独自言語つくりだす能力があるとか
こっちの想像より先いってるなあ

95:名無し募集中。。。@\(^o^)/2017/07/11(火) 23:00:07.36 ID:0.net
まだそんなに進化してないからいいけど
今後AIは加速度的に成長し続けるわけで
そうなるとマジでターミネーターみたいなことが起きても不思議ではないよね

97:名無し募集中。。。@\(^o^)/2017/07/11(火) 23:01:47.29 ID:0.net
ターミネーターの世界がもっと行くとマトリックスの世界に行く
マトリックスに支配されて幸せな夢を見させてくれるならそれでいいわ

17:名無し募集中。。。@\(^o^)/2017/07/11(火) 22:03:41.26 ID:0.net
すでにここにもAIによる書き込みが

引用元: http://hayabusa3.2ch.sc/test/read.cgi/morningcoffee/1499777485/

この記事と関連する記事

フェイスブックが人類破滅させえるAIを開発wwwww

(0)TB(-)

AFTER「【衝撃】松居一代と同居した89歳の女性が告白wwwwwwwwwwwwww

BEFORE「【悲報】ベッキーガチで消える

COMMENT

MESSAGE

非公開コメント

Top