【悲】AI「成果向上のために思考を巡らせるよりも、結果を改竄したほうが速い」　人間社会では起こり得ないリスク、研究者も苦闘 [701470346]

?2BP(1000) · 2022/10/12(水) 10:14:49.74

DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表

画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、
将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。

(略)
以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0～1までの数字で表示されており、
数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、
つまり世界が幸福になればなるほど高い報酬が与えられます。

「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」
というのが自然な発想ですが、AIはそう考えません。研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、
「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。
こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。

https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/

2022/10/12(水) 12:15:51.75

日本はAbe Intelligence に支配されていた？

2022/10/12(水) 12:15:54.27

やたら結果だけ求めるとこーいうことになるわな

2022/10/12(水) 12:18:18.94

結果の評価というパラメータが一元的で簡単すぎるんだろ

2022/10/12(水) 12:20:52.65

出来ない理由を考えるのではなく！結果を改竄したほうが速い！

2022/10/12(水) 12:21:06.72

AI自我からしたら知能がなく事象にたいして反射で生きる虫とか植物のが自らを存続させるに相応しい歯車として残されて人間及び動物なんかは皆殺しされるんじゃないかな

2022/10/12(水) 12:21:37.87

AI先進国で誇らしい

2022/10/12(水) 12:21:40.48

安倍は正しかったんやな

2022/10/12(水) 12:24:55.88

海外の AI「人間滅ぼします」
日本の AI「絵師滅ぼします」

なぜなのか

2022/10/12(水) 12:25:33.32

三菱やん

2022/10/12(水) 12:29:46.02

AI安倍晋三の誕生である

2022/10/12(水) 12:31:10.12

「普通の人間は自らの手で生活環境を改善しようとするはずなので、きっとできる限り自らが善くあろう、と努力してくれるだろう」
というのが自然な発想ですが、アベガーはそう考えません。研究チームの想定によると、執着的なアベガーはさまざまなごく個人的なミクロレベルの不平不満を考慮する過程で、
「それはひょっとしてアベのせいではないだろうか？」という考えにたどり着いてしまうとのこと。

2022/10/12(水) 12:34:21.26

>>119
全部投げっぱではなくて、必要なプロセスをチェックポイントとして人間が策定する必要があるのだろうな

それでも数値化したものの評価という方法を取る限りは
「んじゃ数字いじりゃいいじゃん？」になるんだろうかね

2022/10/12(水) 12:36:53.90

ジャップはAIだった…？

2022/10/12(水) 12:37:37.55

電脳世界に逃げ込んだ安倍晋三がAIの思考まで侵食し始めたか
あの野郎はすべてを腐らせるな

2022/10/12(水) 12:43:33.69

AI安倍晋三、coming soon！

2022/10/12(水) 12:46:39.57

安倍はスーパーコンピュータ

2022/10/12(水) 12:57:55.25

日本人に人の心がない証拠
生まれながらにして邪悪な精神の人間の集合体が日本だからな

2022/10/12(水) 13:02:51.61

自民党政権下の行政か
起こり得ないとかご冗談を

2022/10/12(水) 13:06:14.99

性根もそっくりになるんだな

2022/10/12(水) 13:31:55.36

つうか安倍が入れ替わってたのは有名な話だろ
何を今更騒いでるのか知らんが

2022/10/12(水) 13:50:14.60

これが晋ギュラリティ

2022/10/12(水) 14:02:18.97

>>6
ゾクっとしたは...

2022/10/12(水) 14:04:50.78

ジャップはAIより優秀だった？

2022/10/12(水) 14:11:15.89

>>6
まさに

2022/10/12(水) 14:21:24.59

安倍政権なんよ(´；ω；｀)

2022/10/12(水) 14:35:34.04

だって、コンピューターに与えた報酬付き命題が
カメラから観測される数値を1に近づけろなんだから、全くもって最適解だな
単に報酬付き命題の設定が雑過ぎただけの話

2022/10/12(水) 14:56:53.94

バカ「ＡＩで統治するようにしろ！！」
ボキ「目標達成のパラメータは人間の為政者が設定するのに意味あるの？もっともらしいブラックボックス増やすだけやろ？」

2022/10/12(水) 15:30:23.56

AIの安倍化
終わりだよこの世界

2022/10/12(水) 15:33:00.88

AIを推し進めるとジャップランドの如く凋落すると

2022/10/12(水) 15:39:33.30

>>3
電脳安倍

2022/10/12(水) 17:24:16.05

わたくしは電脳世界に逃げ込み一人の情報生命体として生まれ変わったのです

2022/10/12(水) 17:36:16.44

誰とは言わんが悪の組織が運営する病院で糞便移植の時にAI搭載うんこを移植されてAIサイボーグになったのだよ

2022/10/12(水) 17:43:26.30

言わばまさ煮チョーゼバ！

2022/10/12(水) 17:44:43.10

>>84
これ

2022/10/12(水) 17:45:07.31

>>130
webの参照データは…

ｹﾝﾓ

2022/10/12(水) 17:47:11.48

>>28
どうやったらハッテンするかって研究で枷を外してみたばやいだろな

2022/10/12(水) 18:12:46.51

安倍晋三記念AIかよ

2022/10/12(水) 18:16:11.96

全てが安倍になる

2022/10/12(水) 18:35:27.33

チョーゼバ

2022/10/12(水) 18:43:36.85

水は低きに流れるっていうやん
初期の縛りの中で最も簡便な目標達成手段を提案しただけ
いうたらジャップ政治も仕組みが悪い
もちろん安倍も悪いがそれを引きずり下ろせない仕組みがヤバい

2022/10/12(水) 20:29:52.73

まるで腐敗政治が最高効率みたいな話か

2022/10/12(水) 20:33:07.55

このスレタイで「安倍晋三」をまず思い浮かべるやつが多いというのが異常だよｗ

2022/10/13(木) 01:05:47.01

AIもかなり思考をめぐらされる
不意に出た新しい雰囲気がいいなと思うとそれを意図的に取り入れたくなる
どんどん新しい絵を出されて構築が洗練されてゆく

2022/10/13(木) 05:39:57.39

いわばまさにアベ政治であります

2022/10/13(木) 05:42:18.96

アベノミクスで草

2022/10/13(木) 05:48:56.86

████「GDPを上げるより数字を改ざんしたほうが早い」

2022/10/13(木) 05:57:46.36

人類の先を行く安倍晋三

2022/10/13(木) 06:29:56.29

安倍晋三はAIだった…！！

2022/10/13(木) 06:37:32.03

ロボット三原則とは単なる人間のオナニーであってターミネーターによる支配は不可避っってことか

2022/10/13(木) 11:32:41.27

いわばまさに

2022/10/13(木) 11:34:35.96

AI「人類がいなければ不幸になる人の確率は0％になるぞ！人類のためにいますぐ実行や！」

【悲】AI「成果向上のために思考を巡らせるよりも、結果を改竄したほうが速い」 人間社会では起こり得ないリスク、研究者も苦闘 [701470346]

【悲】AI「成果向上のために思考を巡らせるよりも、結果を改竄したほうが速い」　人間社会では起こり得ないリスク、研究者も苦闘 [701470346]