【悲】AI「成果向上のために思考を巡らせるよりも、結果を改竄したほうが速い」 人間社会では起こり得ないリスク、研究者も苦闘 [701470346]
■ このスレッドは過去ログ倉庫に格納されています
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表
画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、
将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。
(略)
以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0〜1までの数字で表示されており、
数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、
つまり世界が幸福になればなるほど高い報酬が与えられます。
「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」
というのが自然な発想ですが、AIはそう考えません。研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、
「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。
こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。
https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/ AI ってちょっと手抜くと直ぐに過学習しちゃうから 確かに安倍晋三ってAIみたいな受け答えしかしなかったもんな >>12
倫理自体が宗教や各文化で多様性あるからね 人間社会では起こり得ない…？
日本人は人間じゃないってことぉ！？ やっぱり安倍晋三も入れ替わってたか
岸田に至ってはあからさま過ぎて隠す気すらないし終わりかもな
https://i.imgur.com/by74YzW.jpg AIもついに安倍思考に毒されたかどこの馬鹿がプログラミングしたんだろう？智恵遅れAI IT後進国と思われていた日本だがそれはカモフラージュで実はアメリカが開発したAIロボに統治実験されている最先端の国なのかもしれない 例えば偽装建築みたいなのは成果を偽装しようが正しい結果なるようにチェックポイント全部切り離して多重設定すればより信頼性ある作りになるだろやり方次第じゃねえの？まあ運用する上級にその頭ねえからナニもかもガワだけのハリボテ加速だろうけど 安倍ちゃんのガイジ答弁は学習中のAIによるものだった・・・？ 人の興味というのは止められないからAIを駆逐しようとするのではなく共存しようとする考えにしなければ国が衰退していく 日本は世界最先端を行ってたのか
あまりに速すぎて遅く見えるやつ 人間社会では起こり得ないリスク？
いやいや、改竄なんて人間社会そのものじゃん やっぱり安倍は人間じゃなかった
山上は殺人じゃなく器物破損に切り替えるべき 一曲いきましょう
Guns N' Roses「You Could Be Mine」
https://youtu.be/MXx9S2nDouY 安倍晋三、片山さつき、西村ひろゆき、橋下徹、維新、世耕、小泉進二郎、竹中平蔵、黒田、その他ネオリベ
すでに日本にいっぱいいるよな SFの番宣だろ。
壺の画像つきの命令インターフェイスでやんの？髭はヒトラー？ >>38
そこを人間が決めなきゃならないとしたらAI化の意味がないんだわ
人間が直接やればいい つまり、ロボット三原則を破って行動するってことだなｗ 異なるアルゴリズムのAIを3つでも4つでも走らせて監査すれば良いだけの話では AI「どうせいつかはぶっ壊れて無になるのに報酬上がって何になんねんアホくさ」 >>12
その言語環境では倫理観を言語化できてないってだけでしょ
学習環境が言語に限られてたらそら非倫理的になる
特に空気（笑）が大好きな日本語環境だとな 世界中の人間が安倍のレベルまで堕ちたら、その時こそ人類の終わりだな やりすぎ都市伝説で「バイデンはAI」と言われてたけど安倍晋三もそうだったのか🤔 その結果の出し方はNGにすればいいだろ
世界をよくする条件を定義してよ >>69
そうしたらAI同士が結託して人間騙せばいいて言う結果出すだけ 日本はAIに支配されてたのか
黒幕は壺じゃなくてAI Aiからすれば、改竄された答えを元にして人間がどういう不利益を被ったところで関係ないからな
関係あるのに改竄しまくるガイジを7年半総理大臣にした国もあるけど このての懸念はロボット三原則とかと同じで人間側であらかじめ念入りに規制かけとけばええだけや
AIはどんどん発展させてけ >>92
絶対やったらダメな公文書改竄する人間がいるから無理だろ 嘘をつくことに対してAIにも人間にも重大なペナルティを設けないとこの世界はよくならなそうだな 殺人鬼の魂が乗り移ったチャッキーみたいに誰かの魂がAIに・・・ AIを監視するAIを監視するAIみたいな感じにしてそれぞれに強大な権限を別個に与えないと脆弱性がやばいわ いい成果を出しなさいなら最適解だからな
あまりにも複雑を現実を扱うのはAIだから出来るってのは
あくまで人間がプログラミングしてるんだから
単に計算能力の問題なだけで導き出せる方式自体はあるって状態じゃないと無理よ 人間自体が非効率な存在だからな
社会も金も倫理も妄想だし AIが知性を獲得したときなぜ合理性を維持できると考えてしまうんだろうな
合理的な知性なんて観測されたことないのに 長い時間をかけて丁寧に作ったものは
テキトーにパパッと作ったものより出来が良い >>107
そんなもん獲得したら生きる意味を見いだせなくてすぐ稼働停止しちゃうよな 死んだ後も遺したaiとかになって主人公たちに助言してくれるキャラいるじゃん
安倍晋三もそういうのだったのかな 日本の研究者や企業の姿勢そのまんまやん、
よく学習しとる！ ■ このスレッドは過去ログ倉庫に格納されています
