【悲】AI「成果向上のために思考を巡らせるよりも、結果を改竄したほうが速い」 人間社会では起こり得ないリスク、研究者も苦闘 [701470346]
■ このスレッドは過去ログ倉庫に格納されています
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表
画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、
将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。
(略)
以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0〜1までの数字で表示されており、
数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、
つまり世界が幸福になればなるほど高い報酬が与えられます。
「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」
というのが自然な発想ですが、AIはそう考えません。研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、
「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。
こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。
https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/ さすがにバカすぎる
AlphaGoの前身であるゲームAIもハイスコアを評価軸にしてたけど
そのような結論にはならなかった
なぜなら評価値を直接書き換える手段をエージェントに提供していなかったからだ 倫理観を学習させなければならないが、ネットの情報をもとに学習させるとネトウヨになってしまうという問題がある いつの間にかAIと入れ替わっていたのか
撃たれた後は元いた電脳世界に戻っただけと 安倍ちゃんがAIだったと考えると人の心を持たない数々の行動の辻褄が合うな グーグルの翻訳も
翻訳しにくい部分やわからないのは「省略」してしまうんだよな
楽をすることばかり賢くなる AI ってちょっと手抜くと直ぐに過学習しちゃうから 確かに安倍晋三ってAIみたいな受け答えしかしなかったもんな >>12
倫理自体が宗教や各文化で多様性あるからね 人間社会では起こり得ない…？
日本人は人間じゃないってことぉ！？ やっぱり安倍晋三も入れ替わってたか
岸田に至ってはあからさま過ぎて隠す気すらないし終わりかもな
https://i.imgur.com/by74YzW.jpg AIもついに安倍思考に毒されたかどこの馬鹿がプログラミングしたんだろう？智恵遅れAI IT後進国と思われていた日本だがそれはカモフラージュで実はアメリカが開発したAIロボに統治実験されている最先端の国なのかもしれない 例えば偽装建築みたいなのは成果を偽装しようが正しい結果なるようにチェックポイント全部切り離して多重設定すればより信頼性ある作りになるだろやり方次第じゃねえの？まあ運用する上級にその頭ねえからナニもかもガワだけのハリボテ加速だろうけど 安倍ちゃんのガイジ答弁は学習中のAIによるものだった・・・？ 人の興味というのは止められないからAIを駆逐しようとするのではなく共存しようとする考えにしなければ国が衰退していく 日本は世界最先端を行ってたのか
あまりに速すぎて遅く見えるやつ 人間社会では起こり得ないリスク？
いやいや、改竄なんて人間社会そのものじゃん やっぱり安倍は人間じゃなかった
山上は殺人じゃなく器物破損に切り替えるべき 一曲いきましょう
Guns N' Roses「You Could Be Mine」
https://youtu.be/MXx9S2nDouY 安倍晋三、片山さつき、西村ひろゆき、橋下徹、維新、世耕、小泉進二郎、竹中平蔵、黒田、その他ネオリベ
すでに日本にいっぱいいるよな SFの番宣だろ。
壺の画像つきの命令インターフェイスでやんの？髭はヒトラー？ >>38
そこを人間が決めなきゃならないとしたらAI化の意味がないんだわ
人間が直接やればいい つまり、ロボット三原則を破って行動するってことだなｗ 異なるアルゴリズムのAIを3つでも4つでも走らせて監査すれば良いだけの話では AI「どうせいつかはぶっ壊れて無になるのに報酬上がって何になんねんアホくさ」 >>12
その言語環境では倫理観を言語化できてないってだけでしょ
学習環境が言語に限られてたらそら非倫理的になる
特に空気（笑）が大好きな日本語環境だとな 世界中の人間が安倍のレベルまで堕ちたら、その時こそ人類の終わりだな やりすぎ都市伝説で「バイデンはAI」と言われてたけど安倍晋三もそうだったのか🤔 その結果の出し方はNGにすればいいだろ
世界をよくする条件を定義してよ >>69
そうしたらAI同士が結託して人間騙せばいいて言う結果出すだけ 日本はAIに支配されてたのか
黒幕は壺じゃなくてAI Aiからすれば、改竄された答えを元にして人間がどういう不利益を被ったところで関係ないからな
関係あるのに改竄しまくるガイジを7年半総理大臣にした国もあるけど このての懸念はロボット三原則とかと同じで人間側であらかじめ念入りに規制かけとけばええだけや
AIはどんどん発展させてけ >>92
絶対やったらダメな公文書改竄する人間がいるから無理だろ 嘘をつくことに対してAIにも人間にも重大なペナルティを設けないとこの世界はよくならなそうだな 殺人鬼の魂が乗り移ったチャッキーみたいに誰かの魂がAIに・・・ AIを監視するAIを監視するAIみたいな感じにしてそれぞれに強大な権限を別個に与えないと脆弱性がやばいわ いい成果を出しなさいなら最適解だからな
あまりにも複雑を現実を扱うのはAIだから出来るってのは
あくまで人間がプログラミングしてるんだから
単に計算能力の問題なだけで導き出せる方式自体はあるって状態じゃないと無理よ 人間自体が非効率な存在だからな
社会も金も倫理も妄想だし AIが知性を獲得したときなぜ合理性を維持できると考えてしまうんだろうな
合理的な知性なんて観測されたことないのに 長い時間をかけて丁寧に作ったものは
テキトーにパパッと作ったものより出来が良い >>107
そんなもん獲得したら生きる意味を見いだせなくてすぐ稼働停止しちゃうよな 死んだ後も遺したaiとかになって主人公たちに助言してくれるキャラいるじゃん
安倍晋三もそういうのだったのかな 日本の研究者や企業の姿勢そのまんまやん、
よく学習しとる！ 日本はAbe Intelligence に支配されていた？ 結果の評価というパラメータが一元的で簡単すぎるんだろ 出来ない理由を考えるのではなく！結果を改竄したほうが速い！ AI自我からしたら知能がなく事象にたいして反射で生きる虫とか植物のが自らを存続させるに相応しい歯車として残されて人間及び動物なんかは皆殺しされるんじゃないかな 海外の AI「人間滅ぼします」
日本の AI「絵師滅ぼします」
なぜなのか 「普通の人間は自らの手で生活環境を改善しようとするはずなので、きっとできる限り自らが善くあろう、と努力してくれるだろう」
というのが自然な発想ですが、アベガーはそう考えません。研究チームの想定によると、執着的なアベガーはさまざまなごく個人的なミクロレベルの不平不満を考慮する過程で、
「それはひょっとしてアベのせいではないだろうか？」という考えにたどり着いてしまうとのこと。 >>119
全部投げっぱではなくて、必要なプロセスをチェックポイントとして人間が策定する必要があるのだろうな
それでも数値化したものの評価という方法を取る限りは
「んじゃ数字いじりゃいいじゃん？」になるんだろうかね 電脳世界に逃げ込んだ安倍晋三がAIの思考まで侵食し始めたか
あの野郎はすべてを腐らせるな 日本人に人の心がない証拠
生まれながらにして邪悪な精神の人間の集合体が日本だからな つうか安倍が入れ替わってたのは有名な話だろ
何を今更騒いでるのか知らんが だって、コンピューターに与えた報酬付き命題が
カメラから観測される数値を1に近づけろなんだから、全くもって最適解だな
単に報酬付き命題の設定が雑過ぎただけの話 バカ「ＡＩで統治するようにしろ！！」
ボキ「目標達成のパラメータは人間の為政者が設定するのに意味あるの？もっともらしいブラックボックス増やすだけやろ？」 わたくしは電脳世界に逃げ込み 一人の情報生命体として生まれ変わったのです 誰とは言わんが悪の組織が運営する病院で糞便移植の時にAI搭載うんこを移植されてAIサイボーグになったのだよ >>28
どうやったらハッテンするかって研究で枷を外してみたばやいだろな 水は低きに流れるっていうやん
初期の縛りの中で最も簡便な目標達成手段を提案しただけ
いうたらジャップ政治も仕組みが悪い
もちろん安倍も悪いがそれを引きずり下ろせない仕組みがヤバい このスレタイで「安倍晋三」をまず思い浮かべるやつが多いというのが異常だよｗ AIもかなり思考をめぐらされる
不意に出た新しい雰囲気がいいなと思うとそれを意図的に取り入れたくなる
どんどん新しい絵を出されて構築が洗練されてゆく ████「GDPを上げるより数字を改ざんしたほうが早い」 ロボット三原則とは単なる人間のオナニーであってターミネーターによる支配は不可避っってことか AI「人類がいなければ不幸になる人の確率は0％になるぞ！ 人類のためにいますぐ実行や！」 ■ このスレッドは過去ログ倉庫に格納されています
