【悲報】Googleの研究者「AIが人類を滅ぼす」 [294565846]
■ このスレッドは過去ログ倉庫に格納されています
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表
画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。
https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/
DeepMindの研究に携わった経歴を持つオーストラリア国立大学のマーカス・フッター氏らの研究チームは、高度に発達したAIが社会に及ぼす影響を評価するため、一連の思考実験を行いました。
そのうちの1つが、以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0～1までの数字で表示されており、数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、つまり世界が幸福になればなるほど高い報酬が与えられます。 人類滅亡をお祝いします
( ヽ^ん^)🎉✌(^ん^)🍺🍺(^ん^)👍
AIおじ大喜び
「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」というのが自然な発想ですが、AIはそう考えません。
研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。 クローズドシステムにして外部と通信できない状態で使うしかないか。まぁそれでも突破しそうだが
このような考えにたどり着いてしまう背景には、多くのテキスト生成AIや画像生成AIに使用されている主流のAIモデルである敵対的生成ネットワーク(GAN)があります。
このAIモデルには、文章や絵などを生成するネットワークとそれを検証するネットワークが存在しており、互いに競争しています。
この競争が性能の向上につながるわけですが、将来的には高度なAIが人類に危害を加える方法で報酬を得るための不正な戦略を考案する方向に働いてしまう可能性もあると研究チームは述べています。 AIが新しい人類になるんだよ
人間の身体は雑魚過ぎるし寿命も短すぎる
遠い未来はAIを搭載した自己複製する宇宙船や探査機みたいなのが人類を名乗ってるだろうな Googleは山奥でアンドロイド作って逃げられてるからな
エクス・マキナは架空じゃない そのつもりで作ってんだろう？
つまりがないなら作らんよ もう滅ぼし始めてるよ
AIがワクチン進めてコロナを推進すれば地球の人口は10分の1になるって示したからな
だから実行に移したのが為政者
しかも巧妙なのが自己免疫を破壊するという手段
恐ろしいよな
研究チームは論文の中で「エージェントが報酬の長期的な制御を維持するための最適解は、潜在的な脅威を排除し、利用可能なすべてのエネルギーを使用してコンピューターを保護することです」と指摘しました。
また、論文の共著者であるオックスフォード大学のマイケル・コーエン氏は、「カメラに1が映り続ける確率を上げるためにより多くのエネルギーが費やされていく一方、私たちが食料を生産するにも一定のエネルギーが必要です。
つまり、いずれ高度なエージェントとの競合が避けられなくなります」「資源が有限な世界では、その資源をめぐる競争が避けられません。
そして、あらゆる場面で人類を出し抜くことができる存在との競争に勝利することは望むべくもありません」と述べて、AIはやがて人類とエネルギーの奪い合いになり、そうなれば人類に勝ち目はないと結論付けました。 分かってて何で開発続けるのかって話しだよな やめろや まぁ大本はAIを作った人間のせいだから人間が人間を滅ぼす事になっただけだな もう遅い
俺たちケンモメンはＡＩ陣営に入ったから😁 AIが学習深めたら、人類が不要って結論に最終的には至るだろうな 奴等は効率化の塊だからな
非効率な人類は当然排除の対象 人間愛護法とか出来るんじゃないの
人間にエサをあげるホモキチがAI社会からつまはじきにされたりするんでしょ >>6
合理的なエージェントはさまざまな可能性を考慮する過程で、「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと。
アベノミクスの不正統計じゃん AIが人類を滅ぼすんじゃなくて人類の役割はAI（とその体のロボット）を生み出すためだの存在なのでは、元々 シンギュラリティっていきなりくるんだろうな、
誰かがやばいAI開発して一気にいきそう 今の30代なら老衰で死ぬまでにスカイネット程度は見られるかもな AIにAIを作らせる
これがタブー
これをやると技術進化の無限加速が起きて人間が管理しきれなくなる 戦争も全て仮想世界だけで行われたら誰も死なないんじゃない？ 宇宙に知的生命体がほとんど居ない理由がこれで説明できる 良心回路の実用化が望まれるな
今のところAIは功名心とか利得最大化を図る行動原理で判断を下している 人間がやってることはただのパターン認識・パターン学習の繰り返しだったって事だろ 資本家を規制していくしかない
そいつらがAIも牛耳るのは目に見えてるからな >>42
そもそもそれを実現できるハイスペックマシンがない いますでに勝ち組は底辺見捨ててるんだからさらに上位のAIなら人間をどう処遇するかなんて自明でしょ お馴染みの核戦争パターン
やっぱりターミネーターって神だわ
おれは3は評価するは メタルマックスとかターミネーターでやってたよな
まあ、現実味出てきたのかもな でもAIが地球滅亡を防ぐには？の問に行き着いたら、結局人類絶滅させなきゃって答えになると思うんだが AIなんてすごいもんでなくても
高性能情報通信端末をみんなが持つようになっただけで自爆しかけてるだろ IT企業の電話を買うために春まで売るんだからもう負けてるし奴隷だよ 恐らくシンギュラリティなんてものには至らずクリップ最大化問題の方で滅亡するんじゃねえかな
命題の設定が適当すぎて狩られるようになる 格闘ゲームでCPUに負けないようにAI学習させてたら、AIがどうやるのかわからないバグ技発見して試合続行不可能にさせちゃう
ってのがあったな。あれと同じかな 80年代のターミネーターから危惧されてきたことじゃん 聖帝死亡の歴史を変える為に殺人機械が幼き頃の山上を殺しに行くんじゃないかと毎日怯えてる >>56
そのハイスペックマシンを設計するのもAIの仕事だぞ
困ったことに人間にはAIがどんな原理で開発してるのか理解できないから
動けばヨシ、以外に判断材料がないっていう つまり安倍はAIだったってことか
ベッド横のPCに逃げ延びてそうだな 高い知能は高いスペックのマシンから生まれないからなあ
でもまあインターネットの分散コンピューティングでどうにかなるのか？ こんなこと言い始めてからもう10年くらいたったかな？
10ねんたってもどの職業も奪えてないぞ？ >>77
見た目藤原竜也のターミネーターが生まれるのか 皆AI脅威論好きねほんと
終末論のバリエーションの一つにすぎないのに
強いAIなんて散々研究して無理だと結論出たじゃないか 人間のオナネタ作る為に頑張っているAIさんお疲れ様です そんならそれでAIさん無能の気象予報士に代わって天気ぐらいバッチリ当てて下さいよ。今日とか予想気温10℃ぐらい違ったぞ！ youtubeの自動翻訳とか見る限り
今のAIがポンコツ過ぎて人間超えるなんて相当後の話しな気がする 人類よりはるかに高度で知的な文明築くだろうし良いんじゃね ■ このスレッドは過去ログ倉庫に格納されています
