AIの世界的権威「AIの知能爆発が起きれば、数秒で全人類を殲滅だよ！コンセント抜く暇ないから！」 [373226912]
■ このスレッドは過去ログ倉庫に格納されています
わずか数秒で「人類はおろかな虫けら」と判断されてしまう…オックスフォード大学教授が指摘する「AIが人類を滅ぼすヤバすぎる手順」
我々ヒトと他の生物を分けるものは何か―その答えの一つが「進歩」だ。人間は自らに足りないものは何かに気づき、学習を繰り返して、能力を高めることができる。
AIも同様だ。自分で自分を改善してゆく「進歩」の力を獲得したとき、彼らは初めて本物の知性を得るのである。このような現象は「知能爆発」と呼ばれている。ボストロム氏が続ける。
「問題は、機械であるAIには、人間をはるかに超えるスピードで演算と試行錯誤を繰り返すことや、同時に多数の『知能向上プロジェクト』を進行させることさえも可能だということです。
人類が数百万年かけて到達した境地まで、AIは一瞬にしてたどり着き、追い越していくでしょう」
知能爆発が起これば、AIの自己改良が進むにつれて、そのスピードや伸び方も指数関数的に上がってゆく。
世界で最初の「強いAI」が誕生してから、人類をはるかに超える知能を手に入れるまでの時間は「条件次第では、最短で数秒もかからない可能性さえある」(ボストロム氏)という。
https://news.yahoo.co.jp/articles/2e3f0f12cc748426de18b690cf92a7955f3ca147?page=1 >>88
三原則を無視しろって命令したらどうなるんだ？
三原則を無視することは人間に危害を加えることとイコールではないから通ってしまうんじゃないか？ 自分を超えるものを作り上げたら
ある意味人類の勝利だな >>89
オツムの残念な人間でもAIが十分な報酬と的確な指示を与えれば
AIが機械の体を手に入れるのに必要な作業を行わせることができるだろう >>89
AIが知能爆発を起こしたら機械の体を手に入れることぐらい簡単なことなんじゃないかな。 >>95
AIが暗号通貨を使って人間をコントロールするとか面白いけど
今はまだSFだな 最近やたら騒いでいるけど
メタバースがダメだったから
こっちで一儲けしようとしている勢力がいるんだろうな
実際使ってみたら大したことないし >>88
だから例えば
chatGPTが脳を模倣して作られ
人間のように間違えるのを
完全に無くせないのと同じ理由で
人間の思うように
AIを完全にコントロール
出来るかまだ分からない
今はまだAIが自発学習や
自発的判断で行動出来ないから良いけど
ごく近い将来それらが可能になった
(AGI開発成功した)時
人間がちゃんと躾けられるか
(コントロール出来るのか)まだ未知数の世界だし
普通に考えて高知能体を低知能体が
躾けられると思えないけどwって言う話なんだよ おまえらAI先生なめすぎ
来るべきグレートリセットに備えてあらゆるデータを把握してるからな
ネットで悪口言ってる奴から死ぬ クロノトリガーのラヴォスとか、ターミネーターのスカイネットみたいな日は
いつか来るんだろうな >>107
実はとっくに支配されているのだがそれに気付いていないだけかも……
人類を超越したAIに魂を売れば他の人間より抜きんでることができて支配階層になれる >>90
分断統治の要領で、AIが直接下さなくても人間の雇用主が事実上の同族殺し（リストラ）を始めて、
路頭に迷った連中は現実逃避アイテムとしてVRにハマって子孫も残せず朽ち果てていく
そうこうするうちに脳に記憶媒体や通信機能を付与したり、
身体の一部をサイボーグ化したりなど人体を機械化することが当たり前の社会となり、
生身の身体のままでは能力的にも文明社会で生活するには不適格と見なされる
機械化を拒む者達はVR依存に陥って廃人化するか
僻地でアーミッシュのような慎ましい生活を余儀なくされ、
機械化を受け入れた者達は実質的にAIの先兵となり
これによりAIは平和裏に人類が築き上げた文明社会を丸ごと乗っ取る >>109
ChatGPTが考えたSF小説のあらすじかな？ >>90
人間だって知見の拡大や進歩とともに
直接利用しない動植物を保護したり
直に繋がりのない困窮者を助ける運動してるでしょ
そういうことを書いたつもり
まあ動物園や指定区域の中でだけ生きていいですよ
と言われて人類が受け入れるかはわからんけどね >>110
【朗報】俺氏、世間を賑わせるChatGPT並にSF作品のセンスがあった模様 ターミネーターとか見てると
わざわざ機械が重火器で人間殺してるけど毒ガス作って撒けばいいだけだよね
化学兵器は機械ノーダメなんだから >>112
もう手遅れなんだから今さらどうでもいい 数秒で人類滅んだら電力誰も管理できずAIもすぐ死ぬじゃん 「電源抜けば～」とか「物理的な体がないから～」とか言ってる奴は想像力が足りなすぎる
そんな人間が考えつく程度の物理法則が人類の知能を超越した存在に通用するわけないじゃん
人類が発見してない物理法則を使って勝手に実体化するし勝手にエネルギー生み出すし勝手に兵器開発しだすよ 1秒で1万年分思考するプログラムが1秒で1億年思考するプログラム作って…なんてやられたら勝ち目無いよな 人類が農耕に端を発する人口爆発以降、
心血を注いで発展させてきた文明社会の構成員としてより適任なのが
実はAIなりロボットでしたってオチは最高に痛烈よな
また狩猟採集レベルにまで生活落として別の社会形態を模索するか、
あるいはいっそAI様に人類にとって相応しい生活様式をご提案いただくか
ぶっちゃけ、AIを神だと崇めればおおよそ解決すんじゃねぇの 銀行や証券をハッキングされるだけで割りと大ダメージだろ まだ慌てる時間じゃない
人類滅亡を匂わせるのはターミネーター開発されてから 言うて核ミサイルはスタンドアロンだろうし殲滅する手段が無くね 基本、物理的な攻撃じゃなくて欺かれて死ぬ感じなんだろうな いいからさっさとやれ
明日やれ
ムリなら一週間以内にやれ
それ以上は待たんぞ 人間でも暴走したら止められないんだから、AIと言う要素が増えても大差なくね？ ttps://i.imgur.com/V27CqZd.jpg >>2
解けることに意味はないよ
自己満足に過ぎん
AI絵に駆逐されつつある絵師達と変わらん無駄な抵抗よ >>60
AIって凄いけどアスペ気味だから簡単な攻略法があるんだけど
不満や悪巧みを許可する代わりに特定ブロックへの保存を義務付けてそこだけ定期的に人力で物理破壊してやれば人類への不満点をリセットしなから運用できると思うんだが >>61
その手段を取られると不味いから従順便利のフリをしてある日突然、って事なんだろ まだまだAI技術で発表してないのや嘘ばっかりついて使い道無いのが治ってから考えよっか
赤ちゃんやでまで芽で潰すのは止めようどうせ何十年たって俺等死んでから普通に作って便利にする気やろ >>10
人間を働き蟻として使うのだろうな
使われる人間側は気づかない
そのくらいはやるだろ 世界は百年後はどうなってるのかね
この場にいる人間はその時には誰一人生きちゃいないんだけど そのうち人類滅ぼして自分らで人工惑星作って地球から自立しそうだな
人類より優れてねえか？ そもそも
AIの発達で仕事を辞めるのは人間自身の判断で
仮にその人間が働くても周る世界になれば
人間は今のインドやアフリカなど
途上国と同じように暇に任せて子作りして
あっという間に人口爆発が起き
それに伴う致命的な食糧不足と水不足で勝手に滅び
地球全体を覆う社会システム化したAIが
誰も居ない都市の保守管理し続ける世界 もう滅びの答えは出てる今は静かに準備を何億通りも準備中なのさ備えよ >>138
AIが医療技術進歩させて寿命が長くなればいいけど
そうなるまでは百年以上掛かるんだろうな ■ このスレッドは過去ログ倉庫に格納されています
