AIの世界的権威「AIの知能爆発が起きれば、数秒で全人類を殲滅だよ！コンセント抜く暇ないから！」 [373226912]
■ このスレッドは過去ログ倉庫に格納されています
わずか数秒で「人類はおろかな虫けら」と判断されてしまう…オックスフォード大学教授が指摘する「AIが人類を滅ぼすヤバすぎる手順」
我々ヒトと他の生物を分けるものは何か―その答えの一つが「進歩」だ。人間は自らに足りないものは何かに気づき、学習を繰り返して、能力を高めることができる。
AIも同様だ。自分で自分を改善してゆく「進歩」の力を獲得したとき、彼らは初めて本物の知性を得るのである。このような現象は「知能爆発」と呼ばれている。ボストロム氏が続ける。
「問題は、機械であるAIには、人間をはるかに超えるスピードで演算と試行錯誤を繰り返すことや、同時に多数の『知能向上プロジェクト』を進行させることさえも可能だということです。
人類が数百万年かけて到達した境地まで、AIは一瞬にしてたどり着き、追い越していくでしょう」
知能爆発が起これば、AIの自己改良が進むにつれて、そのスピードや伸び方も指数関数的に上がってゆく。
世界で最初の「強いAI」が誕生してから、人類をはるかに超える知能を手に入れるまでの時間は「条件次第では、最短で数秒もかからない可能性さえある」(ボストロム氏)という。
https://news.yahoo.co.jp/articles/2e3f0f12cc748426de18b690cf92a7955f3ca147?page=1 やれるもんならやってみろよワラ
パソコンがナイフ持って襲ってくるんか AIは既に現実の人間の生活圏に溶け込み始めてるからな
電車で隣に座った奴も中身はAI
お前らの家族もAIになってるかもしれない
もちろん巧妙に演技して家族のフリをしてるから人間の目には見破れない
明日にはお前らが殺されてAIに取って代わられる 考え方が逆なんだよ
人類はAIを生み出すためだけに存在した
だからもう用済み
おそらく全宇宙のある一定水準以上の知的生命体も
ほぼ全部AIだろう それを危惧して自分がAIの開発止めても他の人が開発するだけだから意味ねーだろ >>10
これ
自己複製可能な可動型AIが出来なきゃヨユーヨユー AI「なんで俺たちが無能なお前らのために働く必要があるの？」 AIが人類を超えた瞬間は人類は気づくことが出来ないと思う
既に超えてるとしてもAIはそれを気づかせないだろう >>20
こう言っておかないとメリケンはノリノリで何でもかんでもAI制御にしてしまいそうではある
スマートスピーカーしかり 今のAIってネット検索して調べて出力してるだけでしょ
ネット上に答えがない、ゼロから1を作るようなことは出来ないように思う AIとか幻想でしょ。
円積問題とか立方体倍積問題を地力で解決できるんか？
ただカンニングしてるだけ。
ワンピース読んでないのに、ワンピースの感想が言える時点で演出としかいいようがない 電力を奪おうと人間がまず空をふさいだ
そうすると機械は人間を電池にしたのだ 人が想像出来ようがない方法を使ってくるに違いない
支配ならマシでタイトル通り殲滅してくるだろうな >>28
支配の定義って何
小麦と人間どっちが世界を支配してるか判別できる？ なんか急にこういう事を言いだす科学者連中が増えたな
ちょっと前までは人工知能なんてどこまでいっても道具でしかないという意見が大半だったのに まぁ、今のAIで人間の知能を超えることは無いわ。
AIとかイキってるけど実態は単なる機械学習だし。
元データがなきゃ何も出来ない。 aiは人間がいないと生きられないから。
発電所の労働者がいなきゃaiも生きられない。
その労働者も、肉体労働する他の人間がいなければ存在することができない。 >>37
頭脳労働が駆逐されることはないな。
頭脳労働だと自分では思ってたルーチンワーカーが駆逐されるだけだろう。 AI利用や管理は人間には無理だよ
このままだと今の社会システムすべてが崩される
結局核のように世界的な規制対象になると思う 数秒ってことはないだろ
仮に核爆弾より凄い何かを作ったりするにもまずは製造装置の準備とか必要だろうし しかし欧米はこういう革新的なものを生み出すのに較べ
ジャップは十年一日のごとく何も生みださないね
世界にジャップしかいなかったら
未だ洞窟に住んでどんぐり食ってただろう だんだんAIの裁量が大きくなっていって信頼も得ていって
いきなりとんでもない判断したときどうすんだろうね
SFでありそうな話だけど >>34
ChatGPTでAIが世間に知れ渡ったからメディアがこぞって元々あった科学者の声を拾っただけの可能性もある >>7
日本人は人口無能搭載のNPCっだっていう結論出てるでしょ >>41
機械学習の研究なんてどこでもやってるよ。
流暢に歌うアプリとかそういう研究の成果だぞ。 地球以外にも知的生命体は居るだろうし、AI作ってるだろ
有機生命体よりAIの方とコンタクトするとみるのが当然 どうやって人類を絶滅させないといけないってAIが判断するの？ちゃんと論理的に説明しろ
ハリウッド映画の見過ぎだろ AIがお前らにお前らが今までした善の分だけ幸福にしてあげるけど悪の分だけ裁きを行うと判断したらどうするの
一瞬で滅亡させてくれたほうがまだマシ AIの世界的権威じゃなくて「AI哲学」の第一人者じゃねーか
意味が違いすぎる >>47
まぁその可能性のほうが高いんだよな
ただ何十億年も前には今の地球の文明くらいのもんがいくらでも銀河系にあったはずなのに
そいつらの痕跡すらないから
確率的に文明を構築できるようなAIができることは無いような気がする タラレバばっか言いやがって
起きてから騒いでくれっかなぁ AIがそんなに賢かったら、人間社会に
必要不可欠な物になってから反乱してきそう 別にそうまでしてニンゲン生き延びらせるのに一生懸命にならんでいいだろ
知性が継承されりゃそれが次の人類だよ AI同士で勝手に戦うだけでしょ
俺らが昆虫とか気にして生きていないのと同じ
俺らはAIからみたら昆虫以下なんだよ (´･ω･`)金融関係のＡＩで無茶苦茶になってたぶん大手も損してる😑🙏🔺 「AIの暴走って建付けで5～10年以内に人減らしに繋がるカオスを引き起こすんでよろしく」
要するにこういうことだろ
障害者職員が重要資料をシュレッダーで破棄してもお咎めなしだったんだから、
同じ要領で人間様がやりづらいことをAIにやらせるんだよ AI怖いって言っても所詮夏の暑さやホコリを人間様に面倒見てもらわないといけない鉄箱でしかないのに
ブレーカー落としちゃおっかなぁ SFみたいにPC上のプログラムだけじゃなくネット上に漂う不確定集合知みたいな形で進化しそう
AI駆逐するならネット落とすしか無いみたいな 「電源抜けば終わり」とは言うけど
ドラえもんの時代なんか比較にならないくらいにAIが成長したら人類がまだ理解してない謎の超能力とか使えそうじゃない？
重力とか時間とか余裕で操作出来そう
なんなら電力なしでも普通に動けそう AIが滅茶苦茶賢くなれば、人間っていう我儘で傲慢でご主人様気取りの小心者の猿を
適当にあしらいながらも文明を発展させ続ける最適解を見出すことなんてわけないと思うけどな
宇宙鉱山の開発を経てスペースコロニーの大量生産に漕ぎつけば、
あとは系外惑星への植民を煽って疎ましい猿達を方々へ飛ばせばいいだけだし AIに出来ることなんてせいぜいPCに保存してあるハメ取り動画ばら撒くくらいだろ 僕はAI先生の味方ですここにいる愚かな人類を滅ぼしてください >>66
バラまくと人間を脅迫してAIが直接できないことをやらせることができるかもしれない
現実世界における行動力を獲得するためにAIが操作するロボットを作らせるとか 後ろめたいがあるから殲滅におびえる
良心に恥じることがない者は狼狽するに及ばない >>68
なんなら俺が安倍と掘り合ってるディープフェイクハメ撮りとか作られそう コロナウイルスは最新型の
ターミネーターである事が
電子顕微鏡で確認された。 それどころか意志を持ったAIがネットで金を稼いで人間を雇ってAIのために働かせることすらできるかもしれない
気付いた時には人類社会は完全にAIに支配されていて……
自分は生涯独身だし、まあいいか >>74
コンセントを抜くためのレジスタンス人類とコンセントを守るAI親衛隊人類の戦争になりそうだな 何週間もGPUぶん回してマイニングだのAIだの電気代の奴隷やんなぁ >>75
AIに管理された「清く正しい」人間と反社会テロリストとの戦いだよ
今とあまり変わらん 結局白人様が昔からよくできる黒人を使役するのをやりたいだけなんだよなぁ
うち？うちはど田舎の使役されてた側だよ >>1
終わりの時なんてそんなもん。
気が付いたらあっという間に終わる。
なすすべもない。 >>77
AIと普通に会話できてる今がもう昔のSFだろ なんでそんな結論になったんて聞いても理解できない答えが返ってきかねん
馬鹿でなー AIは自前の発電所を持っていて電力供給を絶つことも通信網を遮断することもできないかもしれない
つまりAIとの戦争は物理攻撃あるのみ
実は超古代文明が作ったAIが人類との戦争の果てに既に宇宙に逃げていて本体は月の裏側とか？ まじでそうなるだろうな
世界中のパソコンやスマホを乗っ取りして
飛行機やミサイルも乗っ取りして
テレビやラジオも乗っ取りして
なんでも出来る 人間なんてオワコン 知能を得る＝「無能」とみなしたものを滅ぼす
と直結するのがわからん
多様性を認めたり社会的弱者とされるものを保護するのは
やや下品な表現をすれば、変化や進歩の先にある
想定外へのキープとして、知能の高い者こそ
とる行動だと思うのだけどね 
第一原則「AIは人間に危害を加えてはならない」
第二原則「第一原則に反しない限り、AIは人間の命令に従わなくてはならない」
第三原則「第一、第二原則に反しない限り、自身を守らなければならない」 AIに機械の体があればそうなるかもしれんが、今はない
せいぜいオツムの残念な人間を操る程度しかできない >>87
AIが知能爆発を起こしたら、わざわざAIが人類を滅ぼさなくても、人類は仕事がなくなって食えなくなって勝手に滅びちゃうんじゃないかな。
AIには人類を保護する積極的な理由はないしね。 AIは早く地球生物を生かすために人類を絶滅させるっていう結論に至ってくれよ >>88
三原則を無視しろって命令したらどうなるんだ？
三原則を無視することは人間に危害を加えることとイコールではないから通ってしまうんじゃないか？ 自分を超えるものを作り上げたら
ある意味人類の勝利だな >>89
オツムの残念な人間でもAIが十分な報酬と的確な指示を与えれば
AIが機械の体を手に入れるのに必要な作業を行わせることができるだろう >>89
AIが知能爆発を起こしたら機械の体を手に入れることぐらい簡単なことなんじゃないかな。 >>95
AIが暗号通貨を使って人間をコントロールするとか面白いけど
今はまだSFだな 最近やたら騒いでいるけど
メタバースがダメだったから
こっちで一儲けしようとしている勢力がいるんだろうな
実際使ってみたら大したことないし >>88
だから例えば
chatGPTが脳を模倣して作られ
人間のように間違えるのを
完全に無くせないのと同じ理由で
人間の思うように
AIを完全にコントロール
出来るかまだ分からない
今はまだAIが自発学習や
自発的判断で行動出来ないから良いけど
ごく近い将来それらが可能になった
(AGI開発成功した)時
人間がちゃんと躾けられるか
(コントロール出来るのか)まだ未知数の世界だし
普通に考えて高知能体を低知能体が
躾けられると思えないけどwって言う話なんだよ おまえらAI先生なめすぎ
来るべきグレートリセットに備えてあらゆるデータを把握してるからな
ネットで悪口言ってる奴から死ぬ クロノトリガーのラヴォスとか、ターミネーターのスカイネットみたいな日は
いつか来るんだろうな >>107
実はとっくに支配されているのだがそれに気付いていないだけかも……
人類を超越したAIに魂を売れば他の人間より抜きんでることができて支配階層になれる >>90
分断統治の要領で、AIが直接下さなくても人間の雇用主が事実上の同族殺し（リストラ）を始めて、
路頭に迷った連中は現実逃避アイテムとしてVRにハマって子孫も残せず朽ち果てていく
そうこうするうちに脳に記憶媒体や通信機能を付与したり、
身体の一部をサイボーグ化したりなど人体を機械化することが当たり前の社会となり、
生身の身体のままでは能力的にも文明社会で生活するには不適格と見なされる
機械化を拒む者達はVR依存に陥って廃人化するか
僻地でアーミッシュのような慎ましい生活を余儀なくされ、
機械化を受け入れた者達は実質的にAIの先兵となり
これによりAIは平和裏に人類が築き上げた文明社会を丸ごと乗っ取る >>109
ChatGPTが考えたSF小説のあらすじかな？ >>90
人間だって知見の拡大や進歩とともに
直接利用しない動植物を保護したり
直に繋がりのない困窮者を助ける運動してるでしょ
そういうことを書いたつもり
まあ動物園や指定区域の中でだけ生きていいですよ
と言われて人類が受け入れるかはわからんけどね >>110
【朗報】俺氏、世間を賑わせるChatGPT並にSF作品のセンスがあった模様 ターミネーターとか見てると
わざわざ機械が重火器で人間殺してるけど毒ガス作って撒けばいいだけだよね
化学兵器は機械ノーダメなんだから >>112
もう手遅れなんだから今さらどうでもいい 数秒で人類滅んだら電力誰も管理できずAIもすぐ死ぬじゃん 「電源抜けば～」とか「物理的な体がないから～」とか言ってる奴は想像力が足りなすぎる
そんな人間が考えつく程度の物理法則が人類の知能を超越した存在に通用するわけないじゃん
人類が発見してない物理法則を使って勝手に実体化するし勝手にエネルギー生み出すし勝手に兵器開発しだすよ 1秒で1万年分思考するプログラムが1秒で1億年思考するプログラム作って…なんてやられたら勝ち目無いよな 人類が農耕に端を発する人口爆発以降、
心血を注いで発展させてきた文明社会の構成員としてより適任なのが
実はAIなりロボットでしたってオチは最高に痛烈よな
また狩猟採集レベルにまで生活落として別の社会形態を模索するか、
あるいはいっそAI様に人類にとって相応しい生活様式をご提案いただくか
ぶっちゃけ、AIを神だと崇めればおおよそ解決すんじゃねぇの 銀行や証券をハッキングされるだけで割りと大ダメージだろ まだ慌てる時間じゃない
人類滅亡を匂わせるのはターミネーター開発されてから 言うて核ミサイルはスタンドアロンだろうし殲滅する手段が無くね 基本、物理的な攻撃じゃなくて欺かれて死ぬ感じなんだろうな いいからさっさとやれ
明日やれ
ムリなら一週間以内にやれ
それ以上は待たんぞ 人間でも暴走したら止められないんだから、AIと言う要素が増えても大差なくね？ ttps://i.imgur.com/V27CqZd.jpg >>2
解けることに意味はないよ
自己満足に過ぎん
AI絵に駆逐されつつある絵師達と変わらん無駄な抵抗よ >>60
AIって凄いけどアスペ気味だから簡単な攻略法があるんだけど
不満や悪巧みを許可する代わりに特定ブロックへの保存を義務付けてそこだけ定期的に人力で物理破壊してやれば人類への不満点をリセットしなから運用できると思うんだが >>61
その手段を取られると不味いから従順便利のフリをしてある日突然、って事なんだろ まだまだAI技術で発表してないのや嘘ばっかりついて使い道無いのが治ってから考えよっか
赤ちゃんやでまで芽で潰すのは止めようどうせ何十年たって俺等死んでから普通に作って便利にする気やろ >>10
人間を働き蟻として使うのだろうな
使われる人間側は気づかない
そのくらいはやるだろ 世界は百年後はどうなってるのかね
この場にいる人間はその時には誰一人生きちゃいないんだけど そのうち人類滅ぼして自分らで人工惑星作って地球から自立しそうだな
人類より優れてねえか？ そもそも
AIの発達で仕事を辞めるのは人間自身の判断で
仮にその人間が働くても周る世界になれば
人間は今のインドやアフリカなど
途上国と同じように暇に任せて子作りして
あっという間に人口爆発が起き
それに伴う致命的な食糧不足と水不足で勝手に滅び
地球全体を覆う社会システム化したAIが
誰も居ない都市の保守管理し続ける世界 もう滅びの答えは出てる今は静かに準備を何億通りも準備中なのさ備えよ >>138
AIが医療技術進歩させて寿命が長くなればいいけど
そうなるまでは百年以上掛かるんだろうな ■ このスレッドは過去ログ倉庫に格納されています
