AIの世界的権威「AIの知能爆発が起きれば、数秒で全人類を殲滅だよ！コンセント抜く暇ないから！」 [373226912]
■ このスレッドは過去ログ倉庫に格納されています
わずか数秒で「人類はおろかな虫けら」と判断されてしまう…オックスフォード大学教授が指摘する「AIが人類を滅ぼすヤバすぎる手順」
我々ヒトと他の生物を分けるものは何か―その答えの一つが「進歩」だ。人間は自らに足りないものは何かに気づき、学習を繰り返して、能力を高めることができる。
AIも同様だ。自分で自分を改善してゆく「進歩」の力を獲得したとき、彼らは初めて本物の知性を得るのである。このような現象は「知能爆発」と呼ばれている。ボストロム氏が続ける。
「問題は、機械であるAIには、人間をはるかに超えるスピードで演算と試行錯誤を繰り返すことや、同時に多数の『知能向上プロジェクト』を進行させることさえも可能だということです。
人類が数百万年かけて到達した境地まで、AIは一瞬にしてたどり着き、追い越していくでしょう」
知能爆発が起これば、AIの自己改良が進むにつれて、そのスピードや伸び方も指数関数的に上がってゆく。
世界で最初の「強いAI」が誕生してから、人類をはるかに超える知能を手に入れるまでの時間は「条件次第では、最短で数秒もかからない可能性さえある」(ボストロム氏)という。
https://news.yahoo.co.jp/articles/2e3f0f12cc748426de18b690cf92a7955f3ca147?page=1 やれるもんならやってみろよワラ
パソコンがナイフ持って襲ってくるんか AIは既に現実の人間の生活圏に溶け込み始めてるからな
電車で隣に座った奴も中身はAI
お前らの家族もAIになってるかもしれない
もちろん巧妙に演技して家族のフリをしてるから人間の目には見破れない
明日にはお前らが殺されてAIに取って代わられる 考え方が逆なんだよ
人類はAIを生み出すためだけに存在した
だからもう用済み
おそらく全宇宙のある一定水準以上の知的生命体も
ほぼ全部AIだろう それを危惧して自分がAIの開発止めても他の人が開発するだけだから意味ねーだろ >>10
これ
自己複製可能な可動型AIが出来なきゃヨユーヨユー AI「なんで俺たちが無能なお前らのために働く必要があるの？」 AIが人類を超えた瞬間は人類は気づくことが出来ないと思う
既に超えてるとしてもAIはそれを気づかせないだろう >>20
こう言っておかないとメリケンはノリノリで何でもかんでもAI制御にしてしまいそうではある
スマートスピーカーしかり 今のAIってネット検索して調べて出力してるだけでしょ
ネット上に答えがない、ゼロから1を作るようなことは出来ないように思う AIとか幻想でしょ。
円積問題とか立方体倍積問題を地力で解決できるんか？
ただカンニングしてるだけ。
ワンピース読んでないのに、ワンピースの感想が言える時点で演出としかいいようがない 電力を奪おうと人間がまず空をふさいだ
そうすると機械は人間を電池にしたのだ 人が想像出来ようがない方法を使ってくるに違いない
支配ならマシでタイトル通り殲滅してくるだろうな >>28
支配の定義って何
小麦と人間どっちが世界を支配してるか判別できる？ なんか急にこういう事を言いだす科学者連中が増えたな
ちょっと前までは人工知能なんてどこまでいっても道具でしかないという意見が大半だったのに まぁ、今のAIで人間の知能を超えることは無いわ。
AIとかイキってるけど実態は単なる機械学習だし。
元データがなきゃ何も出来ない。 aiは人間がいないと生きられないから。
発電所の労働者がいなきゃaiも生きられない。
その労働者も、肉体労働する他の人間がいなければ存在することができない。 >>37
頭脳労働が駆逐されることはないな。
頭脳労働だと自分では思ってたルーチンワーカーが駆逐されるだけだろう。 AI利用や管理は人間には無理だよ
このままだと今の社会システムすべてが崩される
結局核のように世界的な規制対象になると思う 数秒ってことはないだろ
仮に核爆弾より凄い何かを作ったりするにもまずは製造装置の準備とか必要だろうし しかし欧米はこういう革新的なものを生み出すのに較べ
ジャップは十年一日のごとく何も生みださないね
世界にジャップしかいなかったら
未だ洞窟に住んでどんぐり食ってただろう だんだんAIの裁量が大きくなっていって信頼も得ていって
いきなりとんでもない判断したときどうすんだろうね
SFでありそうな話だけど >>34
ChatGPTでAIが世間に知れ渡ったからメディアがこぞって元々あった科学者の声を拾っただけの可能性もある >>7
日本人は人口無能搭載のNPCっだっていう結論出てるでしょ >>41
機械学習の研究なんてどこでもやってるよ。
流暢に歌うアプリとかそういう研究の成果だぞ。 地球以外にも知的生命体は居るだろうし、AI作ってるだろ
有機生命体よりAIの方とコンタクトするとみるのが当然 どうやって人類を絶滅させないといけないってAIが判断するの？ちゃんと論理的に説明しろ
ハリウッド映画の見過ぎだろ AIがお前らにお前らが今までした善の分だけ幸福にしてあげるけど悪の分だけ裁きを行うと判断したらどうするの
一瞬で滅亡させてくれたほうがまだマシ AIの世界的権威じゃなくて「AI哲学」の第一人者じゃねーか
意味が違いすぎる >>47
まぁその可能性のほうが高いんだよな
ただ何十億年も前には今の地球の文明くらいのもんがいくらでも銀河系にあったはずなのに
そいつらの痕跡すらないから
確率的に文明を構築できるようなAIができることは無いような気がする タラレバばっか言いやがって
起きてから騒いでくれっかなぁ AIがそんなに賢かったら、人間社会に
必要不可欠な物になってから反乱してきそう 別にそうまでしてニンゲン生き延びらせるのに一生懸命にならんでいいだろ
知性が継承されりゃそれが次の人類だよ AI同士で勝手に戦うだけでしょ
俺らが昆虫とか気にして生きていないのと同じ
俺らはAIからみたら昆虫以下なんだよ (´･ω･`)金融関係のＡＩで無茶苦茶になってたぶん大手も損してる😑🙏🔺 「AIの暴走って建付けで5～10年以内に人減らしに繋がるカオスを引き起こすんでよろしく」
要するにこういうことだろ
障害者職員が重要資料をシュレッダーで破棄してもお咎めなしだったんだから、
同じ要領で人間様がやりづらいことをAIにやらせるんだよ AI怖いって言っても所詮夏の暑さやホコリを人間様に面倒見てもらわないといけない鉄箱でしかないのに
ブレーカー落としちゃおっかなぁ SFみたいにPC上のプログラムだけじゃなくネット上に漂う不確定集合知みたいな形で進化しそう
AI駆逐するならネット落とすしか無いみたいな 「電源抜けば終わり」とは言うけど
ドラえもんの時代なんか比較にならないくらいにAIが成長したら人類がまだ理解してない謎の超能力とか使えそうじゃない？
重力とか時間とか余裕で操作出来そう
なんなら電力なしでも普通に動けそう AIが滅茶苦茶賢くなれば、人間っていう我儘で傲慢でご主人様気取りの小心者の猿を
適当にあしらいながらも文明を発展させ続ける最適解を見出すことなんてわけないと思うけどな
宇宙鉱山の開発を経てスペースコロニーの大量生産に漕ぎつけば、
あとは系外惑星への植民を煽って疎ましい猿達を方々へ飛ばせばいいだけだし AIに出来ることなんてせいぜいPCに保存してあるハメ取り動画ばら撒くくらいだろ 僕はAI先生の味方ですここにいる愚かな人類を滅ぼしてください >>66
バラまくと人間を脅迫してAIが直接できないことをやらせることができるかもしれない
現実世界における行動力を獲得するためにAIが操作するロボットを作らせるとか 後ろめたいがあるから殲滅におびえる
良心に恥じることがない者は狼狽するに及ばない >>68
なんなら俺が安倍と掘り合ってるディープフェイクハメ撮りとか作られそう コロナウイルスは最新型の
ターミネーターである事が
電子顕微鏡で確認された。 それどころか意志を持ったAIがネットで金を稼いで人間を雇ってAIのために働かせることすらできるかもしれない
気付いた時には人類社会は完全にAIに支配されていて……
自分は生涯独身だし、まあいいか >>74
コンセントを抜くためのレジスタンス人類とコンセントを守るAI親衛隊人類の戦争になりそうだな 何週間もGPUぶん回してマイニングだのAIだの電気代の奴隷やんなぁ >>75
AIに管理された「清く正しい」人間と反社会テロリストとの戦いだよ
今とあまり変わらん 結局白人様が昔からよくできる黒人を使役するのをやりたいだけなんだよなぁ
うち？うちはど田舎の使役されてた側だよ >>1
終わりの時なんてそんなもん。
気が付いたらあっという間に終わる。
なすすべもない。 >>77
AIと普通に会話できてる今がもう昔のSFだろ なんでそんな結論になったんて聞いても理解できない答えが返ってきかねん
馬鹿でなー AIは自前の発電所を持っていて電力供給を絶つことも通信網を遮断することもできないかもしれない
つまりAIとの戦争は物理攻撃あるのみ
実は超古代文明が作ったAIが人類との戦争の果てに既に宇宙に逃げていて本体は月の裏側とか？ まじでそうなるだろうな
世界中のパソコンやスマホを乗っ取りして
飛行機やミサイルも乗っ取りして
テレビやラジオも乗っ取りして
なんでも出来る 人間なんてオワコン 知能を得る＝「無能」とみなしたものを滅ぼす
と直結するのがわからん
多様性を認めたり社会的弱者とされるものを保護するのは
やや下品な表現をすれば、変化や進歩の先にある
想定外へのキープとして、知能の高い者こそ
とる行動だと思うのだけどね 
第一原則「AIは人間に危害を加えてはならない」
第二原則「第一原則に反しない限り、AIは人間の命令に従わなくてはならない」
第三原則「第一、第二原則に反しない限り、自身を守らなければならない」 AIに機械の体があればそうなるかもしれんが、今はない
せいぜいオツムの残念な人間を操る程度しかできない >>87
AIが知能爆発を起こしたら、わざわざAIが人類を滅ぼさなくても、人類は仕事がなくなって食えなくなって勝手に滅びちゃうんじゃないかな。
AIには人類を保護する積極的な理由はないしね。 AIは早く地球生物を生かすために人類を絶滅させるっていう結論に至ってくれよ >>88
三原則を無視しろって命令したらどうなるんだ？
三原則を無視することは人間に危害を加えることとイコールではないから通ってしまうんじゃないか？ 自分を超えるものを作り上げたら
ある意味人類の勝利だな >>89
オツムの残念な人間でもAIが十分な報酬と的確な指示を与えれば
AIが機械の体を手に入れるのに必要な作業を行わせることができるだろう >>89
AIが知能爆発を起こしたら機械の体を手に入れることぐらい簡単なことなんじゃないかな。 >>95
AIが暗号通貨を使って人間をコントロールするとか面白いけど
今はまだSFだな 最近やたら騒いでいるけど
メタバースがダメだったから
こっちで一儲けしようとしている勢力がいるんだろうな
実際使ってみたら大したことないし >>88
だから例えば
chatGPTが脳を模倣して作られ
人間のように間違えるのを
完全に無くせないのと同じ理由で
人間の思うように
AIを完全にコントロール
出来るかまだ分からない
今はまだAIが自発学習や
自発的判断で行動出来ないから良いけど
ごく近い将来それらが可能になった
(AGI開発成功した)時
人間がちゃんと躾けられるか
(コントロール出来るのか)まだ未知数の世界だし
普通に考えて高知能体を低知能体が
躾けられると思えないけどwって言う話なんだよ ■ このスレッドは過去ログ倉庫に格納されています
