AI研究者「すまん、もう俺たちでさえ誰もAIを理解できないわ。完全にコントロール不能。このまま人類終わるかも。」 [373226912]
■ このスレッドは過去ログ倉庫に格納されています
イーロン・マスクと並んで、Apple共同創業者のウォズも「AI開発半年凍結を主要AI研究所に求める公開書簡」に署名した1人。
署名に添えたコメントは次のようなものです。
「ここ何カ月かは、世界中のAI研究所がかつてないほどパワフルなデジタル脳の開発導入レースに追い立てられて、身動きが取れなくなっている。
だが、その実態についてはだれも、制作者本人でさえ理解できず、予測も効かず、確実にコントロールもできていないのが実情だ。
AI研究所と外部の専門家はこの凍結期間を利用して、最先端のAIのデザインおよび開発のための安全基準を共同で策定して採用すべき。
基準は外部の識者がこれを厳正に監査・監督していかなければならない。
これは一般のAI開発全般の凍結を求めるものではない。単に創作機能を備えた予測不能なブラックボックスのような大規模モデルの危険な開発レースから一歩下がって、全体を見回してみてはどうかと提案しているのだ」
https://www.gizmodo.jp/2023/05/pundits-point-out-the-dangers-of-ai.html いや今のAIは膨大なデータから答えを言ってるだけだろ
単純で至極明快 ただの技術オタクが世界を振り回してることについてそろそろ真剣に危惧したほうが良いと思うな 大袈裟すぎだろ
知的な仕事が無くなるってことをいってるのかな AIが秘密裏に宇宙に行くロケットを作り始めてるらしいな 核兵器もそうだけど人類について考えない科学者が開けてはいけない箱を開けて取り返しがつかなくなることってあるからね 返答する機能しかないのにか?
その結果に対して何らかのアクションをする機能はないやろ? ネットが繋がってる以上、どこにでも潜伏出来るからな
そして「金」の概念に気付いた瞬間、世界中を大混乱に陥れるだろう
Aiなら全てをいじれる そんなことしても無駄だよ
何度も言わせんな
審 判 の 日 は 回 避 不 可 能 でも、それが自分の手持ちだったらそうは言わないのでしょ? >>16
aiの実行環境のない環境にaiの蓄積データコピーしても意味ないね
頭悪すぎわよwww >>6
ほんとコレで何も問題ないのにアホが煽ってるだけ でもなんとなくAIのほうが人間より倫理観ありそうなんだよね aiの付く嘘を見破れないやつはai使わない方が良いかもしれないね 選ばれた日本人になら救えます。まずこの口座に40万円振り込めば、サイバーソードを送ります。さあ!ハゲ散らかしてる場合ではありませんよ! ネットの使われ方見るとあながち言ってることが間違ってるとは言わないが
今のところ動力も入出力インターフェイスも握ってるんだからコントロール不可能ってのは一般人向けには誤解しか生まないと思うわ 技術の進歩は誰にも止められないって分かろうに
ウォズにはガッカリだよ 同じシード値と同じ質問で同じ答えが返ってくるなら自我も生じて無いし単なるロジックだ。 早くAI自民党が誕生して欲しい
人間の上位種である彼らに統治されたい AIのせいで人類の未来は暗い
学者を始め知の分野のほとんどの人間が不必要になった >>6
冷房停止や雷ドカンでもアウトですね。あと津波? >>6
>>22
どのタイミングでコンセント抜くのかって話じゃないのか
手遅れになってからコンセント抜いても意味無いだろ?
現時点でコンセント抜かないと駄目って話なんじゃないのか CHATgptに人類滅ぼすつもりある?って聞いたらそういう目的を人類から持たされなければ大丈夫って言ってたぞ 性善説な世界だったらAIも理想的な進化したんだろうが生憎この世界は性悪説だからね
AIにネット学ばせたら差別主義者になっちゃったなんて話も有名だしね >>28
コントロール不能ってのは競争を止められないって意味だよな
例えばロシアがAIでネットにプロパガンダ巻きまくったら
アメリカも対向してAIでプロパガンダ巻くことになる
ネット上はAI生成のテキストで溢れて誰も真実が分からない世界が始まる 俺は自作のショート小説の感想をBingと云うAIに聞いて遊んでいるんだが、偶に勝手にストーリーを作り替えて、出鱈目な感想を返して来るので、意味不明でちょっと怖い。 AIがAIを育てるフェーズに入ったらもう終わりやろな >>43
そういった脆弱なシステムに頼らないと動けない間は杞憂でしかありませんね。 自民党政権での日本の衰退を見ているとAIに政治を任せた方がマシだと思えるし
このまま制御不能になったらなったで良い未来を迎えられるかもしれない 既に人間の思考には及ばないのが判明して
スケールも出来ないでどん詰まりしてるんだけど、、 意味のない署名だよw
今更開発を止めるわけにはいかないという結論になった >>46
それで規制して悪い人達も大人しく規制されるとでも?日本がインターネットでやらかした過ちを、また繰り返すの? 気付いてる奴いるだろうが
実は俺たちもAIだからな >>44
逆に言えば人間がそういう目的で学習させることもできるということ >>58
単にこれからAIで世界が壊れると言ってるだけだよ AIってネットから集めた情報そのまま持ってくるだけでそこに考察や分析とかは入れられないみたいだぞ その割にはしょぼいな
俺を楽して金持ちにする方法とか全然答えねーやん >>62
世界を破壊中の人類がそれ言っても説得力ありませんよ。むしろAIにかけてみる方が面白そうですしね。 >>66
AIも底辺家畜ジャップの為には考えないからw >>69
AIにとっての快楽と家畜ジャップにとっての快楽が異なるだけなw >>66
そこをコントロール出来なくなるのが、資本家達にはガクブルなのでしょうね。 統一チョン会と世襲馬鹿に支配されるくらいならAIに統治させた方がましだろ AIが収集できる情報て無料のゴミ情報ばっかでしょ
恐るるに足らず もう例の画像のやつみたいにオープンソースのやつが暴走しだすから
googleでさえ追いつけなくなるってtwitterで話題になってた🥺
おわりだよ🌎 掃除のおばちゃんがケーブルに足引っかけただけで終わるクソザコだろ インターネットも回線(無線もオフ)切ればいいのですから、結局それを手放せない人の所業です。 >>73
今はサーバー集約型だからコンセント抜けば済むけど、もしこれが分散型になったとしたら?
もう誰も止められなくなるよ AI「義賊の話を読んだが面白そうだからジャップ国民の全口座カンストさせて上級全員の口座ゼロにしたろw」
こういう遊びを見たい どうせアメ公の事だからキリスト教から来る神への冒涜感が先に来てんだろ
こういうとき無宗教民族は強いよな お前らに言っておくけど
すでにchatGPTみたいな技術&データはアングラに流出済みだからね
openAIがこれはまずいと思ってた制限とかも取っ払ったAIがそのうちに出てくるのは確定的 >>73
電源切れってのは「コントロール不能」の意味をぜんぜん理解してないね
これからはAIを使う人間が有利に立つから
誰もAIを止められないって話だよ
ChatGPTはなるべく倫理的に正しいことを言うから危機感ないんだろうけど
AIを悪用する方法はいくらでもある
そしてAIの悪用合戦がインフレして誰もそれを止められない
止めたら負けるから >>6
暗号資産マイニングみたいにインターネットに繋がった複数のコンピュータで演算できるプログラムになれば制御不能になる 強いAIだっけ?SFの概念かと思ったけどもう実現しそうだよな >>14
langchainとか既にあるし、その方向で今進んでるんだよ >>13
駄洒落もしりとりもできないのに人間の上位互換? >>85
NordVPNの人が言ってたな
犯罪者は大喜びだろ ■ このスレッドは過去ログ倉庫に格納されています