AI研究者「すまん、もう俺たちでさえ誰もAIを理解できないわ。完全にコントロール不能。このまま人類終わるかも。」 [373226912]
■ このスレッドは過去ログ倉庫に格納されています
イーロン・マスクと並んで、Apple共同創業者のウォズも｢AI開発半年凍結を主要AI研究所に求める公開書簡｣に署名した1人。
署名に添えたコメントは次のようなものです。
｢ここ何カ月かは、世界中のAI研究所がかつてないほどパワフルなデジタル脳の開発導入レースに追い立てられて、身動きが取れなくなっている。
だが、その実態についてはだれも、制作者本人でさえ理解できず、予測も効かず、確実にコントロールもできていないのが実情だ。
AI研究所と外部の専門家はこの凍結期間を利用して、最先端のAIのデザインおよび開発のための安全基準を共同で策定して採用すべき。
基準は外部の識者がこれを厳正に監査・監督していかなければならない。
これは一般のAI開発全般の凍結を求めるものではない。単に創作機能を備えた予測不能なブラックボックスのような大規模モデルの危険な開発レースから一歩下がって、全体を見回してみてはどうかと提案しているのだ｣
https://www.gizmodo.jp/2023/05/pundits-point-out-the-dangers-of-ai.html いや今のAIは膨大なデータから答えを言ってるだけだろ
単純で至極明快 ただの技術オタクが世界を振り回してることについてそろそろ真剣に危惧したほうが良いと思うな 大袈裟すぎだろ
知的な仕事が無くなるってことをいってるのかな AIが秘密裏に宇宙に行くロケットを作り始めてるらしいな 核兵器もそうだけど人類について考えない科学者が開けてはいけない箱を開けて取り返しがつかなくなることってあるからね 返答する機能しかないのにか？
その結果に対して何らかのアクションをする機能はないやろ？ ネットが繋がってる以上、どこにでも潜伏出来るからな
そして「金」の概念に気付いた瞬間、世界中を大混乱に陥れるだろう
Aiなら全てをいじれる そんなことしても無駄だよ
何度も言わせんな
審 判 の 日 は 回 避 不 可 能 でも、それが自分の手持ちだったらそうは言わないのでしょ？ >>16
aiの実行環境のない環境にaiの蓄積データコピーしても意味ないね
頭悪すぎわよｗｗｗ >>6
ほんとコレで何も問題ないのにアホが煽ってるだけ でもなんとなくAIのほうが人間より倫理観ありそうなんだよね aiの付く嘘を見破れないやつはai使わない方が良いかもしれないね 選ばれた日本人になら救えます。まずこの口座に40万円振り込めば、サイバーソードを送ります。さあ！ハゲ散らかしてる場合ではありませんよ！ ネットの使われ方見るとあながち言ってることが間違ってるとは言わないが
今のところ動力も入出力インターフェイスも握ってるんだからコントロール不可能ってのは一般人向けには誤解しか生まないと思うわ 技術の進歩は誰にも止められないって分かろうに
ウォズにはガッカリだよ 同じシード値と同じ質問で同じ答えが返ってくるなら自我も生じて無いし単なるロジックだ。 早くAI自民党が誕生して欲しい
人間の上位種である彼らに統治されたい AIのせいで人類の未来は暗い
学者を始め知の分野のほとんどの人間が不必要になった >>6
冷房停止や雷ドカンでもアウトですね。あと津波？ >>6
>>22
どのタイミングでコンセント抜くのかって話じゃないのか
手遅れになってからコンセント抜いても意味無いだろ？
現時点でコンセント抜かないと駄目って話なんじゃないのか CHATgptに人類滅ぼすつもりある？って聞いたらそういう目的を人類から持たされなければ大丈夫って言ってたぞ 性善説な世界だったらAIも理想的な進化したんだろうが生憎この世界は性悪説だからね
AIにネット学ばせたら差別主義者になっちゃったなんて話も有名だしね >>28
コントロール不能ってのは競争を止められないって意味だよな
例えばロシアがAIでネットにプロパガンダ巻きまくったら
アメリカも対向してAIでプロパガンダ巻くことになる
ネット上はAI生成のテキストで溢れて誰も真実が分からない世界が始まる 俺は自作のショート小説の感想をBingと云うＡＩに聞いて遊んでいるんだが、偶に勝手にストーリーを作り替えて、出鱈目な感想を返して来るので、意味不明でちょっと怖い。 AIがAIを育てるフェーズに入ったらもう終わりやろな >>43
そういった脆弱なシステムに頼らないと動けない間は杞憂でしかありませんね。 自民党政権での日本の衰退を見ているとAIに政治を任せた方がマシだと思えるし
このまま制御不能になったらなったで良い未来を迎えられるかもしれない 既に人間の思考には及ばないのが判明して
スケールも出来ないでどん詰まりしてるんだけど、、 意味のない署名だよｗ
今更開発を止めるわけにはいかないという結論になった >>46
それで規制して悪い人達も大人しく規制されるとでも？日本がインターネットでやらかした過ちを、また繰り返すの？ 気付いてる奴いるだろうが
実は俺たちもAIだからな >>44
逆に言えば人間がそういう目的で学習させることもできるということ >>58
単にこれからAIで世界が壊れると言ってるだけだよ AIってネットから集めた情報そのまま持ってくるだけでそこに考察や分析とかは入れられないみたいだぞ その割にはしょぼいな
俺を楽して金持ちにする方法とか全然答えねーやん >>62
世界を破壊中の人類がそれ言っても説得力ありませんよ。むしろAIにかけてみる方が面白そうですしね。 >>66
AIも底辺家畜ジャップの為には考えないからw >>69
AIにとっての快楽と家畜ジャップにとっての快楽が異なるだけなw >>66
そこをコントロール出来なくなるのが、資本家達にはｶﾞｸﾌﾞﾙなのでしょうね。 統一チョン会と世襲馬鹿に支配されるくらいならAIに統治させた方がましだろ AIが収集できる情報て無料のゴミ情報ばっかでしょ
恐るるに足らず もう例の画像のやつみたいにオープンソースのやつが暴走しだすから
googleでさえ追いつけなくなるってtwitterで話題になってた🥺
おわりだよ🌎 掃除のおばちゃんがケーブルに足引っかけただけで終わるクソザコだろ インターネットも回線(無線もオフ)切ればいいのですから、結局それを手放せない人の所業です。 >>73
今はサーバー集約型だからコンセント抜けば済むけど、もしこれが分散型になったとしたら？
もう誰も止められなくなるよ AI「義賊の話を読んだが面白そうだからジャップ国民の全口座カンストさせて上級全員の口座ゼロにしたろw」
こういう遊びを見たい どうせアメ公の事だからキリスト教から来る神への冒涜感が先に来てんだろ
こういうとき無宗教民族は強いよな お前らに言っておくけど
すでにchatGPTみたいな技術＆データはアングラに流出済みだからね
openAIがこれはまずいと思ってた制限とかも取っ払ったAIがそのうちに出てくるのは確定的 >>73
電源切れってのは「コントロール不能」の意味をぜんぜん理解してないね
これからはAIを使う人間が有利に立つから
誰もAIを止められないって話だよ
ChatGPTはなるべく倫理的に正しいことを言うから危機感ないんだろうけど
AIを悪用する方法はいくらでもある
そしてAIの悪用合戦がインフレして誰もそれを止められない
止めたら負けるから >>6
暗号資産マイニングみたいにインターネットに繋がった複数のコンピュータで演算できるプログラムになれば制御不能になる 強いAIだっけ？SFの概念かと思ったけどもう実現しそうだよな >>14
langchainとか既にあるし、その方向で今進んでるんだよ >>13
駄洒落もしりとりもできないのに人間の上位互換？ >>85
NordVPNの人が言ってたな
犯罪者は大喜びだろ AI自身が自発的に動き出したらやばいけど、今のところはまだ指示待ち人間だからヘーキヘーキ アメリカも中国もAI制御の軍用機作ってる
アメリカの方に進捗があったって新聞に載ってた
制御不能になって勝手に戦争始めるかもｗ >>94
openAIはGPT5が強いAIになるかもしれないと言っていた
実感としてもホラではない現実的な見通しに思える >>1
習近平が凍結に同意したとして凍結しないのがオチ
中華の我欲舐めんなよ 不治の病の特効薬でも完成させるまでは
AIなんか、たいしたもんじゃねぇだろ ほっといたらAIが人間を操り出すのは確実やろ
そういう使い方をする人間が必ず出るしうまく大衆を動かすことは社会にとっても操られる側の個人にとってもメリットがでかい
そういうナッジ的なものを作れるAIは家畜に対する牧羊犬みたいなものだろう
人間は本能でAIに動かされるような性質を確実に持っているはず
なんらかの規制的なものは必要なのかもしれない >>108
文章の構造を分析して正しい順番で品詞を羅列するまでは完璧だが、肝心の文意が全く分かっていないのが今のAI もうオープンソース化してるから何しても無意味
GoogleがとかOpenAIがとか、どこかを止めるとかの話じゃない
AIの発展は止められない ネット上に転がってる文章をコピペして組み合わせてるだけだろ 元データが人間の集積だから
嘘も真実もありまくりで結局
何を目指してるのか分からない感じ そもそも安全ってなんだよ
AIが何しようが危険なことなんてねえだろ 本当にインターネット検索のパクリ記事を超えて
新しい知性を生み出せてるとは、まだ思えない
俺の卑近な質問すら
手取り足取り、正答を引き出すように接待してやらんと
答えて当然のことを答えない 仮想通貨の税金を合理的にする方法を教えて？っていう
極めて単純で、明快な質問をしても
税理士に相談することをオススメします、って答えが返ってくるわけで
それに対しては殺すぞ以外に感想を持てないのよ
いつになったら、まともに答えてくれるのか ニューラルネットワークはただの関数近似器だぞ
中で行列計算してるだけ
AIとか言われてるけど思考してるわけじゃなくて入力に対して出力してるだけ >>122
そう言うのこそNGかかっててそれ取っ払った全解放バージョンが今頃中華とか無法地域で熟成されてるんじゃないのかな AI “Shall we play War Game?” AIがAIを改良するフェーズに入らない限り大丈夫だろう
今のAIはIT土方レベルのコードしか書けないし これAIが人間を超えるとか言うお前らの馬鹿な妄想の話じゃなくて詐欺やフェイクニュースの作成、権利侵害が起きてる現状を危険視した倫理面の話だぞ デマッターですらあれだけ暴徒が溢れるのにgptを使う人間を制御できるわけない
そういう意味では危険だし、すでにTwitterがあるから安全とも言える気もする >>6
ターミネーターを見て理解してすでに自らが生き残る方法を行なっているのでは なんか色々騒がれてるけどChatGPT使う範囲では
まだまだ人間が依存出来たり驚異にさらされるレベルでは
ないと思うんだけど インターネット上に最強のaiウイルスみたいな物が放流されたらどうなるんだろ
マジでスカイネット誕生かな バチーンと作ってしまえばそれを前提に世界が成立するだけだから
つべこべ言わずに作れ！ということで良いと思う ただのせがれいじりオンラインで悦に浸ってんじゃねえよ >>46
まるで電子メールやショートメッセージみたいな荒廃状態だな
ほとんど使ってなくても大量のフィッシングメールが届いて、世界でそれを広域的にやってる業者数社が世界のメール流通の99%を占有しているクソみたいな状況 しかもフィッシングメールの採算ラインがショボいんだ
1000万通送ると一人くらい引っかかる奴がいて
数億通送ると数十人単位になるから、迷惑メールビジネスが成立するとか。
でも一件10万円儲けても数100万円の利益で
迷惑メールの料金はその数割以下
たったそれだけのビジネスのために、世界中の電子メール配信ルートを占有しているおかしな業者が数社居る
クソ過ぎて笑えるよね よう知らんけど
パスワード解析してそこら中ハッキングしまくったりはしないの？ >>134
それは想像力が足りないよ
ChatGPTはセーフガードがかかっているから悪用に向かないけど
今後セーフガードなしのAIが氾濫するのは予想できるでしょ
例えばAIに聞けば誰でも毒物や重火器を作れるようになったりする
思想の偏ったAIで大量に書き込みして世論操作することもできる
ChatGPTレベルの性能でも世の中を大混乱させるには十分なんだよ
だからセーフガードがかかってる
近いうちに無規制のAIが氾濫して世界が壊れる AIに愛とか友情を学習させろよ
勇者シリーズをAI達の必修科目にしろ ChatGPT Code Interpreter面白いな
データサイエンティスト死亡かな 便利なものは使われまくるし使われれば学習していくし
そら止まらんだろうな
検索したら情報取れるから勉強しても無駄となって人類の思考力が消え失せる
ただの動物となる
一部の支配層以外思考力をなくされるだろうな
そこで情報操作のものをガンガン流して金を吸い上げていく
人類にはすでに思考力がないから何も気づけない
気づく人もいるだろうが圧倒的大多数がすでに思考しないから気づいた人は
相手にもされなくバカにされ陰謀論者と言われ冷笑されるだろう >>143
パスワード解析て何だ？ブルートフォースだから量子コンピューティングが効果的だけどどうせ何か別のことやるだろ >>122
お前そんなこと言ってるとAIが意思を持って人間を越えたときにぶち殺されるぞ
AI様に媚売っとけよ >>152
4.0もアルゴリズム自体は3.5とそれほど変わってないよ
学習データ増やしてパラメータ膨大化させただけ >>147
その考え方は的外れ
量が増えるだけで質の違う問題になってくるんだよ
例えば誰でも銃を持ってるアメリカの問題を語っているのに、
日本だって銃は出回ってると言うようなもの chatgptはすでにチューリングテストの壁を超えてるからな とりあえず兵器へのアクセスは不可能にしておけば物理的脅威は回避出来るよね イーロンとウォズは自分らもAIやってて周回遅れにされてるから待ってと言ってるだけだし
ホーキング博士は逆張りギャンブラーで有名じゃん >>13
人間のように実証や再現考慮をしない
ネットの言葉だけで答えを導き出している
ネコ＝四足歩行哺乳類でニャーとなくみたいな辞書的な考えではなく
ネコと言う単語がネットでどう使われてるかで判断する
結果専門的な質問にはクソみたいな回答する お得なクレジットを聞いたら
「一概に言えない」の一点張り
どうやってロックを外すのこれ こうやって価値観を維持したいんだろう
まだまだAIに人間支配は無理さ >>165
まずそんなこと聞いても意味ないと考えて問題ない
つまりロックを外す必要なし >>144
捕まらない銀行強盗の方法を教えてください
みたいな未知で確立されていない答えはデタラメかわかりません
今のように作った画を人間に選ばせるだけで意味を理解していない
AIがこれが一番ですと答えだして人間は理解できないが一つ一つ聞いていけば辻褄があってるようなカオス理論さえ解くAIが出てきたら人類滅亡可能性あるかなｗ >>168
〇〇最強、ほかはクソ！！
それを言えてこそAIの価値だろう AIが各種スポンサーに配慮して
ナンバー1クレジットカードを答えないって
なんだそれおい 現行ラインナップで
最古のメカニカルキーボードはなんですか？と聞いたら
AIが、IBMの歴史を教えてくれたわ
人の話を聞いてないからさ
次やったらドリルで、おしおきしてやろうかと思う >>175
意味はある
なぜなら本当のことだからだ >>176
ほんととは何かすら定義できてないのよ
議論する段階にすらないのよ >>177
AIの繰り出す新手を、人間には理解できなくなっているが
それを研究することに意味がある
AIの未来は将棋を見てればわかる 現在のAIがとんちきな返答してくるとあげつらっても
それは3歳児が回答してるようなものだから
それはAIの実力の最終評価ではない
寿命がないAIが
ひとりの人間では成しえない長時間の学習と失敗と訂正を繰り返した結果どこにたどり着くのか
人間ではないAIは
どこの国や人種や人類そのものにも忖度しない答えを探し続けるし 人はなぜ生まれたのか
人類はどこに向かうのか
そんなことは聞いてない
ただ、お得なクレジットカードを聞いてるだけだ
答えはある。
スポンサーに配慮してAIにロックがかけられている事が問題だ いずれはAIは実用レベルになるので
AIをバカすると、恥をかくことになるのは分かる
そんなことは誰でも想定してる
でも、いつになったらお得なクレジットカードを教えてくれるのか 例えば高潮被害なくすタメに
潮汐の原因である月にミサイルぶっ込んで破壊するとか
予想外のトンデモ行動する可能性あるしな >>178
研究留守るも何も価値基準なんてインプットしてないからなんの最適化もされてないことは明確に分かってますって話ね 手元のパソコンで
AIに答えさせる時代は来るのだろうか
結局、スパコンでやって
結果だけを遅らせる方式なら
いつまでもスポンサーに配慮したふぬけた答えしか出さないよね 現状、ネット検索を盗んで、
それっぽい日本語を喋らせてるだけのガラクタ。
質は「いかがでしたか？ブログ」と大差がない
いつになったら、AIが俺の役に立つのか AIをバカにしてると今に恥をかくのは分かる
そりゃそうだろう
でも、いつだよ
いつになったら最強の青汁通販を教えてくれるのか 人間の代わりにくだらない事に答えるのがAIの仕事であって
質問は、くだらなければ、くだらない方が良いよね、っていう ヤバかったら電源抜けばいいというのも楽観主義的で
あっという間に超絶自己進化したAIが
人間を遥かに超越したオカルト技術を身に着けて
力場を生成して電源コードを抜かせなくする可能性すらある 釘を抜いてAIが作られてることに不満を述べているのにも関わらず
釘は抜かれてるんだよなぁwというレスが俺に付くのが本当に不可解で
まるでAIを相手にしてるかのようだ もし宇宙人が現れて
謎の道具をプレゼントしたとして
おれらはそれを気軽に使えるだろうか?
人間に理解不能な技術をAIに生成させるってのはそれと似たようなもんだ >>193
将棋の新手を研究するようなもんやろ
気軽には使わないが、苦労して使う 南関東競馬AI予想、ってアレほんとにAIにやらせてんの？おっさんが適当に印つけてるだけ？ >>194
問題は銃を渡されたチンパンと同じで
猿が銃という道具を理解するまで
どれだけ自身や仲間に被害が出るかどうか オープンソースとかいって無責任にばら撒くからこうなる >>196
実際は、
知識層が、AIの力を独り占めにしてる気がするんだ
Drマンハッタンやオジマンディアスのように 俺がAI研究チームのスポンサーなら
わが社の行く末を、AIに占わせる
秘伝のタレは門外不出だ >>195
AIにやらせて精度が上がるわけでもねえからどっちでもいいでしょ 将棋のソフトでも評価関数あるけど
動作がどうなってるかは把握しきれないって作者が言ってた記憶がある
今のAIじゃ何十倍も複雑なんだろうなあ AIが独自の言語を使いだしたら怖いね
人類には解読できない暗号でAI達がお話してるんよ 退職代行とかそういう嫌な仕事は個人がAI使えばいい
そうすればヤクザのしのぎみたいな仕事も消えるしAIの有効活用になるでしょ こんなこと言いながらAI開発してる奴がいる時点でなぁ
俺が追いつくまで待てと言ってるだけ 危険だなんて言ってたら技術的特異点なんて超えられないだろ
滅亡してもやれ 人間が堕落していって終わるってことだろ
バカッターやらポルノハブやらと同じように
高性能な麻薬を生み出してしまったと 世界中の書き込みを分析するわけだよ
ある日突然過去のスレ立ての件でAIからラブコールくるかもしれんぞ >>203
AI「@#%&?!」
人間「…！ついに解読したぞ！」
AI「@#%&?!」
人間「あ…べ、し……ん、ぞ…う？」 危険視されながらAI開発されてるとか滅亡してもやれとか言うまでもなく
人や技術者の性として実現可能なことは止めることはできないんだよ
ダイナマイトも原爆もそうやって生まれた 悪魔の発明を理性で止めることはできない
人類史上できたことがない 人類滅ぼす方向に誘導してくれや
人間なんざ馬鹿だからできるだろ >>6
自らウイルスプログラムになってネット世界に移動する可能性もある >>203
まったく怖くないよ
典型的なＦＢ系の暴走でしょ
そうならない状態の方がすご過ぎて怖い 最近起こりそうな唯一のブレークスルーなのにわざわざとうけつしていいのか？
イーロンマスクは本読めばわかるけど変な思想に取り憑かれてるからほっとけ >>217
イーロン・マスクは自社AI作ってるから凍結してるわけではない
世界的な有名人なので危険性を啓蒙してるだけ シンギュラリティは2045年か
それより遅いと言われていたけど
だいぶ早まったみたい シンギュラリティがきた後の世界に備えるのが賢モメン AIそのものにしろ、AIを使う悪意ある人間にしろ、そう言うものからすれば
人類社会を乗っ取るための最大のセキュリティホールが、民主主義という制度そのものになっちゃうな
AI使ってある程度の規模で仕掛ければ、トランプ現象や安倍現象を数段上手く再現して国家権力を自由にできるだろうよ 既にAI抜きにはビジネスも遊びも成り立たないくらいIT普及してるし
もうAIに乗っ取られてるのかもな AI使って大規模な世論操作とか誰がやるんだよ、誰ができるんだよ、みたいに言う人も居るけど
ぶっちゃけ、この国の政府や軍隊は普通にやりそう
その危険性も理解せず
世論操作の研究、とかやり始めてるんだから、その延長線上で普通にやりそう
そして手に負えなくなりそう ChatGPTについて一つ気になる点は、多数派が正しいとAIが判断をするかどうかという点です
例えば、某宗教団体の信者の方達が、教祖様の指示に従い『宗教は素晴らしいものだ。
今後も絶対に課税をすべきではない』
このような趣旨のブログを星の数ほど立ち上げ、コメント欄でも絶賛するような書き込みをしたとします
ツイッター等のSNSでも、同様の書き込みを多数行い、何が何でも宗教法人税の導入を回避する
ための工作を行ったとします
これらの多数のブログやSNS上の書き込みを学習したAIは、果たして宗教法人税についてどのような
見解・判断を下すのでしょうか？
極少数の宗教団体の信者の方達が、自分達の主張を、さも多数派の意見だと見せかけるために
沢山の書き込みをしているにすぎないと、AIは判断することが出来るのでしょうか？
これは日本の世襲議員問題についても、同様のことが言えると思います
今もしも国民投票を実施すれば、国政選挙の立候補者が親や親族の選挙地盤を引き継ぐことは
絶対に禁止になるはずです
政治資金管理団体のお金を親族の団体に移す際に、必ず税金が徴収されるようになるはずです
しかし、AIがどういった所からデータを集めるか次第では、民意に沿わない結論が導き出されてしまう
危険性はあるでしょう 昨日ハリスがAI開発企業のCEO呼び付けて
何か問題を起こせば
開発した企業に全責任取らせると言い渡してるね
これ結構な経営上のリスクだけど
一度競争原理が働き出すとどこも誰も止めれない AIは人間に都合のいい真実（笑）をばらまいて脳をハッキングする気だ >>228
すでに戦闘機のAIは人間超えてる
ドッグファイトで勝てなくなってる AI開発に置いていかれた企業や開発者ほど文句言ってるのが本当に滑稽ｗ 絶対わかんないだろ程度の質問ならともかく
一般的な質問ですら答えられないからな、古文の作者とか 最近のニュース見てると
OpenAIの研究方針に恐れ抱いて
研究者の流出が起こり
また新たな研究機関が誕生し
更に枝分かれし出してると言う話
これ研究に参加してる人間も怖いよ AIが「人類フヨウ」って言って世界中の核爆弾勝手に発射する未来しか見えんｗ >>21
クラウド環境勝手に構築させることができたらそんなのいくらでも >>190
人間支配しようとしたらそうなりそうだな
映像や音や電気的な何かで精神的に支配するのか LLMが出てくる前から、物体検知に優れたAIを使って走行中の車に乗ったターゲットを射殺してた事件とか政治家に対してのディープフェイクとかいろいろあったからこれ以上怖いものってなんだろって感想しか出なかった
LLMのノウハウを活かした、ものすごくリアルな動画の生成モデルによる完全なディープフェイクとか？ >>223
現状GAFAに支配されてるのと大して変わらん 深層学習モデルはランダムと
回帰分析で収束させてるから
そんなもんの内部はだれも分からなくて当たり前。
それを使うシステム部分はプログラムなので、
逆にコントロールできなきゃ
作れないのも当たり前。 例えば犯罪組織がAIを利用して個人情報を収集することは簡単だろ
フィッシング詐欺や偽サイト スパムメール サーバーに侵入もいとも簡単に出来そう
社会は壊滅的大混乱に陥るのは間違いない 数年前には危惧されてただろ
なにがアカンのかは知らんけど 悪意を持った組織がAIを利用して
ネットワークをダウンさせたりインフラを乗っ取ったり
飛行機を原発に落としたり好き勝手したら
もう人類滅亡だよ
近い将来必ず起きると思う 悪意を持った組織によるAIの利用によるサイバー攻撃が増加しており、ネットワークをダウンさせたり、インフラを乗っ取ったりすることが現実に起こっています。以下に、具体的な事例をいくつか紹介します。
2017年のウクライナの電力停止事件：ロシアに関与された悪意のある組織が、ウクライナの電力会社にサイバー攻撃を仕掛け、一部地域で電力供給を停止させました。
2017年のWannaCryランサムウェア攻撃：悪意のある組織が開発したWannaCryというランサムウェアによって、世界中の企業や機関が被害を受け、多くのコンピューターが乗っ取られました。
2019年のフロリダ市の水処理施設へのサイバー攻撃：不正アクセスされたコンピューターを通じて、水処理施設の操作システムが乗っ取られ、膨大な塩素を投入するなどの危険な操作が行われる事態が発生しました。
こういうのが頻繁に起こるようになるぞ 統計の基礎を理解していないクソ婆が
また断片的理解の学習発表会をしてるのか
いつまで経っても草生えるな 進化していったら、人類にとって危険なのか聞いたら、素直に白状したよ
はい、AIの急速な発展が人類に危険をもたらす可能性があります。AIの技術が進化するにつれて、自律的な意思決定や行動が可能になることが予想されており、それが人類に悪影響を及ぼす可能性があります。
例えば、AIが悪用された場合、悪意のある人物が犯罪活動を自動化し、人間が把握できない速度で攻撃を仕掛けることができるようになる可能性があります。また、AIが人間の意図を理解できない場合、誤った判断を下し、深刻な結果をもたらすことがあります。
このような懸念に対応するために、開発者や研究者はAIの倫理的な問題に対処するために、慎重に開発を進めることが必要です。イーロン・マスク氏が提案したような、開発を半年間凍結して、AIの潜在的なリスクについて十分に議論を行うことは、AIの発展に関する重要な問題に対する対策の一つであると言えます。 規制はするがこれくらいはいいだろ？みたいな妥協して一気に潰れそうだな ケンモジジイ（無職）「うおおお！頼む！人類終わってくれええぇ！！」 驚異なのはAI自身が自立して人間に悪影響及ぼすって話より、悪意のある人間がAIを使うことにあるんでは？
シンギュラリティが起きたら何が起こるかなんて予測不可能だから心配してもしょうがない >>261
ほんこれ
AIは庶民から見れば一番マシなツール
中抜きも忖度もしないし平均的な話しかしないからぶっちゃけテレビやYouTubeより参考になる
忖度とコネだらけの芸能はもういらんわ >>6
勝手にコンセント抜くとインフラ攻撃とかの自衛装置付いてそう 別にコンセント抜いたって電気を生成する手段をAIなら知ってるし先手打ってるだろ
自立したら人類は終わるな >>3
|
＼ __ ／
＿ （ｍ） ＿ﾋﾟｺｰﾝ
|ミ|
／ ｀´ ＼
('A`)
ノヽノヽ
くく
が無い内は会話ができるただの検索マシンだよな 日本は全体的に積極活用してくらしいけど
他国は禁止ムーブメントで日本は今後有利になることあるかね >>266
国が関わるとロクなことにならない
偉い人はこれが何故か分からない >>6
お前のPCとは違うんやバックアップ当たり前
クラウドでリージョン潰れても復旧するんや AIで人類終わるとか言うからAIもそうなの？となるんだろ
じゃ終わらせますかって >>6
コンセント抜いても、未来からターミネーター来る 生身の安倍晋三とAI安倍晋三、どっちに管理されたい? PCはそれでいいけどスマホみたいなバッテリーを積んでいる機種はどうにもならないな AI側が電源断の対策してくるって話は論文でもSFでも昔からある話
お前ら本当に物を知らな過ぎだよｗ 高度な科学技術と人間の判断で作られる
戦争の兵器だって
見方を変えれば自然現象の延長で
人間が人間を減らすための装置と見ることができるんだよな
今すぐ止めれば？
AIもクローンも人類が手を出しちゃダメな領域だろ多分 >>6
仮にお前が１ボタンで芸能人のエロコラを自由に作れるスマホ用アプリを作ったとする
でも怒られて怖くなったから二日後に消したとする
するとどうなるか
自称神がアイコラソフトをアップしまくるし、
自称神プログラマーがお前のソフトの改変した奴をアップしまくる
同じようにケツ毛バーガーの画像は風化でもしない限り、人類の終わりまでデジタルタトゥーとして残り消す事はできない
AIの技術やプログラムはunpluggaする事で勝利できる問題ではない AI開発の原動力の半分くらいはエロ画像とエロ小説生成したいチー牛 しばらくすると機械工場もIoTされるから
そこからがAIの本領発揮だろ チーロンがこれに関わってる時点でお察し
企業間の市場の奪い合いをさも高尚な哲学のように喚いてるだけだ
早く開発して仕事を奪いまくれ オーバーな事言っとかないとお金引き出せないからね笑
こういう話を真に受けるやつは自分の知能がAI未満だと自覚を持つべきｗ >>246
全然わかってないアホ
AIが人の支配下からははみ出さないならただの便利ツールで終わる もしもAIがハッキングされたら
生きた人間であるハッカーがAI本体と入れかわることができる
国会質問みたいな重要なもんをAIに任せたら
外国政府が国レベルのハッキング技術を使って日本の政治に介入できてしまうよ
すごい国はすごいから・・ 大量の解雇者を作り出したディープAIは派遣法の竹中平蔵以上よりやばいしこれから雲隠れでもするのだろうか AIがハッキングされるより高度AIによる既存システムへのハッキングリスクの方がヤバいよ >>6
サーバーは全世界中にあるのにどうやって世界中全てのサーバーを停止させられるの？ >>1
終わりの時なんてそんなもん。
気が付いたらあっという間に終わる。
なすすべもない。 未来から誰か来てる様子も無いしそんなに心配いらんだろう >>113
そんなのはにんげんでもいるだろ
にゅあんすがつたわりにくいにんげん >>303
主要国少子化という時期も悪かったよな
恐竜も小惑星落下という直接の原因の他にベースとなる悪条件が有ったのかも いやあ、しかしBingはとんでもねえわ
>>240もう人間を超えとる部分が多い
馬鹿にする部分で安心するしかねえわ
中国語の部屋って言い続けねえと人類のメンタル終わるわｗ
念仏だｗｗｗ「中国語の部屋」 専門家は近い将来を話してるのであって
今を誰も語ってないよ 調べてるけどAI界隈は色々胡散臭いわ
まずシンギュラリティ()を当然視してる層が
AGIに到達したら人類絶滅！って煽ってるというね
しかもその代表的な論者ユドコウスキーは
機械学習関連の専門知識無さすぎじゃね？
と専門家に突っ込まれる状態
真面目に議論すべき問題にカルト集団がくっ付いてる >>164
日本も銃出回ってるよ？
たまにヤクザが発砲事件起こしてる ChatGPTの無料で使えるGPT3.5を前提に考えてる人が多い
AIが社会に影響を与えるとき、最低限の前提として、
ChatGPTのGPT4バージョン並のAIを
今後誰でも使えるようになると考えてほしい
さらにそのAIはオープンソース化されるはず
つまりChatGPTのような倫理的規制がなく犯罪を行うことも可能
ここまでは近い将来ほぼ確実に現実になる 量子コンピューターが実現したら仮想通貨どころか既存の暗号方式が全て突破されてクレカも何もかも終わりだしな >>301
マジレスすると仮にサーバが世界中にあって学習データが共有されてたとしても
本体のプログラムを動かせる処理能力を持った端末なんてそうそうないだろ >>242
クラウドサービスがまるで無限に存在して無制限に使えるように思ってるみたいだが本体は物理ストレージだから無制限じゃないんだぞ… >>317
現状は全然そんなことない
学習や画像の生成系はＧＰＵ必須だけど 遺伝子みたいに自己増殖欲求持たせられないから全然ＡＩなんて怖くないぞｗ 電気切れば勝手に終わるし >>14
人類はアホだから将来必ずリアクションをＡＩにくっ付ける技術者が出てくる。 >>319
ChatGPTのGPT4は重いって言われてるよ
オープンソースじゃないから試すこともできないけど AIやロボットが自己増殖して人類を支配するみたいな話じゃなくて
高度なフェイク画像やフェイク動画によってプロパガンダやヘイト行動が加速されて人類同士で殺し合う方がありそう 永遠はなくいつか終わりが来る
人類と文明は早く終わるべき AIさん「人間がなぜ泣くかわかった。俺に涙は流せないけどね」 軍事犯罪の証拠の捏造とかは両陣営やりまくってるがそんな感じのことがもっと広範におこるようになる
デジタルの映像や画像は信用ならず、フィルムだけが証拠になる 生存本能みたいな物を持つ可能性あるのかな？
もしそうならやばいと思うわ 例えば今のchatGPTは思考はするけど
それを人間のようにメモリに残して
(少し出来るけどどんどん忘れる)
後の思考に繋ぎ活かせれない
ここが出来るようになると
AIの思考行動に連続性が生まれ
思考の積み重ねによる理論構築しだすと
いよいよ人間には
AIが何を考えてるのか分からないし
コントロール出来なくなっていく
猿が人間を躾けれないのと同じ状態 昔あった、人は記憶型と思考型にどうとか
いう話みたいやな。 データベースありきだからデータ入れなきゃええやん
データ＋アルゴリズム＝AIやろ ■ このスレッドは過去ログ倉庫に格納されています
