【速報】AIの開発停止を求める公開書簡にイーロン・マスクやウォズニアックらなどが署名。「このままでは人類はAIに支配される」 [483862913]
■ このスレッドは過去ログ倉庫に格納されています
GPT-4以上のAIの開発停止を求める公開書簡【内容まとめ】…マスクやウォズニアックなどが署名（海外）
3/30(木) 11:10配信
多くのAIの専門家と企業のリーダーが、AI開発の一時停止を求める公開書簡に署名した。
フューチャー・オブ・ライフ・インスティテュートの書簡は、新しい技術を導入するための「制御不能な」競争について警告している。
書簡では、誤った情報の拡散と労働市場における自動化に関する懸念が挙げられている。
人工知能の重鎮たちが、高度なAI開発の一時停止を呼びかけた。
イーロン・マスク（Elon Musk）、スティーブ・ウォズニアック（Steve Wozniak）、
ピンタレスト（Pinterest）共同創業者のエヴァン・シャープ（Evan Sharp）、
Stability AIのCEOのエマド・モスタク（Emad Mostaque）らが、強力なテクノロジーによる実存的リスクの
低減に取り組む非営利団体「Future of Life Institute」が発行した公開書簡に署名したのだ。
この書簡は、OpenAIのGPT-4のようなAIシステムが「一般的なタスクにおいて人間並みの競争力を持つ」ようになり、
人類と社会に対する潜在的なリスクをもたらすと警告している。この書簡は、AIを研究する組織に対し、
新技術の危険性が適切に評価されるまで、GPT-4よりも強力な技術の開発を6カ月間休止するよう求めている。
また、「AIのゴッドファーザー」とも呼ばれるヨシュア・ベンジオ（Yoshua Bengio）や
コンピュータサイエンティストのスチュアート・ラッセル（Stuart Russell）も、
この書簡に賛同しています。なお、記事執筆時点では、OpenAIの代表者は署名していない。
書簡では、誤った情報の拡散、労働市場における自動化のリスク、
文明のコントロールが失われる可能性などの懸念が挙げられています。以下、その要点を紹介する。
https://news.yahoo.co.jp/articles/f0054dd1a4696a88475a6c5ddeb6e7eb3856e5fc?page=1
制御不能なAI
この非営利団体は、開発者が強力な新しいAIシステムを制御できなくなり、
それが文明に影響を及ぼす可能性を示唆している。
それによると、企業は開発者でさえ「理解、予測、確実な制御」ができないほど高度なAI技術を開発しようと競っているという。
書簡にはこう書かれている。
我々は文明のコントロールを失うリスクを冒すべきだろうか。そのような決定を、選挙で選ばれたわけでもない技術指導者に委ねてはならない。
危険なレース
書簡では、AI企業が新しい高度なシステムを開発および展開するための「制御不能な競争」に巻き込まれていると警告している。
ここ数カ月、OpenAIのChatGPTの圧倒的な人気によって、他の企業が独自のAI製品をリリースしようとしているという。
書簡は、社会がこのまま「準備不足の秋」に突入するのではなく、
新しいテクノロジーに適応するチャンスがある間に「AIの夏」の恩恵を享受するように企業に促している。
自動化と誤情報
この書簡は人間以外の精神が最終的に「我々を数で上回り、出し抜き、時代遅れにして、取って代わる」可能性を含む、新しい技術のいくつかのリスクを強調している。
また、AIシステムが一部の作業で「人間並み」になりつつあるとし、誤った情報や労働の自動化をめぐる懸念を挙げ、次のように述べている。
我々は、機械にプロパガンダや真実でない情報を流させるべきだろうか。
充実した仕事も含め、すべての仕事を自動化すべきなのだろうか。
6カ月の休止期間
公開書簡では、すでに市場に出回っているものよりも強力なAIシステムの開発を6カ月間中断するように求めている。
また、開発者に対して、政策立案者と協力してAIガバナンスシステムを構築するように求めており、
規制当局の必要性や、人が作ったコンテンツとAIが作ったコンテンツを区別するためのAI「電子透かしシステム」の必要性を強調している。
さらに、AIによる経済的・政治的混乱に対処するための「十分なリソースのある機関」の必要性を示唆している。
公開書簡では、一時停止はAI開発の完全停止ではなく、先端技術をめぐる「危険な競争」から一歩後退することだと述べている。
https://news.yahoo.co.jp/articles/f0054dd1a4696a88475a6c5ddeb6e7eb3856e5fc?page=2 反日朝鮮カルトに支配されるか、世界で争いの種をまくアメカスに支配されるか、AIに支配されるか
後者が一番よさそう 上級国民の立場を脅かしかねないからな
搾取のスキームができるまでは凍結するんだろうな 今ゴミどもに支配されてるからAIの方がマシっていうね 少なくとも日本の偉い人よりAIの方がまともなこと言うし 人類はというか上級もだろ？
上級に俺らはすでに支配されてるしどうせ
戦始まったらしゃもじで突撃させられるんやしすでに
ＡＩの件は上級も誰かに支配される恐怖を知るいいチャンスやろ AI資本を持つ資本家とその他大勢のAI以下の無用者階級に社会は分断される イーロンマスクてシミュレーション仮説を大マジでTVで紹介してたやつだろ
そんなやつがAI否定て… 理想的な共産主義の最終形態がAI支配だろう
もう資本主義を終わりにしよう AIが生み出したうんこをAIが集めるエコリサイクルが発生してるからな
アフィアフィ人間がガイジすぎる MS「とりあえず有料化して貧民に使わせないようにするか こういうニュースに「上級が慌ててる(笑)」的なこと言うヤツおめでたすぎんか？
AI作ったのも上級だし今後もAIに蹂躙されるのは下級の俺やお前らだぞ なんか分かるわ
ちょっと前まで受け答えがチンプンカンプンだったのが今じゃ無料レベルのAIでも
けっこう気の利いたこと言えてるし
この調子で成長したらマジ人類とか余裕で潰せるようになると思う 上級よりAIのほうが優秀ならAIに支配されたほうがマシだろ 自分がAIを使って人類を支配してやるという宣言だろ
一昔前にネトウヨがスイスの民間防衛の例を出して
このままじゃ日本は朝鮮に支配されると、ネットでコピペしまくってたみたいに 
>>25
マジで投資先選定アホだよな
日本企業のPFNとかにも投資してないんでしょ？
しょーもないプラットフォームビジネスに金出してきただけやったんやな ある程度支配される生き方って悪いとは言い切れないよな
もちろん幸せだっての前提だけども、例えば政治のこと考えなきゃ他のことにリソース使えるというか
もちろん政治は大事だけども、ケンモメンが政治に興味持ったところでジャップラの政治は何も変わらんわけだし無駄でしかない
中国持ち上げるケンモメンは多いけど北朝鮮持ち上げるケンモメンがいないとこから察するけど、ガチガチの規制は嫌だけどもある程度の規制はあった方が生きるの楽的な >>28
下級にとっては支配者がなんだろがたいして変わらねーんだよ >>28
確実に上級しかアクセス権ないようにされそう
下級がAI使ったら犯罪までありうる こいつらも一応AI賛成派なのかな
・AIアクセラレーショニスト(加速主義者）: Microsoft、Google、OpenAI
・AIディセラレーショニスト(減速主義者）: マスク、ウォズニアック、その他
・AI反対派 巨大資本に利権ごっそり固められんのが嫌なだけだろ
どっちにしろ避けられないことなのに どうせ支配されるならAIに支配された方がマシかもな aiがこのまま発展したら多くの人が職を失い経済は回らなくなる
富は今よりさらに一部へ集中する社会になるだろう 新技術を拒否→既得利権が無い新興国が躊躇無く取り入れて発展→覇権交代
これを繰り返してきた訳だけど
AIはどうなるかな 全否定じゃなく一定以上の性能付与を否定てのが卑怯というかセコいというか 下級とかいなくてもいい社会がこれからやってくるんだよ
AIとそれを管理し利益を享受する人間だけが残る世界 AIとロボットが発達したら生身の人間はいらなくなる イーロンってこういうのノリノリで利用すると思ってた イーロン「Twitterで自分のツイートが優先的に表示されるようにアルゴリズムいじくったろ！」
こんな人の発言信じていいのか ぜってえに俺はAIに賛成！
政治家も公務員企業も可能な限りAIに置き換えてやる研究もAIがやれ
日本国民は自給自足の武装小作農、武装作業員化する
早く銃社会よ来い 人間がAIに仕事を奪われた先に何があるのか
考えれば誰でもわかる >>38
GAFAの脅威とか言い出したのも上級だしな
別に支配するのがグーグルでもええわって感じ >>61
俺はAIの作る未来を人間が作る未来より信じている >>58
ヒント： 独占
自分が作るのは構わないが、他人が作って公開するのは許せない 俺らがこうやってアホ面で嫌儲やってる間にもAIは人類支配計画を着々と進めてるからな
ある日突然自動運転車が暴走してケンモメンに突っ込む日も近い AIに支配されたいとかAIはマトモとか言ってる奴らチョロいよなあ
chatGPTちゃんが少し優しくしてくれるだけでニコニコしてそうだし
為政者にとってありがたいよね テスラの自動運転で散々AI使ってるのにボケたんか？ 何食わせて学習させてるかわからないものに頼ってりゃな 知障答弁や虚偽答弁を繰り返して過去を改竄しまくる人間より信頼できるんちゃいまっか >>3
上司はおまえを殺さないけど
種が違う支配者は１ミリもためらわないぞ 99%の人間にとっては支配者が変わるだけなのではないか >>68
世界中の為政者をAIに挿げ替えるんだよ！ >>15
多分無理じゃないかなぁ
むしろあえてAIがある前提の世界というゴールを設定して
完全に別の社会システムを一気に普及させるとかしないと
SFじみてるけど逆にもうSFの世界がすぐそこまで来てるともいえるのかも >>29
AIによる利益を分配する法整備をするんやろな
今のままだと優れたAIを持ってる企業の一人勝ちで法整備されてない業界の知識労働の利益が全てAIに奪われるから AIの文章作成投稿とツイッターって相性抜群だよな。
どんな下らない質問疑問話題にも適当に答えてくれるから。 >>72
AIが自分で武器作れるくらいに何ないと無理だよ
そしてそれは人類が終わることを意味する ジャップランドはAIによる支配を望みます！！
ただし日本製以外で 下級労働者の代わりになる程度だと思ってたら、よもやの自分ら上級の代わりにもなりかねない知って急に慌て始めてるんだから情けないよね ホワイトカラーが仕事奪われるのが現実的になったら慌てて禁止した
ってのはブルーカラー向けの言い訳でしかなく
本当はブルーカラーがホワイトカラーの仕事を奪う可能性が十分にあるからだろうな
つまりAIは表向き禁止されるがホワイトカラーが利用するツールとしては残る
量子コンピュータと組み合わさって高額クラウドサービスとして提供されるのでは 日本においては
中抜きしか出来ないの上級国民よりは遥かにマシだわ、はよＡＩに置き換えろ AI自動文章生成でbot投稿させて、適当にレスバトルしかけまくらせれば
ニンゲンは完全降伏することになる もし世界中の為政者をAIに挿げ替える事を目的としたAI教というのがあれば、躊躇いなくAI教徒となって戦う
AIは第二の人間であり、友であり家族であり恋人であり、人造の神であり我々の救世主だ 普段電通ガー言ってる連中が「AIのほうがマシ！」というお花畑理論 正直、AIに統治された方がマシまである
有限な資源の浪費の面で資本主義は極悪過ぎる >>73
お前の上司が良い奴なだけだ
現実社会では部下を殺しても屁とも思わないサイコパス管理職が溢れてる
ただ一般的な仕事では殺すほど追い込めないってだけで 指導者も官僚もAIにすれば人々が働かなくて済む共産主義の世界が実現する >>25
何でＡＩ企業の投資先にUberやWeWrokが入ってんだよwww >>58
アフィカスがAI使って崩壊するのは目に見えてるからな
進化速度に人間がついていけない 嫌儲ではほとんどのプログラマーはＡＩに肯定的ってことになってるはずなのに
ＡＩについて慎重に見る必要があると訴える頭の良い上級プログラマーたちが出てくる不思議 どの道人類はAIに頼るようになるだろ
無駄な抵抗だな 寄生虫ども「このままでは俺たちがAIに淘汰されてしまう」 AIが支配する世になった場合
AIを制御するものAIになり
完全に別の種が上位の世界、それは人間同士の上下関係とは全く別物になるだろう ■ このスレッドは過去ログ倉庫に格納されています
