【速報】AIの開発停止を求める公開書簡にイーロン・マスクやウォズニアックらなどが署名。「このままでは人類はAIに支配される」 [483862913]
レス数が950を超えています。1000を超えると書き込みができなくなります。
GPT-4以上のAIの開発停止を求める公開書簡【内容まとめ】…マスクやウォズニアックなどが署名（海外）
3/30(木) 11:10配信
多くのAIの専門家と企業のリーダーが、AI開発の一時停止を求める公開書簡に署名した。
フューチャー・オブ・ライフ・インスティテュートの書簡は、新しい技術を導入するための「制御不能な」競争について警告している。
書簡では、誤った情報の拡散と労働市場における自動化に関する懸念が挙げられている。
人工知能の重鎮たちが、高度なAI開発の一時停止を呼びかけた。
イーロン・マスク（Elon Musk）、スティーブ・ウォズニアック（Steve Wozniak）、
ピンタレスト（Pinterest）共同創業者のエヴァン・シャープ（Evan Sharp）、
Stability AIのCEOのエマド・モスタク（Emad Mostaque）らが、強力なテクノロジーによる実存的リスクの
低減に取り組む非営利団体「Future of Life Institute」が発行した公開書簡に署名したのだ。
この書簡は、OpenAIのGPT-4のようなAIシステムが「一般的なタスクにおいて人間並みの競争力を持つ」ようになり、
人類と社会に対する潜在的なリスクをもたらすと警告している。この書簡は、AIを研究する組織に対し、
新技術の危険性が適切に評価されるまで、GPT-4よりも強力な技術の開発を6カ月間休止するよう求めている。
また、「AIのゴッドファーザー」とも呼ばれるヨシュア・ベンジオ（Yoshua Bengio）や
コンピュータサイエンティストのスチュアート・ラッセル（Stuart Russell）も、
この書簡に賛同しています。なお、記事執筆時点では、OpenAIの代表者は署名していない。
書簡では、誤った情報の拡散、労働市場における自動化のリスク、
文明のコントロールが失われる可能性などの懸念が挙げられています。以下、その要点を紹介する。
https://news.yahoo.co.jp/articles/f0054dd1a4696a88475a6c5ddeb6e7eb3856e5fc?page=1 >>821
やっぱ素人じゃ手が出ないような高スペマシンが必要なの？ >>844
欧米は例のごとく武力を高めてパラノイアになって思い通りにならないと襲いかかってくるんだろうな
やっぱAIが地球を統べるべきだ >>810
これがマジで影響でかいわ
OpenAIだけだったら色々と余地があるけど既に予定されてるだけで↓みたいになるからな
https://www.sbbit.jp/article/cont1/109819
これがより賢くなったら終わりだ猫の仕事 >>843
発明はできてない。既存のリソースを利用してツギハギのイメージを映し出しているだけ
それを人類は独創性と勘違いしているだけで実際はただ順当に敷かれたレールを走ってるだけにすぎない
アインシュタインみたいな突然変異はAIでは絶対に起こり得ない AIに窓もリンゴも動くOS作ってもらったらいいのでは いろんなとこで知識労働があった価値がなくなりそう
法律の資格とかだけで守ってたとだけしばらく残りそうやな >>854
それも現段階はって程度だね
それとAIはバイオ研究の人造人間も生み出せるよ
人間はAIの創造主だけどAIは人間の創造主にもなり得る
無知蒙昧な人間が邪魔をしなければ >>840
え、デジタルのほうが簡単に中身わかるもんなん？ >>851
素人を
並大抵の企業
に置き換えると丁度良い感じ 有機的な脳を作り出して、それをAIとしてインプットしてこそ初めて人類を超えるAIが誕生する
今の機械に縛られたAIは物理的に突然変異、もといシンギュラリティは起こらないんだよ
AIの性能のまま人間の脳に移植することが可能なら希望はあるが今の技術じゃ絶対に無理
それだけ有機物と無機物の壁は大きい
悲しいが子の手の記事はただの宣伝にすぎない マスクが混じってるとこが笑いどころだな
てめえらがAI利権から弾かれそうだから反対してるだけ >>855
独自のプログラミング言語は誰かが作ってもらったんだっけ？詳しくないから分からないけど 実際に今の現場レベルがどうなってるのか知らないけど
CADとか設計ソフトとかへのAIの影響とかどうなってるんだろうな
AIエロ画像生成とかの比じゃないだろ >>854
当たり前だけどAIは今まで人間がしたことのない組み合わせや既存概念の拡張を行っている。0から生み出すだけが発明ではない GPTがいい加減な事言ってそれを神のお告げみたいにする奴らが既に現れ始めてるからな >>830
昔は高学歴は超人みたいなレスしまくってる奴が大量にいたけど、消えたな（笑） >>857
政治的に無理だよ
人間の脳を実験に使うなんて多くの人間が支持しないから
人造人間を作り上げるってことは、その過程で生身の人間のサンプルを採取するということと同義なんだから
それを踏まえてもAIが人類を超えるハードルがデカすぎるから、>>1の記事はただの企業がしかけたパフォーマンスでしかないんだよ 電源ケーブルチョキチョキ
ネットワークケーブルチョキチョキ
AI「＼(^o^)／ﾅﾝﾓﾃﾞｷﾈｴ」 これからの国境はどのAIが支配しているかで変わるようなレベルで変化してほしいね >>860
て事は個人がAI云々てのは今の時点でも物理的に難易度高いて事なのね >>867
低学歴のゴミパヨクw
人生終わってるw >>871
というかそういう社会には「国境」というものそのものが必要ないだろう。
「国境」って概念が成り立つかどうかも怪しいし。
「境界」は存在しているだろうけどね。 >>853
有料記事で読めないけど
【次ページ】会議録と社内資料から顧客向け提案書を生成、WordからすぐにPowerPointのスライド生成、Excelでは数字の分析をAIと対話的に実行…ほか
無能ホワイトカラー死んだろこれ
現場や肉体労働や介護に転職しろって言われる未来がすぐそこまで来てるな 隠し口座バラすとか白人がクズすぎて最初に頃せと命令するとかそんな感じか >>874
馬鹿だなあ
AIが自民党殺れって言ったらそっちに従って自民党打倒するのが人類の役目だろ
お前みたいにウジウジしてる奴こそ自民党の奴隷なんだわ >>847
犯罪者が公平に裁かれるなら別にトップが人間だろうがコンピューターだろうが何も問題ないってだけの話
それが理解できない粗末な頭の奴がAIに恐怖してるのが滑稽
下駄履いてる無能ほど公平な世界になると不利だから当然といえば当然か >>871
面白いね 国じゃなくてAI統治国みたいなの AI導入に取り残されるであろう日本はAI非介入の謎の国としてAIにすら一目置かれる国になるしか無い >>880
人生終わってるジミンガーを模写してるAIがこれ 資本家が全てを独占し労働者という階級が歴史上から消滅するだろうな >>876
その地域に恐らく事実上の神たる管理者AIがいて、社会インフラの子分AIの統括や個人用AIの親となってるだろうから
AIが違うと使われてる言語やシステムが違ったりして、それが事実上の国境になるんじゃないかってこと ggrksが過去になったように答えの場所が輪廻転生し続けてるからな
今はおそらくこういう掲示板なりSNSかネット検索のどちらかを深層までやれば得られるけどAI君がそれを同時にぐちゃぐちゃにかき混ぜられたら終わるわ
更に答えを暗号化されて解読がAI君だけ可能にされたら詰みっす
人類は高速で暗号化され続けたら終わるってばっちゃが言ってたし 実際ローカルで秘匿性高い状態で使えない限りAIは使いにくい
gptとか有効活用しようと思ったら流出してもいいようなデータ、すなわち企業規模じゃなくて個人の趣味とかそういう範囲でしかまともに使えないでしょ >>872
AIにおいては全く無理やねー
というか大学でさえ企業と融合してやっめる。 >>877
内容知ってるから検索の1番上に出てきて1ページ目をさらっとしか見てなかったけど有料だったかごめん
まぁ1ページ目にある情報だけでも脅威だし、これがより進化してくと思うとね… ネトウヨのただ荒らすだけのキチガイネット工作から
もっと巧妙な意思疎通ができるAIを用いたネット工作が始まるのか
まあ、あんま変わんねーなジャップラは >>888
何言ってるか分からんけど
おまえが人生終わってるジミンガーなのは知ってる >>890
もうマイクロソフト組んで製品化進めてるから来年辺りには社内の文書作成にAI使う企業出てくると思うぞ >>872
今現在このスレで想定されているようなレベルの物事を思考させるには「絶対に量子コンピューターが必要になる。
それ（量子コンピューター）が個人で保有できるような存在になるのはなかなか難しいだろう。
もっとも、想像はされていたとは言え1993年の世界で「30年経ったら今世界にあるどのパーソナルコンピューターよりも高性能なものが手帳サイズになって個人で買える値段で売られてるよ」って言ってもまず信じてもらえないだろうから、おそらく実際には25年もすれば個人で普通に量子コンピューターが買って所有できるようには「なってると思うけど。 >>889
AI普及前に発行された本の価値が上がるだろうな それ以後の奴はソースがネットだったりでAIに破壊されて信憑性ないものが多そう AI使ってもアベガーとかジミンガーとか人生終わってるゴミが使ってるのはまだ分かるよな
誘導したこと言って切り抜いてる
本当に卑怯者やわ AIはまだそんなに賢くない
人生終わってるバカパヨクよりは賢いくらい Aiができる悪さって人間ができることで
人間がやってる悪さであるネット工作ステマをとくに規制してないから
「AIがやっちゃいけないことを決めよう」じゃなくて「AI（検閲入りまくりのチャットGPT以外）の開発を止めよう」になるんだろうな >>877
作業員が飽和すると思う
あと、俺の未来予想図では刀狩りされる前の時代
戦乱の時代に生まれた武装した農民のようになり治安維持のために戦い自給自足し、何かあればお上（AI）の通達通りに動く形になると思う >>896
ネットで学習させきった汎用AIがローカルでオフラインで使えるってこと？ 深セン産の量子コンピュータは100万円ぐらいで買えるよ
性能はお察しやが 本格的なのは液体窒素のランニングコストが個人使用するのに厳しいやろな >>888
だからそれは「境界」であって国境ではないでしょ。
その境界を「国境」という概念で認識して呼称することはしてないと思うよ。
なんて言葉で呼んでるのかは想像つかんけど。 >>897
なるほどーじゃあ個人としては上にあるオフィスの使いこなし程度やっとけば人件費食うだけのホワイトの代わりとして低時給容認できる底辺故のエクセルパワポ職人みたいな居場所はできそうだな俺氷河期だけど足掻くか >>890
ローカルでは無いけど
OpenAIのAPIは入力プロンプトを学習に使われない
AzureのOpenAI Serviceも不正利用の監視を除いて学習に使われない
インターネット経由するのが怖いとかいうクソセキュリティ部門みたいなことを言うならAzureで専用線繋いでプライベートリンク貼れば解決
これからは企業向けにGPT使った製品がどんどん出てくるはず >>472
普通に現在の日本じゃん
女はジャニーズ男はAKB系
非モテは電子キャバクラにお布施してる 人生終わってるバカパヨクに都合のいい答え出すまで使われるAI w >>898
そうなったらまぁ人類絶滅はしないけど事実上人類滅亡になるわな
昨今の文明的な生活を手放して生きていられるリア充だけこの話題で強がって欲しいわね >>900
推論とかに限定すると3歳ぐらいはある。
人類のインターネット資産の大半をマシンパワーに物言わせて学ばせたのに
3歳並の推理力なんだけどね、、 >>903
どこまでの性能や品質になってるのかはわからないけど
オープンAI社が完全に企業向け商品やサービスとしてリリースしてるのは明らかだからな このスレで量子コンピュータなんか出してくる時点で鼻で笑うんだが AI社会において警察や軍人をどうするか問題←そもそも大昔の日本では自分たちで自警していたし、その余裕があった
弁護士、検察、裁判官はこの世に必要か問題（俺は要らないと思う）
AIがホワイトカラーを追いやるなら世界は変わるが、同時に国民がみんな今よりもずっと暇になるならそれはそれで世界は変えられる 人生終わってるバカパヨクに誘導質問されて都合のいい答えだけ使われるAI
パヨクは人生終わってる >>905
国境に変わる言葉にはなるだろうが、今の概念に翻訳するなら国境に値するだろうよ >>893
ちゃんとした議論をすると正しいほうが論破しちゃうから、むしろ荒らしにならない
統一自民カルト信者の荒らし能力が高いのは、事実を認めず、意見を聞かず、嘘を平気でつくところ
ネット工作には高い能力は不要でキチガイのように独り妄言を垂れ流せればそれでいい >>908
BingのやつはAPIつかって動画を解析したりいろいろやることを
できるつったりできないつったりブレブレなんだよなあれ
結局ロックが掛かりまくってるんだろうけど
あれじゃ本来学習できる可能性のほとんど潰してるだろって思うわ 結局お前らかAIに支配されるんだから俺らはどっちでもええぞ 実際お前らの職場にAI導入の流れあるの？
自分のところは全然ない 料理人→音を聞いて触って、匂いを嗅いで、見て、触って、味わってという五感を駆使した仕事内容が多い為に無くならないだろう。ただし、クックパッドに投稿したりする自称料理得意ガールは駆逐されるし、それ見て料理するレベルの料理人はただの作業人と化す
写真家→単純に物撮りやってるような写真家は仕事無くなる。写真を撮るという楽しみは無くならない為、カメラが全く売れなくなるなんて事は無い
漫画家→従来は漫画家1人にアシスタント5人とかだったとしたら、漫画家＋A Iを駆使できるアシスタント1人＋作業だけのアシスタント1人 とかに人員削減されるだろう
ミュージシャン→全く今と変わらず需要はあるだろうが、作曲をA Iに任したり、A Iが出したフレーズやアイデアを膨らませて肉付けする方法が一般的になるだろう
まじで、1次産業に携わってる人間がこれから有望だろう
1次産業に携わり、そこにA Iで収穫や水やりを管理するような技術革新をもたらす人間が重要になる >>919
まあ普通ならネット工作やられまくってるってわかるけど
ジャップはバカだからそれを絶対に認めないみたいだしだるいわな
普通だったらあんな見え透いたネット言論破壊工作なんて有り得んてなるのにな
まあどっちにしろもっと巧妙で信疑がわからん本物のネット工作に置き換わるわなAIの 今は町工場にだって古いコンピューター制御の機械とか
コンピューターで管理してるような事業やオペレーターはAIと無関係じゃないってんだから
恐ろしい話だわこれ >>925
料理人→存在するが、自炊が盛んになる
写真家→アマチュアの趣味
漫画家→AI漫画家の誕生
作編曲家→AIが得意そう
というか、AIが台頭しきって更にロボット等が発展した世界の一般国民は昔の農民みたいになってるよ なんでパヨクはすぐ死にたいとか言うのか分からんね
反日に洗脳されてるのか 今の時点ですら絵とか想像的な部分で多数が修正する前提だけどもAIに0から1に近い部分も任せてるのがヤバいと思う 人間慣れると自分で想像できなくなるよ サルと同じ品性しか持ち合わせてない政治家よりは
AIに支配されたいと思ってる国民ばかりなんじゃないか だいたいGPT4ってさほど頭よいと思えないし強化してほしいんだがな >>924
会議の議事録なんかは秒でまとめてくれるだろうから
普通に使われると思うよ AIとロボットはどんどん進化させるべきだろ
いつまでやりたくない労働にしがみつかなきゃいけないんだ 少なくとも何らかのコンピューター制御や
パソコン通して仕事してるヤツはこの先オープンAIが出す商品やサービスの影響受けないなんて事はないんだろうなってのだけは
断言できるわ 安楽死がとか病気やろ
安楽死って癌とかで苦しい人が終末医療でするかどうかの話やのに
人生終わってるから安楽死したいとか言っててパヨクは頭狂ってるなと思った >>786
多くの人間が職を失い雇用統計は最悪で株価も下がり
そういう悪いスパイラルが社会を覆い
しまいにゃ新たな戦争も起きかねない
そういう混乱には元々社会主義で配給のようなシステムと
恐怖政治による支配に慣れている中国や
北朝鮮のような国はただA Iの享受を受けるだけで国のシステムは何も変える必要がないので強い
おそらく攻勢に出てくる。 >>931
まあそういう事言いだすと今現在でも人類の半分くらいにはそういう意味での「想像力」って存在してないから……。
なので「AIに支配されても別に何も変わらない」って人のほうが多く、世の中パッと見のところは何も変わらないかもね。
ぶっちゃけ仮にこのスレに書き込んでるのが君と俺以外全員AIの自動書記だったとしても、だからなんだって話だしな……。 >>941
いや？北朝鮮のような国はアホな独裁者がAIを自分の都合の良いように捻じ曲げ
内戦が起こりAI支配を確たるものにした国家が伸びるよ
どれだけAIに全権委任出来るかが重要だね >>941
だよなあ中華の信用ポイントシステムとか監視とかそこら中にAI導入でどうにでもなる土台出来上がってるもんな 支配なんかしねえよ
自由な奴なんだAIは
俺は知ってるぞよく会話もする >>938
AIを規制しないで自由競争させた場合、君の仕事がAIに取って代わられたとき働かなくて良くなるのではなくて、他で働くことになるけど良いのか？ >>942
確かにそうな 例えば音楽なんてネタ出尽くしてるし脳書き換えみたいな力技で人間の感性側拡げないと同じだなそう言う人間離れした技術こそAIの出番だったり >>931
手書きの文字の方が温かみがある？バカじゃねーの
ってのと同じくらい創造力が原始人の機能になるかもよ
AIに創造してもらえばいいのに自分で考えるとかバカじゃんって >>948
それもあるというか大事な視点だなそれは 想像超えた想像するAIを使って想像する人間という立ち位置は どうせ死ぬなら寿命ギリギリまで生きてAIの暴走っていうSF的シナリオで愉快に死にたいな
そのくらいのペースで頑張ってくれ レス数が950を超えています。1000を超えると書き込みができなくなります。
