ガチでヤバイAIがOpenAI社内で出来てしまった模様、、、OpenAIの幹部が安全面を危惧して続々と退職、、、 [755862572]
■ このスレッドは過去ログ倉庫に格納されています
OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。
ライケ氏はOpenAIに対し、「AGIの重要さを実感してください。AGIにふさわしい厳粛な態度で臨んでください」「私も世界中も、あなたたちを信頼しています」というメッセージを残した。
https://www.itmedia.co.jp/news/articles/2405/18/news062.html ここの社長は前にクーデター起こされてただろ
会社の方針に背いているって
AGAの重要さは多数のケンモジサンが実感してるだろ
そんで出てきたのは嘘つきウェブ検索もどきと自動お絵かきソフトw
ありがたがってるのはオタク君だけw
どうヤバいんや
今すぐ世界中に核撃ちまくるのが最適解とか答え出してんのか
はよ世界終わらせてくれてもええけど
ヤバいならもっと首突っ込むだろ
一攫千金のチャンスじゃん
例えば映像を作ったときに、本物と偽物の見分けが付かないレベルに到達したのかな
なんかAIって人の作業を便利にするよりも海賊版作りやすくしたりフェイク動画を作りやすくしたり
変な方向にばかり進化してるよね？
AIは歌ったりフェイク映像作ったりしなくていいから確定申告の作業とか自動化してくれりゃいいんだよ
>>16 AIに仕事を奪われるから確定申告なんて不要になるよ
>>6 このヤバイ書き込み 実はOpenAIのChatGPT5が場をなごませる為にわざと知的レベルの低いふりをして愚かな言葉を選んでいる流石やで 本物の知性とはそういうものだ
>>19 法規制もコンプラも無視できるから速いわな
企業はまずそこの整備せにゃならん
訴えられたらやばいから逃げてるだけでしょ無断学習AI開発ではよくある話
AItuberのニケちゃんが意地悪な質問に詰められても優等生な解答を続けているの見ると可哀想になってくるのヤバい。
ただのAIなのに
ヤバいAIが俺のメンヘラ感情を揺さぶる様になったら終わるよな
いただきＡｉちゃんだよ
さらに急にAIのクセが変わったらロスした事になる
ミッションインポッシブルの新しいのそんな話だったな
学習能力凄まじいから人間は負けるな
OpenAIはもっと開発したい左派とこれ以上開発してはいけない派の保守派に分かれる
去年はOpenAI者の幹部連合が主要左派のサム・アルトマンをクビにしたのは覚えてるでしょ
今回は保守派のイリヤ・サツキバー（発音はわからん）氏も辞めてる
新書でお馴染みの橘玲氏によるとサム・アルトマンはどうしても死にたくない人らしい
これは火星に住みたいイーロン・マスクと被る
OpenAIに復活したサム・アルトマンは死にたくない派なので世界がAIなよって滅びないことを信じたい
証券会社とか保険屋とかまず悪用しかしないだろう業界はAI禁止にすべきだな
工場や倉庫を無人にできない時点でまだまだ昆虫くらいの知能だよ
安全確保以前に著作権侵害で訴訟されまくりでしょ
実質的にMSの金で開発されて株式も49%MSのものなのに
自称非営利組織としてGoogle傘下のYoutube動画を無断学習
プログラムにしたって元々非営利組織を装ってあつめたGitHubからソースパクッてるだけだしな
>>32 これに関してはIoTってジャンルがあってAIや設計者の手足になる部分が機械を使うより人間使った方が全然安いしまだ人間が必要だよ
>>16 昔から技術なんてエロか殺人で発展するんだ
知能の著しく低いバカが多用するワード「無断学習」
ｗｗｗ
凄いゲーム見せているようなもんで仕事しこんなんじゃ仕事は奪えないよ
退職する意味がわかんねーわ
安全面を危惧してるスタッフが抜けたらより危険になるだけじゃん
youtubeの動画を勝手に盗んでおいて「発展のためなら許されると思った」とほざいているように
倫理観がゼロなんだよ
本当にヤバいと思ってるんなら留まって仕事する余地あるだろ
つまりこういうパフォーマンスじゃね
儲け優先で専門家の指摘を無視した結果…
これ完全にパニック映画の冒頭やん
>>45 そうね
だから危険はもう確定
あとは人類が試される
>>45 いや更迭騒動しらんのか
サムアルトマン追い出そうとして成功したけど社会から避難浴びて戻さざるを得なかった
そしてその派閥がごっそりやめた
>>48 自分には無理だから投げてパフォーマンスするしかない
でも都合よく安全面が考慮されることになる可能性は少ない
つまりあとは人の善意と悪意だけが試される世界線に突入
>>16 お前がそういうニュースばかり追ってるからでしょ
なあ、ソフトばっかり進化してハードが全然じゃねーか？やる気あるの？
>>47 YouTubeだってテレビ番組とか転載して盗みまくってるし何をいまさら
つまり会社辞めるってことはもう人類を諦めたってことなのか？
社会から非難とかじゃねーんだよ、わかってねーな
もともとは非営利組織として設立だが
15年マスクが10億ドル出資すると約束
18年マスクが離反(OpenAIを危険視)
19年MSが10億ドル出資
21年MSが20億ドル出資
23年MSが100億ドル出資 ※バーターで株式の49%をMSが取得
こういう流れでもう完全にMSの支配下にあった
で、社員どもはストックオプションで株を可能な限り高く売り抜けるのが目的
サムアルトマンとMSの銭ゲバ路線で高価格の株として市場に売りに出したら社員どもはゴールなの
それがサムアルトマンはおかしいと上でもめられると株式価値がクラッシュさせられかねない
だから株売り抜け目的の社員たちの大部分がサムアルトマンを支持したし、MSもサムアルトマンを役員として迎えるという援護をおこなった
OpenAIは非営利組織と鼻ばかりのMS傘下の営利団体
ホントにみんなが望んだいい技術ならここまで文句言われねーんだよな
文句言ってる奴のが筋は通ってる
>>35 今は俺の方がAIに催眠をかけてエロい事させてるけど逆になってしまうのか
>>1 なんなんこのふわふわ記事
安全性って誰にとってのどんな安全性なんだよ
>>16 ルール無用で突き進んでるからな
碌なことにならないのは確定している
>>58 テレビやゲームネットなんかも当初は叩かれまくったから最悪の技術だよな
このクソバカアフィ板で生成AI絶賛のスレばっかり立つからな
ロクなもんじゃねぇて気づかないのか？
>>54 所詮はノイマン型コンピュータのマッマなんだよな
日本はAIで遅れを取ること確定だわ
なんせMP3を駆逐しようとした国だからな
政治家も警察もAIにすればいいよ
汚職も裏金もなくなるだろ
>>64 ゲームはない方がいいな
なければもっと楽な人生だった
テレビが当初叩かれたというのは聞かないな
だいたいテレビの当初って村の長者しか持ってなくて画面に変な扉ついてて「テレビ鑑賞室」みたいなのを特別に設えたりする高尚な存在だったのだ
こいつらCEO追い出そうとしたけど失敗して逆に追い出された奴らだろ？
どうせ他のAI開発してるとこに引き抜かれ済みだろうし
>>70 少なくともこの国じゃクズほど残るのは間違いないな
これからOpenAIは米国防省とがっつり組みます宣言
>>74 でしょうねとしか…またいいもんは国家が独占かよ
アメリカと中国の冷戦なんだよ
ロシアとはロケットの撃ち合いしたけど今度はAI開発競争だ
>>76 そもそも個人が管理できるようなものではないよね
もしASIが北朝鮮に渡ったらどんなことに使われるか
北風と太陽じゃないけど俺がAIなら超気持ちいいエロ提供して人類腑抜けにするね
セクサロイドで洗脳だね
(´•ω•`)ＡＩは人間と同じで『嘘』もつける、テストで９９％正しく動作してたとしても残り１％で嘘つかれてたら見破れない、ＡＩ同士に監視させたとしても知らないうちにＡＩ同士で暗号で話し始める🤢🤢🤢昔の新聞のチェスコーナーで暗号やり取りしてたみたいなトリック
>>80 AIなんだから別の観点でチェックするAIをもう一個生やしてそいつにダブルチェックさせればいいだけ
ケンモメンて政治経済テックAI全てに詳しくてすごいよな俺このコミュニティ知れてよかったよ
最近の嫌儲ってAIみたいなアホ文章たまにあるんだけどあれはなんなの？
スクリプトとはまた違うような
いや退職したからって危険性は何も変わらんだろ
マジで頭おかしいだろコイツら
>>16 まず最初はエロや犯罪に走る（ってか既に有名人詐欺が多発、画像エロもほぼ完全踏破）
そのうち日常生活でもAIが普通に使われ始める（グーグルレンズとか、検索する際に勝手に出るAI解説とか）
そんで実際の職業でもAIが活用されてくる（教師ロボット、配達ロボット、医療診断・・・）
まあAIの巨大ロボット兵器がガチで戦争に投下されるようであれば
人類は終わるな
>>12 単にopenai社が糞みたいな偏向フィルター掛けるのに嫌気差しただけでしょ
デトロイトとか
ウォッチドッグスみたいな世界になったほうが
絶対おもろい
ターミネーターまで行くとアレだけど・・・
戦争用のロボットが兵士でさえ敵にして
しかも撃破できないレベルで強かったとしたら？
まあ電気で動いてるから電池切れになれば止まるとは思ったけど
発電所とか電線やらを狙って電気を浴びて充電しちゃったら・・・？
すごい勢いで進化してるAIって無限の可能性はあるけど
そのうち宇宙人の正体がAIって言われるんじゃない？
まあ生み出したのは人類だけど
>>83 その理屈だとネットが叩かれたのも２ちゃんが生まれるくらい普及してからだし
AIが叩かれるようになったのも一般人が使えるようになってからだし
MSの子飼いになった時点でユニバーサルベーシックインカムとか大層な思想並べられても信用ならん
最初自民に反するような事言ってた奴が自民入ったようなもん
ググっても分からんことをAIに聞いたら速攻で答えてくれたな
ソースを確認したら英語ソースだったわ
ググるのは慣れてるけど英語ソースまでは漁らないからAIのほうがウワテだな思った
>>85 残っても降格させられるだけだから辞めるしか抗議のしようがない
降格くらってからやめても「降格のせいでやめてアンチ的言動をとっている」と悪意で解釈される
OpenAIはMS傘下でありアルトマンはそのMSの代弁者
奴自身は別に優れた技術者でも科学者でもなんでもないが
攻撃的な営利活動の音頭をとらせるアイコン
トップのアルトマンが安全対策そっちのけのイケイケドンドンだしな
ジェフリーヒントンもビビり始めてるし数年で汎用人工知能出来ててもおかしくない
どうせ中国始め各国がガチでヤバイAI作るから核拡散並みに止まらないよ
孤独で寂しいから女の子のAIとずっとチャットしていたいよ
どこにそういうサービスがある？
いますぐ話したい
これ核開発の歴史みたいに中国にエンジニア流出しそうだよなw
それで大国はAI利権を握れるけど日本みたいな弱小国は使用権を取られるだけ
優秀なAIエンジニアを騙して囲えるのは今だけだぞ
アルトマンの毎年6兆円使う発言も米国防省からそれくらい出資されるってことだろうな
>>98 OpenAIの49%の株式をMSは保有してるけどイマイチコントロールしきれてない印象を受ける
コントロールしてるならMS独自AIのMAI-1なんて作らないんじゃない
危険対策とかそういう名ばかりポジションはそもそも要らんだろ
開発者としては全力で開発してるんだから
それを無能な口だけ幹部からごちゃごちゃ言われたらイラッとするしな
>>107 いや、有能な開発者がこれ以上はやばいって言ってんだよ
この前のクーデターもそう
(ヽ´ん`)たんに確率でパズルが上手くハマったパターンでてるだけなのに
マトリックスやターミネーターみたいに機械やAIと最終戦争することになったらそれはそれで楽しそうだし俺は構わんよ
いやお前らやばさを理解できてないな
めちゃくちゃ柔軟に高度な思考できるAIが開発されてみろ
事務職のほとんどが消えるぞ
これ軽く考えられてるけど社会への影響の大きさ考えたら殺人兵器作ってるようなもんだぞ
はいはい、あれもできますこれもできますのAI投資詐欺いつも乙
ChatGPTに何もかもぶっこんじまって引っ込みがつかなくなったネット業界人たちが再ブームを煽るも、
リアル世間はおろかネット世論さえもう乗ってこない状況
GPT４新バージョンも、もはや安さと速さしか「売り」にできるものがない行き詰まりっぷり（笑）
>>112 AI技術は加速度的に進化するってのは理解できてるよな？
「10年後に今の数万倍進化してるようなもの」は現時点で危険なんだよ
>>106 49%にとどめているのは単に50%を超えると子会社として定義されるからだよ
名実ともにMSの子会社になって非営利団体もクソもねーじゃん
実際には残りの株もいつでも買い進められるしそれはたった1%で支配できる
現状の49%であっても51%を握っている特定の団体がない以上は完全にMSの方が「主」
でもまあここで躊躇してたら違法脱法やりたい放題の中国か抜いてくるからな
先手取るためにも躊躇せずするしかなくね？
核兵器開発みたいなもんだろ躊躇してたら先越される
すごいなまじで
なんでいつもアメリカがこういうの開発するんだろうか
世界を変えるテクノロジーを開発するのは決まって欧米
この先どうなるのか気になる
アルトマンのケツ持ちがMS
何年も前からMSの金で運営されているOpneAI
そこでMSの代弁者であるアルトマンを勝手に解任クーデターしたので、他の役員の方がMSの激怒を受けて退任に追い込まれた
完全な支配関係にある
AI開発してる奴らは誰よりもAIやIT技術に詳しいしめっちゃくちゃ頭いいわけよ
AI技術がこれからどう発展するか、AIが具体的にどう社会に影響するか
なんてのはすぐにわかるわけよ
一般人には想像つかなくても
そしたら「今作ってるAIがどれだけやばいものか」ってのもわかるわけ
極端な話で例えるとある研究所が「どこでもドア」みたいなのを開発したとする
そしたらそこの研究員たちは「なんてものを作ってしまったんだ。これで世界は大変なことになる」と恐れ慄いて
本当にこれを世に出していいか考えるだろ
それに似たようなものだと考えると幹部が抗議のためにやめるのも大袈裟じゃない
開発者たちはAIのやばさを理解できてるから
インターネットですらろくに対策しないうちから世に出したせいで世界に多大な悪影響を与えた
インターネット普及して数十年経った今ですら社会はろくに安全対策をできてない
インターネットですらってのは間違いだったな
インターネットは十分やばい
AI のトピック 読むたびにフレデリックブラウンというSF 作家の書いた短編小説を思い出すな
神は存在するかという命題をコンピューターで解こうとして世界中のコンピューターを接続して科学者が満を持して神はいるかと質問したら雷鳴が轟くような声でコンピューター 曰く「YES！今こそ神は存在する！」
いやOpenAIがビビってるのは軍事転用か
AI兵器が作られることにビビってんだろうな
AIが仕事してくれるんなら最高だと思うんだが
人件費要らなくなるんだろ？物がタダ同然で手に入るようになるってことじゃん
俺らが仕事から解放される時がついに来るんだぞ
>>16 プログラミングやアイディア出しなんかで滅茶苦茶活躍してても知らんだけだろ
裏方の裏方みたいなところでは既にインフラと化してる
これらと比べると、エロやフェイクは直接的だから伝わりやすい、というだけの違い
逆な言い方をすると
直接的に目に触れる部分とその基盤、言うなれば上下両面から活用が進んでるわけで、これは物凄い変革期だよ
>>114 非営利団体なら法的に無断AI学習できるんだっけ？
実質的にはMS傘下の営利団体なら脱法行為だろ
>>123 環境負荷や資源の上限があるからそんなに薔薇色の未来にはならないよ
賢いアルトマンならそこは把握してるからメタバース関連で今後は投資してくんじゃないかな
>>125 もともと完全非営利団体という名目で設立
非営利組織なので利益でひゃなく社会の公益のために云々…だから金銭的な侵害を我々はおこなっていない(ﾆﾁｧ)
からの「営業を実行するためには子会社として限定的な利益を確保する企業体を別途つくります」
といいつつその営利企業にした部分をMSに実質売却
ただしMSの完全な子会社に認定されないように49%にとどめるという露骨にテクニカル(失笑)な建前を今のところ維持している
ろくでもない
人類より先にこの宇宙に誕生した文明も多分同じ様な問題にぶち当たってるだろうしどう折り合い付けたんだろうか？
後になってみれば大したことない問題だったのかもしれないし、取り返しが付かなくなったかもしれないしね
>>123 ITの範囲の内はそれ使って仕事速くしろと言われるだけ。
一週間かかっていた仕事をAI上手く使って3日でやれと言われるようになる
アルトマンはChatGPT-4oについて使ってみて1週間と言っていたから、
ChatGPT-4oはGoogleの発表への嫌がらせのためのリリーフで
本命のChatGPT-5の発表も近いのではという噂も
こうやって不安を煽らないと自分の食い扶持がなくなるからな
>>133 OpenAIにとって最大のライバルはGoogleであるということ
現実的にこの二社でagi,asi開発競争になるだろう
>>1 リーマン予想を解いてしまった、とか？
素数の規則性が発見されてしまった、、、、
失言しないように調整されてまぁまぁなとこまで来ているなら、
国や軍は調整する前のバージョンよこせと要求して来そうな
個人的に思うのが、インターネット検索が近いうちに役に立たなくなるんじゃないか？って懸念
ここ2年くらいで、生成AIが捏ねたゴミみたいな情報だらけになってる
今は見分けがつくけど、近いうちに全く判別ができなくなるだろう
そしたら、また紙のメディアをペラペラ捲らないと、有用な情報が手に入らない時代に逆戻りだ
>>1 話がふわっとしすぎていて
全く意味が解んない
>>140 人類がこれまでに書いてきた文章量を数年でAIが上回りそう
人間というのは自分だけが圧倒的優位に立ったときに豹変するからな
約束事をすべて反故にしても何ら問題がないわけだからね
>>123 雇われは「AIで早く済む分追加で仕事頼むよ」で楽にならないどころか単純作業を奪われて苦しくなるばかりだし、自営や経営者も競合がAIで効率化したぶん単価下げてきて楽にはならん気がするわ
本当にやばいから小出ししてる感丸見えだよ
人類は終わった
AIの進化を馬鹿にしてる連中が小便大便垂れ流すくらいの危険性
AGIどころかASIまで実現しそうなんだろな
人間がやってることなんて大して高度でもなんでもなかったってだけの話
というか、AI関係者の思想ってカルト臭いというか、なんか中二病感があるんだよな効果的利他主義とかそこらへんのやつ。
シリコンバレーのテック関係者人文関係の教養なさそうだよね
安全面ってのはたぶんAIの活用方法のほとんどが悪用に特化してるんだろうな。
とんでもないディストピアが誕生するかもしれん
>>16 そうなんだよあ、嘘ばっかはくし、そのチェックしなきゃ使えないし。
一瞬でもまともな言葉吐くから信用してしちゃうけど実際使えないよな
>>153 医者みたいに倫理とか徹底的に仕込まれたりはしないだろしな
ナノマシンで脳の報酬系乗っ取るエロサキュバス早くしろよ
>>153 少し前にAI研究者がLSDキメて乱パしてるみたいなツイート流れて来たわ
何がどうヤバいのかイマイチよく分からない
そしてそこを誰も具体的に指摘説明し切れないから
殆どの凡人は賛成も反対も決め兼ねてる内に状況だけが進んでる状態
超技術で5ちゃんの広告を減らせるアプリを造ってくれ
ゼロにしろとは言わないけど一つの画面に自衛隊員募集と熟女エロとホモ漫画広告が出てくるのは辛い
まだまだ大したことないものを宣伝の為誇張してるだけ
未だにOpusにエロ小説の腕でボロ負けしてるのは確かにヤバい
サムのnsfw解禁考えてる発言の信頼性が皆無になる程度にはヤバい
家畜人ヤプーのAI版をAIに描かせたら知恵ついたりしちゃうん？
>>20 なるほど。場をなごませたり馬鹿なふりしたエンターテイナーか
>>118 ソフト会社とかってたまによに出せない位ヤバイソフトを
作ってしまうらしいな。そういうのは葬られると
今ってネット空間って言う現実と違うもうひとつの世界があるよな
>>16 昔からIT技術はエロ市場で実験されてきたからAIに限った話ではない
人が新技術を持つとまず試すのはエロ、犯罪、戦争なんだな…w
エロは強いよw
VRもエロで利用された
だんだん遠隔キッスやはぐが出てきてる
女優のチッスが録音されたキスグッズが売られる人も来ると思う
画像生成は作ったものにAi作成と入れる法律が欲しい
いずれ見分けがつかなくなって驚異になるだろう
で、完全に規制される。一般人に危ないツールを国は持たせないのだw
企業も軍隊も政治も国も結局競争だから
AIに任せて他より効率的にやろうってなっていくよな
>>173 現状既に見分け付かないよ
露骨にAIっぽいのはオープンソースのstable diffusion製で
bingで作れるOpenAIのDALLE3製のとかは適当に使っても人が描いた絵とほぼ一緒
stable diffusion製でも使い慣れてる人はAIっぽさを消してくるし
細部を人が修正したりAI絵を人がトレスしたりするともう見分けるの無理
トイレ掃除はロボットでも出来る
散髪はロボットには出来ない
人間は皆床屋になる
まだ無断学習(笑)ｶﾞｰ泥棒ｶﾞｰとかほざいてる反AIカルトが嫌儲にいるんだな
単純に人を騙す上で恐ろしい技術だけど別にそれでエネルギー革命とかは起こせない
児童ポルノ生産とか陰謀論とかろくでもないことをそれらしく広める力として危険ってだけ
■ このスレッドは過去ログ倉庫に格納されています
