マイクロソフト「すまん、GPUがなくても使えるAIを開発してしまった」 [836461154]
■ このスレッドは過去ログ倉庫に格納されています
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
https://wirelesswire.jp/2024/02/86094/ Aiってウェブ上ならPCのスペックなくても動くの? 推論動かすのにGPUはtoo much
電力効率悪いからNPUみたいなのが出てくる これは今日RX7700XT買うたワイちゃんに朗報か 別にサンディおじさんのCPUでも普通にAIは動くよ。
ただ遅いだけで GPU依存高い現状はあんまよろしくないよな
トータルスペックでAI性能上がるようなのが
メモリ爆積みすれば戦えるようなのが嬉しい 結局はCUDAで動かすソフト多いからエヌビディアの勝ちなんだよね 金のちからで研究加速してんのほんとアメップらしいな >>3
エヌビディアにコパイロット(マイクロソフトのAI)用のサーバー用GPUとして
かなりの量頼んでたんだよマイクロソフト🥺
それがなくなるかも…って話🥺🫶 > このため、この論文では「積和演算に最適化されたGPUではなく、加算処理のみに特化した新しいハードウェアの出現」までもが予言されている。
この辺の話題が出始めたら作ってるとこの株買えばいいのか? GPUって実際アチアチ過ぎるし家電とかにどう見ても入らないし
もっと低消費電力で高性能なチップが出て来るはず
文字通り何十年もアチアチチップ作って来たビデチ屋には無理だし Microsoftの過去履歴を知ってると
新製品のはずが、いつの間にか競合会社を買収して
競合会社の製品がMicrosoft製扱いになるか
妙なフューチャープランを立てて時代に取り残されるか
メーカー連携でMicrosoftが一人だけ騒いでそっと消えるか
のどれかだと思うけど
クラウドサーバだとまともに実現できるのかな、競合他社からエンジニアとノウハウぶっこぬいて 家電も自分で考えて働く時代がやって来るのだろうと思う ハードは強力でもソフトとサービスがショボくて存在感無くなるオチがMicrosoftらしい展開か 早くても発売まで3年はかかるやろ
5090までは買っといていいぞ 「ご主人さま、ゴミ箱が臭かったのでティッシュを選別して二重に密封しておきました」 「ご主人さま、ゴミ箱が臭かったのでティッシュを選別して二重に密封しておきました」 >>1
なにこれすごい
けど1bitなんかこれ?
行列−1,0,1使ってるじゃん😾 (今のAIがやってるのは)意味のない計算で終わっちゃったね、また >>7
要らないよ
gpuは3D演算とか倍精度とか無駄な機能多すぎるので
AI用ボードが開発される
この記事のような精度の演算用にボード開発したら
gpuはもうAIから駆逐される
そうなるとnVidiaはおしまい😹 >>44
そもそもゲフォは半分AIボードみたいなもんなんだが nVidiaが提供している以上の開発環境を提供できるの? >>43
加算つまり前に進むしか能が無ェやつは強いんだ って可能性でンビディア暴落させて買い漁るんやろ騙されるか! >>27
ごめん🥹
たぶんコパイロットもそうだと思うけど
マイクロソフトのクラウド技術であるAzure用のサーバーに適用かな🥺
エヌビディア マイクロソフト アジュール
で検索してね🥺🫶 でも画像とか動画みたいな生成系は結局GPU必要なんじゃないの >可能性も
この言い回しで実際に実現するパターンは殆どないという まぁ現実もマクロ視点では連続値でもミクロ視点では離散値だから
計算も実数で計算するよりも2値で計算した方が効率良かったんやな lightGBMも無料公開してるしMSは神では?
金の亡者Amazonも見習って欲しい 本当に必要な部分はクラウドでいいし一家に一台NVIDIAとはならんだろ?
最終的にスマホのarmで十分みたいな形に収まると思う やはりか使えるものなのかはわからんが
絶対この上がりまくり半導体相場でタイミング見計らってそういうの出てくると思ってたわ > 非常に驚異的なことが書いてあるのだが、残念ながらBitNetによるLLMの実装とモデルはまだ公開されていない。
> だから彼らの主張が本当かどうかはまだ誰にもわからないのだが、BitNetTransformerの実装だけは公開されているため、腕に覚えがあるエンジニアなら自分でトレーニングコードを書いて確かめることができる。
😌😴 ちなみに
ぼくがエヌビディア株持ってたら様子見します🥺🫶
マイクロソフトが特許で独占してるだろうし
他の会社がエヌビディアを使うと思います🥹
腐ってもエヌビディアじゃないかと🥺
なので次来るのなら
マイクロソフトかマイクロソフトと組む会社かと🚭😎🚬
信じるか信じないかはあなた次第…🫵😎 こういうのは実用化目処と量産開始するまでスルー
バイオの治験結果いいみたいです!並にスルーしなきゃならん
NVIDIA利確の誘惑でしかない GPUってfloat32とか64とか精度を上げる方向で進化してきたけど、AIって精度はint8やint4で十分で規模がでかい方が重要なんでしょ?よくわからんけど GPUが強いのってGPUを利用する基本ソフトウェアを今まで地道にNVIDIAとかが整備してきたからで
今からNPU対応のソフトを作りますとかめっちゃ時間かからね?まずNPUを利用する基盤を作らないといけない 理屈はいいから現物はよ
コイツラいつもアイツより何倍も凄い言って凄かった試しがない ようわからんけどgpuだって加算だけの方が速いんじゃないの
それのみの専用品が出るならそっちの方がいいだろうけどすぐに出せるわけじゃないだろうし普通に革ジャンが儲ける流れに見える >>69
それCPU
GPUはピクセルに多少ノイズ出てもいいから精度無視してる >>70
自動運転も20年以上前からレースゲーム各社と組んで研究してますって言ってたからなあ
年季が違いすぎるわ パソコンの知識が10年くらい前で止まってるから
GPUってグラボ機能も備えたCPUみたいなイメージだったわ
それがどうして生成AIで有利なのか今一わからんから勉強する エヌビをニーサで買ったやつどうするんだこれw
一生抱えて死亡かw Xにこれのgithubについてのポストも上がってたから実験用のコードはあるっぽい
信じがたいことに速度だけでなく精度までも向上するとか
論文があるから第三者の検証もあるだろけど本当ならすごすぎる話 現物が出てくるまで何とも言えない
この業界フカシはよくあるし 1bit演算対応のNPU積んでないCPUはガラクタになるって事か >>83
普通のビット演算で実装できるんじゃないの? Microsoftのふかしで酷い目にあった人を何度も見てるし
それを救うのはMicrosoft以外ってオチまでスマホで起きたから
まあ、詐欺に引っかかるの大好きな人はこの手の甘言に乗って全財産Microsoftに博打すればいいんじゃない? あ、全然関係ないけど一つ名言思い出した
タイトル画面が一番可愛いエロいやつで中はそれ以下だよ グラフィックボードじゃなくAIボードをPCIに刺す時代がくるのか
グラフィックボード買うやつはゲーマーだけとかになるわけか つい最近期待を裏切って株価下がった広告屋いましたよね 論文だけで実証されてないがな。これは後でNVDA売ったやつwになるパターン ■ このスレッドは過去ログ倉庫に格納されています