0006安倍晋三🏺 ◆AbeShinzoG2A (ワッチョイW 7fa5-s/bA)2024/02/22(木) 01:49:02.03ID:m2PW41pd0
DRAMがないって無茶では
0007(ヽ´ん`) (ワッチョイW 0f3a-R55W)2024/02/22(木) 01:49:38.46ID:mycm+S4+0
ユグドラ・レゾナンス
0008安倍晋三🏺 ◆abeshinzo. (ワッチョイW e3bc-a9jl)2024/02/22(木) 01:51:18.70ID:kS5SYOAl0
NVDA握りしめ奴w
0009番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ ff74-X6hX)2024/02/22(木) 01:51:59.84ID:uANamV3W0
CMで今田美桜が出演してるし日本でも有名な会社だろ
0010安倍晋三🏺 ◆AbeShinzoG2A (ワッチョイW 7fa5-s/bA)2024/02/22(木) 01:53:05.52ID:m2PW41pd0
>>8
このチップでは学習はできない
学習したモデルを動かすだけ
なのでNVIDIAの牙城は崩せない
ただ似たようなチップを作っているスタートアップが他にもワラワラある中でいち早くデモを出せたのはプラス要素か エロビデ屋はほどなくこういう企業にボコられるんやろなぁ
0013安倍晋三🏺 ◆abeshinzo. (ワッチョイW cf9a-/dYH)2024/02/22(木) 01:57:17.71ID:fAVTxwXY0
320億円調達ってやべー
0014安倍晋三🏺 ◆abeshinzo. (ワッチョイW 7fa5-s/bA)2024/02/22(木) 01:59:13.47ID:m2PW41pd0
NVIDIAのように家庭のPCで使えるようなチップではないけどチャットボットビジネスが一般化したらデータセンター用にある程度需要はあるかもしれないな
0015番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW cf89-gfBf)2024/02/22(木) 01:59:14.18ID:6ucKnkfd0
またアメリカか
なぜジャップからは何も生まれないのか
0016安倍晋三🏺 ◆abeshinzo. (ワッチョイW e3bc-a9jl)2024/02/22(木) 02:00:00.04ID:kS5SYOAl0
>>10
https://www.semianalysis.com/p/groq-inference-tokenomics-speed-but
> Groq’s chip has a fully deterministic VLIW architecture, with no buffers, and it reaches ~725mm2 die size on Global Foundries 14nm process node. It has no external memory, and it keeps weights, KVCache, and activations, etc all on-chip during processing. Because each chip only has 230MB of SRAM, no useful models can actually fit on a single chip. Instead, they must utilize many chips to fit the model and network them together.
昨今のVRAMバカ食いモデルに適応するには厳しそうとしてもできはするみたいだけど 0017安倍晋三🏺 ◆abeshinzo. (ワッチョイW 7fa5-s/bA)2024/02/22(木) 02:05:28.36ID:m2PW41pd0
>>16
学習には推論の3~4倍はメモリが必要だからちょっと厳しいと思う
SRAMだけで学習できるチップを作っているスタートアップもあるようだが、この会社は現状そういう方針ではないっぽいね 0021👁🐝M (ワッチョイW a3a2-WqnS)2024/02/22(木) 07:05:24.10ID:J6Lg+mZU0
0022番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 7f5d-v/xK)2024/02/22(木) 09:04:22.96ID:D6OXt5ut0
倫理規制ないやつ出したら勝ちなのにクソつまらん世の中やな😡
0023番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ a35d-FjIa)2024/02/22(木) 14:13:33.09ID:xrYseSIO0
現状はGPUの汎用的な使い方をしてるだけで
AI専用で設計すれば速いチップを作れると俺は前から言ってた