謎のAI半導体企業「Groq」爆速でAIチャットが使えるデモを公開 [163661708]

?2BP(1111) · 2024/02/22(木) 01:42:45.52

https://article.auone.jp/detail/1/3/7/48_7_r_20240221_1708484932545499

2024/02/22(木) 01:51:59.84

CMで今田美桜が出演してるし日本でも有名な会社だろ

2024/02/22(木) 01:53:05.52

>>8
このチップでは学習はできない
学習したモデルを動かすだけ
なのでNVIDIAの牙城は崩せない
ただ似たようなチップを作っているスタートアップが他にもワラワラある中でいち早くデモを出せたのはプラス要素か

2024/02/22(木) 01:53:38.00

EVみたいに次から次へと出てくるな

**安倍晋三🏺** (ﾜｯﾁｮｲW 33b3-qSF+) · 2024/02/22(木) 01:55:58.10

エロビデ屋はほどなくこういう企業にボコられるんやろなぁ

2024/02/22(木) 01:57:17.71

320億円調達ってやべー

2024/02/22(木) 01:59:13.47

NVIDIAのように家庭のPCで使えるようなチップではないけどチャットボットビジネスが一般化したらデータセンター用にある程度需要はあるかもしれないな

2024/02/22(木) 01:59:14.18

またアメリカか
なぜジャップからは何も生まれないのか

2024/02/22(木) 02:00:00.04

>>10
https://www.semianalysis.com/p/groq-inference-tokenomics-speed-but
> Groq’s chip has a fully deterministic VLIW architecture, with no buffers, and it reaches ~725mm2 die size on Global Foundries 14nm process node. It has no external memory, and it keeps weights, KVCache, and activations, etc all on-chip during processing. Because each chip only has 230MB of SRAM, no useful models can actually fit on a single chip. Instead, they must utilize many chips to fit the model and network them together.

昨今のVRAMバカ食いモデルに適応するには厳しそうとしてもできはするみたいだけど

2024/02/22(木) 02:05:28.36

>>16
学習には推論の3～4倍はメモリが必要だからちょっと厳しいと思う
SRAMだけで学習できるチップを作っているスタートアップもあるようだが、この会社は現状そういう方針ではないっぽいね

2024/02/22(木) 02:07:27.81

意味のない半導体だよ

🏺 (ﾜｯﾁｮｲ 7357-/Ue7) · 2024/02/22(木) 02:21:02.69

>>16
Groqがより多くの資金を得て、2025年~H2に発売予定の次世代4nmチップの生産を増強できれば、経済状況は大きく変わり始める可能性があります。
Nvidiaは、1か月以内に次世代のB100を発表すると考えているため、座っているカモとはほど遠いことに注意してください。

ソース元の文を一部日本語翻訳した文だけどまたいつもの聞いたようなNVIDIAのネタが出ているよため息が出るね
置き去りにして新製品を出す見込みが強いってよ

**安倍晋三🏺** (ﾜｯﾁｮｲW 730c-vIkX) · 2024/02/22(木) 02:42:35.54

エロ書けねぇなら用はねぇ

**👁🐝M** (ﾜｯﾁｮｲW a3a2-WqnS) · 2024/02/22(木) 07:05:24.10

知ってる
GROPで始めよう
素晴らしい毎日を～♪
だろ

https://youtu.be/o1485KCcnXo?si=S_tpwjAESK9FH_Vt

2024/02/22(木) 09:04:22.96

倫理規制ないやつ出したら勝ちなのにクソつまらん世の中やな😡

2024/02/22(木) 14:13:33.09

現状はGPUの汎用的な使い方をしてるだけで
AI専用で設計すれば速いチップを作れると俺は前から言ってた