馬鹿「CPUをめっちゃデカくすれば性能めちゃくちゃ盛れるんじゃね？ｗ」をガチでやってしまう企業が現れる [346541207]
■ このスレッドは過去ログ倉庫に格納されています
Celebras、4兆トランジスタ搭載のAIチップ「WSE-3」
WSE-3(Wafer Scale Engine-3)
https://asset.watch.impress.co.jp/img/pcw/docs/1576/419/01_o.jpg
Celebras Systemsは11日、4兆個のトランジスタを搭載した世界最速を謳うAIチップ「WSE-3(Wafer Scale Engine-3)」を発表した。AIスーパーコンピュータのCS-3において、2,048ノードで最大256EFLOPT(エクサフロップス)を実現できるとする。
WSE-3は、従来のWSE-2と同等の消費電力と価格で、2倍の性能を実現できるというAIチップ。5nm TSMCプロセスで製造され、トランジスタ数は4兆個、AIコアは90万基、33GBのオンチップSRAMを搭載し、ピークAI性能は125PFLOSを発揮できるという。
WSE-3を使ったCS-3は、最大1.2PBの巨大なメモリシステムを搭載しており、24兆パラメータのモデルを単一論理メモリ空間に格納でき、GPT-4やGeminiの10倍の大きさのモデルをトレーニングできるよう設計。エンタープライズおよびハイパースケールのニーズに対応し、2,048ノードのフルスケールシステムでは、Llama 70Bをゼロから1日間でトレーニングできる性能を持つという。
https://pc.watch.impress.co.jp/docs/news/1576419.html Sony Computer
Entertainment Inc これでAIのえっちな画像を大量に学習させたらどうなるのっと >>11
>>13
欠陥が発生すること前提で設計されてる
実運用より大幅に多いコアが組み込んであって壊れてるところを迂回する CPUってデカくしちゃいけない理由あんの？
面積広くなるほど詰め込めるだろ？
マルチスレッドめっちゃ増やせるじゃん？ ？？？「What's Up Guys？液体窒素おじさんですー今日もやっちゃいますよ」 要はアレか、どうせ不良でるけどパワーでゴリ押しだ力こそパワーか
それはそれで素晴らしい >>23
ニューラルネットワークにガチガチに特化してて演算器とローカルメモリの塊みたいな設計だから
配線距離はあんまり問題にならない 本質的には同じなんだけれど
イメージ的に
プロセッサーが命令とデーターを取って来て処理する方式はプロセッサーの数を増やすと効率悪くなるのに対して、
沢山のプロセッサが待っているところに命令とデーター流す方式はプロセッサーの数増やせばそれだけ処理量が増えるという感じで ギガヘルツの世界では、1クロックで電子は
数センチしか進めないからチップは
小さく作られてるんだけど 単純にデカくするとCPU内の配線長による遅延がボトルネックになってくるからやっぱり微細化が必要 >>24
配線を延し過ぎるとクロックを上げられない
クロック上げる為にノードの様に配置するとクロスバスイッチやバスがボトルネックになる 車用のラジエーターと工場の扇風機でも持ってこないと冷やしきれんだろ 電気抵抗がダダ上がりするからみんなそれをやめたんだよ。
何年前の幻想だよｗ >>24
CPUのやり方だと数を増やしてもハードウェアが自動で処理の割り振りする頭の良さに限界があり、
ある程度以上は数を増やしてもあまり性能上がらないということでキャッシュメモリーにかなりのチップ面積を使う傾向。
GPUなどのアクセラレーターではソフトウェアやプログラマー側が頑張って多数のプロセッサに処理を割り振るから
プロセッサの数増やせば処理量も増やせるという感じ 割とこれくらいアホなことやってるのがGPUだったりする。 ちっこいの並列化したものがロス無く最速というわけじゃないから 多少連動にタイムラグがあっても問題ないデータ処理なんていくらでもあるよな
なんで大型化しないんだろう アチアチパワー系CPUメーカーのIntelとかがやってない時点で致命的な欠陥ありそう >>51
NVIDIAはまいど大きすぎて生産上手くいかないぞと周りに言われながらなんとかして >>24
Intelとかまあまあデカくなってきてるけどな >>49
また水冷が来たり、エッジかサーバーかで行ったり来たりするのがこの業界やで。 >>54
半導体チップは製造装置がいい感じに製造出来る大きさに限度があるから、
AMDはチップ3個を高速リンクでつないでワンパッケージ化してCPUにしていたりする トランジスタ4兆個ってすごくないか？
日本の人口の四倍がこの面積に詰め込まれてるんだぜ？ コレ何処に配線繋ぐんだろ
ひっくり返したら文字通り針のムシロ？ アホみたいな話だけど現代の技術でやったらうまくいったって話は割とある。
やっぱアホみたいな話だったって話はもっとあるけど。 古い規格を限界まで拡張して使ってる方もバカだとは思う
ビデオカードの話なんだけど このサイズの発熱なら肉焼けるどころか揚げ物できそう 大きい方が簡単に製造出来そう
トランジスタをつけるに
小さいチップは難しいから CPUはトランジスタをオンとオフをしてるだけだからね 電気信号のオンオンを繰り返してる CPUの性能がもう限界なんだよ
半導体も限界に来てるし
今後コンピューターの進化は終わる >>87
アップル既にやってんじゃん
なんだよこのスレwww シリコンウェハー1枚から1枚切り出す感じか。
さすがに歩留まりヤバいだろうからクラスタになっていて、ダメなブロックは使わないとか、それで損失1/4とか1/3とかまで見込んでるくらいの感じだろうけど >>90
AppleのCPUもでかいけれどこの写真で分かるのは放熱カバーなので >>91
あれはキャッシュメモリーとマルチチップでしょ >>91
脆弱性騒ぎの時に根っこがPenPROのところにあったから話題になったな
まあそのせいで作り直さないと取れないくらい根深いんだがｗ >>23
5nmやんか。日本の最高技術の40nmとは訳が違う これだけでかいと物理故障時のロスがきつすぎる
データセンター専用耐震熱設計全部込みで何億円するんやろな ウェハーの端っこ勿体ないじゃん
ウェハーって丸いんでしょ？
何か別の物作るのかな >>104
Pen2だがあれは中のCPU本体は小さい >>16
なるほど
そしたら生存率で値段が変わるのかな？
それとも1割までの欠損なら誤差とかにしてしまのか
石の選別が捗りそう Core i5を2つ繋げて10だぜ！みたいな話だと思ったのに 現在のクロック数だと1サイクルで電気信号が数センチしか進めないから
だからこそCPUダイは小型して多層化してるわけですよ >>113
NVIDIAは最初は欠けるの前提で正常でも殺して商品化し、
製造が安定して来たら全数版出すとかやる これ一個でもすげーのに2048個つなげられるんか
すんげー 並列計算が得意になるだけじゃないの
素子同士の距離自体が問題になるから、今は積層を目指してるんだって話を聞いたが
これだとほぼGPUでしょ >>122
AIで必要とされているのが大量の並列計算 ウエハー同士を上下に重ねて立体構造にすれば
脳みそと同じになる! >>85
>なお、WSE-3は一辺が21.5cmの正方形となっており、世界最大の単一チップとも呼ばれています。 >>114
そこに回転を加えて10から20だぁーっ！！ >>114
ほいよ！アチアチのプレスコ2個ぶち込みましたぜ！ → PenD 途中からなにを言ってるのかわからなくなってきた(´･ω･`) 低密度にして大きくする
高密度にして小さくする
どっちが歩留まり悪いんやろね cpuコア増えても、普通のpc操作で速くなることはほとんどない
cpuコア増えて有効なのはマルチスレッド処理だけ
cpuクロックが上がればすべての処理が速くなる
pcが使える電力は制限があるから、コア増やすよりクロック上げることに頑張った方がずっと体感速度上がる >>68
人間の細胞数知ったらションベン漏らしそう ダークシリコン問題ってやっぱりIntelが性能向上出し渋るためのデマだったんだな >>135
そうなんだけどオーバークロックすると発熱と消費電力は曲線状に上がって行くんだよね >>24
ウエハは丸い
そこから四角く何個も切り抜く
でかい四角形は無駄が増える >>135
今どきマルチ化されてないメジャーなソフトないでしょ これホットプレートにすりゃ計算できて肉も焼けて便利じゃね？ これサウナも併設してロウリュとかやれば一石二鳥だな >>137
出し渋りするほどインテルに技術が残ってたら今の状況にはなってないわ。 まぁ、単に利益率の問題だけでやろうと思えばやれる話だからな
それよか小さいのをたくさん売った方が儲かるってだけ ま、すでに一般人はai用cpuとか言われても、？になるんだが ファンレスの水冷技術ってないのか？
CPUの廃熱を電気エネルギーに変換する事はできないのかな？ 水冷と言っても掛け流しにでもできない限り、最後に熱を押しつけるのは結局空気なので
水を循環させたラジエーターにどれだけ効率よく空気を当てるか、当てる空気の温度を下げ体積を稼ぐか、って話にしかならない
ラジエーターなしでポンプで水を循環させてるだけでは、その循環系内の水の容積分の比熱しか吸収できない
CPUやGPUの排熱と環境の温度差で発電はできるが、頑張っても発熱した分のエネルギーの数分の1しか回収できないし、そんな小電力の使い道もない >>148
> Llama 70Bをゼロから1日間でトレーニングできる性能を持つ
とか言われても、どれだけ凄いのかさっぱりわからんわｗ
AI詳しい人はすげーーーーー！！てなるのかもしれないけど 5年前の2019年に第一弾が登場してるんだが
https://pc.watch.impress.co.jp/docs/column/kaigai/1203577.html
世界最大のチップがカンファレンスで発表される
チップのサイズは46,225平方mm、縦横215mm×215mmの正方形。NVIDIAの最大のGPUである「Volta GV100(Tesla V100)」ダイの815平方mmの約56倍のサイズだ。人間の頭より確実に大きい。
Cerebras WSEのアイデアは奇抜だが単純明快だ。可能な限り大きなチップを作る－－そのコンセプトに沿ってウェハサイズのチップをCerebrasは作った。半導体チップは、ウェハと呼ばれる円形のシリコン板の上に作られる。通常は、直径300mmのウェハに、数十～数百個のダイを作り、それを1個1個切り出してチップとする。ところが、Cerebrasは、小さなダイを切り出す代わりに、ウェハ1枚をまるまるチップとしてしまった。215×215mmというサイズは、300mmウェハで製造できる最大サイズだ。 欠陥部分が出る前提で何個も同じ機能つけないといけないし、コスパからははるかに遠い存在だな
欠陥部分自体が多いことも予想され、本当に性能が出るのかとも思ってしまう 嘘なのかもしれないけどこれ系のスレって
凄い物知りモメンいるよね・・・
そう言う職業なのかな？ AI向けだとちょっとくらい演算ミスっても大して問題ないからな
基本的に計算ミスが許されない普通のCPUとは違うよね ディスプレイの背面に人工ダイヤモンドとかつけて
そこで冷却できないのかな？ こんなもん病院いけるわけないでしょ
普通ならｗ
キシダコロナ 寄り底からのほぼ前戻しで見るんじゃないか？
それアル中の世界って勘違いしてたやつてどうなるんだろうな >>111
最初からやりたくないだろｗ
ハゲててもジェイクだけど
不動産業界のステマならカップルか子持ちに相手にするだろ
難燃とは思ってた 細かく切り出すわけじゃないんだから四角くするメリットはないと思うんだが
ウェハーの丸形を活かした設計にした方が良いんじゃない？
全てが専用部品なんだからできるよね 露光機とかマスクが四角前提だからチップも四角になるんじゃ？ >>167
サーバー側の設置スペースの問題がある。 >>171
個体ごとの出来の良い物悪い物が出来そうだね
今でもオーバークロック耐性の有る奴とか選別して使う奴居るのかな コンピューターを光速で動かせば時間が遅くなって俺等から見れば超速処理のスパコンができあがる >>149
液浸冷却ってやつか
pcやサーバーをまるごと油の中につけちゃう アメリカやロシアや中国が求めてるのってこういうのなんじゃないの?
これが本気出したら従来の暗号なんて無意味になじゃね
俺等みたいな一般人はこの縦横半分でもいらないけど ■ このスレッドは過去ログ倉庫に格納されています
