【朗報】イーロン「これが真のOpenAIだ」大規模言語モデル「Grok」をオープンソース化!3140億パラメータの最大級モデルが世に放たれる [666250534]

■ このスレッドは過去ログ倉庫に格納されています
0001安倍晋三🏺7b56-VOyB ◆abeshinzo. (ワッチョイW 7b56-VOyB)2024/03/18(月) 08:20:00.81ID:Ds1zTsCV0?2BP(1000)

X有料会員向けに公開されていた大規模言語モデルGrokがオープンソースに
パラメータ数は3,140億でオープンモデルの中では過去最大級
https://i.imgur.com/pRyo4AH.jpg
https://i.imgur.com/XE0arsj.jpg

【ダウンロードリンク】

・ソースコード
https://github.com/xai-org/grok-1

・モデルファイル (318GB) ※torrent
https://academictorrents.com/details/5f96d43576e3d386c9ba65b883210a393b68210e

0014安倍晋三🏺b2sjidc (ワッチョイW 933f-BYG9)2024/03/18(月) 08:33:55.48ID:8gKOv+Oi0
>>10
318ジゴバイト

>>1
さすがイーロン・マスク

0016(8bfd-t1Hy) (ワッチョイW 8bfd-t1Hy)2024/03/18(月) 08:36:01.77ID:mLr7olbI0
でも、使うのにNVIDIA H100が必要とかね

0017安倍晋三 (アウアウウー Sa5d-8QdJ)2024/03/18(月) 08:36:16.52ID:QD/Eafc0a
こんなデカいの動かせる訳ないだろ
h100とか持ってねぇよ

0018番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 51c6-Sqkw)2024/03/18(月) 08:37:11.56ID:byEj9kMx0
>>13
>>14
はえー
割と短いな
AIってよくpython使われるけど速度的にCとかrustで書いたりせんのかな
やっぱ速度よりライブラリの充実度を取ってる感じなんかな

0019安倍晋象 🦣 ◆abeshinzo. (ワッチョイW 49a0-FDlJ)2024/03/18(月) 08:37:21.19ID:A15OBPEL0
すんご!だがこれを動かせるだけのGPUを持ってる奴って何人いるの
レン鯖でもお高いし

でも待ってれば1ビットLLM化されるだろうからもう少し待とうぜ

0020(8bfd-t1Hy) (ワッチョイW 8bfd-t1Hy)2024/03/18(月) 08:38:17.83ID:mLr7olbI0
H100を持ってない?
安心してください、さくらインターネットなら使えます

また株価上がるな

0021安倍晋三🏺 (スッップ Sd33-giyy)2024/03/18(月) 08:38:20.32ID:MTA6nIand
ローカルでエロチャット出来るようになってから呼んで

0022番組の途中ですがアフィサイトへの転載は禁止です (JP 0Heb-iAld)2024/03/18(月) 08:38:24.52ID:wMMKOsgdH
てかこれを普通のPCにインストールできんの?
chatgptとかめっちゃ電力食うとか言うやん
学習フェーズだけでなく運用フェーズでも相当マシンパワーいるやろ
ソフトだけオープンになっても個人レベルで簡単に使えないなら
金払ってChatGPT使う方がいいわ

0023番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ fb0d-tpIf)2024/03/18(月) 08:38:26.22ID:sugNrjK90
アパッチやんガチオプソじゃん

0024安倍晋三🏺7b56-VOyB ◆abeshinzo. (ワッチョイW 7b56-VOyB)2024/03/18(月) 08:40:40.37ID:Ds1zTsCV0?2BP(1000)

0025番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 8b8f-TqQn)2024/03/18(月) 08:41:30.30ID:ba/5OHEG0
下ネタとか入ってないんだろ?

0026番組の途中ですがアフィサイトへの転載は禁止です (JPW 0Hcb-FDlJ)2024/03/18(月) 08:41:34.38ID:s2YKf/Z0H
Llamaとかもウエイト情報出回ってるじゃん
公開されても運用できなきゃ意味ないんだよ

0027安倍晋三🏺 ◆abeshinzo. (ワッチョイW 8127-p/BD)2024/03/18(月) 08:43:08.94ID:Es6gWnp80
使いこなせる奴は世界にどれだけいるのよこれ

何かださい

0029安倍晋三🏺7b56-VOyB ◆abeshinzo. (ワッチョイW 7b56-VOyB)2024/03/18(月) 08:44:21.27ID:Ds1zTsCV0?2BP(1000)

>>25
公式HPの説明によると反抗的でユーモアのある性格らしい

Announcing Grok
x.ai/blog/grok

Grok は銀河ヒッチハイク ガイドをモデルにした AI で、ほとんどすべてのことに答えることを目的としており、さらに難しいことには、どのような質問をすればよいかを提案することさえできます。

Grok は、少し機知に富んだ質問に答えるように設計されており、反抗的な性格があるため、ユーモアが嫌いな場合は使用しないでください。

Grok のユニークかつ基本的な利点は、𝕏 プラットフォームを通じて世界に関するリアルタイムの知識を持っていることです。 また、他のほとんどの AI システムでは拒否されるような難しい質問にも答えます。

Grok はまだ非常に初期のベータ版製品であり、2 か月のトレーニングでできる最高の製品です。そのため、皆様のご協力により、週を追うごとに急速に改善されることが期待されます。

0030番組の途中ですがアフィサイトへの転載は禁止です (ブーイモ MM33-qkIm)2024/03/18(月) 08:44:23.68ID:PIN66xsJM
>>18
今でも行列演算とか重い計算の部分はCとかで書かれてて
それをPythonから呼んでるのが多いやろ

0031番組の途中ですがアフィサイトへの転載は禁止です (ブーイモ MM33-e4Co)2024/03/18(月) 08:48:34.30ID:DWo+ul9TM
いっぽうその頃Microsoft Research&中国科学院大学&清華大学
レイテンシ、メモリ使用量、処理能力、そしてエネルギー効率を従来モデル比で大幅に向上させた
1ビットLLMを作成してしまう

チーロンさん…🥺

0032番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 5929-lb1r)2024/03/18(月) 08:50:27.82ID:Ye5Tr8Zm0
インプゾンビだらけのエックスから情報集めてもあんま意味なさそう

0033126c-iaSJ (オッペケ Sr85-dTUL)2024/03/18(月) 08:52:55.03ID:zh9FqImMr
ヒトラーとどっちが悪影響か
どう答えるのかマスク的には良かったの?

0034安倍晋三🏺🏺 (ワッチョイW 815a-Aa7p)2024/03/18(月) 08:55:20.69ID:TNFYISXE0
>>18
並列計算用命令でnpu/gpu使うようなとこは外部ライブラリじゃろ

0035番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 7ba2-s5C8)2024/03/18(月) 08:56:38.08ID:FlfrWjMX0
>>29
ということは宇宙と生命についての究極の質問をしたら
「42」と回答してくるんだろうな

0036安倍晋三🏺 (アウアウウー Sa5d-7z9h)2024/03/18(月) 08:56:53.55ID:aT+V04eHa
一応オープンソースにはするけど巨大過ぎて何のためにするのかよくわからないいつものイーロン

00370247-3P/S (ワッチョイW 41d0-4Qll)2024/03/18(月) 08:59:59.41ID:VwhGYN+10
ワークニだけみてるとアホみたいな学習しかしなさそうだが

0038増税メガネ👓 (ワッチョイW 8161-Xk+P)2024/03/18(月) 09:01:48.77ID:pTXMQEeL0
サイコミュシステム開発順調らしい

0039133d-BeoF (ワッチョイW 09c9-BeoF)2024/03/18(月) 09:02:17.13ID:u1e1v9BX0
エロはいけるのか?

00400Hbd-74XT (JPW 0Hed-9AU4)2024/03/18(月) 09:05:15.67ID:kjcN9vGcH
エロ規制のないChatGPTをくれ

0041安倍晋三🏺 (ワッチョイW fb7d-qJAk)2024/03/18(月) 09:05:51.32ID:cw2icstq0
イーロンの美的感覚

004247🏺b2sjidc (ワッチョイW 2989-BYG9)2024/03/18(月) 09:08:32.81ID:430NupS+0
これをクライアントしてにp2p開発するわ

00434174-L3bu (ワッチョイW 4174-L3bu)2024/03/18(月) 09:20:15.31ID:zeRj0OcO0
どのくらいのハードがあればこれ遊べるの
個人でやるのは無理ゲーレベル?

0044安倍晋三🏺 (ワッチョイW a96f-LHRN)2024/03/18(月) 09:22:25.92ID:8bUEMBDX0
暇空もこれ使ってせめてまともな文章にすればいいのに

0045番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 9344-qkIm)2024/03/18(月) 09:25:09.55ID:SviVy8900
>>43
Fine Tuningとか個人のPCでやるのは
結構しんどい気がする
まあ金さえあればAWSのGPUマシンで何とかなる?

004647🏺b2sjidc (ワッチョイW 933f-BYG9)2024/03/18(月) 09:35:12.07ID:8gKOv+Oi0
chatgpt4にパラメーター3000億だとどのぐらいのPCが必要かと聞いた
計算を初めて1.2TBのメモリーが必要と答える
対処法として一旦HDDになんかに退避して少しづつ計算するとかクラウド上に上げるとか

クラウドGPUでこのモデルを遣うとなるとお値段どのくらいかかるの?
1分100万円とか言われたら無理だけど、1分1円くらいなら落としてみようかなって気になれるし

おれはOppaiが大好きです

0049安倍晋三🏺7b56-VOyB ◆abeshinzo. (ワッチョイW 7b56-VOyB)2024/03/18(月) 09:42:45.43ID:Ds1zTsCV0?2BP(1000)

真偽不明だがGitHubではVRAM 700GBくらい必要だという話が上がってる
https://i.imgur.com/8P2Q1VW.jpg

Run on PC
https://github.com/xai-org/grok-1/issues/3

0050安倍晋三🏺59a2-JtHl ◆.abeshinZo (ワッチョイ 59a2-JtHl)2024/03/18(月) 09:43:12.40ID:+etNxrj40
> ?W?E?I?G?H?T?S?I?N?B?I?O?
これどういう意味なの?

0051a956-FEO6 (ワッチョイW a956-FEO6)2024/03/18(月) 09:44:56.28ID:h8hwd0Vi0
>>49
個人じゃ無理やな

0052安倍晋三🏺7b56-VOyB ◆abeshinzo. (ワッチョイW 7b56-VOyB)2024/03/18(月) 09:46:55.57ID:Ds1zTsCV0?2BP(1000)

一家にA100、8台の時代

0053安倍晋三🏺 (ワッチョイW 2b44-Y+Bg)2024/03/18(月) 09:50:27.68ID:L2jihGxu0
AWSのp5.48xlargeなら1時間で約100ドル

0054安倍晋三🏺 (JPW 0H5d-FDlJ)2024/03/18(月) 10:13:59.04ID:KgufVG1NH
流石に個人PCではまだ動かせんか
しかしこれでAI使い放題のインターネット崩壊までまた1歩近づいたな
個人が重量課金制に囚われずに無限にAI使えるならゴミ情報でインターネットは汚染される

0055安倍晋三🏺 ◆abeshinzo. (アウアウウー Sa5d-LHRN)2024/03/18(月) 10:53:58.60ID:Yens/3DFa
318GBて
アホかよ

>>29
陰謀論教えてくれそう

0057安倍晋三🏺 (ワッチョイW 51e1-Jepy)2024/03/18(月) 12:21:47.94ID:z9bDzJyA0
パンドラの箱オープンAI

イーロン・マスクは色々あるけどオープンソースでやってくれるのはありがたいな

0059安倍晋三エクスプローラー🏺 (ワッチョイ b914-qGne)2024/03/18(月) 15:04:55.10ID:y2jrUtC50?2BP(2000)

ChatGPTとかGeminiみたいにウェブAPIでお手軽に使えるようにならないかな
複数のAIとチャットできる一人会議チャットアプリ作りたいんだけど

0060安倍晋三🏺 ◆ABeSHInzoo (ワッチョイ 1356-FYxQ)2024/03/18(月) 16:30:20.89ID:1vHj7ZZd0
Xの顛末観たら碌なものには育たないのは既定路線
世の中の妄想をベースとしてのカオス化が加速するだけだろうね

0061番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイ 7b31-A0KB)2024/03/18(月) 16:31:13.57ID:PvFHugYS0
これと言った特徴もないのにだれが使うねん?って言う話

0062安倍晋三🏺 (ワッチョイ 4968-dfOl)2024/03/18(月) 16:36:32.94ID:Ave1DYVx0
めっちゃ陰謀論に染まってそう

0063番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 7bb5-sGzr)2024/03/18(月) 17:37:28.92ID:T7/oQ7ts0
xのコメってAI使ったその国のそれっぽいコメント流すインプレゾンビまみれだから殆ど学習に使えないんじゃねえの

0064番組の途中ですがアフィサイトへの転載は禁止です (ワッチョイW 0b82-cVy2)2024/03/18(月) 18:09:39.26ID:bMXIjIKn0
318GBもダウンロードしないと行けないの

■ このスレッドは過去ログ倉庫に格納されています