【朗報】イーロン「これが真のOpenAIだ」大規模言語モデル「Grok」をオープンソース化!3140億パラメータの最大級モデルが世に放たれる [666250534]
■ このスレッドは過去ログ倉庫に格納されています
こんなデカいの動かせる訳ないだろ
h100とか持ってねぇよ >>13
>>14
はえー
割と短いな
AIってよくpython使われるけど速度的にCとかrustで書いたりせんのかな
やっぱ速度よりライブラリの充実度を取ってる感じなんかな すんご!だがこれを動かせるだけのGPUを持ってる奴って何人いるの
レン鯖でもお高いし
でも待ってれば1ビットLLM化されるだろうからもう少し待とうぜ H100を持ってない?
安心してください、さくらインターネットなら使えます
また株価上がるな ローカルでエロチャット出来るようになってから呼んで てかこれを普通のPCにインストールできんの?
chatgptとかめっちゃ電力食うとか言うやん
学習フェーズだけでなく運用フェーズでも相当マシンパワーいるやろ
ソフトだけオープンになっても個人レベルで簡単に使えないなら
金払ってChatGPT使う方がいいわ Llamaとかもウエイト情報出回ってるじゃん
公開されても運用できなきゃ意味ないんだよ
>>25
公式HPの説明によると反抗的でユーモアのある性格らしい
Announcing Grok
x.ai/blog/grok
Grok は銀河ヒッチハイク ガイドをモデルにした AI で、ほとんどすべてのことに答えることを目的としており、さらに難しいことには、どのような質問をすればよいかを提案することさえできます。
Grok は、少し機知に富んだ質問に答えるように設計されており、反抗的な性格があるため、ユーモアが嫌いな場合は使用しないでください。
Grok のユニークかつ基本的な利点は、𝕏 プラットフォームを通じて世界に関するリアルタイムの知識を持っていることです。 また、他のほとんどの AI システムでは拒否されるような難しい質問にも答えます。
Grok はまだ非常に初期のベータ版製品であり、2 か月のトレーニングでできる最高の製品です。そのため、皆様のご協力により、週を追うごとに急速に改善されることが期待されます。 >>18
今でも行列演算とか重い計算の部分はCとかで書かれてて
それをPythonから呼んでるのが多いやろ いっぽうその頃Microsoft Research&中国科学院大学&清華大学
レイテンシ、メモリ使用量、処理能力、そしてエネルギー効率を従来モデル比で大幅に向上させた
1ビットLLMを作成してしまう
チーロンさん…🥺 インプゾンビだらけのエックスから情報集めてもあんま意味なさそう ヒトラーとどっちが悪影響か
どう答えるのかマスク的には良かったの? >>18
並列計算用命令でnpu/gpu使うようなとこは外部ライブラリじゃろ >>29
ということは宇宙と生命についての究極の質問をしたら
「42」と回答してくるんだろうな 一応オープンソースにはするけど巨大過ぎて何のためにするのかよくわからないいつものイーロン ワークニだけみてるとアホみたいな学習しかしなさそうだが どのくらいのハードがあればこれ遊べるの
個人でやるのは無理ゲーレベル? 暇空もこれ使ってせめてまともな文章にすればいいのに >>43
Fine Tuningとか個人のPCでやるのは
結構しんどい気がする
まあ金さえあればAWSのGPUマシンで何とかなる? chatgpt4にパラメーター3000億だとどのぐらいのPCが必要かと聞いた
計算を初めて1.2TBのメモリーが必要と答える
対処法として一旦HDDになんかに退避して少しづつ計算するとかクラウド上に上げるとか クラウドGPUでこのモデルを遣うとなるとお値段どのくらいかかるの?
1分100万円とか言われたら無理だけど、1分1円くらいなら落としてみようかなって気になれるし > ?W?E?I?G?H?T?S?I?N?B?I?O?
これどういう意味なの?
一家にA100、8台の時代 AWSのp5.48xlargeなら1時間で約100ドル 流石に個人PCではまだ動かせんか
しかしこれでAI使い放題のインターネット崩壊までまた1歩近づいたな
個人が重量課金制に囚われずに無限にAI使えるならゴミ情報でインターネットは汚染される イーロン・マスクは色々あるけどオープンソースでやってくれるのはありがたいな
ChatGPTとかGeminiみたいにウェブAPIでお手軽に使えるようにならないかな
複数のAIとチャットできる一人会議チャットアプリ作りたいんだけど Xの顛末観たら碌なものには育たないのは既定路線
世の中の妄想をベースとしてのカオス化が加速するだけだろうね これと言った特徴もないのにだれが使うねん?って言う話 xのコメってAI使ったその国のそれっぽいコメント流すインプレゾンビまみれだから殆ど学習に使えないんじゃねえの ■ このスレッドは過去ログ倉庫に格納されています