Metaの研究者が、さまざまな疑問に対して答えを教えてくれる言語モデル「Galactica」をオープンソースとして一般公開しました。Galacticaは単に関連する話題の記事や論文のリンクを答えるのではなく、投げかけられた疑問に対する回答を生成し、その回答の生成に用いた論文の引用もしっかり提示した「オリジナルの科学記事や講義ノート」を作成することができます。
Galactica Demo
https://galactica.org/
Galactica: A Large Language Model for Science
(PDF)https://galactica.org/static/paper.pdf
GitHub - paperswithcode/galai: Model API for GALACTICA
https://github.com/paperswithcode/galai
Galacticaはさまざまな研究論文や参考資料、知識ベースなど、まさに人類の科学知識を結集させたデータセットで訓練されています。Galacticaはこのすべての知識を、80GBのメモリを持つNVIDIA A100で処理できるような1200億のパラメーターモデルに圧縮しており、入力された内容に対する回答、あるいは指示された記事を一から作成します。さらにこのGalacticaの画期的な部分は、答えを考える上で解くことができない計算に直面すると、その場でプログラムを作成し、従来のコンピューターで実行するという点です。
Galacticaに質問したらどんな答えが返ってくるのかについてはGalacticaのデモで試すことができ、以下のムービーに示されている例を見るとわかります。
https://gigazine.net/news/20221117-meta-ai-galactica/
