
https://x.com/ai_database/status/1888569604525695210
スタンフォード大学の研究チームによると、LLMに自力で「新しい問題を生成 → その問題を解く」を繰り返させることで、従来よりも遥かに多くの難解な定理を解けるようになるとのことです。
https://ai-data-base.com/archives/83548
なお、“解くのが少し難しい”問題を作らせることで学習効率が高まるそうです。
これまでは、あらかじめ人間が用意した練習問題やその解答例を使ってモデルを訓練するのが一般的でしたが、それでは成長が頭打ちになってしまうという課題がありました。
そこで、LLM自身が問題を追加して学習量を増やすことで克服しようとしている、という流れです。