http://kenmo.com
https://i.imgur.com/J0teO4C.jpeg
Microsoftのキーノートにおいて、さまざまなバージョンのGPTモデルのトレーニングシステムの規模を海洋動物の比喩を使って説明しました：
1. サメ (GPT-3): GPT-3をトレーニングしたシステムはサメに例えられ、その重さは2,000ポンドです。
2. シャチ (GPT-4): GPT-4をトレーニングしたシステムはシャチに例えられ、その重さは7,500ポンドで、これはサメの3.75倍の重さです。
3. クジラ (GPT-5): GPT-5をトレーニングすることが期待されるシステムはクジラに例えられ、その重さは60,000ポンドで、これはサメ（GPT-3のシステム）の30倍です。
この比喩は、各GPTモデルの世代ごとに計算リソースと規模が大幅に増加していることを強調しています。
