計算予算

計算予算（Compute Budget）は、AIモデルの学習や推論に投じることのできる総計算量のことです。GPU時間・FLOPs（浮動小数点演算回数）・電力・コストなどの形で測られ、モデル設計の重要な制約になります。

なぜ計算予算が重要か

AIモデルの性能は、おおむね以下の3要素で決まります。

1. モデルの大きさ（パラメータ数）
2. 学習データ量（トークン数）
3. 計算量（FLOPs）

この3つの最適バランスを示したのがいわゆる「スケーリング則（Scaling Laws）」で、計算予算が決まるとそこから逆算して最適なモデルサイズと学習データ量が導かれます。

計算予算の典型的な配分

計算予算の単位

推論時の計算予算

学習だけでなく、推論時にも「どれだけ深く考えるか」を計算予算と捉える考え方が広まっています。例えば"思考連鎖"の長さや探索の幅を増やすほど推論時の計算予算は増え、回答品質が向上する傾向があります。

実務上の意思決定

• 限られた予算の中で「大きいモデル × 少ないデータ」と「小さいモデル × 多いデータ」のどちらに振るか
• 自社で学習するか、API利用に投じるか
• ファインチューニングとRAGのどちらが費用対効果に優れるか

計算予算の見積りはAIプロジェクトの予算設計と直結する、極めて実務的なテーマです。