学習

学習（Training）は、AIモデルが大量のデータからパターン・知識・能力を獲得していくプロセスです。データを与え、誤差を測り、パラメータ（重み）を少しずつ更新する、という基本ループの繰り返しによって行われます。AI開発の中心的な工程です。

学習の基本ループ

1. データを入力
2. モデルが予測を出す
3. 正解との誤差（損失）を計算
4. 損失を減らす方向に重みを更新
5. データを変えて1.に戻る

これを数百万〜数兆回繰り返すことで、モデルは賢くなっていきます。

学習の種類

学習の段階

1. 事前学習（Pre-training）

大規模なデータで汎用的な能力を獲得する基礎工程。LLMでは最も計算コストが大きいフェーズで、計算予算の80〜95%を占めます。

2. ファインチューニング（Fine-tuning）

特定タスクや業務に合わせて追加学習。事前学習モデルを土台にするため、必要なデータと計算量は大幅に少なくて済みます。

3. 強化学習（RLHF など）

人間のフィードバックを反映してモデルの応答を整える調整工程。

学習に必要な要素

主な最適化手法

• SGD：確率的勾配降下法（基本）
• Adam / AdamW：適応的学習率（現代の標準）
• 学習率スケジューラ：学習進行に合わせて学習率を調整

学習中によく起きる問題

学習コストの規模感

• 小規模実験：1台のGPUで数時間〜数日
• 中規模モデル：数十枚のGPUで数週間
• フロンティアLLM：数千〜数万のGPUで数か月、コストは数百〜数千億円規模

学習と推論の違い

実務での選択

企業のAI導入では、以下の判断が必要です。

• 自社で学習する → コスト・人材・データが必要
• **APIで使う** → 学習済みモデルを利用、低コスト
• **ファインチューニング** → 中間的な選択肢
• **RAG** → 学習せず知識を後付け

学習は「AIに能力を持たせる」最も根本的なプロセスで、AI開発の質と方向性を決定する最重要工程です。