解説
さらに詳しく解説
小規模言語モデル（Small Language Model; SLM）は、大規模言語モデル（LLM）と比較してパラメータ数や計算規模が小さい言語モデルです。一般に数億〜数十億パラメータ規模で、コスト・速度・プライバシーで優位性を持ち、特定用途やエッジ運用で重要な選択肢となっています。
SLMとLLMの比較
代表的なSLM
| モデル | パラメータ | 提供 |
|---|---|---|
| Phi-3 / Phi-4 系 | 数十億 | Microsoft |
| Gemma 系 | 2B〜27B | |
| Llama 3 8B / Llama 4 系小型 | 数十億 | Meta |
| Mistral 7B | 7B | Mistral AI |
| Qwen 系小型 | 数十億〜 | Alibaba |
| ELYZA、rinna、cyberAgent等 | 数十億〜 | 日本企業 |
SLMのメリット
1. コスト効率
2. 速度
- 応答が高速
- リアルタイム用途に向く
- TTFTが短い
3. プライバシー
- ローカル／オンプレ運用可能
- 機密データを外部に送らない
- 規制業界に適合
4. カスタマイズ性
- ファインチューニングが容易
- 業務特化モデルを作れる
- 自社データの完全制御
5. デバイス対応
- スマホ・PC・組み込み機器で動作
- オフライン利用可能
- エッジAIの主役
SLMの限界
- 汎用知識の幅：LLMほど博識ではない
- 複雑推論：高度な推論力で劣る
- **長コンテキスト**：扱える情報量に制限
- 品質の安定性：難しい質問でばらつき
- 多言語性能：英語優位、他言語は限定的なことも
SLMの活用パターン
1. 専門特化
ファインチューニングで特定業務に特化。汎用LLMより高精度になることも。
2. 第一次対応
SLMで一次処理し、必要な場合のみLLMにエスカレーション。
3. エッジ運用
スマホ・PCでローカル処理。プライバシー重視。
4. 大量バッチ処理
コスト効率を活かした大量データ処理。
5. 機密業務
オンプレ運用で社外送信なし。
ビジネスでの活用例
バックオフィス
- 帳票分類・抽出
- メール仕分け
- 社内QA
カスタマー対応
- FAQ応答
- 一次トリアージ
業界特化
- 医療カルテ処理（オンプレ）
- 法務文書チェック
- 製造現場での音声記録
モバイルアプリ
- スマホ内蔵AI
- オフライン翻訳
- パーソナルアシスタント
SLM運用の選択肢
| 形態 | 特徴 |
|---|---|
| API利用 | 軽量モデルとしてのSLM |
| 自社GPU運用 | コスト管理・カスタマイズ性 |
| エッジデバイス | スマホ・PC・IoT |
| ハイブリッド | SLM＋LLMの使い分け |
SLMとLLMの使い分け
判定例：
簡単な分類・要約 → SLM
複雑な推論・分析 → LLM
大量バッチ処理 → SLM
専門領域の創造的タスク → LLM＋[RAG](/glossary/rag)
機密オンプレ → SLM
プロトタイプ → LLM API進化の方向性
留意点
- 要件の見極め：本当にLLMが必要か検討
- 評価セット必須：実データでの精度測定
- ファインチューニング設計：データ準備が成否を分ける
- 継続改善：再学習サイクル
- ハードウェア計画：オンプレ運用時のリソース
エコシステム
- Hugging Face：モデル・ツールの集積地
- **Ollama、LM Studio**：ローカル実行環境
- llama.cpp、MLX：軽量推論ライブラリ
- Lamini、Together AI：ファインチューニング基盤
SLMは「LLMの民主化と現実解」を担う存在で、コスト・速度・プライバシーの観点から、生成AI実装の選択肢として急速に重要性を増している領域です。
