コンテキスト

コンテキスト（Context）とは、AIとの対話において、モデルが参照・考慮する情報の全体を指します。会話履歴、システム指示、参照文書など、応答生成に影響を与えるすべての入力情報が含まれます。

コンテキストの構成要素

1. システムプロンプト

AIの振る舞いを定義する指示

「あなたは親切なカスタマーサポート担当です。
丁寧な言葉遣いで、簡潔に回答してください。」

2. 会話履歴

過去のユーザー発話とAI応答

3. ユーザー入力

現在の質問・指示

4. 参照情報

• アップロードされたドキュメント
• 検索結果（RAG）
• 外部データ

コンテキストの重要性

コンテキストウィンドウ

LLMが一度に処理できるコンテキストの上限

コンテキスト管理の課題

1. 長さの制限

• トークン数の上限
• 長い会話での切り捨て

2. コスト

• 入力トークン課金
• 長いコンテキストは高コスト

3. 「迷子」問題

• 長いコンテキスト中間部の情報を見落とす傾向
• Lost in the middle問題

コンテキスト最適化の手法

1. 要約

過去の会話を要約して圧縮

2. 選択的包含

関連性の高い情報のみを含める

3. RAG（検索拡張生成）

必要な情報を動的に検索・追加

4. 階層的コンテキスト

重要度に応じた情報の構造化

実践的なコンテキスト設計

プロンプトエンジニアリング

• 明確な役割定義
• 出力フォーマットの指定
• 制約条件の明示

メモリ管理

• 重要情報の永続化
• セッション管理
• 外部記憶との連携

今後の展望

• より長いコンテキストウィンドウ
• 効率的なコンテキスト圧縮
• 動的なコンテキスト管理
• マルチモーダルコンテキスト

コンテキストの適切な管理は、AI活用の効果を最大化するための重要な要素です。