ハルシネーション

ハルシネーション（Hallucination）は、AIが事実と異なる情報や存在しない情報をあたかも真実のように生成する現象です。LLMの重要な課題の一つであり、信頼性向上のための研究が進んでいます。

ハルシネーションの種類

1. 事実の誤り

実際には存在しない事実を述べる

2. 論理的誤り

推論過程での誤り

3. 文脈の無視

与えられた情報を無視した回答

ハルシネーションの原因

対策技術

1. グラウンディング

外部の信頼できる情報源を参照

2. RAG（検索拡張生成）

関連文書を検索してコンテキストに追加

3. 自己一貫性チェック

複数回の生成で一貫性を確認

4. 不確実性の表明

確信度の低い情報を明示

各社の対策

ユーザーの対策

1. 検証の習慣

• 重要な情報は別途確認
• 複数の情報源を参照
• 専門家に確認

2. プロンプトの工夫

「わからない場合は"わかりません"と答えてください」
「出典を明記してください」
「推測の場合はその旨を示してください」

ハルシネーションの評価

ベンチマーク

ビジネスでの影響

今後の展望

• モデル自体の精度向上
• より効果的なグラウンディング
• 自動的なファクトチェック
• 不確実性の適切な表現

ハルシネーションへの対処は、AIの信頼性向上において最も重要な課題の一つです。