インジェクション攻撃

インジェクション攻撃とは、AIに悪意のある指示を読み込ませ、本来のルールを無視させて不正な動作や情報漏洩を引き起こす攻撃です。ChatGPTの長期記憶機能『Dreaming V3』などの普及に伴い、外部データ経由で悪意ある指示をAIに自動記憶させ、長期的に悪用する新たなリスクが懸念されています。