プロンプトインジェクション

プロンプトインジェクションとは、AIへの指示に悪意ある命令を紛れ込ませ、本来のルールを無視した不正な操作や情報漏洩を行わせる攻撃手法です。PC操作を代行する自律型AIの普及に伴い、読み込んだWebサイトやメールに仕込まれた罠によって、AIが勝手に不正な処理を実行するリスクとして警戒されています。