AIセキュリティ

AIセキュリティ（AI Security）は、AIシステム自体の安全性確保と、AIを悪用した攻撃への防御を扱う総合的な分野です。「AIを守るセキュリティ」と「AIを使ったセキュリティ」の両方を含みます。

2つの側面

1. AIシステムを守る（Security FOR AI）

• モデルや学習データを攻撃から保護
• AIアプリケーションの脆弱性対策
• 不適切な利用の防止

2. AIを使って守る（Security WITH AI）

• マルウェア検知
• 異常検知（ネットワーク・アクセス）
• フィッシング対策
• ログ分析の自動化

AIシステム特有の脅威

主要な対策レイヤー

レイヤー1：入力検査
  - プロンプトの危険語フィルタ
  - サイズ制限

レイヤー2：モデル・推論
  - [ガードレール](/glossary/guardrails)
  - 出力検査・後処理

レイヤー3：周辺システム
  - APIキー管理
  - レート制限
  - 監査ログ

レイヤー4：ガバナンス
  - 利用ポリシー
  - インシデント対応

AIを使ったセキュリティ製品

ビジネスインパクトの大きいリスク

1. **生成AIへの機密入力**：社外サービスへの社外秘情報送信
2. AIなりすまし詐欺：AIフィッシング、ディープフェイク
3. モデル悪用：マルウェア生成、偽情報拡散
4. 法令違反：個人情報・著作権の取り扱い
5. 可用性：AI APIの障害が業務に直結

企業での整備項目

利用ポリシー

• 入力してよい／ダメな情報の線引き
• 利用可能なAIサービスの一覧
• 業務外利用の扱い

技術対策

• 法人向けAIサービス（学習に使われない契約）
• ログ監査・利用状況の可視化
• DLP（データ漏洩防止）の整備

教育・運用

• 社員向けセキュリティ研修
• インシデント発生時の連絡フロー
• 定期的なリスク評価

関連する規制・標準

• ISO/IEC 42001：AIマネジメントシステムの国際規格
• NIST AI RMF：米国のAIリスク管理フレームワーク
• EU AI Act：欧州のAI規制法
• 日本のAI推進法・AI事業者ガイドライン

AIセキュリティは「攻撃者もAIを使う時代」の必須要素であり、生成AIを業務利用するすべての組織で、ガバナンス・技術・運用の三方向から備える必要があります。