レッドチーミング

レッドチーミングとは、攻撃者や悪質な利用者の視点に立ち、わざと意地悪な質問などを投げかけてAIの弱点を探り出す検証手法です。生成AIが危険な回答や情報漏えいを起こさないかを実戦形式で事前に確かめ、安全性を高める取り組みとして各国の法規制や企業の対策で導入が広がっています。