KL情報量

2つの確率分布がどれくらい異なっているかを測る指標。AIの学習においては、元のモデルと学習後のモデルの出力が変わりすぎないように制限するために使われる。