KLダイバージェンス

・2つの確率分布が異なるほど大きな値を示す。
・0以上の値を取り，2つの確率分布が同じときのみ0となる。
・非対称な尺度であるため、pとqを逆にしても異なる値になる。