「交叉熵」のコアイメージコアイメージ
真の分布が重視する結果について、予測側の確率がどれだけ適切かを平均情報量に変えて表す仕組み
「交叉熵」の中国語での定義中国語での定義
「交叉熵」の語源語源
交叉熵は、英語の cross-entropy に対応する技術用語で、「交叉」は基準となる分布の重みを別の分布の確率に適用する計算を、「熵」は確率分布から平均情報量を求める考えを表す
「交叉熵」のコラムコラム
- 正解が一つの分類では、交叉熵は正解クラスの予測確率が高いほど小さくなる形で表せるため、確率を出力する分類器の学習で損失関数として広く使われる