H(x) = E[I(xi)] = E[ log(1/p(xi)) ] = -∑p(xi)log(p(xi)) 其中，x表示随机变量，与之相对应的是所有可能输出的集合，定义为符号集,随机变量的输出用x表示。
P(x)表示输出概率函数，变量的不确定性越。
平滑函数。
交叉熵损失函数，也称为对数损失或者logistic损失。
当模型产生了预测值之后，将对类别的预测概率与真实值（由0或1组成）进行不比较，计算所产生的损失，然后基于此损失设置对数形式的惩罚项。
在神经网络中，所使用的。
而且,类似sigmoid这样的函数(比如tanh函数)有很多优点,非常适合用来做激活函数,具体请自行google之 说起交叉熵损失函数「Cross Entropy Loss」,脑海中立马浮现出它的公式: 我们已经对这个交叉熵函数非常熟悉,大多数情况下都是直接拿来使用就。
前者 表示信息熵，后者即为交叉熵， KL散度 = 交叉熵 - 信息熵 交叉熵公式为： 交叉熵等于KL散度加上一个常量（信息熵），且公式相比KL散度更加容易计算，所以在机器学习中常常使用交叉熵损失函数来计算loss就行。
交叉熵损失函数CrossEntropy Loss，是分类问题中经常使用的一种损失函数。
公式为：交叉熵Cross Entropy，是Shannon信息论中一个重要概念，主要用于度量两个概率分布间的差异性信息。
在信息论中，交叉熵是表示两个概率分布p,q，。