sigmoid_cross_entropy_with_logits

paddle.fluid.layers. sigmoid_cross_entropy_with_logits ( x, label, ignore_index=- 100, name=None, normalize=False ) [源代码]

在每个类别独立的分类任务中,该OP可以计算按元素的概率误差。可以将其视为预测数据点的标签,其中标签不是互斥的。例如,一篇新闻文章可以同时关于政治,科技,体育或者同时不包含这些内容。

logistic loss可通过下式计算:

sigmoid_cross_entropy_with_logits - 图1

已知:

sigmoid_cross_entropy_with_logits - 图2

代入上方计算logistic loss公式中:

sigmoid_cross_entropy_with_logits - 图3

为了计算稳定性,防止

sigmoid_cross_entropy_with_logits - 图4

溢出,当

sigmoid_cross_entropy_with_logits - 图5

时,loss将采用以下公式计算:

sigmoid_cross_entropy_with_logits - 图6

输入 Xlabel 都可以携带LoD信息。然而输出仅采用输入 X 的LoD。

参数:

  • x (Variable) - (Tensor, 默认 Tensor<float>),形为 N x D 的二维张量,N为batch大小,D为类别数目。该输入是一个由先前运算得出的logit组成的张量。logit是未标准化(unscaled)的log概率, 公式为

    sigmoid_cross_entropy_with_logits - 图7

    , 数据类型为float32或float64。

  • label (Variable) - (Tensor, 默认 Tensor<float>) 具有和 X 相同数据类型,相同形状的二维张量。该输入张量代表了每个logit的可能标签。

  • ignore_index (int) - (int,默认kIgnoreIndex)指定被忽略的目标值,它不会影响输入梯度。

  • name (str,可选) – 具体用法请参见 Name ,一般无需设置,默认值为None。

  • normalize (bool) - 如果为true,则将输出除以除去ignore_index对应目标外的目标数,默认为False。

返回: Variable(Tensor, 默认Tensor<float>), 形为 N x D 的二维张量,其值代表了按元素的logistic loss,数据类型为float32或float64。

返回类型:变量(Variable)

代码示例

  1. import paddle.fluid as fluid
  2. input = fluid.layers.data(
  3. name='data', shape=[10], dtype='float32')
  4. label = fluid.layers.data(
  5. name='data', shape=[10], dtype='float32')
  6. loss = fluid.layers.sigmoid_cross_entropy_with_logits(
  7. x=input,
  8. label=label,
  9. ignore_index=-1,
  10. normalize=True) # or False
  11. # loss = fluid.layers.reduce_sum(loss) # loss之和