hardswish

paddle.nn.functional.hardswish ( x, name=None ) [源代码]

hardswish激活函数。在MobileNetV3架构中被提出，相较于swish函数，具有数值稳定性好，计算速度快等优点，具体原理请参考: https://arxiv.org/pdf/1905.02244.pdf

hardswish - 图1

其中，

hardswish - 图2

为输入的 Tensor

参数:

  • x (Tensor) - 输入的 Tensor ，数据类型为：float32、float64。

  • name (str, 可选) - 操作的名称(可选，默认值为None）。更多信息请参见 Name。

返回

Tensor ，数据类型和形状同 x 一致。

代码示例

  1. import paddle
  2. import paddle.nn.functional as F
  4. x = paddle.to_tensor([-4., 5., 1.])
  5. out = F.hardswish(x) # [0., 5., 0.666667]