hardswish
paddle.nn.functional. hardswish ( x, name=None ) [源代码]
hardswish激活函数。在MobileNetV3架构中被提出,相较于swish函数,具有数值稳定性好,计算速度快等优点,具体原理请参考: https://arxiv.org/pdf/1905.02244.pdf
其中,
为输入的 Tensor
参数:
x (Tensor) - 输入的
Tensor
,数据类型为:float32、float64。name (str, 可选) - 操作的名称(可选,默认值为None)。更多信息请参见 Name。
返回
Tensor
,数据类型和形状同x
一致。
代码示例
import paddle
import paddle.nn.functional as F
x = paddle.to_tensor([-4., 5., 1.])
out = F.hardswish(x) # [0., 5., 0.666667]