paddle.amp

paddle.amp 目录下包含飞桨框架支持的动态图自动混合精度(AMP)相关的API。具体如下：

AMP相关API

API名称

API功能

创建AMP上下文环境

控制loss的缩放比例

开启AMP后默认转化为float16计算的相关OP

OP名称

OP功能

conv2d

卷积计算

matmul

矩阵乘法

matmul_v2

矩阵乘法

mul

矩阵乘法

开启AMP后默认使用float32计算的相关OP

OP名称

OP功能

exp

指数运算

square

平方运算

log

对数运算

mean

取平均值

sum

求和运算

cos_sim

余弦相似度

softmax

softmax操作

softmax_with_cross_entropy

softmax交叉熵损失函数

sigmoid_cross_entropy_with_logits

按元素的概率误差

cross_entropy

交叉熵

cross_entropy2

交叉熵