box_decoder_and_assign
paddle.fluid.layers.
box_decoder_and_assign
(prior_box, prior_box_var, target_box, box_score, box_clip, name=None)[源代码]
边界框编码器。
根据先验框来解码目标边界框。
解码方案为:
其中tx,ty,tw,th分别表示目标框的中心坐标,宽度和高度。 类似地,px,py,pw,ph表示prior_box(anchor)的中心坐标,宽度和高度。 pxv,pyv,pwv,phv表示prior_box的variance,ox,oy,ow,oh表示decode_box中的解码坐标,宽度和高度。
box decode过程得出decode_box,然后分配方案如下所述:
对于每个prior_box,使用最佳non-background(非背景)类的解码值来更新prior_box位置并获取output_assign_box。 因此,output_assign_box的形状与PriorBox相同。
- 参数:
- prior_box (Variable) - 维度为[N,4]的2-D Tensor,包含N个框,数据类型为float32或float64。每个框表示为[xmin,ymin,xmax,ymax], [xmin,ymin]是anchor框的左上坐标,如果输入是图像特征图,则它们接近坐标系的原点。 [xmax,ymax]是anchor框的右下坐标
- prior_box_var (Variable) - 维度为[N,4]的2-D Tensor,包含N组variance。数据类型为float32或float64。 prior_box_var默认将所有元素设置为1
- target_box (Variable) - 维度为[N,classnum * 4]的2-D Tensor或LoDTensor,拥有N个目标框,数据类型为float32或float64。
- box_score (Variable) - 维度为[N,classnum]的2-D Tensor或LoDTensor,拥有N个目标框,数据类型为float32或float64。表示每个框属于各分类概率值。
- box_clip (float32) - 裁剪框以防止溢出,默认值为4.135(即np.log(1000. / 16.))
- name (str,可选) – 具体用法请参见 Name ,一般无需设置,默认值为None。
返回:
- 表示解压检测框的Tensor或LoDTensor,数据类型为float32,float64。维度为[N,classnum * 4],N个prior_box解码得到的N个目标框的结果。
- 表示输出最佳检测框的Tensor或LoDTensor,数据类型为float32,float64。维度为[N,4],N个prior_box解码后得到目标框,再选择最佳非背景类的目标框结果。
返回类型:Tuple
代码示例
- import paddle.fluid as fluid
- pb = fluid.data(
- name='prior_box', shape=[None, 4], dtype='float32')
- pbv = fluid.data(
- name='prior_box_var', shape=[4], dtype='float32')
- loc = fluid.data(
- name='target_box', shape=[None, 4*81], dtype='float32')
- scores = fluid.data(
- name='scores', shape=[None, 81], dtype='float32')
- decoded_box, output_assign_box = fluid.layers.box_decoder_and_assign(
- pb, pbv, loc, scores, 4.135)