海思SD3403,SS928/926,hi3519dv500,hi3516dv500移植yolov7,yolov8(9)

 上一节yolov8的训练已经完成了,现在要开始做模型的转换了,这里和yolov7方式相似,但是有一些差异,尤其是yolov7的不带NMS部分的输出顺序和yolov8的输出顺序与格式是有差异的。

   首先还是要自己手动加入rpn_op,这里包含了filter,sort,nms部分。

海思SD3403,SS928/926,hi3519dv500,hi3516dv500移植yolov7,yolov8(9)_第1张图片

我们一个一个看,首先filter.py里 要先增加个Filter的自定义层。

op_source = """
        #include 
        torch::Tensor Filter(torch::Tensor in, int64_t topK, double m_lowScoreThresh)
        {
            return in;
        }
        static auto registry =
            torch::RegisterOperators("custom_ops::Filter", &Filter);
        """

torch.utils.cpp_extension.load_inline(
    name='Filter',
    cpp_sources=op_source,
    is_python_module=False,
    verbose=True,
    )

@parse_args("v", "i", "f")
def symbolic_filter(

你可能感兴趣的:(YOLO,yolov8,图像处理,深度学习,hi3516DV500,hi3519dv500)