GStreamer插件实列rockchipmpp

尽管这些年arm发展取得了不少的进步，不过对于音视频的编解码仍然心有余力不足，好在芯片厂家在SOC里面提供了硬件加速能力。善于发挥出芯片的能力，才能打造出完美的应用.今天我们一起来探索一下rk3568上的为我们提供的多媒体加速能力-MPP，然后一起分析一下rk的gstreamer插件。

MPP

概述

瑞芯微提供的媒体处理软件平台（ Media Process Platform ，简称 MPP ）是适用于瑞芯微芯片系列的 通用媒体处理软件平台。该平台对应用软件屏蔽了芯片相关的复杂底层处理，其目的是为了屏蔽不 同芯片的差异，为使用者提供统一的视频媒体处理接口（Media Process Interface ，缩写 MPI ）。 MPP 提供的功能包括：

• 视频解码

                 H.265 / H.264 / H.263 / VP9 / VP8 / MPEG-4 / MPEG-2 / MPEG-1 / VC1 / MJPEG

•  视频编码

                 H.264 / VP8 / MJPEG

• 视频处理

                 视频拷贝，缩放，色彩空间转换，场视频解交织（Deinterlace ）

系统架构

MPP 平台在系统架构的层次图如下图：

• 硬件层 Hardware

        硬件层是瑞芯微系列芯片平台的视频编解码硬件加速模块，包括 VPU ， rkvdec ， rkvenc 等不同类型，不同功能的硬件加速器。

• 内核驱动层 Kernel driver

        Linux 内核的编码器硬件设备驱动，以及相关的 mmu ，内存，时钟，电源管理模块等。

• 操作系统层

        MPP 用户态的运行平台，如 Android 以及 Debian 等 Linux 发行版

• 应用层

        MPP 层通过 MPI 对接各种中间件软件，如 OpenMax ， ffmpeg 和 gstreamer ，或者直接对接客户的上 层应用。

MPI

由于视频编解码与视频处理过程需要处理大量的数据交互，包括码流数据，图像数据以及内存数据， 同时还要处理与上层应用以及内核驱动的交叉关系，所以 MPP 设计了 MPI 接口，用于与上层交互。 本章节说明了 MPI 接口使用的数据结构，以及设计思路。

MppMem 为 C 库 malloc 内存的封装。

MppBuffer 为硬件用的 dmabuf 内存的封装。

MppPacket 为一维缓存封装，可以从 MppMem 和 MppBuffer 生成，主要用于表示码流数据。

MppFrame 为二维帧数据封装，可以从 MppMem 和 MppBuffer 生成，主要用于表示图像数据。

使用 MppPacket 和 MppFrame 就可以简单有效的完成一般的视频编解码工作。

以视频解码为例，码流输入端把地址和大小赋值给 MppPacket ，通过 put_packet 接口输入，在输出 端通过 get_frame 接口得到输入图像 MppFrame ，即可完成最简单的视频解码过程。

MPI （ Media Process Interface ）是 MPP 提供给用户的接口，用于提供硬件编解码功能，以及一些必 要的相关功能。MPI 是通过 C 结构里的函数指针方式提供给用户，用户可以通过 MPP 上下文结构 MppCtx 与 MPI 接口结构 MppApi 组合使用来实现解码器与编码器的功能。

 

如上图所示， mpp_create ， mpp_init ， mpp_destroy 是操作 MppCtx 接口的过程，其中 mpp_create 接 口也获取到了 MPI 接口结构体 MppApi ，真正的编码与解码过程是通过调用 MppApi 结构体里内的函数指针来实现,也就是上图中红框内的部分。红框内的函数调用分为编解码流程接口put/get_packet/frame 和相关的 control 和 reset 接口。下文先描述编解码器接口，再对编解码器工作中的一些要点进行说明。

rk gstreamer 插件

rockchipmpp是rk公司开发的一个在gstreamer插件，主要把自己的MPP和GStreamer，结合起来，我们在使用是可以直接把相关代码放到gstreamer源码中编译即可。

如下为它的源码

├── gstmppallocator.c
├── gstmppallocator.h
├── gstmppalphadecodebin.c
├── gstmppalphadecodebin.h
├── gstmpp.c
├── gstmppdec.c
├── gstmppdec.h
├── gstmppenc.c
├── gstmppenc.h
├── gstmpp.h
├── gstmpph264enc.c
├── gstmpph264enc.h
├── gstmpph265enc.c
├── gstmpph265enc.h
├── gstmppjpegdec.c
├── gstmppjpegdec.h
├── gstmppjpegenc.c
├── gstmppjpegenc.h
├── gstmppvideodec.c
├── gstmppvideodec.h
├── gstmppvp8enc.c
├── gstmppvp8enc.h
├── gstmppvpxalphadecodebin.c
├── gstmppvpxalphadecodebin.h

 gstmpp.c为统一的入口文件，在它里面注册其他插件，gstmppjpegdec.c为jpeg的解码文件，我们能以他们为例子分析一下这个rockchip的mpp插件

gstreamer rkmpp 插件定义

如下为rkmpp的定义

GST_PLUGIN_DEFINE (GST_VERSION_MAJOR,
    GST_VERSION_MINOR,
    rkmpp,
    "Rockchip Mpp Video Plugin",
    plugin_init, VERSION, GST_LICENSE, GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN)

这个功能相当于面向对象语言的模板功能，由于C语言不支持模板功能，需要使用宏定义，来模拟模板功能，下面我们一起展开一下;

#ifdef  __cplusplus
#define G_BEGIN_DECLS  extern "C" {
#define G_END_DECLS    }
#else
#define G_BEGIN_DECLS
#define G_END_DECLS
#endif

#if (0 || defined(_MSC_VER)) && !defined(GST_STATIC_COMPILATION)
# define GST_PLUGIN_EXPORT __declspec(dllexport)
# ifdef GST_EXPORTS
#  define GST_EXPORT __declspec(dllexport)
# else
#  define GST_EXPORT __declspec(dllimport) extern
# endif
#else
# if defined(__GNUC__) || (defined(__SUNPRO_C) && (__SUNPRO_C >= 0x590))
#  define GST_PLUGIN_EXPORT __attribute__ ((visibility ("default")))
#  define GST_EXPORT extern __attribute__ ((visibility ("default")))
# else
#  define GST_PLUGIN_EXPORT
#  define GST_EXPORT extern
# endif
#endif
#define G_PASTE_ARGS(identifier1,identifier2) identifier1 ## identifier2
#define G_PASTE(identifier1,identifier2)      G_PASTE_ARGS (identifier1, identifier2)


#define GST_PLUGIN_DEFINE(major,minor,name,description,init,version,license,package,origin) \
G_BEGIN_DECLS \
GST_PLUGIN_EXPORT const GstPluginDesc * G_PASTE(gst_plugin_, G_PASTE(name, _get_desc)) (void); \
GST_PLUGIN_EXPORT void G_PASTE(gst_plugin_, G_PASTE(name, _register)) (void); \
\
static const GstPluginDesc gst_plugin_desc = { \
  major, \
  minor, \
  G_STRINGIFY(name), \
  (gchar *) description, \
  init, \
  version, \
  license, \
  PACKAGE, \
  package, \
  origin, \
  __GST_PACKAGE_RELEASE_DATETIME, \
  GST_PADDING_INIT \
};                                       \
\
const GstPluginDesc * \
G_PASTE(gst_plugin_, G_PASTE(name, _get_desc)) (void) \
{ \
    return &gst_plugin_desc; \
} \
\
void \
G_PASTE(gst_plugin_, G_PASTE(name, _register)) (void) \
{ \
  gst_plugin_register_static (major, minor, G_STRINGIFY(name), \
      description, init, version, license, \
      PACKAGE, package, origin); \
} \
G_END_DECLS

这个宏定义主要生成gst_plugin_desc结构和gst_plugin_rkmpp_get_desc，gst_plugin_rkmpp_register，来的分析，把部分宏找出来直接用gcc命令生产:

gcc  -E -P gst-define.c > gst-define_m.c

 大致代码如下

 __attribute__ ((visibility ("default"))) const GstPluginDesc * gst_plugin_rkmpp_get_desc (void);
 __attribute__ ((visibility ("default"))) void gst_plugin_rkmpp_register (void); 
 static const GstPluginDesc gst_plugin_desc = { GST_VERSION_MAJOR, GST_VERSION_MINOR, G_STRINGIFY(rkmpp), (gchar *) "Rockchip Mpp Video Plugin", plugin_init, VERSION, GST_LICENSE, PACKAGE, GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN, __GST_PACKAGE_RELEASE_DATETIME, GST_PADDING_INIT };
 const GstPluginDesc * gst_plugin_rkmpp_get_desc (void) 
 	{ return &gst_plugin_desc; } 
 void gst_plugin_rkmpp_register (void) 
 	{ gst_plugin_register_static (GST_VERSION_MAJOR, GST_VERSION_MINOR, G_STRINGIFY(rkmpp), "Rockchip Mpp Video Plugin", 
 	plugin_init, VERSION, GST_LICENSE, PACKAGE, GST_PACKAGE_NAME, GST_PACKAGE_ORIGIN);
 }

插件初始化

我们在编写一个GStreamer应用_专注&突破的博客-CSDN博客开始的时候说过编写gstreamer应用首先使用gst_init 初始化

前奏

void
gst_init (int *argc, char **argv[])
{
  GError *err = NULL;

  if (!gst_init_check (argc, argv, &err)) {
    g_print ("Could not initialize GStreamer: %s\n",
        err ? err->message : "unknown error occurred");
    if (err) {
      g_error_free (err);
    }
    exit (1);
  }
}

它的主要功能，

• 初始化GStreamer库
• 注册内部element
• 加载插件列表，扫描列表中及相应路径下的插件
• 解析并执行命令行参数

我们下面简单跟踪它的代码，重点看看怎么一步步加载插件的

gst_init  主要调用gst_init_check，这个函数如下所示

gboolean
gst_init_check (int *argc, char **argv[], GError ** err)
{
  static GMutex init_lock;
#ifndef GST_DISABLE_OPTION_PARSING
  GOptionGroup *group;
  GOptionContext *ctx;
#endif
  gboolean res;

  g_mutex_lock (&init_lock);

  if (gst_initialized) {
    GST_DEBUG ("already initialized gst");
    g_mutex_unlock (&init_lock);
    return TRUE;
  }
#ifndef GST_DISABLE_OPTION_PARSING
  ctx = g_option_context_new ("- GStreamer initialization");
  g_option_context_set_ignore_unknown_options (ctx, TRUE);
  g_option_context_set_help_enabled (ctx, FALSE);
  group = gst_init_get_option_group ();
  g_option_context_add_group (ctx, group);
  res = g_option_context_parse (ctx, argc, argv, err);
  g_option_context_free (ctx);
#else
  init_pre (NULL, NULL, NULL, NULL);
  init_post (NULL, NULL, NULL, NULL);
  res = TRUE;
#endif

  gst_initialized = res;

  g_mutex_unlock (&init_lock);

  return res;
}

这个函数主要是先看看有没有初始化，没有的话，进行初始化。在初始化的时候也可以使用GOption来指定参数，之前已经提过，GOption数组来定义你的命令行选项将表与由gst_init_get_option_group函数返回的选项组一同传给GLib初始化函数。通过使用GOption表来初始化GSreamer，你的程序还可以解析除标准GStreamer选项以外的命令行选项。

这里重点是

  group->pre_parse_func = pre_parse_func; init_pre
  group->post_parse_func = post_parse_func; ///init_post

主要的工作是在init_post中完成，这里不准备详细介绍，着重说几点：

• 插件的加载并不是普通的动态库加载那样，而是形成一个plugin registry，这个registry主要记载插件的详细信息，在使用的时候方便调用
• 插件的加载使用父子进程方式，父进程收集和记录信息，子进程执行加载过程