【多媒体编解码】Openmax IL （一）官方文档概述

OpenMax IL 概述

PS：被博客主要是对官方文档前三章的学习于记录。
官网文档请移步：
https://www.khronos.org/openmax/

Openmax 框架图：

openmax il API概述

openmax il API 是基于组件的的多媒体API，包括core API和conponent API
core ：

动态的加载和卸载conponent，允许用户层和conponent直接通信，允许用户在两个conponent之间建立隧道化通信（tunnel
communication）

component：

在il层，conponent代表独立的功能模块，可以有四种角色：sources，sinks，codecs，filters，splitters，mixers或者其他的数据处理模块，具体取决于其实现。但是在我们的多媒体处理当中，一个组件，很可能是
某个硬件，软件编解码器，处理器或者以上组合。 系统组件概述。 参数描述包括 Buffer状态，错误，一系列的回调函数等。
组件之间的通信接口，称之为Port，代表组件和数据流之间的链接，以及保持链接所需要维护的buffers。

主要包含四种组件：

Sink ：只有一个input port
Souece：只有一个output port
host： 完全在主机上运行，有一个input和一个output
accelerator ： 运行在松散耦合的加速器上，有一个input

组件之间的三种通信方式：

Non-tunneled：IL client和conponent之间进行数据交换的机制>Tunneling ：组件之间的数据交换
Proprietary：组件之间可选的通信方式

通信方式参考如下截图：

组件状态（OMX_STATETYPE）
组件的状态变化，如下图：

需要注意的是：

1，每个组件的初始状态都是 ubloaded
2，LOADED->IDLE 状态迁移，需要申请所有需要的资源，资源不够就会发生LOADED->WAIT FOR RESOURCES 状态迁移。系统中存在一个厂商定制的resource manager来监控资源的变化并且发出通知，并且控制状态迁移。处于IDLE意味着组件已经获得所有需要的资源。IL client会发出除了INVALID以外的状态迁移控制。
3，EXECUTING 意味着组件正在等待接收buffer以处理数据，IDLE不会处理数据
4，PAUSED :维护缓冲区执行的上下文,并且不处理数据或交换缓冲区。 从PAUSED->EXECUTING 使缓存处理恢复到组件停止的位置。
5,PAUSED->IDLE EXECUTING->IDLE会导致数据处理所在的上下文确实
6，IDLE->LOADED 会导致操作资源的丢失，比如communication buffers丢失

通信行为：
和组件的数据通信是非阻塞的，并且一旦ports的数量被配置，通信就被使能。每个port被配置特定的数据格式，并且组件也被置于正确的状态。组件port的通信方式都是不一样的，比如：IL Client通过OMX_EmptyThisBuffer调用input port；通过OMX_FillThisBuffer 调用output port，相应的OMX_EmptyBufferDone OMX_FillBufferDone 回调函数在调用返回之前被触发，如下图示意：

关于port，需要明白：

1，每个port都有基于组件定义的需要申请（Allocate）和使用（use）的最小buffer数。
2，一个port 将一个buffer header和buffer关联。一个buffer header 指向buffer中间的数据，并且提供和buffer内容相关的metadate（元数据）。

tunneled buffer的申请和共享：

在一个tunnel中，一个port 把buffer提供给另一个non-supplier port并且传递给它。提供者也会申请buffer。在某些正常情况下，隧道组件可以选择从另一个端口重新使用缓冲区，以避免内存复制并优化内存使用。 这种做法是buffer共享。

在buffer共享的情况下，一个组件通过OMX_EmptyThisBuffer从output port端向input port端传输buffer。

conponent profiles

base profile :只支持Proprietary 通信，不支持tunnled
interop profile：和base的区别在于，支持tunnled 通信。

一些专业术语：

supplier port：在一对tunneling中的两个port之间，在邻居port上调用UseBuffer的是 supplier
port，这个buffer supplier不需要申请新的buffer，而是重用其他port的buffer。
tunneling port ：
sharing port ：
tunneling component：

关于所需的buffer要求，查阅结构体OMX_PORTDEFINITIONTYPE，port通过OMX_GetParameter。

在之后的学习中间，要解决的问题如下：

问题1：如何集成一个新的编解码器？
问题2：如何确定使用那个编解码器？
问题3：openmax解码流程？

集成到平台商的自定义框架：如QCOM
集成到Android （平台不相关）：