从最新版的
FFMPEG源码来看，是有相关的videotoolbox函数在里边，但是不能确定是否只支持Mac而不支持iOS.
实践
编译FFMPEG源码测试
FFMPEG官网添加videotoolboxpath
直接编译FFMPEG源码，播放h264文件。根据来源于雷霄骅Demo改编的TSFFMPEG,使用
AVHWAccel *pp = ff_find_hwaccel(pCodecCtx->codec->id, pCodecCtx->pix_fmt);
返回nil,也就是找不到支持硬解码的解码库，不知道是默认编译库屏蔽了还是代码问题。
在官网
Mac/iOS是支持videotoolbox,这是肯定的源码里都有。
iOS支持编码不支持解码?从 这里别人失败记录可以看出，iOS是支持硬解码的。但需要直接证据
修改FFMPEG 3.2的configure,默认是关闭videotoolbox
重新编译
使用以下代码可以测出，只真的支持了。
AVHWAccel *ff_find_hwaccel(enum AVCodecID codec_id, enum AVPixelFormat pix_fmt)
{
AVHWAccel *hwaccel=NULL;
while((hwaccel= av_hwaccel_next(hwaccel))){
NSLog(@"name:%s type:%d id:%u pix:%d",hwaccel->name,hwaccel->type,hwaccel->id,hwaccel->pix_fmt);
if ( hwaccel->id == codec_id
&& hwaccel->pix_fmt == pix_fmt)
return hwaccel;
}
return NULL;
}
日志结果:
2017-01-23 15:14:38.047166 TSKXMoiveDemo[11779:1686079] name:h264_videotoolbox type:0 id:28 pix:334
2017-01-23 15:14:38.047433 TSKXMoiveDemo[11779:1686079] name:mpeg1_videotoolbox type:0 id:1 pix:334
2017-01-23 15:14:38.047558 TSKXMoiveDemo[11779:1686079] name:mpeg2_videotoolbox type:0 id:2 pix:334
2017-01-23 15:14:38.047681 TSKXMoiveDemo[11779:1686079] name:mpeg4_videotoolbox type:0 id:13 pix:334
(lldb)
其中的334是AV_PIX_FMT_VIDEOTOOLBOX,由此看出是支持iOS硬解码的。下来的问题是：怎么用?
关键在于AV_PIX_FMT_VIDEOTOOLBOX这个格式怎么来的，需要研究，最终找到h264_slice.c里边，关键是这个函数
static enum AVPixelFormat get_pixel_format(H264Context *h, int force_callback)
{
#define HWACCEL_MAX (CONFIG_H264_DXVA2_HWACCEL + \
CONFIG_H264_D3D11VA_HWACCEL + \
CONFIG_H264_VAAPI_HWACCEL + \
(CONFIG_H264_VDA_HWACCEL * 2) + \
CONFIG_H264_VIDEOTOOLBOX_HWACCEL + \
CONFIG_H264_VDPAU_HWACCEL)
enum AVPixelFormat pix_fmts[HWACCEL_MAX + 2], *fmt = pix_fmts;
const enum AVPixelFormat *choices = pix_fmts;
int i;
switch (h->ps.sps->bit_depth_luma) {
case 9:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP9;
} else
*fmt++ = AV_PIX_FMT_YUV444P9;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P9;
else
*fmt++ = AV_PIX_FMT_YUV420P9;
break;
case 10:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP10;
} else
*fmt++ = AV_PIX_FMT_YUV444P10;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P10;
else
*fmt++ = AV_PIX_FMT_YUV420P10;
break;
case 12:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP12;
} else
*fmt++ = AV_PIX_FMT_YUV444P12;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P12;
else
*fmt++ = AV_PIX_FMT_YUV420P12;
break;
case 14:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP14;
} else
*fmt++ = AV_PIX_FMT_YUV444P14;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P14;
else
*fmt++ = AV_PIX_FMT_YUV420P14;
break;
case 8:
#if CONFIG_H264_VDPAU_HWACCEL
*fmt++ = AV_PIX_FMT_VDPAU;
#endif
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB)
*fmt++ = AV_PIX_FMT_GBRP;
else if (h->avctx->color_range == AVCOL_RANGE_JPEG)
*fmt++ = AV_PIX_FMT_YUVJ444P;
else
*fmt++ = AV_PIX_FMT_YUV444P;
} else if (CHROMA422(h)) {
if (h->avctx->color_range == AVCOL_RANGE_JPEG)
*fmt++ = AV_PIX_FMT_YUVJ422P;
else
*fmt++ = AV_PIX_FMT_YUV422P;
} else {
#if CONFIG_H264_DXVA2_HWACCEL
*fmt++ = AV_PIX_FMT_DXVA2_VLD;
#endif
#if CONFIG_H264_D3D11VA_HWACCEL
*fmt++ = AV_PIX_FMT_D3D11VA_VLD;
#endif
#if CONFIG_H264_VAAPI_HWACCEL
*fmt++ = AV_PIX_FMT_VAAPI;
#endif
#if CONFIG_H264_VDA_HWACCEL
*fmt++ = AV_PIX_FMT_VDA_VLD;
*fmt++ = AV_PIX_FMT_VDA;
#endif
#if CONFIG_H264_VIDEOTOOLBOX_HWACCEL
*fmt++ = AV_PIX_FMT_VIDEOTOOLBOX;
#endif
if (h->avctx->codec->pix_fmts)
choices = h->avctx->codec->pix_fmts;
else if (h->avctx->color_range == AVCOL_RANGE_JPEG)
*fmt++ = AV_PIX_FMT_YUVJ420P;
else
*fmt++ = AV_PIX_FMT_YUV420P;
}
break;
default:
av_log(h->avctx, AV_LOG_ERROR,
"Unsupported bit depth %d\n", h->ps.sps->bit_depth_luma);
return AVERROR_INVALIDDATA;
}
*fmt = AV_PIX_FMT_NONE;
for (i=0; choices[i] != AV_PIX_FMT_NONE; i++)
if (choices[i] == h->avctx->pix_fmt && !force_callback)
return choices[i];
return ff_thread_get_format(h->avctx, choices);
}
TSFFMPEGDemo里的，
(lldb) po pCodecCtx->pix_fmt
AV_PIX_FMT_YUV420P
打个日志，看这个AV_PIX_FMT_YUV420P从哪个case获取的
经过几天查询资料，放弃研究使用
ffmpegiOS硬解码，代码可以参考。具体的iOS硬解码准备参考ijkplayer以及vlc的。
研究ijkplayer
按照这里下载，安装上
ijkplayer
ijkplayer是基于FFMPEG的，从源码跟文档上来看，是支持iOS硬解码的，具体只要设置
[options setPlayerOptionIntValue:1 forKey:@"videotoolbox"];
当这个参数为0跟为1时候，函数调用不用，为1时候，调用ijkplayer自己的VDA，不知道怎么样才能调用FFMPEG的VDA。
测试默认打不开RTSP链接
研究kxmovie
代码于14年末已经不维护了，之后
FFMPEG才支持硬解码的，不过这个工程师使用FFMPEG最简单的，可以用来学习，研究。
- 官网的工程编译方法已经不行了，需要自己生成.a.
研究VLC
学习VLC的iOS客户端源码，VLC官网关于硬解码介绍里，并没有明确说明是否支持iOS硬解码(VDA),只说了支持Mac。
根据这里,VLC的iOSleader回答，7.2之后，默认开启状态。
VideoToolbox is enabled by default on the master branch and requires both modules you mentioned. It is not enabled on the 2.7-iOS branch and won't be.
You can check whether HW acceleration is enabled or not through VLCKit's debug log, which you can enable on the respective VLCLibrary instance.
剩下就是研究VLC的硬解码是否使用的是FFMPEG的硬解码.
VideoKit
VideoKit封装的FFMPEG拿来卖的，但可以以用来借鉴
运行看到如下日志，说明播放despicable.mp4可以用来测试，是否使用的硬编码。
Using hardware acceleration (VIDEOTOOLBOX)
并且cpu利用率内存使用很低20%以内，用kxmoive同一个视频，cpu内存均很高。