一、视频推流端(SDK软件工具)
1.用户视频采集
AVFoundation架构:是用来播放和创建实时的视听媒体数据的框架,同时提供Objective-C接口来操作这些视听数据,比如编辑,旋转,重编码。
2. 视频处理框架
GPUImage架构:是一个基于OpenGL ES的一个强大的图像/视频处理框架,封装好了各种滤镜同时也可以编写自定义的滤镜,其本身内置了多达120多种常见的滤镜效果。
3.视频编码解码
FFmpeg架构:是一个跨平台的开源视频框架,能实现如视频编码,解码,转码,串流,播放等丰富的功能。其支持的视频格式以及播放协议非常丰富,几乎包含了所有音视频编解码、封装格式以及播放协议。
X264架构:把视频原数据YUV编码压缩成H.264格式。
4.视频封装格式
TS : 一种流媒体封装格式,流媒体封装有一个好处,就是不需要加载索引再播放,大大减少了首次载入的延迟,如果片子比较长,mp4文件的索引相当大,影响用户体验为什么要用TS
:这是因为两个TS片段可以无缝拼接,播放器能连续播放。
FLV
: 一种流媒体封装格式,由于它形成的文件极小、加载速度极快,使得网络观看视频文件成为可能,因此FLV格式成为了当今主流视频格式。
5.视频推流
Librtmp:用来传输RTMP协议格式的数据。
RTMP
:实时消息传输协议,Adobe Systems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放协议。
二、服务器架构
1.数据分发(CDN)
CDN
:(Content Delivery Network),即内容分发网络,将网站的内容发布到最接近用户的网络”边缘”,使用户可以就近取得所需的内容,解决 Internet网络拥挤的状况,提高用户访问网站的响应速度.
CDN工作原理
:比如请求流媒体数据
- 1.上传流媒体数据到服务器(源站)
- 2.源站存储流媒体数据
- 3.客户端播放流媒体,向CDN请求编码后的流媒体数据
- 4.CDN的服务器响应请求,若节点上没有该流媒体数据存在,则向源站继续请求流媒体数据;若节点上已经缓存了该视频文件,则跳到第6步。
- 5.源站响应CDN的请求,将流媒体分发到相应的CDN节点上
- 6.CDN将流媒体数据发送到客户端
回源
:当有用户访问某一个URL的时候,如果被解析到的那个CDN节点没有缓存响应的内容,或者是缓存已经到期,就会回源站
去获取搜索。如果没有人访问,那么CDN节点不会主动去源站
拿.带宽
:在固定的时间可传输的数据总量,比如64位、800MHz的前端总线,它的数据传输率就等于64bit×800MHz÷8(Byte)=6.4GB/s负载均衡
: 由多台服务器以对称的方式组成一个服务器集合,每台服务器都具有等价的地位,都可以单独对外提供服务而无须其他服务器的辅助,通过某种负载分担技术,将外部发送来的请求均匀分配到对称结构中的某一台服务器上,而接收到请求的服务器独立地回应客户的请求。均衡负载能够平均分配客户请求到服务器列阵,籍此提供快速获取重要数据,解决大量并发访问服务问题。这种群集技术可以用最少的投资获得接近于大型主机的性能。QoS(带宽管理)
:限制每一个组群的带宽,让有限的带宽发挥最大的效用。
2.架构选型
Web层:Nginx+PHP-FPM,开发迅速,适合团队技术现状,但需要针对服务器,做一定的调优配置。
- 缓存层:Redis主从库、SSDB大容量存储,会在各个业务块儿使用,增加系统性能。
- 存储层:MySQL主从库存储重要业务数据,属性变化不大。MongoDB数据库存储字段不固定变更较多的数值明细记录。SSDB存储观看记录关注等列表较长,且性能要求较高的数据。分表分库上考虑用户注册量和主播播放频率,用户中心、主播播放时长采用了按用户ID Sharding和 按年Sharding两种策略。业务初期暂时没有分库需求。
- 消息队列:实现业务解耦,使用当前较流行的Kafka队列。
- 日志收集:syslog-ng日志收集系统。
三、视频拉流播放端
直播协议选择
:- 即时性要求较高或有互动需求的可以采用
RTMP
,RTSP
- 对于有回放或跨平台需求的,推荐使用
HLS
- 即时性要求较高或有互动需求的可以采用
直播协议对比
:
HLS
:由Apple公司定义的用于实时流传输的协议,HLS基于HTTP协议实现,传输内容包括两部分,一是M3U8描述文件,二是TS媒体文件。可实现流媒体的直播和点播,主要应用在iOS系统- HLS是
以点播的技术方式
来实现直播 - HLS是
自适应码率流播
,客户端会根据网络状况自动选择不同码率的视频流,条件允许的情况下使用高码率,网络繁忙的时候使用低码率,并且自动在二者间随意切
换。这对移动设备网络状况不稳定的情况下保障流畅播放非常有帮助。 - 实现方法是服务器端提供多码率视频流,并且在列表文件中注明,播放器根据播放进度和下载速度自动调整。
- HLS是
HLS与RTMP对比
:HLS主要是延时比较大,RTMP主要优势在于延时低- HLS协议的小切片方式会生成大量的文件,存储或处理这些文件会造成大量资源浪费
- 相比使用RTSP协议的好处在于,一旦切分完成,之后的分发过程完全不需要额外使用任何专门软件,普通的网络服务器即可,大大降低了CDN边缘服务器的配置要求,可以使用任何现成的CDN,而一般服务器很少支持RTSP。
HTTP-FLV
:基于HTTP协议流式的传输媒体内容。- 相对于RTMP,HTTP更简单和广为人知,内容延迟同样可以做到1~3秒,打开速度更快,因为HTTP本身没有复杂的状态交互。所以从延迟角度来看,HTTP-FLV要优于RTMP。
RTSP
:实时流传输协议,定义了一对多应用程序如何有效地通过IP网络传送多媒体数据.RTP
:实时传输协议,RTP是建立在UDP协议上的,常与RTCP一起使用,其本身并没有提供按时发送机制或其它服务质量(QoS)保证,它依赖于低层服务去实现这一过程。RTCP
:RTP的配套协议,主要功能是为RTP所提供的服务质量(QoS)提供反馈,收集相关媒体连接的统计信息,例如传输字节数,传输分组数,丢失分组数,单向和双向网络延迟等等。
1.解码
* 1.1 解封装 *
demuxing(分离)
:从视频流、音频流,字幕流合成的文件(容器格式(FLV,TS)
)中, 分解出视频、音频或字幕,各自进行解码。
* 1.2 音频编码框架 *
fdk_aac
:音频编码解码框架,PCM音频数据和AAC音频数据互转
* 1.3 解码介绍 *
硬解码
:用GPU来解码,减少CPU运算
- 优点:播放流畅、低功耗,解码速度快,
* 缺点:兼容不好
软解码
:用CPU来解码- 优点:兼容好
* 缺点:加大CPU负担,耗电增加、没有硬解码流畅,解码速度相对慢
- 优点:兼容好
2.播放
- ijkplayer:一个基于FFmpeg的开源Android/iOS视频播放器
- API易于集成;
- 编译配置可裁剪,方便控制安装包大小;
- 支持硬件加速解码,更加省电
- 简单易用,指定拉流URL,自动解码播放.
3.聊天互动
-
IM
:(InstantMessaging)即时通讯:是一个实时通信系统,允许两人或多人使用网络实时的传递文字消息、文件、语音与视频交流.IM
在直播系统中的主要作用是实现观众与主播、观众与观众之间的文字互动.
* 第三方SDK *
-
腾讯云:腾讯提供的即时通讯SDK,可作为直播的聊天室
- 融云:一个比较常用的即时通讯SDK,可作为直播的聊天室