最近接到个公司ios通过局域网(WIFI)与智能硬件交互的项目,智能小车上安装个摄像头,手机控制小车前进、后退、转弯,并将小车摄像头拍摄的视频实时传输到手机上,并显示出来。
分析,该项目存在的两个难点:
1. 终端显示视频,并得将视频传输的实时性提到最高。
2. 利用TCP协议发送对应指令控制小车。
前提:
1.摄像头后台服务器是mpeg-server服务器,提供了两个地址,流媒体地址 http://xxx.xxx.x.x:xxxx/?action=stream 快照图片地址 http://xxx.xxx.x.x:xxxx/?action=snapshot
2.TCP客户端与智能硬件的交互指令(十六进制,可自己商定,如:FF FE 05 00 0F 01) PS: 05:小车左轮的速度 00:小车左轮的方向(反) 0F:小车右轮的速度 01:小车右轮的方向(正)
实现过程:
先看第一个问题:(终端显示视频,并提高实时性)
作为一个程序员,看待一个问题得有多种实现的思路,通过在github上找已有的轮子、在论坛提问和自己摸索,发现了四种实现方法,并从中选取了最佳实现方案:
1.利用GitHub上的轮子VLC(一款强大的全平台播放器)实现视频播放,延时太大,不能忍
2.看到android的瞎操作(写个while死循环),设置一个定时器,每隔1秒去刷一次视频图片地址,虽能实现需求, 但太消耗App的资源
3.使用WKWebView直接请求流地址,达到和google浏览器加载同样的效果,把操作View浮在上面,可行,有局限性
4.利用IOS原生的NSURLSession,实现一步请求,便可不断的从流地址接收数据
再来第二个问题:(通过TCP协议发送指令与硬件设备交互)
(视频部分)分析代码实现:
方法一:
如何集成VLC呢?关于如何集成,推荐大家去看这篇文章VLC集成与使用,大神讲的已经很明白了。 在项目中添加依赖库,整个项目的轮子可以参照iOS 之VLC使用RTSP流做监控或者直播视频
集成步骤就不多说了,接下来:
#import
@property (nonatomic, strong)VLCMediaPlayer *player;
-(void)setVedioV{
_player = [[VLCMediaPlayer alloc] initWithOptions:nil];
_player.drawable = [[UIView alloc] initWithFrame:CGRectMake(0, 0, self.view.bounds.size.width, self.view.bounds.size.height)];
NSURL *url = [NSURL URLWithString:@"http://xxx.xxx.x.x:xxxx/?action=scream"];
_player.media = [VLCMedia mediaWithURL:url];
NSMutableDictionary *mediaDicts = [[NSMutableDictionary alloc] init];
[mediaDicts setObject:@"100" forKey:@"network-caching"];
[mediaDicts setObject:@"24" forKey:@"fps"];
[_player.media addOptions:mediaDicts];
[_player play];
}
方法二:
#pragma mark swift实现
//设置定时器:
var timer : Timer?
self.timer = Timer.scheduledTimer(timeInterval: 0, target: self, selector: #selector(self.setR), userInfo: nil, repeats: true);
func setR(){
DispatchQueue.main.async{
//先移除
self.monitorV.monitorIV.removeFromSuperview()
let url = URL(string: "http://xxx.xxx.x.x:xxxx/?action=snapshot")
//从网络获取数据流
let data = try! Data(contentsOf: url!)
//通过数据流初始化图片
let newImage = UIImage(data: data);
self.monitorV.monitorIV = UIImageView(image:newImage);
//后添加
self.monitorV.addSubview(self.monitorV.monitorIV);
//操作View浮在上面
self.monitorV.bringSubview(toFront: self.monitorV.dealV);
}
}
方法三:
#import
@property (strong, nonatomic) WKWebView *webView;
-(void)setWKwebV{
// WKWebView初始化
// 方法一:(简单的设置)
_webView = [[WKWebView alloc] init];
_webView.navigationDelegate = self;
NSURL *url = [NSURL URLWithString:@"http://xxx.xxx.x.x:xxxx/?action=stream"];
NSURLRequest *request = [NSURLRequest requestWithURL:url];
[_webView loadRequest:request];
[self.view addSubview:_webView];
}
方法四:
- (id)init
{
#pragma mark 初始化接受数据的NSData变量
_data = [[NSMutableData alloc] init];
_task = [[NSURLSessionDataTask alloc] init];
return [super init];
}
#pragma mark - 创建NSURLSession请求:
- (void) setTask {
NSURL *url = [NSURL URLWithString:@"http://xxx.xxx.x.x:xxxx/?action=stream"];
//配置请求
NSURLSessionConfiguration *config = [NSURLSessionConfiguration defaultSessionConfiguration];
config.networkServiceType = NSURLNetworkServiceTypeDefault;
config.timeoutIntervalForRequest = 15;
NSURLSession *session = [NSURLSession sessionWithConfiguration:config delegate:self delegateQueue:[NSOperationQueue mainQueue]];
//创建网络任务
self.task = [session dataTaskWithURL:url];
//5 发起网络任务
[self.task resume];
}
#pragma mark 实现NSURLSessionDataDelegate代理方法
#pragma mark 开始接收到服务器的响应时调用
-(void)URLSession:(NSURLSession *)session dataTask:(nonnull NSURLSessionDataTask *)dataTask
didReceiveResponse:(nonnull NSURLResponse *)response
completionHandler:(nonnull void (^)(NSURLSessionResponseDisposition))completionHandler {
NSData *data = [NSData dataWithData:self.data];
self.img = [[UIImage alloc]initWithData:data];
_trafficV.monitorIV.image = self.img;
[self.data setLength:0];
completionHandler(NSURLSessionResponseAllow);
}
#pragma mark 接收到服务器返回的数据时调用,服务器返回的数据比较大时会多次调用
-(void)URLSession:(NSURLSession *)session dataTask:(NSURLSessionDataTask *)dataTask didReceiveData:(NSData *)data {
[self.data appendData:data];
}
(TCP部分)分析代码实现:
如何实现TCP通信呢?我选的是CocoaAsyncSocket(Github上的轮子),关于如何实现,推荐大家去看这篇文章【iOS开发】之CocoaAsyncSocket使用,大神讲的已经很明白了。
//搭建TCPSocket
- (void) setTcpSocket {
dispatch_queue_t dQueue = dispatch_queue_create("client tdp socket", NULL);
// 1. 创建一个 udp socket用来和服务端进行通讯
sendTcpSocket = [[GCDAsyncSocket alloc] initWithDelegate:self delegateQueue:dQueue socketQueue:nil];
// 2. 连接服务器端. 只有连接成功后才能相互通讯 如果60s连接不上就出错
NSString *host = @"xxx.xxx.x.x";
uint16_t port = xxxx;
[sendTcpSocket connectToHost:host onPort:port withTimeout:60 error:nil];
// 连接必须服务器在线
}
#pragma mark - 代理方法表示连接成功/失败 回调函数(GCDAsyncSocketDelegate)
- (void)socket:(GCDAsyncSocket *)sock didConnectToHost:(NSString *)host port:(uint16_t)port {
//连接成功 等待数据来啊
[sock readDataWithTimeout:-1 tag:200];
}
// 如果对象关闭了 这里也会调用
- (void)socketDidDisconnect:(GCDAsyncSocket *)sock withError:(NSError *)err {
// 连接失败,断线重连
NSString *host = @"xxx.xxx.x.x";
uint16_t port = xxxx;
[sendTcpSocket connectToHost:host onPort:port withTimeout:60 error:nil];
}
#pragma mark - 消息发送成功 代理函数
- (void)socket:(GCDAsyncSocket *)sock didWriteDataWithTag:(long)tag {
//STLog(@"消息发送成功");
}
- (void)socket:(GCDAsyncSocket *)sock didReadData:(NSData *)data withTag:(long)tag {
#接受TCP服务端返回的数据哈哈哈哈
[HudTips showToast: [@"TCP:" stringByAppendingString:[self hexStrFromData:data]] showType:Pos animationType:StToastAnimationTypeScale];
// 每次读取完数据,都要调用下面的方式
[sock readDataWithTimeout:-1 tag:0];
}
最重要的部分来了哈:
// LS 左轮速度 LD 左轮方向 RS 右轮速度 RD 右轮方向
- (void)sendDs:(char)LS andLD:(char)LD andRS:(char)RS andRD:(char)RD{
//ff fe 05 01 05 00
unsigned char cmd_switch[6];
cmd_switch[0]=(char)0xFF;//帧头
cmd_switch[1]=(char)0xFE;//帧头
cmd_switch[2]=LS;//左轮速度: 05
cmd_switch[3]=LD;//方向: 正
cmd_switch[4]=RS;//右轮速度: 05
cmd_switch[5]=RD;//方向: 反
#发送十六进制的数据,与硬件开始交互哈哈
[sendTcpSocket writeData:[NSData dataWithBytes: cmd_switch length:6] withTimeout:60 tag:100];
}
那些时刻我所踩的坑:
坑一:VLC延时太大,更改了其配置,然而并没有什么效果
NSMutableDictionary *mediaDicts = [[NSMutableDictionary alloc] init];
[mediaDicts setObject:@"100" forkey:@"network-caching"];
[mediaDicts setObject:@"100" forkey:@"file-caching"];
[mediaDicts setObject:@"100" forkey:@"live-caching"];
[mediaDicts setObject:@"100" forkey:@"sout-mux-caching"];
[mediaDicts setObject:@"16" forkey:@"max-fps"];
[mediaDicts setObject:@"1" forkey:@"framedrop"];
[mediaDicts setObject:@"0" forkey:@"start-on-prepared"];
[mediaDicts setObject:@"0" forkey:@"http-detect-range-support"];
[mediaDicts setObject:@"48" forkey:@"skip_loop_filter"];
[mediaDicts setObject:@"0" forkey:@"packet-buffering"];
[mediaDicts setObject:@"2000000" forkey:@"analyzeduration"];
[mediaDicts setObject:@"1" forkey:@"videotoolbox"];
[mediaDicts setObject:@"12" forkey:@"min-frames"];
[mediaDicts setObject:@"16" forkey:@"r"];
实测:刚开始真的没什么延迟,但到后面延迟会很大,杀死进程,重进,都会有很大的延迟
坑二:方法四被我测出个BUG,app在运行时,按HOME键退出,然后等app进程被kill,此时再进入app,画面会卡住?
解决方案:
在进入后台(applicationDidEnterBackground)的时候发送个通知给控制器实现[self.task cancel];在将要进入前台(applicationWillEnterForeground)的时候发送个通知给控制器实现[self.task resume]或重新发送请求
坑三:需求实现了,不知道如何上线到appStore?由于内网才能出效果,且此app功能不多,怕是审核不让通过?
解决方案:
工具类app,需在备注里面说明其功能,最好配个简短视频到优酷、Youtube上