UDP/TCP实时传输图像
首先问个问题，为什么要用UDP传输图像，而不是TCP？
TCP是我们经常使用的通信协议，从认识它的第一天起，就应该知道，它非常稳，丢包率超低。但是一切都有双面性，稳定会影响传输的速度。与TCP不同，UDP没有反复确认这个环节，发送端向一个接收端甩一个数据包，不管接收端有没有接收到，所以相较于TCP，其丢包率比较大，但是它的速度就快多了。针对图像传输这种耗时但是不追求准确性的任务，采用UDP是再合适不过的了。目前许多网络直播都采用UDP来传输图像。
接下来描述一下主要内容，使用C#窗体在两台PC上分别创建一个图像发送端和一个图像接收端，发送端采集摄像头图像，压缩为JPEG格式后使用UDP发送至接收端，接收端接收图像并进行显示。
所以本项目主要有以下两部分：
图像发送端的搭建
图像接收端的搭建
另外这个项目还会用到TCP来确认双方是否都在线，如果接收方还没准备好，发送方就开始发图像了，那就是在做无用功了（虽然对这个项目来说影响不大）。具体的做法就是主机A（发送端）作为TCP服务端，创建一个套接字，绑定一个IP和端口Port，开启监听。主机B作为TCP客户端，连接到主机A创建的服务端。连接后，主机A打开摄像头，并开始向主机B发送图像。
TCP服务端（主机A）：
Thread threadWatch = null; //负责监听客户端的线程
Socket socketWatch = null; //负责监听客户端的套接字
/****创建套接字*****/
//定义一个套接字用于监听客户端发来的信息 包含3个参数(IP4寻址协议,流式连接,TCP协议)
socketWatch = new Socket(AddressFamily.InterNetwork, SocketType.Stream, ProtocolType.Tcp);
//服务端发送信息 需要1个IP地址和端口号
IPAddress ipaddress = IPAddress.Parse(this.comboBox1.Text.Trim()); //获取文本框输入的IP地址
//将IP地址和端口号绑定到网络节点endpoint上
IPEndPoint endpoint = new IPEndPoint(ipaddress, int.Parse(this.comboBox2.Text.Trim())); //获取文本框上输入的端口号
//监听绑定的网络节点
socketWatch.Bind(endpoint);
//将套接字的监听队列长度限制为20
socketWatch.Listen(20);
//创建一个监听线程
threadWatch = new Thread(WatchConnecting);
//将窗体线程设置为与后台同步
threadWatch.IsBackground = true;
//启动线程
threadWatch.Start();
/****监听客户端发来的请求*****/
//创建一个负责和客户端通信的套接字
Socket socConnection = null;
private void WatchConnecting()
{
while (true) //持续不断监听客户端发来的请求
{
socConnection = socketWatch.Accept();
}
}
TCP客户端（主机B）：
private void startBtn_Click(object sender, EventArgs e)
{
//Parse：将一个字符串的ip地址转换成一个IPAddress对象
IPAddress ipaddress = IPAddress.Parse(comboBox1.Text);
EndPoint point = new IPEndPoint(ipaddress, int.Parse(comboBox2.Text));
Thread connect = new Thread(new ParameterizedThreadStart(Connect));
connect.Start(point);
}
//连接线程
private static void Connect(object point)
{
try
{
Socket tcpClient = new Socket(AddressFamily.InterNetwork, SocketType.Stream, ProtocolType.Tcp);
tcpClient.Connect((EndPoint)point);//通过IP和端口号来定位一个所要连接的服务器端
}
catch (Exception ex)
{
MessageBox.Show(ex.Message);
}
}
最后，两个项目都是用VS2017生成的，.NET框架为4.7.1.
接下来进入正文
一、图像发送端的搭建
首先需要获取摄像头图像，这里使用EmguCV来获取图像以及转码。
点击 工具->NuGet包管理器->管理解决方案的NuGet程序包，在浏览那一栏查找Emgu.cv，选择第一个，在右侧选择要安装EmguCV的项目，点击安装即可。
因为这个项目只用到了EmguCV的读取摄像头功能，就不再赘述了，如果还想深入了解EmguCV，欢迎交流
EmguCV就这样安装好了。然后就可以调用EmguCV中的函数获取摄像头数据了
private VideoCapture capture = new VideoCapture();
Mat currentImage = capture.QueryFrame();
currentImage就是获取的摄像头图像，默认尺寸是640*480，可以通过以下代码更改设置
capture.SetCaptureProperty(CapProp.FrameWidth, 720);
capture.SetCaptureProperty(CapProp.FrameHeight, 1280);
接下来将图像转化成UDP发送的byte[]格式。一个UDP数据包只能发送64k字节数据，也就是65536字节，但是一帧图片就有640x480x3=921600byte=900k字节，所以需要进行图像压缩，这里采用jpeg压缩格式。
Image<Rgb,Byte> img = currentImage.ToImage<Rgb, Byte>();
byte[] bytes = img.ToJpegData(80);
最后使用UDP进行发送。
UdpClient udpClient = new UdpClient();
//接收端绑定的IPAddress、端口号
IPAddress ipaddress = IPAddress.Parse("10.128.14.249");
IPEndPoint endpoint = new IPEndPoint(ipaddress, int.Parse(this.comboBox2.Text.Trim()));
udpClient.Send(bytes, bytes.Length, endpoint);
udpClient.Close();
二、图像接收端的搭建
在设计面板上添加一个PictureBox控件，用来显示接收到的图像，添加一个Button，用来建立和发送端的连接。
接下来创建一个UDP的套接字，绑定本地IPv4地址
Socket udpServer = null;
//创建套接字
udpServer = new Socket(AddressFamily.InterNetwork, SocketType.Dgram, ProtocolType.Udp);
//绑定IP和端口
udpServer.Bind(new IPEndPoint(GetLocalIPv4Address(), 8090));
//开启接收数据线程
new Thread(ReceiveMessage)
{
IsBackground = true
}.Start();
如果不知道本地IPv4地址，可以使用以下函数自动获取，这样也可以避免以后IPv4地址改变而报错
public IPAddress GetLocalIPv4Address()
{
IPAddress localIpv4 = null;
//获取本机所有的IP地址列表
IPAddress[] IpList = Dns.GetHostAddresses(Dns.GetHostName());
//循环遍历所有IP地址
foreach (IPAddress IP in IpList)
{
//判断是否是IPv4地址
if (IP.AddressFamily == AddressFamily.InterNetwork)
{
localIpv4 = IP;
}
else
{
continue;
}
}
return localIpv4;
}
最后就可以开始接收图像了
void ReceiveMessage()
{
while (true)
{
EndPoint remoteEndPoint = new IPEndPoint(IPAddress.Any, 0);
//设置一个64k的字节数组作为缓存
byte[] data = new byte[65536];
int length = udpServer.ReceiveFrom(data, ref remoteEndPoint);//此方法把数据来源ip、port放到第二个参数中
MemoryStream ms = new MemoryStream(data, 0, length);
pictureBox1.Image=Image.FromStream(ms);
}
}
最终效果如下：
需要在开头添加以下代码
//TCP、UDP
using System.Net;
using System.Net.Sockets;
//多线程
using System.Threading;
//使用EmguCV读取摄像头
using Emgu.CV;
using Emgu.CV.Structure;
//接收端读取图像
using System.IO;
TCP图像传输
TCP对于传输的数据大小没有限制，同时TCP在发送失败时还有重传机制，可以保证传输的可靠性，所以本文将使用TCP协议来进行图像的实时传输。
TCP连接过程见后面的程序，一般服务端创建一个套接字，绑定本地IP，开启监听，然后客户端也创建一个套接字，连接服务端就可以了，详见后面的代码。直接介绍数据传输流程，如下图：
由于TCP是以字节流的形式发送数据的，不能预知数据的大小，所以客户端在发送图像数据之前，需要先发送数据长度等信息。同时为了防止粘包(服务端接收到的数据会先缓存在缓冲区，在接收一次数据后，如果不及时处理，下一次接收到的数据也会送到缓冲区。由于这些数据都是字节流形式的，这样两次接收到的数据就会黏在一起，无法分开），客户端在发送完数据长度信息后，不能马上发送图像数据，需要等待服务端返回的应答信号。客户端接收到应答信号后，就可以开始发送图像字节流数据了。服务端完成图像数据接收后，还要返回给客户端一个应答信号，通知客户端开始下一帧图像的传输
服务端
#-*- coding: UTF-8 -*-
import socket
import cv2
import numpy as np
HOST = ''
PORT = 8080
ADDRESS = (HOST, PORT)
# 创建一个套接字
tcpServer = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 绑定本地ip
tcpServer.bind(ADDRESS)
# 开始监听
tcpServer.listen(5)
while True:
print("等待连接……")
client_socket, client_address = tcpServer.accept()
print("连接成功！")
try:
while True:
# 接收标志数据
data = client_socket.recv(1024)
if data:
# 通知客户端“已收到标志数据，可以发送图像数据”
client_socket.send(b"ok")
# 处理标志数据
flag = data.decode().split(",")
# 图像字节流数据的总长度
total = int(flag[0])
# 接收到的数据计数
cnt = 0
# 存放接收到的数据
img_bytes = b""
while cnt < total:
# 当接收到的数据少于数据总长度时，则循环接收图像数据，直到接收完毕
data = client_socket.recv(256000)
img_bytes += data
cnt += len(data)
print("receive:" + str(cnt) + "/" + flag[0])
# 通知客户端“已经接收完毕，可以开始下一帧图像的传输”
client_socket.send(b"ok")
# 解析接收到的字节流数据，并显示图像
img = np.asarray(bytearray(img_bytes), dtype="uint8")
img = cv2.imdecode(img, cv2.IMREAD_COLOR)
cv2.imshow("img", img)
cv2.waitKey(1)
else:
print("已断开！")
break
finally:
client_socket.close()
客户端
#-*- coding: UTF-8 -*-
import cv2
import time
import socket
# 服务端ip地址
HOST = '192.168.0.100'
# 服务端端口号
PORT = 8080
ADDRESS = (HOST, PORT)
# 创建一个套接字
tcpClient = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 连接远程ip
tcpClient.connect(ADDRESS)
cap = cv2.VideoCapture(0)
while True:
# 计时
start = time.perf_counter()
# 读取图像
ref, cv_image = cap.read()
# 压缩图像
img_encode = cv2.imencode('.jpg', cv_image, [cv2.IMWRITE_JPEG_QUALITY, 99])[1]
# 转换为字节流
bytedata = img_encode.tostring()
# 标志数据，包括待发送的字节流长度等数据，用‘,’隔开
flag_data = (str(len(bytedata))).encode() + ",".encode() + " ".encode()
tcpClient.send(flag_data)
# 接收服务端的应答
data = tcpClient.recv(1024)
if ("ok" == data.decode()):
# 服务端已经收到标志数据，开始发送图像字节流数据
tcpClient.send(bytedata)
# 接收服务端的应答
data = tcpClient.recv(1024)
if ("ok" == data.decode()):
# 计算发送完成的延时
print("延时：" + str(int((time.perf_counter() - start) * 1000)) + "ms")
1080P图像UDP传输
通过UDP一次性地发送到接收端，由于一个UDP数据包只能发送64k字节的数据，所以该方法的图片传输大小是有限制的，实测只能发送480P视频中的图像。
所以将采取逐帧发送的形式，以1080P的视频为例，实现更高清晰度(1080 × 1920 × 3 1080\times 1920\times 31080×1920×3)的图像实时传输。
本文中的高清晰度图像传输就是在前文方法的基础上，在发送端添加了切片压缩传输以及并行加速的步骤，而接收端则相应地使用多线程进行数据接收，分别接收压缩后的切片数据，再拼接起来进行显示。流程如下
发送端
在发送端我们需要达到的效果如下，左边用来显示原始图像，右上角用来显示各个切片，右下角用来处理接收端的连接请求。
首先设置一些参数
// 实例化一个VideoCapture，选择从本地文件读取视频
private VideoCapture capture = new VideoCapture("../../video/04.mp4");
// 设置读取的图片宽度
const int WIDTH = 1920;
// 设置读取的图片高度
const int HEIGHT = 1080;
// 切片数量
const int NUM_SLICE = 24;
然后进行图像的显示以及切片。初始化一组显示控件，用来显示切片后的结果：
private void Form1_Load(object sender, EventArgs e)
{
// 设置图像大小
capture.SetCaptureProperty(Emgu.CV.CvEnum.CapProp.FrameWidth, WIDTH);
capture.SetCaptureProperty(Emgu.CV.CvEnum.CapProp.FrameHeight, HEIGHT);
// 获取面板控件的大小
int w = panel_imgs.Width;
int h = panel_imgs.Height;
// 在面板panel_imgs上添加显示控件，用于显示每个切片
for (int i = 0; i < NUM_SLICE; i++)
{
ImageBox imgb = new ImageBox();
imgb.Left = 0;
imgb.Top = i * h / NUM_SLICE;
imgb.Width = w;
imgb.Height = h / NUM_SLICE - 1;
imgb.SizeMode = PictureBoxSizeMode.StretchImage;
imgb.Visible = true;
imgbox[i] = imgb;
panel_imgs.Controls.Add(imgbox[i]);
}
// 在下拉文本框cbb_localIP中显示该计算机中的IPv4地址
cbb_localIP.Text = GetLocalIPv4Address().ToString();
}
最后就是图像的读取、切片、压缩、发送等处理函数，这处理过程中，使用了Parallel.For并行加速功能，相对于串行的for循环，并行速度提高了一倍左右（不知道为啥我四核八线程的处理器只能降低一半的运行时间）
private void ProcessFram() // 图像读取、切片、发送
{
DateTime startDT = System.DateTime.Now;
while (true)
{
// 计算两次循环间的间隔，并显示在左上角
DateTime stopDT = System.DateTime.Now;
TimeSpan ts = stopDT.Subtract(startDT);
this.Text = "图片处理耗时：" + ts.TotalMilliseconds + "ms";
startDT = System.DateTime.Now;
// 读取一张图片
Mat currentImage = capture.QueryFrame();
// 显示摄像头/视频流的图像
imageBox0.Image = currentImage;
int N = HEIGHT / NUM_SLICE;
// 对图像进行切片，并将切片压缩后发送到接收端
Parallel.For(0, NUM_SLICE, i => // Parallel并行加速
{
// 从原图中切割，输入参数：原始图片 行范围row 列范围col
img[i] = new Mat(currentImage, new Range(i * N, (i + 1) * N - 1), new Range(0, WIDTH));
// 显示
imgbox[i].Image = img[i];
// 转换格式
Image<Rgb, Byte> img_trans = img[i].ToImage<Rgb, Byte>();
// JPEG压缩
byte[] bytes = img_trans.ToJpegData(95);
// UDP配置
UdpClient udpClient = new UdpClient();
//IPAddress ipaddress = IPAddress.Parse("192.168.0.105");
IPAddress ipaddress = remoteIP;
IPEndPoint endpoint = new IPEndPoint(ipaddress, 8000 + 10 * i);
// UDP发送
udpClient.Send(bytes, bytes.Length, endpoint);
udpClient.Close();
}
);
}
}
在初始化函数中添加以下程序就可以执行包含切片、压缩、发送等操作的线程
Thread transFrames = new Thread(ProcessFram);
transFrames.Start();
接收端
接收端比较简单，实现效果如下，因为在接收端没有对图片进行更进一步的处理，所以本文只在接收端添加了若干个显示控件，用来显示每个切片，但是从观感上每个切片依次连接，形成了一张完整的图片。
首先进行参数设置
// 切片数量，与发送端保持一致
const int NUM_SLICE = 24;
// 为每一个切片创建一个显示控件
PictureBox[] imgbox = new PictureBox[NUM_SLICE];
// 为每一个切片创建一个UDP套接字
Socket[] udpServer = new Socket[NUM_SLICE];
在初始化过程中添加显示控件，与发送端类似
int w = panel_imgs.Width;
int h = panel_imgs.Height;
// 在面板panel_imgs上添加显示接收到的图片的控件
for (int i = 0; i < NUM_SLICE; i++)
{
// 设置PictureBox的位置、大小等参数
PictureBox imgb = new PictureBox();
imgb.Left = 0;
imgb.Top = i * h / NUM_SLICE;
imgb.Width = w;
imgb.Height = h / NUM_SLICE + 1;
imgb.SizeMode = PictureBoxSizeMode.StretchImage;
imgb.Visible = true;
// 添加到面板panel_imgs上
imgbox[i] = imgb;
panel_imgs.Controls.Add(imgbox[i]);
}
接下来需要为每个切片创建一个接收线程
for (int i = 0; i < NUM_SLICE; i++)
{
new Thread(new ParameterizedThreadStart(ImgReceive))
{
IsBackground = true
}.Start(8000 + i * 10); // 输入参数为端口号，依次增加
}
最后就是接收线程的入口函数ImgReceive的内容
private void ImgReceive(object arg)
{
// 网络端口号
int port = (int)arg;
int index = port % 8000 / 10;
// 创建套接字
udpServer[index] = new Socket(AddressFamily.InterNetwork, SocketType.Dgram, ProtocolType.Udp);
// 绑定IP和端口
udpServer[index].Bind(new IPEndPoint(IPAddress.Parse(cbb_remoteIP.Text), port));
// 开启数据接收线程
while (true)
{
EndPoint remoteEndPoint = new IPEndPoint(IPAddress.Any, 0);
// 设置一个64k的字节数组作为缓存
byte[] data = new byte[65536];
int length = udpServer[index].ReceiveFrom(data, ref remoteEndPoint);//此方法把数据来源ip、port放到第二个参数中
MemoryStream ms = new MemoryStream(data, 0, length);
// 将图像显示到对应的PictureBox控件上
Image img = Image.FromStream(ms);
imgbox[index].Image = img;
}
}
测试结果
测试时发送端和接收端都在同一台PC上运行，运行流程与结果如这张GIF所示，左边是发送端，右边是接收端
参考文献：
https://blog.csdn.net/qq_42688495/article/details/108279618
https://blog.csdn.net/qq_42688495/article/details/102565452
https://blog.csdn.net/qq_42688495/article/details/106110338