最近在进行机器视觉系统的搭建,积累了经验,想和大家讨论、互相学习。相机是图像的来源。为了搭建视觉系统,完成图像分析、机器视觉任务,需要编程控制相机按工作所需的曝光、增益和帧率同步采集和存储图像。工业相机通常支持C/C++程序进行控制,提供了SDK(Software Development Kit)。这些SDK包括对相机进行基本控制的函数,利用这些函数,就可以控制相机参数(如曝光时间、增益、帧率、像素格式),满足视觉系统任务需求。
工业相机分为彩色工业(CCD芯片)相机和黑白工业相机(CMOS芯片)。芯片的三个关键参数是:靶面尺寸(感光芯片的尺寸)、分辨率(图像宽高)和像元大小。在同样的镜头焦距和同样的靶面尺寸下,分辨率越高,图像的物面分辨率就越高。相同的价格下黑白工业相机的分辨率更高、噪声更小图像处理更简单,适合用于视觉测量、工业视觉等任务场景;彩色相机能获取的信息则更为丰富,适用于人脸检测、物体识别等任务。
另外选择相机还需要注意其数据传输方式,一般有Gige和usb3.0两种。Gige数据传输更稳定,usb3.0传输速度更快。
我参与的项目采用的是海康MV-023-10UM相机,相机分辨率230万,像元尺寸5.86um。首先下载海康SDK。https://www.hikrobotics.com/cn/machinevision/service/download?module=0。下载机器视觉工业相机客户端MVS。建议默认安装路径安装。安装好后打开下面的文件夹,这里就是海康相机的软件开发包了。
Includes文件夹下就是SDK的头文件,包括了用户可以使用的函数和变量的声明。Libraries文件夹下是静态链接库,内容应该是头文件里声明的函数的定义。Samples目录下就是二次开发示例。
我用的是VS2015,打开这个sample进行解读。因为在C盘下,所以需要给权限运行。如图选择使用不同的凭据重新启动此应用程序。
这是一个基于MFC框架的界面程序,需要了解的实际上只有三组文件(或者说三路文件)。一是MvCameraControl.h和MvErrorDefine.h和PixelType.h和CameraParams.h这几个文件就是前面的SDK的include里的头文件;二是MvCamera.h和MvCamera.cpp这是海康对SDK里的API和变量进行的二次封装,方便用户使用;三是BasicDemoDlg.h和BasicDemo.cpp,这是这个界面应用程序的主体。其他的则是一些资源文件和系统文件。因此,只要了解了海康二次开发的内容和界面程序的内容,就可以照猫画虎进行二次开发了。可以将这个demo划为3个层次
这里还需要借助海康给出的二次开发文档,这里面有相机工作的方式和流程,以及SDK里API的说明。
首先看MvCamera.h
/************************************************************************/
/* 以C++接口为基础,对常用函数进行二次封装,方便用户使用 */
/************************************************************************/
class CMvCamera
{
public:
CMvCamera();
~CMvCamera();
// ch:获取SDK版本号 | en:Get SDK Version
static int GetSDKVersion();
// ch:枚举设备 | en:Enumerate Device
static int EnumDevices(unsigned int nTLayerType, MV_CC_DEVICE_INFO_LIST* pstDevList);
// ch:判断设备是否可达 | en:Is the device accessible
static bool IsDeviceAccessible(MV_CC_DEVICE_INFO* pstDevInfo, unsigned int nAccessMode);
// ch:打开设备 | en:Open Device
int Open(MV_CC_DEVICE_INFO* pstDeviceInfo);
// ch:关闭设备 | en:Close Device
int Close();
// ch:判断相机是否处于连接状态 | en:Is The Device Connected
bool IsDeviceConnected();
/**********这里博主略了很多内容,细节大家可以看自己SDK里的文档****************/
/**********这里博主略了很多内容,细节大家可以看自己SDK里的文档****************/
/**********这里博主略了很多内容,细节大家可以看自己SDK里的文档****************/
/**********这里博主略了很多内容,细节大家可以看自己SDK里的文档****************/
/**********这里博主略了很多内容,细节大家可以看自己SDK里的文档****************/
// ch:保存图片 | en:save image
int SaveImage(MV_SAVE_IMAGE_PARAM_EX* pstParam);
// ch:保存图片为文件 | en:Save the image as a file
int SaveImageToFile(MV_SAVE_IMG_TO_FILE_PARAM* pstParam);
private:
void* m_hDevHandle;
};
可以看到,这个类里只有一个句柄和一系列和相机控制相关的函数。那么可以推测,相机(一个或许多个)可以通过实例化这个CMvCamera类的对象就可以对相机进行控制了。
再看BasicDemoDlg.h
class CBasicDemoDlg : public CDialog
{
// Construction
public:
CBasicDemoDlg(CWnd* pParent = NULL); // Standard constructor
// Dialog Data
enum { IDD = IDD_BasicDemo_DIALOG };
protected:
virtual void DoDataExchange(CDataExchange* pDX); // DDX/DDV support
// Implementation
protected:
HICON m_hIcon;
// Generated message map functions
virtual BOOL OnInitDialog();
afx_msg void OnSysCommand(UINT nID, LPARAM lParam);
afx_msg void OnPaint();
afx_msg HCURSOR OnQueryDragIcon();
DECLARE_MESSAGE_MAP()
/*ch:控件对应变量 | en:Control corresponding variable*/
private:
BOOL m_bSoftWareTriggerCheck;
double m_dExposureEdit;
double m_dGainEdit;
double m_dFrameRateEdit;
CComboBox m_ctrlDeviceCombo; // ch:枚举到的设备 | en:Enumerated device
int m_nDeviceCombo;
private:
/*ch:最开始时的窗口初始化 | en:Window initialization*/
void DisplayWindowInitial();
void EnableControls(BOOL bIsCameraReady);
void ShowErrorMsg(CString csMessage, int nErrorNum);
int SetTriggerMode(); // ch:设置触发模式 | en:Set Trigger Mode
int GetTriggerMode();
int GetExposureTime(); // ch:设置曝光时间 | en:Set Exposure Time
int SetExposureTime();
int GetGain(); // ch:设置增益 | en:Set Gain
int SetGain();
int GetFrameRate(); // ch:设置帧率 | en:Set Frame Rate
int SetFrameRate();
int GetTriggerSource(); // ch:设置触发源 | en:Set Trigger Source
int SetTriggerSource();
int CloseDevice(); // ch:关闭设备 | en:Close Device
int SaveImage(MV_SAVE_IAMGE_TYPE enSaveImageType); // ch:保存图片 | en:Save Image
// ch:去除自定义的像素格式 | en:Remove custom pixel formats
bool RemoveCustomPixelFormats(enum MvGvspPixelType enPixelFormat);
private:
BOOL m_bOpenDevice; // ch:是否打开设备 | en:Whether to open device
BOOL m_bStartGrabbing; // ch:是否开始抓图 | en:Whether to start grabbing
int m_nTriggerMode; // ch:触发模式 | en:Trigger Mode
int m_nTriggerSource; // ch:触发源 | en:Trigger Source
CMvCamera* m_pcMyCamera; // ch:CMyCamera封装了常用接口 | en:CMyCamera packed commonly used interface
HWND m_hwndDisplay; // ch:显示句柄 | en:Display Handle
MV_CC_DEVICE_INFO_LIST m_stDevList;
CRITICAL_SECTION m_hSaveImageMux;
unsigned char* m_pSaveImageBuf;
unsigned int m_nSaveImageBufSize;
MV_FRAME_OUT_INFO_EX m_stImageInfo;
void* m_hGrabThread; // ch:取流线程句柄 | en:Grab thread handle
BOOL m_bThreadState;
public:
/*ch:初始化 | en:Initialization*/
afx_msg void OnBnClickedEnumButton(); // ch:查找设备 | en:Find Devices
afx_msg void OnBnClickedOpenButton(); // ch:打开设备 | en:Open Devices
afx_msg void OnBnClickedCloseButton(); // ch:关闭设备 | en:Close Devices
/*ch:图像采集 | en:Image Acquisition*/
afx_msg void OnBnClickedContinusModeRadio(); // ch:连续模式 | en:Continus Mode
afx_msg void OnBnClickedTriggerModeRadio(); // ch:触发模式 | en:Trigger Mode
afx_msg void OnBnClickedStartGrabbingButton(); // ch:开始采集 | en:Start Grabbing
afx_msg void OnBnClickedStopGrabbingButton(); // ch:结束采集 | en:Stop Grabbing
afx_msg void OnBnClickedSoftwareTriggerCheck(); // ch:软触发 | en:Software Trigger
afx_msg void OnBnClickedSoftwareOnceButton(); // ch:软触发一次 | en:Software Trigger Execute Once
/*ch:图像保存 | en:Image Save*/
afx_msg void OnBnClickedSaveBmpButton(); // ch:保存bmp | en:Save bmp
afx_msg void OnBnClickedSaveJpgButton(); // ch:保存jpg | en:Save jpg
afx_msg void OnBnClickedSaveTiffButton();
afx_msg void OnBnClickedSavePngButton();
/*ch:参数设置获取 | en:Parameters Get and Set*/
afx_msg void OnBnClickedGetParameterButton(); // ch:获取参数 | en:Get Parameter
afx_msg void OnBnClickedSetParameterButton(); // ch:设置参数 | en:Exit from upper right corner
afx_msg void OnClose();
virtual BOOL PreTranslateMessage(MSG* pMsg);
int GrabThreadProcess();
};
这个文件里需要掌握的其实也只有三块:1.public函数:典型的是OnBnClicked开头的一系列函数。这些函数与界面上的按钮相对应,可以在资源文件里,点击按钮看到。比如开始采集,对应着OnBnClickedStartGrabbingButton函数。这类函数就是用户发出指令的。用户需要发出怎样指令,看到怎样的效果,这里就需要编写对应的函数。
2.private函数:比如SetParams等等。这些是相机和程序交互的函数。
3.private变量:包括相机对象和相机参数。比如 CMvCamera* m_pcMyCamera; 这就是要实例化的相机对象。
进一步将程序跑起来,连上相机,结合开发文档。可以了解到整个程序的流程应如下
整个程序中比较复杂的结构是相机图像的预览。直观地:就是相机不断取流的时候,显示器不断地展示相机拍摄到的图片。首先,程序肯定有循环,不断地取得相机数据。第二,程序需要保持与用户交互,不断显示图片,还能允许用户发送控制指令。第二点就是界面程序的本身任务,界面程序在一个线程里保持与用户交互;因此,还需要一个线程去不断获取相机的图像数据。
进行详细的代码解读(沿着打开预览的按钮的函数一直看下去):
在BasicDemoDlg.h声明了线程对象:
void* m_hGrabThread; // ch:取流线程句柄 | en:Grab threadhandle
在BasicDemoDlg.h声明了取流函数:
int GrabThreadProcess();
观察其定义,确实是循环在取流:
int CBasicDemoDlg::GrabThreadProcess()
{
MV_FRAME_OUT stImageInfo = {0};
MV_DISPLAY_FRAME_INFO stDisplayInfo = {0};
int nRet = MV_OK;
while(m_bThreadState)
{
nRet = m_pcMyCamera->GetImageBuffer(&stImageInfo, 1000);
if (nRet == MV_OK)
{
/*********/
}
else
{
if (MV_TRIGGER_MODE_ON == m_nTriggerMode)
{
Sleep(5);
}
}
}
return MV_OK;
}
还需要一个函数,决定线程的启动:
unsigned int __stdcall GrabThread(void* pUser)
{
if (pUser)
{
CBasicDemoDlg* pCam = (CBasicDemoDlg*)pUser;
pCam->GrabThreadProcess();
return 0;
}
return -1;
}
观察上面函数GrabThread是如何被调用的:
m_hGrabThread = (void*)_beginthreadex( NULL , 0 , GrabThread , this, 0 , &nThreadID );
注册回调函数的形式启动多线程。线程执行GrabThread,函数调用的是this,而this在线程里被同类的另一对象指向。也就是说,通过子线程里界面对象指针指向主线程的界面对象,从而实现子线程和主线程共同控制相机,完成不同的任务 。
还需注意合适的位置加锁:
采用Qt开发界面程序更加简单方便,因此这里用Qt进行双目相机控制界面程序开发。
IDE · GitCode