嵌入式linux开发——stm32mp1完成视觉检测(一)
这里从今天开始给自己挖坑然后慢慢填坑……
打算基于自己买的正点原子的stm32mp157开发板还有OV5640摄像头，完成一个视觉检测的项目，最基础的版本是直接OpenCV打开摄像头然后完成简单的检测；进阶版把sklearn训练的模型通过cpp读取然后显示；最终目标是跑之前训练好的yolo模型。
那么问题就可以分成以下几步走：
- 驱动移植：包括linux的基础驱动，OV5640驱动，LCD驱动等等
- OpenCV+QT的库移植
- Python的机器学习库sklearn的相关模型保存还有C++读取方法
- 深度学习yolo的C++读取方法
那么第一篇显然就是基础的驱动移植，正式内容就此展开！
linux驱动移植
这里直接看正点原子开源的教程就可以了，里面很详细的有讲解linux驱动的移植过程，总结一下就是以下几步骤：
- TF-A：这个是imx这个最常见初学嵌入式linux的开发板芯片所没有的，是一个安全系统，需要完成移植
- U_Boot：经典的导引加载系统
- Linux内核：可剪裁的操作系统
- 根文件系统：这里主要使用Buildroot制作加载
可以直接跟着教程一步步完成。
LCD驱动
完成基础的Linux操作系统搭建后，视觉检测项目就需要一个显示器，买的开发板上就有LCD显示器，可以同样跟着教程完成LCD的驱动移植用于显示图像。
OV5640驱动
这个是这篇文章的重点！！！虽然开发板的出产系统是自带驱动的，但是那个驱动太多了，QT的界面也是已经搭建好的，对于我想从头自己做项目的话，起不到学习作用，所以也是对着出厂设置来自行移植！
这里的话，我搜了网上的很多资料，因为stm32mp1系列的开发板，根据正点原子工作人员的讲法，当时ST公司是限制了其产量，所以用的人很少，大多数都是用imx或者直接rk系列芯片，mp1系列的相关资料就很少，我网上就只找到了华清有几个相关的摄像头驱动教程，但是是直接加载到内核，而且写的文件跟正点原子的风格还是不太一样的，本着自我学习的精神，我也是自己研究出来了怎么移植，而不是网上搜到的大多数基于正点原子出厂系统的使用！
进入正题，看看如何完成OV5640驱动移植。
设备树修改
需要在相关的设备树dts和dtsi文件中加入相关的内容，涉及到摄像头接口dcmi节点，ov5640节点以及相关的电源和时钟节点信息。
dcmi接口
首先需要添加dcmi节点，这是一个摄像头接口所使用的节点，这里根据正点原子的GPIO口需要在stm32mp157d-atk.dtsi文件中加入以下内容：
&pinctrl {
dcmi_pins_b: dcmi-1 {
pins {
pinmux = <STM32_PINMUX('H', 8, AF13)>,/* DCMI_HSYNC */
<STM32_PINMUX('B', 7, AF13)>,/* DCMI_VSYNC */
<STM32_PINMUX('A', 6, AF13)>,/* DCMI_PIXCLK */
<STM32_PINMUX('H', 9, AF13)>,/* DCMI_D0 */
<STM32_PINMUX('H', 10, AF13)>,/* DCMI_D1 */
<STM32_PINMUX('H', 11, AF13)>,/* DCMI_D2 */
<STM32_PINMUX('H', 12, AF13)>,/* DCMI_D3 */
<STM32_PINMUX('H', 14, AF13)>,/* DCMI_D4 */
<STM32_PINMUX('I', 4, AF13)>,/* DCMI_D5 */
<STM32_PINMUX('B', 8, AF13)>,/* DCMI_D6 */
<STM32_PINMUX('E', 6, AF13)>;/* DCMI_D7 */
bias-disable;
};
};
dcmi_sleep_pins_b: dcmi-sleep-1 {
pins {
pinmux = <STM32_PINMUX('H', 8, ANALOG)>,/* DCMI_HSYNC */
<STM32_PINMUX('B', 7, ANALOG)>,/* DCMI_VSYNC */
<STM32_PINMUX('A', 6, ANALOG)>,/* DCMI_PIXCLK */
<STM32_PINMUX('H', 9, ANALOG)>,/* DCMI_D0 */
<STM32_PINMUX('H', 10, ANALOG)>,/* DCMI_D1 */
<STM32_PINMUX('H', 11, ANALOG)>,/* DCMI_D2 */
<STM32_PINMUX('H', 12, ANALOG)>,/* DCMI_D3 */
<STM32_PINMUX('H', 14, ANALOG)>,/* DCMI_D4 */
<STM32_PINMUX('I', 4, ANALOG)>,/* DCMI_D5 */
<STM32_PINMUX('B', 8, ANALOG)>,/* DCMI_D6 */
<STM32_PINMUX('E', 6, ANALOG)>;/* DCMI_D7 */
};
};
};
这一部分相当于给定了dcmi接口所使用的GPIO口的定义。
然后在stm32mp157d-atk.dts中加入如下内容：
&dcmi {
status = "okay";
pinctrl-names = "default", "sleep";
pinctrl-0 = <&dcmi_pins_b>;
pinctrl-1 = <&dcmi_sleep_pins_b>;
port {
dcmi_0: endpoint {
remote-endpoint = <&ov5640_0>;
bus-width = <8>;
hsync-active = <0>;
vsync-active = <0>;
pclk-sample = <1>;
pclk-max-frequency = <77000000>;
};
};
};
这里就是在设备树中添加了dcmi的节点，连接到了ov5640的节点，并且定义了一些属性内容，这一部分只要复制过来就可以了。
ov5640
需要在设备树节点中添加ov5640节点，这里可以去参考Documentation/devicetree/bindings/media/i2c/ov5640.txt，里面有通过i2c驱动ov5640需要在设备树中添加内容的示例，基于示例以及正点原子开发板的出厂配置，可以在stm32mp157d-atk.dts添加如下内容：
&i2c5 {
pinctrl-names = "default", "sleep";
pinctrl-0 = <&i2c5_pins_a>;
pinctrl-1 = <&i2c5_pins_sleep_a>;
i2c-scl-rising-time-ns = <100>;
i2c-scl-falling-time-ns = <7>;
status = "okay";
/delete-property/dmas;
/delete-property/dma-names;
ov5640: camera@3c {
compatible = "ovti,ov5640";
reg = <0x3c>;
clocks = <&clk_ext_camera>;
clock-names = "xclk";
DOVDD-supply = <&v2v8>;
powerdown-gpios = <&gpioe 11 (GPIO_ACTIVE_HIGH | GPIO_PUSH_PULL)>;
reset-gpios = <&gpioe 1 (GPIO_ACTIVE_LOW | GPIO_PUSH_PULL)>;
rotation = <180>;
status = "okay";
port {
ov5640_0: endpoint {
remote-endpoint = <&dcmi_0>;
bus-width = <8>;
data-shift = <2>;
hsync-active = <0>;
vsync-active = <0>;
pclk-sample = <1>;
pclk-max-frequency = <77000000>;
};
};
};
};
这里就是把txt的内容拉过来，然后适配一下gpio的节点就可以了。
辅助节点
通过对ov5640的节点，可以发现需要时钟定义以及2.8V的电源定义，所以在stm32mp157d-atk.dts的根节点添加如下内容：
clocks {
clk_ext_camera: clk-ext-camera {
#clock-cells = <0>;
compatible = "fixed-clock";
clock-frequency = <24000000>;
};
};
v2v8: regulator-v2v8 {
compatible = "regulator-fixed";
regulator-name = "v2v8";
regulator-min-microvolt = <2800000>;
regulator-max-microvolt = <2800000>;
regulator-always-on;
regulator-over-current-protection;
};
之后就顺利的完成了设备树的内容一致啦。
Linux内核
这里的话其实也不用改，我按照教程学习Linux驱动的时候，按照教程移植过来的内核里面，menuconfig里面是已经把改配置的都已经配置好了。这里就我截个图，如果没配置就按照下面配置一下：
| -> Device Drivers -> -> V4L platform devices -> |
| -> Device Drivers -> -> I2C Encoders, decoders, sensors and other helper chips -> |
以上操作均完成后就重新编译，命令如下：
| make dtbs uImage LOADADDR=0XC2000040 -j16 |
最终移植加载
这一步也是很重要的，需要把如下的ko文件全部移动到开发板的/lib/modules/5.4.31中：
| /drivers/media/i2c/ov5640.ko /drivers/media/mc/mc.ko /drivers/media/v4l2-core/vediodev.ko /drivers/media/v4l2-core/v4l2-fwnode.ko /drivers/media/v4l2-core/videobuf2-common.ko /drivers/media/v4l2-core/videobuf2-memops.ko /drivers/media/v4l2-core/videobuf2-v4l2.ko /drivers/media/v4l2-core/videobuf2-dma-contig.ko /drivers/media/platform/stm32/stm32-dcmi.ko |
然后进去之后就只要输入以下命令就可以：
| cd /lib/modules/5.4.31 modprobe stm32-dcmi.ko modprobe ov5640.ko |
大功告成！！