基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统

基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统

  • 前言
  • 项目概述
    • 项目实现效果
      • 2D面部表情实时捕捉
      • 3D人体动作实时捕捉
  • 补充
    • 引用

前言

之前做的一个项目——使用Python利用OpenCV图像捕捉,配合强大的Mediapipe库来实现手势,人体动作检测与识别;将识别结果实时同步至Unity中,实现手部,人物模型在Unity中运动身体结构识别

基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统_第1张图片
项目地址:
Mediapipe+OpenCV与Unity引擎实现动作捕捉
OpenCV+Mediapipe人物动作捕捉与Unity引擎的结合

但是这个项目的实现利用了OpenCV图像捕捉和Mediapipe库来实现人体动作检测与识别,实现效果和准确度还不错,但是问题在于过于简陋的火柴人无法绑定到模型(模型骨骼)

项目概述

这次增加了模型的绑定,利用Mediapipe这个强大的库可以实现识别面部表情的捕捉人体结构运动的捕捉,基于以上的特性加入到Unity的人物模型中,实现实时的面部表情人体运行的捕捉

项目实现效果

2D面部表情实时捕捉


可以更换模型加入绿背应用于不同场景

3D人体动作实时捕捉

基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统_第2张图片
3D人体动作实时捕捉视频地址:https://live.csdn.net/v/234978

补充

项目目前问题很多,等待完善后会发布到GitHub

引用

本博客使用的3D模型资源来自Unity—Chan!

3D模型资源来自:
基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统_第3张图片
博客中使用到的2D模型资源来自Live2D
基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统_第4张图片
基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统_第5张图片
基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统_第6张图片

你可能感兴趣的:(OpenCV,机器学习,python,unity,opencv,计算机视觉)