基于unity引擎利用opencv和mediapipe的面部表情和人体运动捕捉系统

BIGBOSSyifi BIGBOSSyifi     2022-10-22     623

关键词:

基于Unity引擎利用OpenCV和MediaPipe的面部表情和人体运动捕捉系统

前言

之前做的一个项目——使用Python利用OpenCV图像捕捉,配合强大的Mediapipe库来实现手势,人体动作检测与识别;将识别结果实时同步至Unity中,实现手部,人物模型在Unity中运动身体结构识别


项目地址:
Mediapipe+OpenCV与Unity引擎实现动作捕捉
OpenCV+Mediapipe人物动作捕捉与Unity引擎的结合

但是这个项目的实现利用了OpenCV图像捕捉和Mediapipe库来实现人体动作检测与识别,实现效果和准确度还不错,但是问题在于过于简陋的火柴人无法绑定到模型(模型骨骼)

项目概述

这次增加了模型的绑定,利用Mediapipe这个强大的库可以实现识别面部表情的捕捉人体结构运动的捕捉,基于以上的特性加入到Unity的人物模型中,实现实时的面部表情人体运行的捕捉

项目实现效果

2D面部表情实时捕捉


可以更换模型加入绿背应用于不同场景

3D人体动作实时捕捉


3D人体动作实时捕捉视频地址:https://live.csdn.net/v/234978

补充

项目目前问题很多,等待完善后会发布到GitHub

引用

本博客使用的3D模型资源来自Unity—Chan!

3D模型资源来自:

博客中使用到的2D模型资源来自Live2D


opencv+mediapipe手势动作捕捉与unity引擎的结合(代码片段)

OpenCV+Mediapipe手势动作捕捉与Unity引擎的结合前言Demo演示认识Mediapipe项目环境手势动作捕捉部分实时动作捕捉核心代码完整代码Hands.pypy代码效果Unity部分建模Unity代码UDP.csUDP.cs接收效果图Line.csHands.cs最终实现效果前言本篇文章... 查看详情

opencv+mediapipe人物动作捕捉与unity引擎的结合(代码片段)

OpenCV+Mediapipe人物动作捕捉与Unity引擎的结合前言Demo演示认识Mediapipe项目环境身体动作捕捉部分核心代码完整代码Motion.py运行效果Unity部分建模Line.csAction.cs最终实现效果前言本篇文章将介绍如何使用Python利用OpenCV图像捕捉,... 查看详情

关于unity中物理引擎的使用

...通过贴图显现出运算结果。一、物理引擎1:Unity2D物理引擎基于Box2D封装而成;2:物理引擎模拟物理运动和计算,物理引擎帮助我们计算物体运动;3:重力加速度;4:碰撞器是物体的形状+碰撞的物理参数(物理材质);5:刚体控制物体运动和... 查看详情

基于unity3d游戏引擎与leapmotion体感控制器的体感音乐交互类游戏

参考技术A体感音乐游戏融合了音乐,运动和游戏元素,使游戏玩家获得多种感官体验,受到游戏玩家特别是年轻玩家的青睐。本文利用unity3D游戏引擎配合leapmotion体感控制设备实现了一种体感音乐交互游戏。主要使用了手势检测... 查看详情

基于unity引擎开发的游戏源码修改方法

1此教程几乎可以修改基于UNITY制作99%的游戏2准备工具DLL修改: dnSpy/dnSpy资源查找:AssetStudio资源替换:UABE3修改前分析目前游戏主要存在2种代码一种是直接c#写的基于引擎的代码另外一种是使用lua来写逻辑的代码4.1如果是基于c#的使... 查看详情

利用unity制作3d游戏的大致步骤是怎样的

...觉化编辑、详细的属性编辑器和动态游戏预览特性。图形引擎:使用的是Direct3D、OpenGL和自有的APIs。资源导入:项目资源会被自动导入,并根据资源的改动而更新。Unity支持的主流三维建模有3dsmax、Maya、Blender等。着色器(shaders):... 查看详情

unity是干啥用的?

你说的是Unity3D吧,简称U3D,是一个游戏引擎,能使用C#语言开发游戏应用。Unity3D是由UnityTechnologies开发的一个让玩家轻松创建诸如三维视频游戏、建筑可视化、实时三维动画等类型互动内容的多平台的综合型游戏开发工具,是一... 查看详情

unity3d利用fsm设计相机跟随实现

...,国家专利发明人;已出版书籍:《手把手教你架构3D游戏引擎》电子工业出版社和《Unity3D实战核心技术详解》电子工业出版社等。CSDN视频网址:http://edu.csdn.net/lecturer/144 FSM有限状态机前面已经跟读者介绍过,使用Unity3D引擎实现... 查看详情

unity学习啥最重要?

...、可跨平台制作的游戏开发引擎。全平台游戏中有很多是基于Unity创作的,是目前游戏行业中使用比较广泛的游戏引擎之一。重点就是C#编程语言,其次是Unity引擎软件。UGUI、NGUI、DoTween等常用UI开发方式也必不可少;当然还需要... 查看详情

泰课在线的:htcvive基础入门基于unity3d引擎

 任务1:关注公众号即可下载本视频教程任务2:01-概述07:08任务3:02-HTCVive设备的安装08:33任务4:03-下载Steam与SteamVR03:05任务5:04-使用SteamVR调试设备14:40任务6:05-下载Unity3D03:24任务7:06-配置UnityVR开发环境09:43任务8:07-SteamVR... 查看详情

unity是啥?

...roid等移动设备的游戏。Unity所支持的游戏平台还延伸到了基于WebGL技术的HTML5网页平台,以及tvOS、OculusRift、ARKit等新一代多媒体平台。全平台(包括PC/主机/移动设备)游戏中有一半都是基于Unity创作的。使用Unity3d制作的游戏常见... 查看详情

什么是unity3d?

一种支持跨平台制作和发布3D和2D(4.3以后版本)游戏的引擎,支持包括iOS,android,pc,mac,甚至ps3,xbox360等游戏。提供游戏开发界面,支持插件模式,允许使用C#,Javascript等语言开发游戏脚本。引擎的免费版限制功能。付费版需要一... 查看详情

基于mediapipe的动作捕捉和unity的球棍模型同步(代码片段)

基于mediapipe的动作捕捉和Unity的球棍模型同步所需环境python端unity端效果所需环境这是我所使用的环境python3.9安装mediapipe和opencv-python包python和Unity通信使用socketUnity2021.3python端如何安装那两个包我就不说了,大家有不明白可以... 查看详情

unity3d插件是啥

...平台的综合型游戏开发工具,是一个全面整合的专业游戏引擎。    Unity类似于Director,Blendergameengine,Virtools或TorqueGameBuilder等利用交互的图型化开发环境为首要方式的软件其编辑器运行在Windows和MacOSX下,可发布游戏至Windows、M... 查看详情

什么是unity3d做什么用的?

...熟练的话,或者以后工作的话,建议用C#,因为unity3d是基于.net的,C#拥有更高性能。菜鸟教育竭诚为您服务。参考技术A你说的是Unity3D吧,简称U3D,是一个游戏引擎,能使用C#语言开发游戏应用。Unity3D是由UnityTechnologies开发的... 查看详情

基于opencv3.0和zbar下的条形码与二维码识别(代码片段)

其中对条码与二维码的识别分为以下4个步骤1.利用opencv和Zbar(或者Zxing)对标准的条形码图片(即没有多余背景干扰,且图片没有倾斜)进行解码,将解码信息显示出来,并与原始信息对比。2.利用opencv和Zbar(或者Zxing)对标准... 查看详情

基于unity的编辑器开发:gui框架技术

需求背景技术挑战GUI框架技术Unity渲染窗口GUIDockingPropertyEditor小结需求背景用Unity开发的游戏,需要做个关卡编辑器.如果只是内部用用,其实直接扩展Unity就够了;但问题是需要发布给外部的用户使用,那么总不能把全套资源和Unity发... 查看详情

unity3d引擎原理详细介绍

...构和对象模型,它获得更好的外观仅有一名Unity3D的游戏引擎和编辑器是非常有用的,它的主要原则。Unity3D引擎  Unity3D的是一个屡获殊荣的工具,用于创建交互式3D应用程序在多个平台.Unity3D由游戏引擎和编辑器。该引擎... 查看详情