什么是动作捕捉?

Xsens动作捕捉 2022-10-23 16872

动作捕捉(Motion Capture,也称为MoCap),是通过捕捉记录演员的动作和身体表演,将其数据转化为CGI角色运动动画的一种技术驱动型方法。MoCap可以跟踪各种类型的运动,例如身体动作和面部表情。动作捕捉技术现如今已经普遍运用在电影、动画以及游戏的制作中。
非常多经典电影人物都是通过动作捕捉技术塑造的:
什么是动作捕捉?  第1张
《蜘蛛侠》
什么是动作捕捉?  第2张
灭霸——《复仇者联盟4:终局之战》
什么是动作捕捉?  第3张
琼斯——《加勒比海盗》
什么是动作捕捉?  第4张
史矛革——《霍比特人:史矛革之战》
什么是动作捕捉?  第5张
妮特丽——《阿凡达》
如今,市面上有两种常见的运动捕捉方式。第一种是光学式运动捕捉,是通过对目标上特定光点的监视和跟踪来完成运动捕捉的任务。常见的光学式运动捕捉大多基于计算机视觉原理。
什么是动作捕捉?  第6张
第二种是惯性式运动捕捉,是将感应芯片封装后绑定在身体的重要关节点,通过芯片捕捉到关节点的多种变换,进而通过算法分析转化为人体的动作数据。

什么是动作捕捉?  第7张
那么如何根据实际情况来选择更加适合的动作捕捉系统呢?一般来说,主要从捕捉场景和精度需求来考虑。
根据捕捉场景
光学式动作捕捉设备的捕捉的范围受摄像头数量的限制,易受环境影响。所以,光学式动作捕捉适用于运动范围固定且环境中无噪点的区域。相比光学式动作捕捉系统,惯性式动作捕捉对于大范围的运动更加方便易行,且不受光线、环境等因素的影响,适用于环境复杂且运动区域较大的数据采集。
根据精度需求
现有市面上的光学式动作捕捉的设备已经可以达到毫米级别的精度,而惯性式动作捕捉的精度与光学式目前仍存在差距。通常科学研究中动作捕捉以及电影中的面部表情等的拍摄都是优先选择光学式动作捕捉设备;如果是简单的关节或者动作捕捉,则通过采用惯性捕捉方案。
什么是动作捕捉?  第8张
什么是动作捕捉?  第9张
什么是动作捕捉?  第10张
那有没有一种方法可以在没有硬件或运动数据的情况下生成运动捕捉动画呢?
来自NVIDIA、多伦多大学和Vector Institute的研究人员提出了一种新的动作捕捉方式,该方法取代了昂贵的动作捕捉硬件。它仅使用视频输入来改进过去的动作捕捉动画模型。
什么是动作捕捉?  第11张
这项创新技术仅通过视频输入使用AI捕获运动数据,并将其转换为数字化身。然后他们可以给“化身”一个物理模拟,以消除脚滑动时标记点丢失或闪烁的传统挑战。
什么是动作捕捉?  第12张
什么是动作捕捉?  第13张
什么是动作捕捉?  第14张
该技术框架通过优化不变的接触行为(包括计算接触力)强制执行物理约束来改进复杂姿势的预估。然后,在精炼的姿势上训练一个时间序列生成模型,综合未来的运动和接触力。结果表明,基于物理的细化进行姿势预估和视频的运动合成,结果都显著提升了性能。该技术有望能够通过利用大型在线视频资源来实现更具可拓展性的人体运动合成。
什么是动作捕捉?  第15张
这个框架让人们离在虚拟世界中工作和娱乐更近了一步。它将帮助开发人员以更经济的方式制作人体运动动画,并提供更多样化的运动。

随着技术的推动、IP商业发展等新方向的开拓,虚拟偶像为代表的虚拟人技术,愈发普遍地进入到大众的日常娱乐生活。

什么是动作捕捉?  第16张

虚拟偶像的形象是虚拟的,她们通过动作捕捉技术来进行表演,她们真实的性格特点则是通过表演者的语气,丰富的表情及肢体动作以及塑造的虚拟形象来呈现。

什么是动作捕捉?  第17张

从虚拟偶像看身体运动捕捉技术存在什么问题?

在涉及多人同台表演时,虚拟人之间的互动动作往往存在穿模、不自然等问题。

于是,来自东京工业大学的研究人员就开发出了一种新方法,可以让虚拟人之间的互动看起来更加真实,引发了无数网友围观,并获得了8000网友狂点赞。

该项技术下的两个虚拟角色动画中,面对不同的下手力度给到对面的虚拟人的反应(即身体摆动的幅度)也会跟着不一样。

什么是动作捕捉?  第18张
什么是动作捕捉?  第19张

该团队是如何解决多人运动捕捉穿模问题的呢?

首先要明确是出现穿模以及不自然问题的根本原因是虚拟人背后的扮演者并不会在互动时真的和对方扮演者发生身体接触,所以最终动作就很容易不自然。

什么是动作捕捉?  第20张

虽然通过简单的物理模拟可以解决这个问题,但是会导致动作延迟。东京工业大学便提出先通过物理模拟来计算动作产生时对方虚拟人可能受到的力,然后给虚拟人自动生成、“脑补”出相应动作,再结合前馈控制来减少跟踪延迟。


什么是动作捕捉?  第21张

整个系统在Unity上开发完成,由两个物理模拟模块组成,一个是主模拟,另一个是计算跟踪扭矩(tracking torque)的模拟。

简单来说就是一个负责计算需要产生的扭矩,另一个(也就是主仿真模块)负责让虚拟人执行相应的身体摆动幅度。

这样一来,就能在背后的扮演者并未真正接触的情况下,实现虚拟人之间无延迟的互动,并产生合理的身体反应。除此之外,该方法还能自动生成让虚拟人恢复到原始姿势的动作。

面部捕捉技术如何在实时写实方面进行新突破?

近日,LBM digital creations在Youtube上发布了一条关于面部捕捉的测试视频。

测试视频中,虚拟模型的制作非常精细,几乎和真人无异。对于面部表情动作的还原也是非常真实,就连肌肉的微妙变化也复原得很流畅生动。

什么是动作捕捉?  第22张
LBM digital creations发布的面部实时捕捉测试
什么是动作捕捉?  第23张
眼部运动细节特写
什么是动作捕捉?  第24张
说话时的嘴部运动

其实不久前来自日本的CG大神Hirokazu Yokohara也曾分享了他利用MAYA+换脸软件就实现了实时写实面部捕捉控制系统,其面部肌肉的运动变化十分细微真实。

什么是动作捕捉?  第25张

这套系统中,MAYA本身是自带一套面部绑定系统的,这里的换脸软件就是曾经爆火的DeepFace Live,它可以非常真实得把直播时的人脸实时转换成任何其他角色的面部。

什么是动作捕捉?  第26张

事实上,国内对于实时高精度面部捕捉技术也已经所建树。原力数字科技是国内最早成立的CG领域公司之一了,近年更是依托在动画制作领域长期积累的深厚技术经验,乘胜追击自主研发出一套基于深度学习的数字人面部动画解决方案,实现了从智能计算到动画生产制作的应用落地。

这套解决方案总共包含三个模块,分别是面部动作采集,面部动画绑定以及声音驱动。

(1)面部动作采集——OF_DeepFace
基于神经网络的无标记点实时面捕捕捉系统
什么是动作捕捉?  第27张
(2)面部动画绑定——OF_DeepRig 
基于神经网络的面部绑定加速模块
什么是动作捕捉?  第28张
(3)声音驱动——OF_Deep_Audio2Animation
基于音频分析的面部动画驱动模块
什么是动作捕捉?  第29张

国内另一家优秀的CG公司FACEGOOD也致力于面部捕捉技术,经过长达五年的潜心研究,终于也在去年正式推出面部表情动画全流程产品——Avatary软件及配套硬件。

于去年11月在海外期刊发表的一篇论文中宣布已经把数字人高精度实时面捕捕捉技术搞定了,引起了业内的广泛关注。

FACEGOOD团队在论文中提出他们的实时面捕算法只需要一个普通的摄像头就可以达到和离线一样的精度,并且记录的面部数据可以实时进入后续的精修阶段,大大提高了面部动画的制作效率。

什么是动作捕捉?  第30张
什么是动作捕捉?  第31张
什么是动作捕捉?  第32张
实时面部捕捉展示

国内的CG行业刚刚开始接触技术工业一块,研发个体工作室工具是工业化的开始。只有系统性的工业化流程加每个板块的研发才是CG技术的核心竞争。相信迟早有一天,国内的企业会在CG模块的技术领域跟上欧美大厂市场。

(摘自:wuhu动画人空间)
什么是动作捕捉?  第33张

影视技术特攻队是一支经验丰富、技术精湛的团队,将为您提供最好的影视技术服务。 

业务介绍:

1.提供大型真人秀节目及各类型晚会活动技术支持

2.提供2K、4K技术设备租赁服务

3.提供各种不同规模的演播厅租赁服务

详情请联系:

15974261980,13755056955

微信号:cao807886511,qiu654903

The End