西北工业大学程塨获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西北工业大学申请的专利一种面向人脸重演中表情分离任务的弱标注学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115424310B 。
龙图腾网通过国家知识产权局官网在2025-08-26发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210853247.2,技术领域涉及:G06V40/16;该发明授权一种面向人脸重演中表情分离任务的弱标注学习方法是由程塨;孙绪祥;仝慧紫;蔡晓妍;韩军伟;郭雷设计研发完成,并于2022-07-08向国家知识产权局提交的专利申请。
本一种面向人脸重演中表情分离任务的弱标注学习方法在说明书摘要公布了:本发明涉及一种面向人脸重演中表情分离任务的弱标注学习方法,本发明设计了一个人脸重演框架,包含一个面部网络,一个身份编码器,一个运动特征提取器,一个AdaAttN模块和两个判别器图像质量判别器和身份判别器。其中,面部网络和身份编码器需要通过预训练分别实现编码给定图像的面部信息和身份信息。此外,本发明使用多尺度的驱动图像的面部信息特征减去身份信息特征得到对应尺度的驱动图像的面部运动特征,并迁移图像翻译任务中的AdaAttN模块,以融合驱动图像的多尺度面部运动特征,并将其作为弱标注指导重演图像的生成。本发明能够在无需附加面部信息标注如面部标志点、轮廓线等的同时,解决运动特征的解耦问题,实现高质量的人脸重演。
本发明授权一种面向人脸重演中表情分离任务的弱标注学习方法在权利要求书中公布了:1.一种面向人脸重演中表情分离任务的弱标注学习方法,其特征在于步骤如下: 步骤1、构建并训练面部重构网络:由一个面部编码器和一个面部解码器串联而成,其中:面部编码器的网络结构由4个下采样模块和4个残差块串接为以Eface,面部解码器由4个上采样模块连接构成为Dface; 训练方式如下:将任意一张图片I输入面部编码器得到编码的面部特征,再将面部特征输入面部解码器得到I的重构图片Irec,对I和Irec做L1度量,并以此作为损失函数对面部网络进行训练; 使用一个多尺度的PatchGAN判别器D1与面部重构网络进行对抗训练,用于评定生成图像的真实性,网络结构如下:首先连接2个下采样模块,然后分三个分支,第一个分支继续连接一个全局自适应最大池化层和一个全连接层为输出一个标量,第二个分支连接两个下采样模块和一个用于调整通道数的卷积模块为输出尺度为1×30×30,第三个分支连接4个下采样模块和一个用于调整通道数的卷积模块为输出尺度为1×6×6;训练判别器D1时,分别输入生成图像和真实图像,对得到的三个尺度的输出特征分别计算损失后相加,优化函数如下: 其中,i表示判别器D1的第i个分支,表示对其输入求数学期望,log·表示对其输入求以10为底的对数; 训练面部重构网络的总损失函数为: 其中,是判别器提供的对抗损失,用于衡量面部网络重构图像的质量; 是I和Irec之间的L1损失; 其中,||·||1表示L1距离; 步骤2、构建并训练身份编码器:由4个下采样模块和4个残差块连接组成为Eid,具有双生网络结构; 对身份匹配器Eid进行训练:将一组图像I1和I2分别输入身份编码器,得到对应的身份编码向量z1和z2,计算z1和z2之间的L2距离;当I1和I2来自同一个身份时,它们之间距离越小越好;当I1和I2来自不同身份时,它们之间距离越大越好; 训练身份编码器的损失函数为: 其中,||·||2表示L2距离;max{·,·}2表示取两者较大值的平方;N表示批处理大小;Y为两个样本是否匹配的标签,Y=0表示I1和I2来自不同身份,Y=1表示I1和I2来自同一个身份;m=1为设定的阈值; 步骤3、构建面向人脸重演中表情分离任务的弱标注学习框架:包括步骤1中的面部重构网络,一个身份编码器,一个运动特征提取器和一个AdaAttN模块; 所述运动特征提取器由四个下采样模块串联组成; 所述AdaAttN模块是一个注意力模块,用于融合源图像的身份信息与驱动图像的面部运动特征; 步骤4、训练面向人脸重演中表情分离任务的弱标注学习框架:训练过程中需要训练额外两个判别器,分别为图像质量判别器为D2和身份判别器为D3; 所述图像质量判别器使用与步骤1的判别器D1具有相同架构的多尺度判别器,用于评定生成图像的真实性; 所述身份判别器采用双生的ResNeXt50结构,用于判断输入的真实人脸和生成人脸是否具有相同的身份; 在训练整体网络时,对步骤1和步骤2预训练好的面部网络和身份编码器进行微调;采用自监督的训练方式,即在训练阶段,驱动图像和源图像是来自同一个视频的不同帧,驱动图像作为重演图像的真值;以生成对抗网络经典的交替训练的方式端到端地训练整个网络; 训练图像质量判别器D2,分别输入生成图像和源图像,对得到的三个尺度的输出特征分别计算损失后相加得到最终损失,优化函数如下: 其中,i表示判别器D2的第i个分支; 对于身份判别器D3,其训练的优化函数如下: 其中,m=1为设定的阈值,Iss表示与源图像Is具有相同身份的图片; 总体损失函数为: 其中,是图像质量判别器D2提供的对抗损失; 是身份判别器D3提供的对抗损失; 是重演图片与真值即即驱动图像之间的L1距离损失; 是重演图片的面部特征与真值即即驱动图像的面部特征之间的L1距离损失; 是重演图片的身份特征与真值即即驱动图像的身份特征之间的L1距离损失; 步骤5、完成人脸重演:对于任意一张驱动图像和源图像,使用步骤4训练好的面向人脸重演中表情分离任务的弱标注学习框架生成重演图片,由此,即完成人脸重演任务。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西北工业大学,其通讯地址为:710072 陕西省西安市友谊西路;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。