河北工业大学张满囤获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉河北工业大学申请的专利基于特征增强的人脸关键点检测方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115205940B 。
龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210847877.9,技术领域涉及:G06V40/16;该发明授权基于特征增强的人脸关键点检测方法是由张满囤;刘川;申冲;师子奇;权子洋;史京珊;郭竹砚设计研发完成,并于2022-07-19向国家知识产权局提交的专利申请。
本基于特征增强的人脸关键点检测方法在说明书摘要公布了:本发明为基于特征增强的人脸关键点检测方法,首先提取人脸图像的卷积特征,并将卷积特征映射为图节点特征;根据数据集生成关键点邻接矩阵,将图节点特征和关键点邻接矩阵输入到特征增强模块中,特征增强模块由四个沙漏网络级联而成,相邻两个沙漏网络之间插入消息传递层,同时根据人脸面部结构将关键点进行分组,每组关键点连成一条边界,一共得到13条边界;将边界等效为树节点,构建双向树结构,通过双向树结构进行消息传递,得到增强节点特征;增强节点特征经过关键点生成模块的图卷积推理,预测得到关键点坐标矩阵,完成人脸关键点检测。该方法利用消息传递机制使得可见边界可以根据人脸面部结构为遮挡边界提供信息,提高了预测关键点坐标的准确性。
本发明授权基于特征增强的人脸关键点检测方法在权利要求书中公布了:1.一种基于特征增强的人脸关键点检测方法,其特征在于,该方法包括以下步骤: 步骤1、获取由多张人脸图像组成的数据集,每张人脸图像包含N个关键点,关键点分布在人脸外轮廓、眉毛轮廓、唇部轮廓以及鼻梁位置; 步骤2、构建人脸关键点检测模型,包括特征提取模块、节点嵌入模块、邻接矩阵生成模块、特征增强模块和关键点生成模块; 2-1、人脸图像经过特征提取模块得到卷积特征,节点嵌入模块将卷积特征映射为图节点特征; 2-2、通过邻接矩阵生成模块得到关键点邻接矩阵; 首先,在训练之前将数据集构建成一个三阶数据张量 表示实数空间,M表示人脸图像的数量,x,y表示关键点的坐标;然后,沿着x和y方向将三阶数据张量T分割为数据张量和所有人脸图像组成数据张量Tx和Ty的行,每张人脸图像所有关键点的横、纵坐标分别组成数据张量Tx和Ty的列;根据数据张量Tx,计算关键点之间沿x方向的皮尔逊相关系数,得到x方向相关系数矩阵同理,得到y方向相关系数矩阵再通过式1计算人脸图像中关键点之间的皮尔逊相关系数,得到关系矩阵C; 式中,abs·表示返回矩阵元素的关键值; 选取关系矩阵C中每行较大的n个值来构建稀疏矩阵Q,为每个关键点选取n个最相关的关键点;通过式2对稀疏矩阵Q进行归一化,得到关键点邻接矩阵; 式中,Qij、Cij分别表示稀疏矩阵Q和关系矩阵C中第i行第j列的元素,表示每行较大的n个值; 2-3、特征增强模块由四个沙漏网络级联而成,相邻两个沙漏网络之间插入一个消息传递层;将图节点特征和关键点邻接矩阵输入到特征增强模块中,得到增强节点特征; 根据人脸面部结构对所有关键点进行分组,每组关键点连成一条边界,一共得到13条边界,分别为人脸外轮廓、左眉毛、右眉毛、鼻梁、鼻子下边界、左眼睛上边界、左眼睛下边界、右眼睛上边界、右眼睛下边界、上嘴唇上边界、上嘴唇下边界、下嘴唇上边界和下嘴唇下边界;定义:人脸外轮廓分别与左、右眉毛,左、右眼睛下边界和下嘴唇下边界之间存在联系,左眼睛上边界分别与左眉毛和左眼睛下边界之间存在联系,右眼睛上边界分别与右眉毛和右眼睛下边界之间存在联系,鼻梁分别与左、右眼下边界和鼻子下边界存在联系,上嘴唇上边界分别与鼻子下边界和上嘴唇下边界存在联系,下嘴唇上边界分别与上嘴唇下边界和下嘴唇下边界存在联系;将边界等效为树节点,将存在联系的边界对应的树节点连接起来,构造由树结构A和B组成的双向树结构,树结构A和B中的树节点A1~A13和树节点B1~B13分别表示人脸外轮廓、左眉毛、右眉毛、鼻梁、鼻子下边界、左眼睛上边界、左眼睛下边界、右眼睛上边界、右眼睛下边界、上嘴唇上边界、上嘴唇下边界、下嘴唇上边界和下嘴唇下边界; 消息传递分为层内消息传递和层间消息传递,层内消息按照双向树结构进行传递;对于第一个沙漏网络与第二个沙漏网络之间的消息传递层,当按照树结构A进行传递时,对每个树节点进行一次由卷积层、批归一化层、激活层、层间消息传递层和层内消息传递层组成的循环操作;首先,第一次循环操作从树节点A1开始,第一个沙漏网络输出的图节点特征经过卷积层,得到特征F,特征F经过批归一化层和激活层后,得到特征R1;特征R1经过三个分支操作,一是,将特征R1放入特征矩阵result_A中,并对特征矩阵result_A进行更新,特征矩阵result_A初始为空;二是,特征R1经过层间消息传递层后,得到层间消息传递特征MsgA1,并将层间消息传递特征MsgA1放入层间特征矩阵中,并对层间特征矩阵进行更新;三是,特征R1经过层内消息传递层后,得到层内消息传递特征Inner1_out;由于树节点A1会影响树节点A2、A3、A7、A9和A13,因此将层内消息传递特征Inner1_out分别放置在邻接树节点特征矩阵中树节点A2、A3、A7、A9和A13对应的位置,分别记为邻接树节点特征Msg_a2、Msg_a3、Msg_a7、Msg_a9和Msg_a13,邻接树节点特征矩阵初始为空;接着,进行第二次循环操作对树节点A13进行操作,第一个沙漏网络输出的图节点特征经过卷积层,得到维度为特征F,特征F与数节点A13的邻接树节点特征Msg_a13相加后再经过批归一化层和激活层,得到特征R2;特征R2经过三个分支操作,一是,将特征R2放入特征矩阵result_A中对特征矩阵result_A进行更新;二是,特征R2经过层间消息传递层后,得到层间消息传递特征MsgA13,将层间消息传递特征MsgA13放入层间特征矩阵中,对层间特征矩阵进行更新;三是,特征R2经过层内消息传递层中,得到层内消息传递特征Inner13_out;由于树节点A13会影响树节点A12,因此将层内消息传递特征Innerl3_out作为树节点A12的邻接树节点特征并放置在邻接树节点特征矩阵中树节点A12对应的位置,对邻接树节点特征矩阵进行更新;同理,对其余树节点进行循环操作,得到特征矩阵result_A和层间特征矩阵;在对其余树节点进行循环操作时,将特征F与该树节点的邻接树节点特征相加后再经过批归一化层和激活层;对树结构B的各个树节点进行相同的循环操作,得到特征矩阵result_B和更新后的层间特征矩阵; 最后,将特征矩阵result_A和result_B按第0维进行连接得到13个特征,这13个特征分别经过卷积、批归一化和激活操作得到13个节点特征,再将13个节点特征按第0维连接得到节点特征,此节点特征再经过一次卷积、批归一化和激活操作,得到该消息传递层的输出特征; 对于层间消息传递,下一个消息传递层每次循环操作中,沙漏网络输出的图节点特征经过卷积后,再与上一个消息传递层得到的层间特征矩阵中树节点对应的层间消息传递特征相加后,再经过批归一化层和激活层,实现层间消息传递; 2-3、增强节点特征经过关键点生成模块的图卷积推理,预测得到关键点坐标矩阵; 首先,构建一个服从均匀分布的可训练的参数矩阵,将增强节点特征分别与参数矩阵的第0维和第1维相乘,得到关键点坐标矩阵h0和h1;其次,为关键点邻接矩阵的所有非零位置设置权重,分别得到关键点自身权重矩阵和邻接关键点权重矩阵;最后,将关键点自身权重矩阵与关键点坐标矩阵h0相乘,邻接关键点权重矩阵与关键点坐标矩阵h1相乘,再将相乘后的结果相加,相加后的矩阵再经过批归一化层和激活层,得到关键点坐标矩阵,即人脸关键点的坐标; 步骤3、利用数据集对人脸关键点检测模型进行训练,将训练后的人脸关键点检测模型用于人脸关键点检测。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人河北工业大学,其通讯地址为:300130 天津市红桥区丁字沽光荣道8号河北工业大学东院330#;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。