北京大学刘宏志获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京大学申请的专利一种基于类别感知注意力的分类方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119577504B 。
龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411409783.9,技术领域涉及:G06F18/24;该发明授权一种基于类别感知注意力的分类方法及系统是由刘宏志;孙天琦;吴中海设计研发完成,并于2024-10-10向国家知识产权局提交的专利申请。
本一种基于类别感知注意力的分类方法及系统在说明书摘要公布了:本发明公开一种基于类别感知注意力的分类方法及系统,属于机器学习和数据科学领域。所述方法包括:将测试实例经过归一化后输入由多个基分类器构成的分类模型,得到该测试实例属于不同类别的置信度分数;其中,所述分类模型将测试实例嵌入到潜在空间中后,利用类别注意力头将测试实例的嵌入表示映射到每一类别特定空间,并结合该类别特定空间中所有基分类器的注意力权重,得到该测试实例属于该类别的置信度分数;基于该测试实例属于不同类别的置信度分数,得到所述测试实例的分类结果。本发明可以更准确地对数据进行分类。
本发明授权一种基于类别感知注意力的分类方法及系统在权利要求书中公布了:1.一种基于类别感知注意力的分类方法,其特征在于,所述方法包括: 将测试实例经过归一化后输入由多个基分类器构成的分类模型,得到该测试实例属于不同类别的置信度分数;其中,所述分类模型将测试实例嵌入到潜在空间中后,利用类别注意力头将测试实例的嵌入表示映射到每一类别特定空间,并结合该类别特定空间中所有基分类器的注意力权重,得到该测试实例属于该类别的置信度分数; 基于该测试实例属于不同类别的置信度分数,得到所述测试实例的分类结果; 其中,训练所述分类模型,包括: 将实例和基分类器嵌入到潜在空间中,得到实例和基分类器的嵌入表示; 利用类别注意力头,将实例和基分类器的嵌入表示映射到每一类别的特定空间,得到该类别的实例嵌入表征和基分类器嵌入表征; 基于该类别的实例嵌入表征和基分类器嵌入表征,计算该类别中每个基分类器的注意力权重; 结合所述基分类器的注意力权重和该基分类器对所述实例的预测结果,得到该实例属于该类别的置信度分数; 其中,在每个训练周期中,训练的损失函数L1表示用于增强对正确分类实例的基分类器的关注且减少对误分类实例的基分类器的依赖的注意力损失函数,L2表示用于避免模型过度依赖单一基分类器的铰链损失函数,LLCL表示用于增加采样到困难负例的可能性的局部对比损失函数,表示表示对于某个实例给予的权重,λ1表示对铰链损失函数L2给予的权重,λ2表示对局部对比损失函数LLCL给予的权重; 所述注意力损失函数表示实例i在类别h中基分类器j的注意力权重,是指示函数; 所述铰链损失函数m2表示第二设定阈值,表示实例i在类别h下的注意力权重; 所述局部对比损失函数m1表示第一设定阈值,dist表示距离函数,qi表示实例i的嵌入表示,表示实例i的正实例所对应的嵌入表示,表示实例i的负实例所对应的嵌入表示; 所述基于该类别的实例嵌入表征和基分类器嵌入表征,计算该类别中每个基分类器的注意力权重,包括: 基于实例嵌入表征和基分类器嵌入表征计算注意力值其中,表示实例i的嵌入表征,ej表示基分类器j的嵌入表征,h表示类别,yi表示实例i的标签,表示类别h的第一转换矩阵,Q表示注意力机制中的query,表示类别h的第二转换矩阵,K表示注意力机制中的key,表示基于第一转换矩阵对嵌入表征进行转换,d表示嵌入表征和嵌入表征ej的向量维度,τ表示用于调节注意力分布锐度的缩放因子; 计算实例i在类别h中基分类器j的注意力权重其中,M为基分类器的数量。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京大学,其通讯地址为:100871 北京市海淀区颐和园路5号北京大学;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励