Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 苏州元脑智能科技有限公司温东超获国家专利权

苏州元脑智能科技有限公司温东超获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉苏州元脑智能科技有限公司申请的专利自然语言处理方法、电子设备、存储介质和程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120234409B

龙图腾网通过国家知识产权局官网在2025-08-22发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510714845.5,技术领域涉及:G06F16/334;该发明授权自然语言处理方法、电子设备、存储介质和程序产品是由温东超;卢丽华设计研发完成,并于2025-05-30向国家知识产权局提交的专利申请。

自然语言处理方法、电子设备、存储介质和程序产品在说明书摘要公布了:本申请公开了一种自然语言处理方法、电子设备、存储介质和程序产品,涉及计算机技术领域,本申请通过知识蒸馏机制,生成包括多个零向量列权重矩阵的学生网络模型,使得在存储学生网络模型时,可以省略权重矩阵中的零向量列,降低了存储需求,进而节省大量的存储空间,在通过存储的学生网络模型对文本数据进行推理运算时,零向量列不参与运算,降低了计算量,提升了推理运算速度,进而提高了整体运算效率。

本发明授权自然语言处理方法、电子设备、存储介质和程序产品在权利要求书中公布了:1.一种自然语言处理方法,其特征在于,所述方法包括: 获取预构建的教师网络模型; 基于所述教师网络模型和知识蒸馏机制,生成目标学生网络模型,所述目标学生网络模型至少包括一个权重矩阵,所述权重矩阵中至少包括一个零向量列; 响应于接收到自然语言处理请求,获取文本数据,将所述文本数据划分为多个词元; 将所述词元输入至所述目标学生网络模型,基于所述目标学生网络模型中包括所述零向量列的权重矩阵,对所述词元进行推理计算,以确定所述文本数据对应的输出结果; 其中,基于所述教师网络模型和知识蒸馏机制,生成目标学生网络模型包括: 基于所述教师网络模型,构建第一学生网络模型,其中,利用W′1表示所述第一学生网络模型中的权重矩阵,W′1=W″1Q,Q表示第一对角矩阵,W″1表示随机初始化的矩阵;基于所述教师网络模型和所述第一学生网络模型,构建训练损失函数,所述训练损失函数是以蒸馏损失函数和任务相关损失函数为自变量的函数; 获取训练数据; 基于所述训练损失函数和所述训练数据,对所述第一学生网络模型进行训练,以对所述第一学生网络模型中的权重矩阵进行更新; 响应于当前训练周期为预设训练周期,结束训练,得到第二学生网络模型,其中,利用W′2表示所述第二学生网络模型中的权重矩阵,W′2=W″2Q,W″2表示训练更新后的随机初始化矩阵; 按照大小顺序,对所述第一对角矩阵中的对角线元素进行排序; 根据预设比例,从排序结果中选取多个元素值,将未被选取的其他元素值置零处理,生成第二对角矩阵Q′; 基于所述第二对角矩阵Q′和W″2的乘积,确定第三学生网络模型中的权重矩阵为W3=W″2Q′; 对所述第三学生网络模型的权重矩阵中零向量列进行固定,将其余列中的元素值状态设置为可学习状态; 基于所述任务相关损失函数和目标任务节点对应的文本数据,对所述第三学生网络模型进行训练,以更新所述其余列中的元素值; 响应于训练完成,生成所述目标学生网络模型。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。