苏州元脑智能科技有限公司侯鹏宇获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州元脑智能科技有限公司申请的专利答复文本生成方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121189294B 。
龙图腾网通过国家知识产权局官网在2026-02-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511756142.5,技术领域涉及:G06F40/166;该发明授权答复文本生成方法及装置是由侯鹏宇;王彦伟设计研发完成,并于2025-11-26向国家知识产权局提交的专利申请。
本答复文本生成方法及装置在说明书摘要公布了:本申请公开了一种答复文本生成方法及装置,涉及模型优化技术领域,包括:在模型训练过程中对特征训练矩阵进行量化张量列分解,以与权重矩阵和偏置进行计算;在模型推理的预填充阶段,利用模型训练后的张量分解形式的权重矩阵和偏置,与进行矩阵张量分解操作后的特征矩阵进行矩阵乘加运算;在解码阶段,对一维特征向量进行张量分解,以与张量分解形式的权重矩阵和偏置进行矩阵乘加,以基于对应的计算结果生成目标答复文本,解决了相关技术中,对矩阵分解计算过程中秩的选择要求较高,使得复杂度难以有效降低,或易导致利用分解形式得到的计算结果与原结果的误差较大的技术问题,达到了大幅降低存储和计算复杂度,有效提升推理性能的技术效果。
本发明授权答复文本生成方法及装置在权利要求书中公布了:1.一种答复文本生成方法,其特征在于,包括以下步骤: 获取目标用户的初始文本信息,并将所述初始文本信息输入至预先训练的自回归语言模型中,以生成所述初始文本信息对应的特征矩阵,且对所述特征矩阵进行预设矩阵量化张量列分解操作,以得到对应的特征矩阵列分解结果; 获取所述自回归语言模型对应的张量分解形式的权重推理矩阵和偏置推理张量,并在推理过程的预填充阶段对所述特征矩阵列分解结果、所述权重推理矩阵和所述偏置推理张量进行矩阵乘加运算,以得到所述自回归语言模型对应的预填充矩阵乘加结果; 在推理过程的解码阶段,基于所述预填充矩阵乘加结果,生成当前词元的一维特征向量,并对所述一维特征向量进行预设量化处理,以得到满足预设维度要求的目标特征张量,且对所述目标特征张量进行预设向量量化张量列分解操作,以得到对应的向量列分解结果; 将所述向量列分解结果和所述权重推理矩阵相乘,以得到对应的向量矩阵乘积结果,且基于所述向量矩阵乘积结果和所述偏置推理张量,计算所述自回归语言模型对应的解码矩阵乘加结果,以根据所述解码矩阵乘加结果生成所述初始文本信息对应的目标答复文本。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励