买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉南京大学申请的专利一种用于大模型的输入向量处理方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119829736B 。

龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411877903.8，技术领域涉及：G06F16/334；该发明授权一种用于大模型的输入向量处理方法及系统是由杜力;解晨佳;杜源设计研发完成，并于2024-12-18向国家知识产权局提交的专利申请。

本一种用于大模型的输入向量处理方法及系统在说明书摘要公布了：本申请提供一种用于大模型的输入向量处理方法及系统，所述方法包括：获取输入向量；将输入向量token化，得到标记；初始标记、中间标记、当前标记由输入向量token化的时间所确定；基于标记，得到标记的矩阵集；将中间标记对应的键矩阵和值矩阵进行分组，得到若干组键值对矩阵；计算每组键值对矩阵中键矩阵的平均值，得到目标键矩阵；基于当前标记对应的查询矩阵，以及目标键矩阵，得到中间键值对矩阵；基于中间键值对矩阵、初始标记和当前标记对应的键矩阵和值矩阵，得到目标键值对矩阵；目标键值对矩阵用于执行注意力计算操作，得到输入向量的输出结果，以解决目前的大模型对于输入向量处理时，计算压力较大且计算精度较低的问题。

本发明授权一种用于大模型的输入向量处理方法及系统在权利要求书中公布了：1.一种用于大模型的输入向量处理方法，其特征在于，包括： 获取输入向量； 将所述输入向量token化，得到标记；所述标记包括：初始标记、中间标记、当前标记；所述初始标记、中间标记、当前标记由所述输入向量token化的时间所确定； 基于所述标记，得到所述标记的矩阵集；所述矩阵集包括：查询矩阵、键矩阵、值矩阵； 将所述中间标记对应的所述键矩阵和所述值矩阵进行分组，得到若干组键值对矩阵； 计算每组所述键值对矩阵中所述键矩阵的平均值，得到目标键矩阵； 基于所述当前标记对应的查询矩阵，以及所述目标键矩阵，得到中间键值对矩阵； 基于所述中间键值对矩阵、初始标记和当前标记对应的键矩阵和值矩阵，得到目标键值对矩阵；所述目标键值对矩阵用于执行注意力计算操作，得到所述输入向量的输出结果； 所述基于所述当前标记对应的查询矩阵，以及所述目标键矩阵，得到中间键值对矩阵的步骤，包括： 基于所述当前标记对应的查询矩阵，以及所述目标键矩阵，执行矩阵乘操作，得到所述当前标记的查询矩阵和所述目标键矩阵的相似度分数； 根据所述相似度分数，获取最大相似度分数的所述目标键矩阵； 确定所述最大相似度分数的所述目标键矩阵在所述键值对矩阵中的所在分组，得到中间键值对矩阵。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南京大学，其通讯地址为：210023 江苏省南京市栖霞区仙林大道163号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。