买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学院自动化研究所申请的专利基于上复用混合多样性专家大模型的代码生成方法及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119556939B 。

龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510114240.2，技术领域涉及：G06F8/41；该发明授权基于上复用混合多样性专家大模型的代码生成方法及装置是由王方圆;齐帅;徐博;徐波设计研发完成，并于2025-01-24向国家知识产权局提交的专利申请。

本基于上复用混合多样性专家大模型的代码生成方法及装置在说明书摘要公布了：本发明提供一种基于上复用混合多样性专家大模型的代码生成方法及装置，属于人工智能领域，该方法包括：获取代码描述信息；将代码描述信息输入至经过训练的代码大模型，获取代码大模型输出的代码；代码大模型为基于上复用混合多样性专家的大模型；代码大模型是在稠密模型的基础上增加一个共享专家和多个普通专家构建而成；共享专家复用稠密模型的FFN模块的参数；共享专家用于提取词元的通用知识；普通专家采用随机初始化的方式进行初始化参数；普通专家用于提取词元的专用知识。本发明在稠密模型的基础上增加一个共享专家和多个普通专家构建代码大模型，采用多样性上复用机制，提高了生成的代码的准确率。

本发明授权基于上复用混合多样性专家大模型的代码生成方法及装置在权利要求书中公布了：1.一种基于上复用混合多样性专家大模型的代码生成方法，其特征在于，包括： 获取代码描述信息；所述代码描述为用户输入的自然语言描述；所述代码描述信息包括功能描述信息、语法描述信息以及个性化编码风格需求中的至少一种； 将所述代码描述信息输入至经过训练的代码大模型，获取所述代码大模型输出的代码； 所述代码大模型为基于上复用混合多样性专家的大模型；所述代码大模型是在稠密模型的基础上增加一个共享专家和M个普通专家构建而成；所述共享专家复用所述稠密模型的FFN模块的参数；所述共享专家用于提取词元的通用知识；所述普通专家采用随机初始化的方式进行初始化参数；所述普通专家用于提取词元的专用知识，其中M为大于或等于2的整数； 所述代码大模型的训练，包括： 基于所述共享专家处理不同词元后的输出，确定所述共享专家的词元输出差异； 基于所述普通专家处理不同词元后的输出，确定所述普通专家的词元输出差异； 以所述普通专家的词元输出差异大于所述共享专家的词元输出差异为约束条件，确定多样性损失函数值； 基于所述多样性损失函数值确定总损失； 基于所述总损失指导所述代码大模型的训练； 所述基于所述共享专家的词元输出差异和所述普通专家的词元输出差异确定多样性损失函数值，包括： 所述共享专家的词元输出差异，计算公式如下： 其中，Ds代表词元输入到共享专家之后的输出差异，fSxi代表共享专家处理第i个词元xi之后的输出，fSxj代表共享专家处理第j个词元xj之后的输出，t代表输入的词元个数； 计算普通专家的词元输出差异，计算公式如下： 其中，DEk代表第k个普通专家的词元输出差异，DO代表所有普通专家的词元输出差异，fEkxi代表第k个普通专家处理第i个词元xi之后的输出，fEkxj代表第k个普通专家处理第j个词元xj之后的输出，e代表专家的总个数，n代表输入的词元个数； 计算多样性损失函数值Ldiverse，具体计算公式如下： 式中，设置DO大于Ds； 所述基于所述多样性损失函数值确定总损失，包括： 将所述多样性损失函数值作为附加损失加入到混合专家大模型整体损失函数L中，确定所述总损失Ltotal，计算公式如下： L＝Llm+αLbalance Ltotal＝Llm+αLbalance+βLdiverse 式中，Llm表示大模型的损失函数，Lbalance表示专家之间的平衡损失，Ldiverse表示多样性损失函数值，α和β均为预设参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学院自动化研究所，其通讯地址为：100190 北京市海淀区中关村东路95号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。