Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 中国科学院自动化研究所郭龙腾获国家专利权

中国科学院自动化研究所郭龙腾获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉中国科学院自动化研究所申请的专利一种面向混合专家大模型的动态高效路由方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119514638B

龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411348957.5,技术领域涉及:G06N3/092;该发明授权一种面向混合专家大模型的动态高效路由方法及装置是由郭龙腾;刘静;岳同天设计研发完成,并于2024-09-26向国家知识产权局提交的专利申请。

一种面向混合专家大模型的动态高效路由方法及装置在说明书摘要公布了:本发明提供一种面向混合专家大模型的动态高效路由方法及装置,该方法包括:获取输入数据和预先训练的混合专家大模型,其中,混合专家大模型包括分配器模块和路由器;将输入数据分为多个词元,利用分配器模块确定每个词元的最优专家数量;利用路由器根据最优专家数量为每个词元选择专家组合,并将每个词元路由到对应的专家组合。能够根据每个词元的难度和重要性自适应地调整激活的专家数量,这种机制不仅提高了计算资源的利用效率,而且通过精细化的资源分配,进一步提升了模型的性能。

本发明授权一种面向混合专家大模型的动态高效路由方法及装置在权利要求书中公布了:1.一种面向混合专家大模型的动态高效路由方法,其特征在于,包括: 获取输入数据和预先训练的混合专家大模型,其中,所述混合专家大模型包括分配器模块和路由器,所述输入数据为文本; 将输入数据分为多个词元,利用分配器模块确定每个词元的最优专家数量; 利用路由器根据最优专家数量为每个词元选择专家组合,并将每个词元路由到对应的专家组合; 在将输入数据分为多个词元,利用分配器模块确定每个词元的最优专家数量之前,所述方法还包括: 使用策略梯度算法训练所述分配器模块; 所述使用策略梯度算法训练所述分配器模块,包括: 对于每个训练样本,将训练样本分解为多个词元; 使用分配器模块为每个词元生成专家数量的概率分布; 根据概率分布进行采样,确定激活的专家数量; 使用激活的专家对词元进行推理,并计算相应的性能指标; 将所述激活的专家数量和性能指标输入预先定义的奖励函数计算每个训练样本的奖励值; 基于奖励值使用策略梯度算法更新分配器模块的策略参数,使期望回报最大化。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院自动化研究所,其通讯地址为:100190 北京市海淀区中关村东路95号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。