Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 西安交通大学李鹏获国家专利权

西安交通大学李鹏获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉西安交通大学申请的专利边缘计算环境中部署混合专家模型的优化方法及相关设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119721178B

龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411926899.X,技术领域涉及:G06N3/092;该发明授权边缘计算环境中部署混合专家模型的优化方法及相关设备是由李鹏;刘涛;潘胜利设计研发完成,并于2024-12-25向国家知识产权局提交的专利申请。

边缘计算环境中部署混合专家模型的优化方法及相关设备在说明书摘要公布了:本发明公开了一种边缘计算环境中部署混合专家模型的优化方法及相关设备,通过预先训练好的优化模型,接收各用户的推理请求,并输出这些请求向各边缘服务器的分配方案,以及各服务器的专家混合量化位宽方案。优化模型的训练过程包括:收集用户推理请求,构建预训练数据,预训练数据包括随机生成的推理请求分配和对应的专家混合量化位宽;利用这些数据预训练强化学习中的策略网络;将用户推理请求输入初始化策略网络,得到分配方案和量化位宽方案;根据这些方案对用户推理请求进行服务,得到服务质量,并将其作为策略网络的奖励,迭代更新网络参数,直至服务质量达到预设要求。本发明旨在通过动态调整边缘服务器的专家量化比特宽度,并结合用户推理请求的分配优化,实现高精度、低延迟的边缘推理服务。

本发明授权边缘计算环境中部署混合专家模型的优化方法及相关设备在权利要求书中公布了:1.一种边缘计算环境中部署混合专家模型的优化方法,其特征在于,包括: 获取当前各用户的推理请求; 将所述当前各用户的推理请求输入至预先训练好的优化模型中,输出各用户的推理请求向各边缘服务器的分配方案,以及各边缘服务器的专家混合量化位宽方案; 其中,所述优化模型的训练方法包括: 获取各用户的推理请求; 利用各用户的推理请求构建预训练数据,所述预训练数据包括利用各用户的推理请求随机生成的推理请求分配,以及各边缘服务器服务随机生成的推理请求分配时,根据推理请求分配的专家激活频率决策出的专家混合量化位宽,具体为: 将每个边缘服务器被随机分配到的推理请求输入至本地原始混合专家模型中,得到本地原始混合专家模型中各专家的被激活频率;其中,所述本地原始混合专家模型包括多层专家组,每层专家组包括多个专家; 按照每一层专家组中各专家的被激活频率,决策出该层专家组中各专家的量化位宽; 所有层专家组中各专家的量化位宽组成本地混合专家模型的混合量化决策; 利用所述预训练数据预训练强化学习中的策略网络,得到初始化策略网络; 将各用户的推理请求输入所述初始化策略网络,得到当前策略网络输出的各用户的推理请求向各边缘服务器的分配方案,以及各边缘服务器的专家混合量化位宽方案; 利用当前策略网络输出的各用户的推理请求向各边缘服务器的分配方案,以及各边缘服务器的专家混合量化位宽方案,对各用户的推理请求进行服务,得到服务质量; 将所述服务质量作为当前策略网络的奖励,迭代更新当前策略网络的参数,直至所述服务质量达到预设要求,得到所述优化模型。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安交通大学,其通讯地址为:710049 陕西省西安市碑林区咸宁西路28号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。