西南交通大学郑丹阳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西南交通大学申请的专利一种在边缘算力网络中低成本部署混合专家大模型的方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119449624B 。
龙图腾网通过国家知识产权局官网在2025-08-22发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411690071.9,技术领域涉及:H04L41/14;该发明授权一种在边缘算力网络中低成本部署混合专家大模型的方法是由郑丹阳;任佳奇设计研发完成,并于2024-11-25向国家知识产权局提交的专利申请。
本一种在边缘算力网络中低成本部署混合专家大模型的方法在说明书摘要公布了:本发明隶属新一代信息技术领域,具体地说,是一种在边缘算力网络中低成本部署混合专家大模型的方法,包括以下步骤:一、问题定义与初始化;二、首个专家模型部署方法;包括成本计算及首个专家模型部署操作;三、后续专家模型部署方法;包括已部署节点集更新、成本更新、后续专家模型部署及路由操作;四、重复与终止;五、输出。本发明通过降低单次专家模型的平均部署成本,实现了降本增效的目标,为大模型服务供应商提供了资源节约且效益更高的混合专家模型在边缘计算网络中的部署方案。
本发明授权一种在边缘算力网络中低成本部署混合专家大模型的方法在权利要求书中公布了:1.一种在边缘算力网络中低成本部署混合专家大模型的方法,其特征在于:包括以下步骤: 一、问题定义与初始化; 问题定义:给定一个物理网络G=N,L和一组专家模型部署请求R={EM,BW},目标是确定如何在物理网络上部署这些专家模型,以满足资源约束并最小化总体部署成本; 初始化:定义物理网络为无向图G=N,L,其中N为物理节点集,L为物理链路集;同时,初始化所有节点的资源使用情况和链路的带宽使用情况为0; 二、首个专家模型部署方法; 成本计算:对于每个物理节点n和每个专家模型v,计算将v部署在n上的成本,包括运行专家模型的计算成本和存储专家模型相关参数的存储成本 首个专家模型部署操作:使用最小成本指标来度量识别总成本最小的一对物理节点n和专家模型v,并将对应的专家模型部署到对应的节点上; 三、后续专家模型部署方法; 已部署节点集更新:设为已确定用于支持EM的节点集;在完成首个专家模型部署操作后,至少包含一个物理节点; 成本更新:对于每个未部署的专家模型v和每个物理节点n,计算将v部署在n上并考虑到与中节点的路由成本后的总成本 其中路由成本为n到中各节点的最小路由成本; 后续专家模型部署及路由:识别一个物理节点n、一个专家模型v以及一条用于连接n和已部署节点集的最短物理连接路径使得最小化;将下一个专家模型部署到识别的节点上,并更新节点及路由信息; 四、重复与终止; 五、输出。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西南交通大学,其通讯地址为:610000 四川省成都市二环路北一段;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。