北京邮电大学纪哲获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京邮电大学申请的专利多智能体强化学习的多星协作分布式路由方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119995693B 。
龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510451360.1,技术领域涉及:H04L45/44;该发明授权多智能体强化学习的多星协作分布式路由方法是由纪哲;吴胜;陈啸;张保庆;顾韶竹设计研发完成,并于2025-04-11向国家知识产权局提交的专利申请。
本多智能体强化学习的多星协作分布式路由方法在说明书摘要公布了:本发明提供了一种多智能体强化学习的多星协作分布式路由方法,本发明能够利用时间切片技术构建卫星网络静态拓扑模型,并建立最小化数据包端到端时延的目标函数;基于卫星网络静态拓扑模型构建卫星智能体网络,并获取卫星交互经验数据;其中,卫星智能体网络包括多星协作混合网络和每个智能体对应的卫星决策网络;根据卫星交互经验数据进行卫星智能体网络的训练,得到训练后的卫星智能体网络;将训练后的卫星智能体网络中的卫星决策网络分别部署到相应智能体上,以使智能体基于所部署的卫星决策网络进行路由决策。这样通过卫星决策网络与多星协作混合网络的协同工作,能够实现低轨卫星星座的高效分布式路由决策,降低时延并平衡负载。
本发明授权多智能体强化学习的多星协作分布式路由方法在权利要求书中公布了:1.一种多智能体强化学习的多星协作分布式路由方法,其特征在于,包括: 获取低轨卫星星座的网络结构数据,并利用时间切片技术构建卫星网络静态拓扑模型;其中,所述低轨卫星星座中的每个卫星作为一个智能体; 基于所述卫星网络静态拓扑模型,建立最小化数据包端到端时延的目标函数; 基于所述卫星网络静态拓扑模型构建卫星智能体网络,并获取卫星交互经验数据;其中,所述卫星智能体网络包括多星协作混合网络和每个所述智能体对应的卫星决策网络,所述多星协作混合网络用于根据所述目标函数计算联合奖励,所述卫星决策网络用于根据所属智能体的当前局部观测信息,输出所属智能体的路由决策; 根据所述卫星交互经验数据进行所述卫星智能体网络的训练,得到训练后的卫星智能体网络;其中,每个所述卫星决策网络用于根据局部观测信息计算局部价值函数,所述多星协作混合网络用于根据全局状态信息和所有所述局部价值函数生成全局价值函数,所述全局价值函数和所述联合奖励用于更新网络参数; 将所述训练后的卫星智能体网络中的卫星决策网络分别部署到相应所述智能体上,以使所述智能体基于所部署的卫星决策网络进行路由决策; 所述卫星交互经验数据存储在经验回放池中;根据所述卫星交互经验数据进行所述卫星智能体网络的训练,得到训练后的卫星智能体网络的步骤,包括: 在所述经验回放池中进行非均匀抽样,得到目标样本数据; 根据所述目标样本数据,通过所述卫星智能体网络获取所述全局价值函数; 根据所述全局价值函数和所述目标样本数据中的联合奖励,通过反向传播算法更新所述多星协作混合网络的网络参数和各所述卫星决策网络的网络参数; 所述卫星交互经验数据中的每个数据样本的抽样概率p t如下: ; ; 其中,ε表示预设数值,ε用于防止抽样概率为零,表示状态下,所述多星协作混合网络预测的价值与真实价值之间的误差,s t表示t时刻的全局状态,a t表示t时刻的联合动作,表示所述多星协作混合网络在状态、网络参数下的价值,表示所述多星协作混合网络在状态()、网络参数下的价值,r t表示t时刻的联合奖励,表示预设的折扣因子,A表示卫星的动作空间。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京邮电大学,其通讯地址为:100088 北京市海淀区西土城路10号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。