买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉山东海量信息技术研究院申请的专利基于混合异构内存资源的任务执行方法、产品及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120371536B 。

龙图腾网通过国家知识产权局官网在2025-12-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510856387.9，技术领域涉及：G06F9/50；该发明授权基于混合异构内存资源的任务执行方法、产品及设备是由高开;曹芳;王丽;邱志勇;郭振华设计研发完成，并于2025-06-25向国家知识产权局提交的专利申请。

本基于混合异构内存资源的任务执行方法、产品及设备在说明书摘要公布了：本申请公开了基于混合异构内存资源的任务执行方法、产品及设备，涉及人工智能技术领域，包括：确定服务器内各种计算资源的算力性能和各种混合异构内存资源的存储性能，并分别统计任意两个内存之间的通信延时；基于设备算力性能、内存存储性能和通信延时对多个内存进行排序；按照计算层对目标自然语言处理模型进行阶段划分，得到多个模型阶段；其中各模型阶段所需的内存空间均不大于任一内存的大小；将各模型阶段的推理任务依次部署到排序后内存中，并利用部署后模型执行自然语言处理任务。本申请充分利用了各种硬件资源，使得在资源受限的混合异构内存资源下，也能实现推理任务的高效部署，从而提高了自然语言处理任务执行的效率。

本发明授权基于混合异构内存资源的任务执行方法、产品及设备在权利要求书中公布了：1.一种基于混合异构内存资源的任务执行方法，其特征在于，包括： 确定当前服务器内各种计算资源的算力性能和各种混合异构内存资源的存储性能，得到设备算力性能和内存存储性能； 分别统计所述混合异构内存资源中任意两个内存之间的通信延时； 基于所述设备算力性能、所述内存存储性能和所述通信延时对所述混合异构内存资源中的多个内存进行排序，得到排序后内存； 按照计算层对目标自然语言处理模型进行阶段划分，得到多个模型阶段；其中，多个所述模型阶段的数量与所述目标自然语言处理模型中的计算层的数量相同，且各所述模型阶段所需的内存空间均不大于所述混合异构内存资源中的任一内存的大小； 将各所述模型阶段的推理任务依次部署到所述排序后内存中，得到部署后模型，并利用所述部署后模型执行自然语言处理任务； 所述计算资源包括中央处理器、加速计算设备；所述混合异构内存资源包括所述中央处理器的本地内存、与所述中央处理器连接的远端内存、开放互联标准内存以及位于加速计算设备中的加速设备内存； 所述确定当前服务器内各种计算资源的算力性能和各种混合异构内存资源的存储性能，得到设备算力性能和内存存储性能，包括：获取当前服务器内中央处理器和加速计算设备的算力性能，得到处理器算力性能和加速设备算力性能；采集所述服务器内中央处理器的本地内存、与所述中央处理器连接的远端内存、开放互联标准内存以及位于加速计算设备中的加速设备内存的大小，得到相应的本地内存大小、远端内存大小、互联标准内存大小及加速设备内存大小； 所述基于所述设备算力性能、所述内存存储性能和所述通信延时对所述混合异构内存资源中的多个内存进行排序，得到排序后内存，包括：基于所述设备算力性能、所述内存存储性能和所述通信延时从所述混合异构内存资源中确定用于缓存不同模型阶段的推理任务的内存，得到缓存内存；基于所述缓存内存对所述混合异构内存资源中的多个内存进行排序，得到排序后内存； 所述基于所述设备算力性能、所述内存存储性能和所述通信延时从所述混合异构内存资源中确定用于缓存不同模型阶段的推理任务的内存，得到缓存内存，包括：确定所述处理器算力性能和所述加速设备算力性能中算力性能最高的性能，得到所述加速设备算力性能；基于所述加速设备算力性能对应的所述加速设备内存大小判断所述加速计算设备是否能够对整个目标自然语言处理模型进行部署；若所述加速计算设备不能对整个所述目标自然语言处理模型进行部署，则基于所述通信延时确定与所述加速设备内存通信延时最小的内存，得到所述开放互联标准内存，并将所述开放互联标准内存作为用于缓存不同模型阶段的推理任务的缓存内存。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东海量信息技术研究院，其通讯地址为：250000 山东省济南市高新技术开发区国家信息通信国际创新园；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。