买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉清华大学申请的专利嵌入参数缓存的方法、装置、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114428797B 。

龙图腾网通过国家知识产权局官网在2025-08-26发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111605333.3，技术领域涉及：G06F16/2457；该发明授权嵌入参数缓存的方法、装置、设备及存储介质是由陆游游;舒继武;谢旻晖设计研发完成，并于2021-12-24向国家知识产权局提交的专利申请。

本嵌入参数缓存的方法、装置、设备及存储介质在说明书摘要公布了：本申请提供的一种嵌入参数缓存的方法、装置、设备及存储介质，通过获取至少一个嵌入表的嵌入参数至CPU内存中，将所述嵌入参数的部分热点存储至GPU显存中；基于霍夫曼编码的编码机制，将所述至少一个嵌入表的特征ID编码生成具有统一格式、全局唯一的全局键；采用全局嵌入缓存表为GPU缓存的存储形式，所述全局嵌入缓存表是以所述全局键为键，索引所述嵌入表；采用统一索引技术，将预设数量的CPU内存中的索引查询卸载至GPU显存中；读写缓存时，将嵌入参数的拷贝操作从缓存的索引操作中解耦。采用本技术方案，能够解决嵌入式的访问需求以及缓解模型预估时的性能问题。

本发明授权嵌入参数缓存的方法、装置、设备及存储介质在权利要求书中公布了：1.一种嵌入参数缓存的方法，其特征在于，所述方法包括： 获取至少一个嵌入表的嵌入参数至CPU内存中，将所述嵌入参数的部分热点存储至GPU显存中； 基于霍夫曼编码的编码机制，将所述至少一个嵌入表的特征ID编码生成具有统一格式、全局唯一的全局键； 采用全局嵌入缓存表为GPU缓存的存储形式，所述全局嵌入缓存表是以所述全局键为键，索引所述嵌入表； 采用统一索引技术，将预设数量的CPU内存中的索引查询卸载至GPU显存中； 读写缓存时，将嵌入参数的拷贝操作从缓存的索引操作中解耦； 其中，所述全局嵌入缓存表由全局索引、显存池两部分构成：所述全局索引使用字典数据结构维护所述全局键到对应的嵌入参数存储地址的映射关系，其中嵌入参数存储地址是GPU显存地址或CPU内存地址；显存池管理显存空间的分配释放，其包括与嵌入表等数目的子池，每个子池包含若干对应嵌入表维度的若干参数； 所述统一索引技术将一定比例CPU内存层的索引查询卸载至GPU上的所述全局索引，并使用预设方法标识嵌入参数的存储地址为CPU内存层；系统在查询所述全局索引时，可以直接得到命中部分嵌入参数在CPU内存中的地址，无需查询较慢的CPU内存层的索引。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人清华大学，其通讯地址为：100084 北京市海淀区清华园；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。