北京天数智芯半导体科技有限公司朱帅获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京天数智芯半导体科技有限公司申请的专利基于RRAM存内计算的专家模型推理系统及推理方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121352033B 。
龙图腾网通过国家知识产权局官网在2026-04-07发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511894047.1,技术领域涉及:G06N5/04;该发明授权基于RRAM存内计算的专家模型推理系统及推理方法是由朱帅设计研发完成,并于2025-12-16向国家知识产权局提交的专利申请。
本基于RRAM存内计算的专家模型推理系统及推理方法在说明书摘要公布了:本申请提供一种基于RRAM存内计算的专家模型推理系统及推理方法,应用于人工智能技术领域。系统包括GPU客户端、通信控制模块和RRAM服务器;GPU客户端用于对输入序列进行注意力机制计算获得激活向量;进行专家路由计算获得目标专家索引;将激活向量和目标专家索引封装为待处理任务;通信控制模块的共享缓冲区用于存储待处理任务;RRAM服务器包括RRAM存内计算阵列和控制器,RRAM存内计算阵列与多个专家模块具有映射关系;控制器用于从共享缓冲区读取待处理任务,控制RRAM存内计算阵列对激活向量进行运算,获得推理结果;共享缓冲区还用于存储推理结果,供GPU客户端读取推理结果。该系统提高了推理效率。
本发明授权基于RRAM存内计算的专家模型推理系统及推理方法在权利要求书中公布了:1.一种基于RRAM存内计算的专家模型推理系统,其特征在于,包括GPU客户端、通信控制模块和RRAM服务器,所述GPU客户端通过所述通信控制模块与所述RRAM服务器通信连接; 所述GPU客户端用于对输入序列进行注意力机制计算获得所述输入序列的激活向量;以及进行专家路由计算,获得目标专家索引;将所述激活向量和所述目标专家索引封装为待处理任务; 所述通信控制模块包括共享缓冲区,所述共享缓冲区用于存储所述待处理任务; 所述RRAM服务器包括至少一个RRAM存内计算卡,所述RRAM存内计算卡包括RRAM存内计算阵列和控制器,所述RRAM存内计算阵列与多个专家模块具有映射关系;所述控制器用于从所述共享缓冲区读取所述待处理任务,并控制所述RRAM存内计算阵列对所述激活向量进行运算,获得推理结果; 所述共享缓冲区还用于存储所述推理结果,以供所述GPU客户端读取所述推理结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京天数智芯半导体科技有限公司,其通讯地址为:100000 北京市海淀区海淀北二街10号8层08;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励