买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京燧原智能科技有限公司申请的专利一种基于微算子的大模型跨平台系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119718484B 。

龙图腾网通过国家知识产权局官网在2025-07-29发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510238510.0，技术领域涉及：G06F9/448；该发明授权一种基于微算子的大模型跨平台系统是由鲍国庆;石恒;张亚林;丁圣阁;姚建国设计研发完成，并于2025-03-03向国家知识产权局提交的专利申请。

本一种基于微算子的大模型跨平台系统在说明书摘要公布了：本发明涉及电数字数据处理领域，尤其涉及一种基于微算子的大模型跨平台系统，包括硬件执行层、硬件接入层、预编译层、微算子层、后端层、框架层及模型层。本发明实施例可以适用于不同硬件平台，能够快速实现大模型的推理与微调，有效简化算子开发、调试与部署过程，提升跨平台模型开发效率。本发明提出了面向大模型场景的微算子开发标准，包括设备访存管理微算子、张量计算微算子以及组合实现的大模型典型算子。此外，本发明提供一种软件架构方案，定义基于微算子的大模型开发流程，涵盖微算子定义及调用方式、不同后端的适配方法、计算核调度以及基于微算子的计算框架与模型搭建方案，以实现大模型推理与微调的高效性及跨平台适配能力。

本发明授权一种基于微算子的大模型跨平台系统在权利要求书中公布了：1.一种基于微算子的大模型跨平台系统，其特征在于，包括：硬件执行层、硬件接入层、预编译层、微算子层、后端层、框架层以及模型层； 其中，所述硬件执行层，用于执行访存指令和或所述预编译层编译得到的各类微算子，微算子是用于进行计算或操作的中间指令或硬件设备的可执行指令，各类微算子包括用于进行设备访存管理操作的微算子和用于进行张量计算的微算子； 所述硬件接入层，用于形成用于调用接入大模型跨平台系统的各个硬件设备的各种硬件功能的调用接口； 所述预编译层，用于调用平台编译器将微算子代码编译为中间指令或硬件设备的可执行指令； 所述微算子层，用于调用所述预编译层编译得到的各类微算子并向上层提供基于微算子的编程接口，以使上层能将多个微算子进行组合调用，实现主流大模型所需的各类算子； 所述后端层向上对接所述框架层，向下对接所述微算子层，用于将所述微算子层的功能接口向外暴露，同时所述后端层识别张量数据类型，经所述微算子层调用所述预编译层编译得到的同一微算子的不同数据类型实现； 所述框架层包含用于实现大模型推理与微调所需的各个功能模块，包括张量模块、存储模块、设备模块、权重加载模块、自定义算子模块、神经网络模块、权重量化模块、词向量编码模块、反向传播模块以及输出采样模块，各个功能模块通过调用所述后端层中的功能接口实现对应的大模型推理功能或大模型微调功能； 所述模型层，用于基于所述框架层向用户提供搭建大模型实例的模型层规范；其中，基于所述框架层向用户提供搭建大模型实例的模型层规范，包括：使用所述框架层提供的张量模块、神经网络模块及自定义算子模块按照主流大模型结构搭建基于微算子的大模型实例；使用所述框架层提供的权重加载模块加载大模型权重并根据模型需求调用所述框架层提供的权重量化模块进行大模型权重的量化与反量化；调用所述框架层中的功能模块进行大模型的推理与微调。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京燧原智能科技有限公司，其通讯地址为：100191 北京市海淀区知春路23号14层1401、1403、1405、1407室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。