买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利预训练模型的推理加速方法、装置及电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121168674B 。

龙图腾网通过国家知识产权局官网在2026-01-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511710299.4，技术领域涉及：G06N5/04；该发明授权预训练模型的推理加速方法、装置及电子设备是由董刚;曹其春;胡克坤;王斌强;杨宏斌;尹文枫;梁玲燕;蒋东东设计研发完成，并于2025-11-20向国家知识产权局提交的专利申请。

本预训练模型的推理加速方法、装置及电子设备在说明书摘要公布了：本申请公开了一种预训练模型的推理加速方法、装置及电子设备，涉及计算机应用技术领域，该方法对行为序列进行预处理，并将预处理后的行为序列结合邻居序列，输入预训练模型，通过自注意力层和图卷积层的设计，有效提取依赖关系，进行聚合处理，实现预训练模型的准确推理；同时，通过在可编程逻辑单元中设置位于计算核心内、用于存储模型参数的核内寄存器，并由核内寄存器存储预训练模型中使用频繁的模型参数，有利于提升预训练模型的推理效率。

本发明授权预训练模型的推理加速方法、装置及电子设备在权利要求书中公布了：1.一种预训练模型的推理加速方法，其特征在于，所述方法包括： 从图数据集获取目标用户的行为序列，对所述行为序列进行预处理，得到第一序列；其中，所述图数据集为所有用户的行为数据； 从所述图数据集中采样所述第一序列的邻居序列； 将所述第一序列和所述邻居序列输入预训练模型，将所述预训练模型加载至可编程逻辑单元进行推理加速，得到基于所述目标用户的推荐视频数据；其中，所述预训练模型包括自注意力层和图卷积层，所述自注意力层用于捕捉所述行为序列的所有依赖关系，所述图卷积层用于聚合邻居序列的偏好特征；所述可编程逻辑单元包括设置于计算核心内、用于存储模型参数的核内寄存器； 所述将所述第一序列和所述邻居序列输入预训练模型，将所述预训练模型加载至可编程逻辑单元进行推理加速，得到基于所述目标用户的推荐视频数据，包括： 将所述第一序列和所述邻居序列输入所述自注意力层捕获依赖关系，得到第一特征； 将所述第一特征输入所述图卷积层进行特征聚合，得到第二特征； 将所述第二特征输入全连接层进行相似度对比，得到视频序列； 从所述行为序列中采集新的第一序列，并返回从所述图数据集中采样所述第一序列的邻居序列，根据新的第一序列推理新的视频序列，直至遍历所有行为序列，得到多个新的视频序列； 根据所述视频序列和所有所述新的视频序列，得到所述推荐视频数据。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。