Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 暨南大学周志博获国家专利权

暨南大学周志博获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉暨南大学申请的专利一种基于大语言模型的文本序列推荐方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119760120B

龙图腾网通过国家知识产权局官网在2025-09-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411660991.6,技术领域涉及:G06F16/335;该发明授权一种基于大语言模型的文本序列推荐方法及系统是由周志博;杨正航;谢绍均;黄斐然设计研发完成,并于2024-11-20向国家知识产权局提交的专利申请。

一种基于大语言模型的文本序列推荐方法及系统在说明书摘要公布了:本发明公开了一种基于大语言模型的文本序列推荐方法及系统,属于推荐算法技术领域,包括:数据预处理阶段、大语言模型预训练阶段、序列模型微调阶段以及匹配阶段。本发明通过引入大语言模型到文本序列推荐任务,能够利用大语言模型丰富的预训练语料,更好的对文本进行建模;同时通过将文本进行序列建模,激活了大模型中对于序列推荐建模的能力,摆脱了传统推荐算法中基于ID的推荐范式,更好的在冷启动场景和知识迁移的场景下进行推荐任务学习处理;最后通过序列模型对推荐结果的最终优化,能够实现以往大语言模型输出结果存在幻觉无法精准匹配的问题。

本发明授权一种基于大语言模型的文本序列推荐方法及系统在权利要求书中公布了:1.一种基于大语言模型的文本序列推荐方法,其特征在于,包括以下阶段: 数据预处理阶段:将用户点击的历史文本序列数据,转化为属性键值对集合,以构造用于大模型训练的数据集; 大语言模型预训练阶段:将所述数据集,构造为大语言模型的提示词训练集,将序列推荐任务转换为自然语言任务后进行模型训练,在语义空间层面获取最佳的文本序列推荐结果; 序列模型微调阶段:通过对序列模型进行微调,使得基于大语言模型的结果在序列推荐任务上得到优化; 匹配阶段:基于大语言模型阶段和序列模型阶段的处理结果,对文本内容在嵌入向量空间维度进行匹配,输出序列推荐的结果; 在序列模型微调阶段,将Langformer作为序列模型,用于防止过长的交互序列对计算结果产生影响以及加快注意力机制的计算效率; 在序列模型微调阶段,选择基准向量,将经过大语言模型训练后得到的向量作为所述基准向量的正样本,将未经过大语言模型训练后得到的向量作为所述基准向量的负样本; 基于所述基准向量,根据所述正样本和所述负样本,通过设置扰动因子,构建对比学习Loss函数,用于对下游任务进行微调,其中,所述对比学习Loss函数表示为: 式中,Efinal表示基准向量,表示正样本,表示负样本,α1表示扰动因子,Lc表示对比学习Loss函数。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人暨南大学,其通讯地址为:510632 广东省广州市天河区黄埔大道西601号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由AI智能生成
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。