买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利一种基于语言模型的跨表格多任务预训练方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117272149B 。

龙图腾网通过国家知识产权局官网在2025-11-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202311311784.5，技术领域涉及：G06F18/241；该发明授权一种基于语言模型的跨表格多任务预训练方法和装置是由吴健;郑波;颜家欢;胡朝文;徐红霞;马浩中设计研发完成，并于2023-10-11向国家知识产权局提交的专利申请。

本一种基于语言模型的跨表格多任务预训练方法和装置在说明书摘要公布了：本发明公开了一种基于语言模型的跨表格多任务预训练方法和装置，包括：获取带有标签的表格数据；对离散型特征数值进行语义对应；对连续型特征数值进行归一化处理后采用决策树的C4.5算法对连续型特征数值进行离散化处理，将连续型特征数值分为多个不等距的区间，并将这些连续型特征数值分到对应区间上，每个区间名标识为一个token放到语言模型的词表里；对连续型特征数值对应的区间进行正则化处理以构建能够保留区间的数值大小关系的正则化损失函数；将表格数据对应的语义文本及区间的token输入至RoBERTa语言模型，基于标签结合正则化损失函数分别进行分类任务和回归任务的预训练，提升此模型的预测效果。

本发明授权一种基于语言模型的跨表格多任务预训练方法和装置在权利要求书中公布了：1.一种基于语言模型的跨表格多任务预训练方法，其特征在于，包括以下步骤： 获取带有标签且用于分类任务和回归任务的表格数据，表格数据包括离散型特征数值和连续型特征数值，对表格数据进行缺失值滤除； 对离散型特征数值进行语义对应，将离散型特征数值转换为对应语义文本； 对连续型特征数值进行归一化处理后采用决策树的C4.5算法对连续型特征数值进行离散化处理，将连续型特征数值分为多个不等距的区间，并将这些连续型特征数值分到对应区间上，每个区间名标识为一个token放到语言模型的词表里； 对连续型特征数值对应的区间进行正则化处理以构建能够保留区间的数值大小关系的正则化损失函数； 将表格数据对应的语义文本及区间的token输入至RoBERTa语言模型，基于标签结合正则化损失函数分别进行分类任务和回归任务的预训练； 基于下游任务对预训练的RoBERTa语言模型进行微调，并利用微调后的RoBERTa语言模型进行下游任务预测。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。