Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 积分商城 国际服务 IP管家助手 科技果 科技人才 商标交易 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 复旦大学陈昱妍获国家专利权

复旦大学陈昱妍获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉复旦大学申请的专利一种探索预训练语言模型幽默理解能力的方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118484505B

龙图腾网通过国家知识产权局官网在2026-03-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310098163.7,技术领域涉及:G06F16/334;该发明授权一种探索预训练语言模型幽默理解能力的方法是由陈昱妍;李直旭;梁家卿;肖仰华设计研发完成,并于2023-02-10向国家知识产权局提交的专利申请。

一种探索预训练语言模型幽默理解能力的方法在说明书摘要公布了:本发明提供一种探索预训练语言模型幽默理解能力的方法,能够系统性地指导幽默生成任务。该方法采用人机结合的幽默理解评估机制,对预训练语言模型进行幽默识别、幽默类型分类、幽默等级分类和笑点检测四个维度的幽默评估。在该方法中,基于幽默理解评估机制不仅探测了原始预训练语言模型的幽默理解能力,以此评估该原始预训练语言模型是否能够在微调之前或之后理解幽默。还探测了知识增强下预训练语言模型的幽默理解能力,从而评估外部知识是否有助于提高预训练语言模型的幽默理解能力。同时,还对预训练语言模型的幽默理解能力评估结果进行解释,以预训练语言模型是否能够检测出可解释的线索词来理解幽默三个角度来探测语言模型的幽默理解能力。

本发明授权一种探索预训练语言模型幽默理解能力的方法在权利要求书中公布了:1.一种探索预训练语言模型幽默理解能力的方法,其特征在于,包括以下步骤: 步骤1,构建幽默理解评估机制,该评估机制具有幽默识别、幽默类型分类、幽默等级分类和笑点检测四个任务; 步骤2,基于所述幽默理解评估机制对原始待测预训练语言模型的幽默理解能力进行探测; 步骤3,将不同类型的外部知识注入至所述原始待测预训练语言模型中,获取知识增强的待测预训练语言模型,基于所述幽默理解评估机制对所述知识增强的待测预训练预测模型进行幽默理解能力的探测; 步骤4,解释预训练语言模型的幽默理解能力,即探索所述原始待测预训练语言模型和所述知识增强的待测预训练语言模型是否能够在幽默文本中检测用以理解幽默的线索, 其中,所述步骤2包括以下步骤: 步骤2-1,选取具有代表性的多个原始预训练语言模型; 步骤2-2,将待测文本作为输入,通过原始预训练语言模型进行幽默识别检测输出所述待测文本的属性,该属性包括幽默或非幽默、幽默类型和幽默等级; 步骤2-3,将所述待测文本中的上文和结尾句组成句子对输入至所述原始预训练语言模型中,计算该句子对的相似度得分,以此判断该待测文本的结尾是否为幽默结尾, 其中,所述步骤3的具体过程如下: 步骤3-1,基于已由的知识库和常识库分别获取输入文本中每个汉字基于知识和常识的字嵌入; 步骤3-2,基于语言学知识获取所述输入文本中每个汉字的拼音嵌入,以检测具有相同或相似发音汉字的不同语义; 步骤3-3,利用融合层来增强预训练语言模型的句子嵌入表示,并使用全连接层沿每个拼音的字母维度对所述拼音嵌入进行归一化; 步骤3-4,将归一化的拼音嵌入与预训练语言模型的句子嵌入相加,再经过分类器输出预测结果, 其中,所述步骤3-2获取拼音嵌入的过程如下: 首先使用拼音包工具为给定文本中的每个汉字生成包含声调的拼音,对于多音字,选择拼音包工具输出的第一个发音,将输入拼音序列的最大长度设置为8,使用特殊字符“-”对长度不足8的拼音序列进行填充,采用卷积神经网络获得输入文本的拼音嵌入,该过程表示如下: , 式中,Seqin表示输入的文本序列,pypinyin表示将文本序列转化为拼音序列,CNN表示通过卷积神经网络的卷积层提取拼音序列的特征,Maxpool表示通过最大池化层对特征进行压缩,去除冗余信息以得到最终的拼音嵌入, 其中,所述步骤4采用Captum包,分别从基于梯度和基于扰动两个方面解释预训练语言模型的幽默理解能力。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人复旦大学,其通讯地址为:200433 上海市杨浦区邯郸路220号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。