浙江大学李嘉明获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江大学申请的专利一种基于特征分类器的思维链推理数学问题求解方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119443267B 。
龙图腾网通过国家知识产权局官网在2025-11-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411479942.2,技术领域涉及:G06N5/04;该发明授权一种基于特征分类器的思维链推理数学问题求解方法及系统是由李嘉明;谢亮;王闻箫;林彬彬设计研发完成,并于2024-10-23向国家知识产权局提交的专利申请。
本一种基于特征分类器的思维链推理数学问题求解方法及系统在说明书摘要公布了:本发明公开了一种基于特征分类器的思维链推理数学问题求解方法及系统,包括:1获取数学问题集并选取正向与反向思维链示例进行拼接组成新集合;2将新集合元素分别输入模型进行推理构建单词级别的推理路径生成树,选择池化差值处理后的注意力权重矩阵作为节点特征进行存储;3遍历生成的所有推理路径生成树,筛选符合要求的节点构建特征分类器训练集;4使用支持向量机算法训练特征分类器;5通过训练好的特征分类器,参与预训练语言模型推理过程中路径的选择,获得较为准确的推理过程及答案。利用本发明,可以实现对于预训练语言模型推理路径更细颗粒度的调整把控,有利于其在数学问题上的准确推理求解,提升其泛化水平。
本发明授权一种基于特征分类器的思维链推理数学问题求解方法及系统在权利要求书中公布了:1.一种基于特征分类器的思维链推理数学问题求解方法,其特征在于,包括以下步骤: 1获取数学问题集Q={q1,q2…qn},对于每个元素qi,使用思维链提示生成方法找到对应的两个示例和使得得到正确答案,得到错误答案,组成新集合Q′={q1′,q′2…q′n},其中 2基于组成的新集合Q′,输入预训练语言模型,构建文本级别的推理路径生成树,每个节点ni选择平均池化以及差值操作后的注意力权重矩阵Ai作为节点特征进行存储;具体过程为: 对于新集合Q′内的所有元素,对于通过拼接得到预训练语言模型的输入文本冻结模型的所有参数,将其作为预训练语言模型的输入进行正向推理; 推理过程中,q′i对应生成推理路径树Gi,每个节点nj包含三类属性fAj,l,xj,rj,其中xj表示当前节点的文本,rj表示的是经过节点nj的所有推理路径的正确率,Aj表示预测生成xj时模型的注意力权重矩阵;由于预训练语言模型使用的是多头掩码自注意力机制,其输入模型的序列长度不同,使用f·函数对多头注意力权重矩阵进行维度变换和处理; 构建推理路径树的过程如下:首先构造一个空节点nroot,作为推理路径树的根节点,标注为非叶子结点;在构建树时,在树的各条路径的末端节点中,找到其中一个的非叶子节点,设该节点为ni;从根节点nroot到节点ni的路径都可以表示一条推理路径然后确定节点ni的子节点情况;具体而言,将与分别输入预训练语言模型,当输入前i个文本序列时,语言模型根据以下概率进行预测: xi+1存在以下两种情况: 第一种:对于两个prompt本轮预测生成的文本相同,即那么节点ni将新增一个子节点ni+1,文本属性设置为如果是句子终止符,则标记该子节点为叶子节点; 第二种:对于两个prompt本轮预测生成的文本不同,即那么为节点ni分别插入左右两个子节点文本属性分别设置为以及如果是句子终止符,则标记子节点为叶子节点;如果是句子终止符,则标记子节点为叶子节点; 以此类推,直至树的每条路径的末端节点都是叶子节点;最终,新集合Q′内的所有元素均生成其对应的推理路径树,得到树的集合G={G1,G2,...Gm}; 3遍历步骤2中生成的所有推理路径生成树,筛选符合要求的节点构建特征分类器训练集;以节点的注意力权重矩阵Ai作为特征,推理路径结果为标签,构建训练数据样本对集合D; 4根据步骤3生成的训练集,使用支持向量机算法训练特征分类器C; 5预训练语言模型推理阶段,针对待解答的目标数学题q,在数据集中随机选取两个示例da与db下同时进行推理,推理路径相同则继续预测生成直至结束,若推理路径不同则使步骤4训练好的特征分类器C选择正确概率更高的文本继续推理;最终得到完整推理过程,提取相应答案。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学,其通讯地址为:310058 浙江省杭州市西湖区余杭塘路866号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励