东南大学贺垚获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉东南大学申请的专利一种大语言模型的元证据感知提示语优化方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119939294B 。
龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510101991.0,技术领域涉及:G06F18/23213;该发明授权一种大语言模型的元证据感知提示语优化方法是由贺垚;刘嘉骏;刘思睿;柯文俊;文万韬;王坤龙;汪鹏设计研发完成,并于2025-01-22向国家知识产权局提交的专利申请。
本一种大语言模型的元证据感知提示语优化方法在说明书摘要公布了:一种大语言模型的元证据感知提示语优化方法,该方法利用聚类和贝叶斯推理对证据内部的因果关系进行精细分析。首先,MEPO方法利用大模型的反馈生成初步证据来描述给定提示的缺点。然后,对初步证据进行聚类,以消除冗余信息,并采用贝叶斯推断法获得聚类中心的概率,为每对证据之间的因果关系建模,得到有向图。此外,本专利还应用最大生成树算法来构建有向无环图DAG,从而增强LLMs的推理能力。最后,本专利根据获得的元证据对初始提示进行编辑,并采用束搜索来选择表现最佳的提示。实验结果表明,MEPO方法在多个任务中表现出良好的性能。
本发明授权一种大语言模型的元证据感知提示语优化方法在权利要求书中公布了:1.一种大语言模型的元证据感知提示语优化方法,其特征在于,具体步骤如下: 步骤一、生成初步证据; 步骤二、元证据识别; 所述步骤二元证据识别,具体如下; 生成初步证据后,通过聚类去除相似证据,采用贝叶斯推理来捕捉证据中的因果关系; 证据组聚类; 给定初步证据,采用嵌入模型将每个证据嵌入到向量中,如下所示: ; 其中表示证据嵌入集,然后,应用K-means算法初始化空簇集,表示为,每个聚类集都匹配一个初始中心,所有中心的集合可定义为;对于每个,计算其与中所有中心的欧氏距离,并将添加到最近的匹配群集中,添加完所有点后,按如下方法更新的每个中心: ; 重复迭代过程,直到每个聚类中心集不再发生变化,其中第2阶段,初步证据按其与聚类中心的距离被聚类为3个聚类中心,即、和; 证据因果关系识别; 为了得到聚类中心之间的因果关系,构建了聚类中心对集合,记为,利用贝叶斯方法,通过大语言模型来推断聚类中心对中的因果关系,对于每个聚类中心对,提示模板为给定反馈聚类中心:,是否可以推断反馈聚类中心也为真,回答是或否,然后,将输入大语言模型并查询从推断的概率为: ; 其中,表示大语言模型的输出,是指示函数,如果条件为真,该函数等于1,最后,在中求得所有中心对的概率; 构建证据图; 对于每个聚类中心,构建一个有向聚类中心图,其中边的权重为,使用最大生成树算法MST来识别聚类中心图中权重总和最大的子图,其形式为; ; 其中代表中所有可能的生成树,是边的权重,最后,将最大生成树转换为DAG,保留边的方向并消除图中的循环,由顶点集和边集组成,其定义如下: ; 其中,且; 其中第2阶段,三个聚类中心最终被转换成具有以下因果关系的DAG:; 步骤三、证据感知提示优化; 所述步骤三证据感知提示优化,具体如下; 基于模型参数范数和输出的复杂度指标; 大语言模型根据结构化元证据生成精炼提示,首先,大语言模型根据从当前提示生成迭代1的候选提示,表示为;然后,在迭代2中,对于每个,指示大语言模型生成额外的候选,是的变体,保持语义相似但措辞不同,接下来,将迭代2的候选提示标记为,重复上述过程,直到达到最大迭代次数,对于第次迭代,候选提示符可表示为: ; 其中,最后,将最后一次迭代产生的作为最终的证据感知提示; 提示优化; 一旦初始提示扩展为多个候选提示,优化步骤就会在时间步数内,选择前个候选提示留在梁上进行下一次迭代,将该步骤模拟为多臂老虎机问题,在次迭代中,在每个时间步长采用增强的上置信界算法选择提示为: ; 其中,是探索参数,是提示符的性能估计值,是当前时间步长中来自提示符的查询次数,然后,在抽样数据集上评估所选提示的性能,并计算奖励,最后,在完成所有迭代后,性能最高的提示将作为最终输出返回。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人东南大学,其通讯地址为:210000 江苏省南京市江宁区东南大学路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励