Document
拖动滑块完成拼图
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
最新专利技术
  • 本申请涉及计算机数据处理技术领域,公开了基于PD存算分离的大模型分布式推理加速方法。所述方法包括构建适配存算分离架构的拓扑及全域指纹索引;基于索引路由推理请求并驱动预填充节点执行增量计算与位置修正;依据全局热度得分将增量数据动态写入多级存储...
  • 本发明涉及人工智能技术领域,特别涉及一种逐块共享量化感知训练的大规模语言模型压缩方法及知识推理方法和系统,将待压缩大语言模型中相邻Transformer块按顺序分组,形成若干合并块,每个合并块内至少包含两个连续的Transformer块,并...
  • 本发明公开了一种基于动态认知图谱的大模型记忆管理与交互方法,所述交互方法包括:接收用户输入的信息;采用大语言模型推理引擎进行对话生成、意图识别和信息抽取,获得信息识别结果;对所述信息识别结果进行动态记忆管理。通过反思引擎的矛盾检测和主动求证...
  • 本发明公开了一种智能航空携带合规性判定方法及系统,包括:响应用户操作以获取当前行程的上下文信息,并接收用户输入的待查询物品的物品图像;利用预训练的多模态模型对物品图像进行分析,生成一个结构化物品描述对象,所述结构化物品描述对象包含从物品图像...
  • 本申请公开了一种任务筹划方法、装置、电子设备及存储介质,涉及任务仿真推演技术领域,包括:根据任务层级和任务层级包含的初始节点,构建思维导图本体模型;对用户的思维导图编辑信息进行逻辑校验,如果逻辑校验通过,根据思维导图编辑信息调整思维导图本体...
  • 本发明涉及一种基于相关性分析与层次分析法的储层主控因素判别方法,该方法包括以下步骤:(1)、对目标区域海相“富孔低渗”气藏储层厚度、含气程度、矿物组分、泥质含量、物性、孔喉结构等多维储层参数进行采集和整理;(2)、计算储层质量参数(RQI)...
  • 本发明公开了一种可支持多LoRA组合的多租户大模型推理系统,至少包括请求接收与解析模块、基础适配器管理模块、LoRA感知贪心调度模块、映射式适配器融合计算模块及结果生成与返回模块,从多租户LoRA组合场景下GPU资源高效利用与服务性能优化的...
  • 本公开提供了一种工业大模型的构建方法及存储介质,包括:获取工业领域的多模态融合数据;对工业领域进行场景分类,得到工业细分场景;根据多模态融合数据,确定每类工业细分场景的多模态数据集;并根据多模态数据集,构建每类工业细分场景的知识组织结构;根...
  • 本发明涉及人工智能技术,提供一种人工智能推理方法、装置、电子设备及计算机存储介质,所述方法包括:获取对待处理文本进行语义拆分得到的多个语义单元;根据每一语义单元的推理意图,将所有语义单元划分成多个子任务;根据每一子任务的预估负载等级及复杂度...
  • 本申请公开了一种应用于专业领域的大语言模型训练方法、装置、设备及存储介质,该方法包括:获取当前领域的相关文档,并对相关文档进行章节拆分,获得若干文本块;基于各文本块生成若干结构化问答对,各结构化问答对包括对应各文本块所属文档章节的问题与回答...
  • 本申请涉及大语言模型技术领域,公开了一种权重矩阵低秩分解方法、装置、设备、存储介质及产品,包括:对待压缩的大语言模型的权重矩阵进行分析,并根据分析结果将权重矩阵分解为多个不同特征的秩块;为各秩块分配对应的秩,生成目标秩块;确定目标秩块之间的...
  • 本申请提供一种基于大语言模型的对话方法、装置及设备,涉及自然语言处理技术领域,包括:获取用户输入的自然语言查询语句以及用户的历史对话信息;根据自然语言查询语句和历史对话信息,生成自然语言查询语句对应的增强查询向量;根据增强查询向量,从预设的...
  • 本发明提供一种基于大型语言模型的纯文本作业自动批改方法,该方法包括:接收目标对象提交的原始答题内容,并执行输入预处理与语义标准化步骤,将任意形式的原始答题答案通过语义规整处理标准化为统一表达形式;根据预先提供的标准答案和题干,生成评分Rub...
  • 本发明涉及基于记忆栈与知识感知优化的自适应检索与推理方法、系统及介质,方法包括:接收用户交互信息,并将其导入创建好的代理记忆栈以得到结构化对话状态信息;将其导入检索决策器,检索决策器基于神经网络对其进行是否需要检索判断,若需要检索,将其导入...
  • 本发明提供了一种大模型推理系统及工具链软件,该系统至少包括:第一处理器,第二处理器,至少一个处理芯片;第二处理器负责大模型的第一部分推理的计算,处理芯片负责存储权重参数和负责大模型的第二部分推理的计算,一方面能够避免权重参数的反复搬运,另一...
  • 本发明公开了一种AI播报方法、AI播客生成系统、电子设备及介质,涉及人工智能技术领域。该方法中,将主播报文本和互动文本分别转换为音频;之后按照音频的起始播报时间将各AI主播的音频进行播报,实现了多AI主播间的协作对话,符合真实播客场景,保证...
  • 本发明涉及人工智能及具身智能领域,公开了一种跨空间、跨任务及跨本体学习的大模型与推理方法,该方法包括:作为骨干网络的预训练多模态大语言模型,用于处理视觉和文本输入并生成响应;意图桥接接口,用于将多模态大语言模型输出的隐藏状态压缩为固定长度的...
  • 本发明公开了一种面向视频推理的多模态大模型强化微调方法,该方法获取视觉问答数据集,其样本包括视频、问题和答案;采用可接受视频输入的多模态大模型理解视频采样帧,生成描述视频整体和帧细节的文本类型的结构化视频表征;将样本视频的结构化视频表征和问...
  • 本发明公开了一种多智能体间的智能路由方法及系统,其中,方法包括获取用户对话输入,按照预设的判定规则判断所述用户对话输入对应的延续性意图;如果延续性意图为旧任务的延续性反馈,则直接调取对话历史中记录的上一轮处理智能体,该智能体作为选定的智能体...
  • 本申请公开了一种基于AI大模型的用户驾驶简报生成方法及相关设备,涉及数据处理技术领域,包括:响应于用户驾驶简报生成指令,获取车辆中各个控制模块的CAN数据,得到多维度数据,基于多维度数据,确定车辆在同一时间段内所对应的多维度特征,基于预设A...
技术分类