华中科技大学同济医学院附属同济医院唐洲平获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华中科技大学同济医学院附属同济医院申请的专利一种基于多模态大模型机械臂与AGV一体化的协同搬运方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121120764B 。
龙图腾网通过国家知识产权局官网在2026-04-07发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511651186.1,技术领域涉及:G06T7/70;该发明授权一种基于多模态大模型机械臂与AGV一体化的协同搬运方法是由唐洲平;胡胜山;张萍;陈丹阳;叶庆;蒋云鹏;李明慧;潘超设计研发完成,并于2025-11-12向国家知识产权局提交的专利申请。
本一种基于多模态大模型机械臂与AGV一体化的协同搬运方法在说明书摘要公布了:本申请提供了一种基于多模态大模型机械臂与AGV一体化的协同搬运方法,通过构建了一套新颖的协同搬运机制,有效地解决了现有自动导引运输车搬运策略自动化程度较低进而导致任务执行时间成本高、系统响应效率低的问题,以及有效解决了现有自动导引运输车搬运策略环境感知与视觉定位精度不足进而导致在复杂或动态场景中定位困难、目标抓取成功率低的问题,以及有效解决了现有自动导引运输车搬运策略缺乏高效的人机交互机制、动态交互能力有限、无法灵活适应变化工况的问题,以及有效解决了现有自动导引运输车搬运策略对用户自然语言指令的理解能力差的问题,如此在实际应用中可以满足智能、高效、精确的搬运需求。
本发明授权一种基于多模态大模型机械臂与AGV一体化的协同搬运方法在权利要求书中公布了:1.一种基于多模态大模型机械臂与AGV一体化的协同搬运方法,其特征在于,所述方法包括: 由自动导引运输车在预设运行环境的行驶过程中,实时构建所述预设运行环境的环境地图; 根据所述环境地图选择经过起始点和目标点的运行路线; 在所述运行路线进行结构化解析的基础上,使得所述自动导引运输车从所述起始点自主导航至所述目标点; 针对所述目标点的所在环境初始化基于多模态大模型驱动的机械臂的参数; 利用所述机械臂所挂载的相机,对所述目标点所需搬运物体的环境进行拍摄,得到环境图像; 结合交叉注意力机制算法和所述所需搬运物体的物体名称,对所述环境图像进行数据增强,得到增强环境图像; 将所述增强环境图像和预定义系统提示词输入至所述多模态大模型中,得到所述所需搬运物体的像素位置坐标; 利用手眼标定算法将所述像素位置坐标转化为所述机械臂在物理世界坐标系中的相对位置坐标; 根据所述相对位置坐标,调用所述机械臂的动作执行模块至指定位置抓取所述所需搬运物体,然后放置所述所需搬运物体; 让所述自动导引运输车根据所述运行路线自主导航返回至所述起始点; 所述结合交叉注意力机制算法和所述所需搬运物体的物体名称,对所述图像进行数据增强,得到增强环境图像,包括: 将环境图像和用户选择的所述所需搬运物体的名称文本两者,输入到多模态模型中,提取所述环境图像和所述名称文本对应的交叉注意力图表示,,其中,所述多模态模型用于对齐输入的空间和语义特征信息,所述交叉注意力图表示的行和列的大小,是所述环境图像分割为固定大小的块后的行和列的数量; 将所述交叉注意力图表示作为权重,通过插值生成对所述环境图像进行数据增强的掩面,,其中,为所述环境图像的列的数量,为所述环境图像的行的数量,表示利用插值方法将所述交叉注意力图表示的矩阵大小转换为和; 将所述掩面与所述环境图像融合生成增强环境图像,,其中,为选定的图像最低可见度; 所述将所述增强环境图像和预定义系统提示词输入至所述多模态大模型中,得到所述所需搬运物体的像素位置坐标,包括: 根据增强环境图像,联合预定义系统提示词,构造图像文本对输入,,其中,所述预定义系统提示词为根据上下文指令学习所设计的、用于图像物体像素坐标定位的提示词; 将所述图像文本对输入输入至多模态大模型,得到所述所需搬运物体在所述增强环境图像中的像素位置坐标,,其中,具备图像与语言联合推理能力的多模态大模型,内部包含视觉编码器、语言编码器以及融合模块; 对像素位置坐标进行范围合理性检查,若不符合图像像素范围,则再次调用所述多模态大模型重新进行像素位置坐标生成处理。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华中科技大学同济医学院附属同济医院,其通讯地址为:430030 湖北省武汉市解放大道1095号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励