买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉厦门大学申请的专利一种面向多模态深度学习模型的快速协同推断方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116911362B 。

龙图腾网通过国家知识产权局官网在2025-08-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310718827.5，技术领域涉及：G06N3/0495；该发明授权一种面向多模态深度学习模型的快速协同推断方法是由肖亮;王楚璇;刘钰;吕泽芳设计研发完成，并于2023-06-16向国家知识产权局提交的专利申请。

本一种面向多模态深度学习模型的快速协同推断方法在说明书摘要公布了：一种面向多模态深度学习模型的快速协同推断方法，涉及多模态深度学习模型。针对现有技术存在的面向计算密集性应用的异构多模态深度学习网络在资源紧缺的移动设备上部署时的高延迟和高能耗等问题，提供一种面向多模态深度学习模型的快速协同推断方法，利用强化学习算法动态优化无线移动边缘网络中多模态深度学习模型服务移动设备的协同推断策略。该策略适应计算密集型多模态深度学习应用具有多个异构特征编码器的特点，能在不显著降低推断质量的前提下，减少基于深度学习的多模态推断服务的时延和总体能耗。动态选择多模态深度学习模型各个特征编码器的分割点和深度学习模型规模，提高多模态深度学习模型推断的速度和能效。

本发明授权一种面向多模态深度学习模型的快速协同推断方法在权利要求书中公布了：1.一种面向多模态深度学习模型的快速协同推断方法，其特征在于包括以下步骤： 步骤1：多模态深度学习模型包含多个基于深度学习模型的模态数据的特征编码器，以及一个融合后端；每一个模态对应一个特征编码器，记特征编码器个数为M，其中M≥1，特征编码器i的深度学习模型层数为Li，其中1≤i≤M，Li≥1，深度学习模型分割点为xi，其中，1≤xi≤Li；记可选的压缩率等级记为E，其中E≥1，针对每个特征编码器i，将其压缩成E-1个不同级别的压缩模型，每个模型的压缩率为ci∈0,1，ci∈{c1,c2,...,cE-1}，用数据集训练所有的压缩模型进行微调，将压缩及微调后模型与原始模型一同存入候选模型池νi；记每一时隙内移动设备生成的推断任务数为z，其中1≤z≤zmax，zmax为设备一次最多产生的任务数；记预测向量且 步骤2：初始化状态数R，动作数W，Q值矩阵QR×W，学习因子η∈[0,1]，折扣因子γ∈[0,1]，探索因子0＜εmin＜εmax＜1，退火步数τ＞0，效益权重参数w0＞0,w1＞0,w2＞0；初始化信道增益h0、总体时延t0、总体能耗e0和长期置信度得分α0； 步骤3：在第k时隙，移动设备根据多模态感知数据生成zk个推断任务，并观察上一时隙的信道增益hk-1、总体时延tk-1、总体能耗ek-1和模型长期置信度得分α，构建当前状态向量sk＝[hk-1,zk,tk-1,ek-1,α]； 步骤4：在第k时隙，根据Q值矩阵，以1-ε的概率选择当前状态下具有最大Q值的压缩率和深度学习模型分割点以ε的概率随机选择其他的动作； 步骤5：根据选择的策略ak＝[ck,xk]，对于特征编码器i∈[1,M]，移动设备从候选模型池νi中选择压缩比例为的压缩模型将所有推断任务的原始数据输入模型完成前层的计算，得到中间结果所有特征编码器都完成推断任务后，由移动设备的内部处理器计算在移动设备端的推断时延和推断能耗 步骤6：将各个特征编码器的压缩比例分割点中间结果信息以传输功率P发送给边缘服务器； 步骤7：边缘服务器接收到来自移动设备的数据后，测算传输时延和传输能耗并处理数据得到压缩比例分割点中间结果对于模态i，从候选模型池νi中选取对应压缩比例为的模型从分割点后开始执行剩余层的计算；所有特征编码器都完成推断任务后，将每个计算输出的数据合并，其中1≤i≤M，作为融合后端的输入层，计算得到最终的推断结果ζk，再由边缘服务器的内部处理器计算本端总的推断时延并使用Softmax回归在融合后端将输出变成一个概率分布，得到预测向量yk，利用以下公式来计算置信度ρy： 步骤8：边缘服务器收集推断结果ζk，计算长期置信度得分形成反馈信息发送给移动设备； 步骤9：接收到反馈信息，移动设备统计k时隙的总体时延和总体能耗计算本次推断产生的效益uk： 步骤10：更新Qsk,ak： 步骤11：重复步骤3～10，直到|Qsk+1,ak+1-Qsk,ak|＜0.01，即移动设备学习到稳定的推断选择策略。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人厦门大学，其通讯地址为：361005 福建省厦门市思明区思明南路422号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。