买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利一种云端多预训练语言模型管理和推断方法、电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116737864B 。

龙图腾网通过国家知识产权局官网在2026-04-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310379689.2，技术领域涉及：G06F16/31；该发明授权一种云端多预训练语言模型管理和推断方法、电子设备是由寿黎但;胡鹏飞;陈珂;王珏;李环;骆歆远设计研发完成，并于2023-04-11向国家知识产权局提交的专利申请。

本一种云端多预训练语言模型管理和推断方法、电子设备在说明书摘要公布了：本发明公开了一种云端多预训练语言模型管理和推断方法、电子设备，包括通过分发器接收租户发出的模型管理请求和推断请求；其中，模型管理请求具体为租户发起一模型管理请求以改变vBert模型实例树的内容和结构；通过管理器构建并维护浅层特征查找表，更新vBert模型实例树；通过调度器采用流水线的方式调度并且处理模型管理请求和推断请求。

本发明授权一种云端多预训练语言模型管理和推断方法、电子设备在权利要求书中公布了：1.一种云端多预训练语言模型管理和推断方法，其特征在于，所述方法包括： 步骤S1，通过配置分发器接收租户发出的模型管理请求和推断请求； 其中，模型管理请求具体为租户发起一模型管理请求以改变vBert模型实例树的内容和结构；所述vBert模型实例树是一个三层的树状结构；vBert模型实例树的第一层包含若干层transformer的通用预训练神经网络模型；第二层包含若干个领域模型实例；第三层含若干个租户模型实例；其中，领域模型实例和租户模型实例是包含两个全连接层以及一个跳跃连接层的适配器； 步骤S2，通过配置管理器构建并维护浅层特征查找表，更新vBert模型实例树；其中，所述浅层特征查找表是一个三层的树状结构；其中，浅层特征查找表的基本表项是键值对，键是编码的三元组，值是浅层transformer计算三元组得到的中间计算结果，中间计算结果是指输入文本经过浅层transformer计算后得到的中间状态；树的第一层保存通用预训练神经网络模型浅层transformer的中间计算结果；树的中第二层保存所有领域模型实例浅层transformer的中间计算结果，树的第三层保存所有租户模型实例浅层transformer的中间计算结果； 步骤S3，通过配置调度器采用流水线的方式调度并且处理模型管理请求和推断请求； 其中，调度器采用流水线的方式调度并且处理推断请求包括： 管理器根据推断请求中的租户ID、领域ID以及待处理的文本在浅层特征查找表以及vBert模型实例树中查找待处理的文本，调度器将查找结果传输到GPU上进行计算，得到推断请求结果，将推断请求结果发送给租户； 其中，调度器采用流水线的方式调度并且处理模型管理请求包括： 管理器在vBert模型实例树中根据领域ID找到领域适配器，调度器将领域适配器传输到GPU上并将租户上传的待处理的文本输入vBert模型进行训练，在训练结束之后，vBert模型将新的适配器作为租户模型实例的一个新版本根据租户ID插入vBert模型实例树的第三层。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。