Document
拖动滑块完成拼图
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
最新专利技术
  • 本发明适用于模型剪枝技术领域,提供了基于动态对比掩码与知识蒸馏的深度神经网络剪枝方法。本发明提出基于动态对比掩码学习与相互知识蒸馏的动态剪枝框架来压缩深度神经网络模型。动态对比掩码学习通过对比学习将相似的掩码聚合并在特征空间中区分,生成二值...
  • 本申请实施例提供了模型压缩方法、装置、设备、存储介质及程序产品。该方法包括:通过各网络层的最高修剪率和最低量化位宽确定各网络层的敏感类型,基于所述各网络层的所述敏感类型对应的候选修剪率的架构参数以及候选量化位宽的架构参数对应确定所述各网络层...
  • 本发明涉及模型压缩技术领域,提供一种大模型压缩方法、装置、任务处理方法、设备及存储介质,该大模型压缩方法包括:对待压缩的初始大模型的线性层进行逐层量化,得到第一大模型;初始大模型是基于专家混合架构构建并经过预训练的大语言模型;对第一大模型中...
  • 本发明涉及模型压缩技术领域,提供一种多模型压缩方法、装置、任务处理方法、设备及存储介质,该多模型压缩方法包括:将多个待压缩模型作为叶子节点,基于权重相似性对各叶子节点进行自底向上的层次化聚类,构建残差量化树;从残差量化树的根节点开始,对残差...
  • 本发明公开了一种分类器辅助神经网络架构搜索多目标多层级学习优化方法,包括下述步骤:将神经网络架构搜索问题作为多目标优化问题进行建模,构建搜索空间;构建测试网络进行训练;通过非支配排序筛选帕累托最优解,基于帕累托前沿保留的算子,构建专用搜索空...
  • 本发明公开一种针对大语言模型的比特翻转攻击方法及装置,涉及大语言模型安全技术领域。方法包括:采用大语言模型生成包含问题的攻击数据集;将攻击数据集输入目标大语言模型中进行前向传播,输出文本数据;基于文本数据,构建困惑度损失函数;采用词性标注器...
  • 本申请实施例公开了一种业务模型的构建方法、设备、介质及程序产品。该方法包括:通过总业务系统向各子业务系统下发待训练模型,并通过各子业务系统接收待训练模型;针对各子业务系统,分别通过子业务系统基于待训练模型进行本轮模型训练,得到本轮训练的优化...
  • 一种图文关联的认知训练系统及其方法涉及认知训练与人工智能技术领域。本发明融合图像可记忆性计算、图文语义匹配、用户行为驱动的个性化推荐与认知能力评估机制,解决现有技术中图像选择随意、图文配对粗放、训练缺乏个性适应性与反馈分析等问题,实现认知训...
  • 本发明公开了一种大语言模型softmax函数硬件加速电路及方法,属于超大规模集成电路的神经网络硬件加速领域。通过将输入序列分成若干个并行处理的数据块,同时采用三级流水划分,将平均单次计算延迟缩短到G个时钟周期,提高计算并行度,提升了soft...
  • 本公开提供了一种神经网络处理单元的控制方法及装置、电子设备,涉及机器学习技术领域。该方法应用于拓扑结构相同的多核神经网络处理单元,该方法包括:将神经网络处理单元中各处理核心的拓扑结构划分为相同的多个阶段;每个阶段包括至少一个分支,每个分支包...
  • 系统和方法涉及通过将值组合在操作数中以提高计算密度来改进集成电路中的神经网络的吞吐量。系统包括具有乘法器电路的集成电路(IC)。IC接收第一操作数中的第一值和第二值。IC经由乘法器电路对第一操作数和第二操作数执行乘法运算以产生至少部分地基于...
  • 本发明公开了一种分组高并行高吞吐量CNN硬件加速架构及加速方法,属于硬件加速技术领域,架构包括用于对输入数据流进行缓存的输入单元、用于实现大尺寸多通道数据流并行处理的分组多级卷积并行处理引擎、用于对并行处理之后的数据流进行进一步处理操作的隐...
  • 一种基于超表面周期性纳米孔阵列的片上衍射光学神经网络,通过在超表面中引入周期性纳米孔阵列结构,结合所设计的数值模型离线训练算法,实现了对光波相位的精确可控调制,具备较高的结构稳定性和良好的相位一致性,有利于构建具备高精度前向传播能力的光学神...
  • 本发明涉及射流火焰致灾参数预测技术领域,公开了一种基于机器学习方法的射流扩散火焰尺寸及辐射特性预测方法和系统。方法包括:基于实验数据特征构建火焰尺寸经验模型;构建机器学习模型预测火焰高度、宽度、抬升高度,并将经验模型作为损失函数与之结合;根...
  • 本发明公开了电力用户需求响应画像优化方法、系统、设备及介质,属于智能电网和需求响应管理技术领域,包括:获取数据,进行预处理后分类,生成初始用户画像,将需求响应问题建模为马尔可夫决策过程,通过定义强化学习环境,基于深度Q网络,生成强化学习模型...
  • 本发明公开了一种基于神经网络权重分布的子区间量化方法及装置,涉及权重量化领域,包括:获取神经网络中待量化的权重数据,并统计其分布特征;根据所述权重数据的分布特征,将其划分为多个子区间;基于均方误差最小原则,对每个子区间的范围进行微调;为每个...
  • 本发明提出一种基于轻量化神经网络的氢内燃机氢氨排放在线虚拟传感方法,涉及车载智能传感与排放控制技术领域,包括标准化数据集的构建、轻量化神经网络模型的构建、模型的部署与实时优化和实时排放估计值的输出共计四个步骤;本发明通过采集并标准化发动机运...
  • 本发明公开了一种用于优化大模型键值缓存的混合精度并行压缩方法,其将混合精度键值缓存压缩的优势与先进的系统优化技术相结合,基于混合精度压缩中需要高精度保留的键值对与预取策略中用于注意力计算的键值对相同的特性,将低精度的KV缓存存储在GPU内存...
  • 本发明公开了基于共振隧穿二极管与忆阻器混合的脉冲神经网络系统,属于神经形态计算与类脑智能硬件技术领域,其包括输入模块、脉冲整形发放模块和反馈控制模块。输入模块通过忆阻器对输入脉冲信号进行加权,在节点上产生总的突触后电位;脉冲整形发放模块对电...
  • 本发明提出了一种基于s形激活函数的识别方法、装置及介质,包括:构建改进LeNet‑5网络模型,所述改进LeNet‑5网络模型包括一个输入层、第一卷积层、第一降采样层、第二卷积层、第二降采样层、第一全连接层、第二全连接层以及一个softmax...
技术分类