买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉南京大学申请的专利基于光电存算一体器件的transformer神经网络加速装置及方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116306854B 。

龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310320560.4，技术领域涉及：G06N3/063；该发明授权基于光电存算一体器件的transformer神经网络加速装置及方法是由王宇宣;武元辰;傅高鸣;梅正宇;彭成磊;潘红兵设计研发完成，并于2023-03-29向国家知识产权局提交的专利申请。

本基于光电存算一体器件的transformer神经网络加速装置及方法在说明书摘要公布了：本发明提供了一种基于光电存算一体器件的transformer神经网络加速装置及其方法。该装置包括：1编码模块包括：多头注意力计算子模块，用于对输入向量执行多头注意力计算操作；前馈全连接层子模块，用于执行全连接操作以及线性整流操作；加法单元，用于将上级模块中的输入向量与输出向量相加；归一化子模块，用于对来自加法单元的输入向量执行归一化操作；2译码模块包括：多头注意力计算子模块、前馈全连接层子模块、加法单元和归一化子模块；3分类预测模块，用于对上级模块输出的一维向量执行全连接操作，并执行分类输出操作。本发明的装置能够加速实现transformer神经网络，还能够极大地降低硬件架构的功耗、面积以及计算延迟。

本发明授权基于光电存算一体器件的transformer神经网络加速装置及方法在权利要求书中公布了：1.基于光电存算一体器件的transformer神经网络加速装置，其特征在于，该装置包括： 编码模块，包括第一多头注意力计算子模块、第一前馈全连接层子模块、两个第一加法单元以及两个第一归一化子模块，所述第一多头注意力计算子模块，用于对输入向量执行多头注意力计算操作，并将输出向量传入到一个第一加法单元；所述第一前馈全连接层子模块，用于对输入数据执行全连接操作以及线性整流操作，并将输出向量传入到另一个第一加法单元；所述第一加法单元，用于将输入向量与输出向量相加，并将结果传入归一化子模块；所述第一归一化子模块，用于对来自第一加法单元的输入向量执行归一化操作； 译码模块，包括两个第二多头注意力计算子模块、第二前馈全连接层子模块、三个第二加法单元和三个第二归一化子模块，所述第二多头注意力计算子模块，用于对输入向量执行多头注意力计算操作，并将输出向量传入到第二加法单元；所述第二前馈全连接层子模块，用于对输入数据执行全连接操作以及线性整流操作，并将输出向量传入到第二加法单元；所述第二加法单元，用于将输入向量与输出向量相加，并将结果传入第二归一化子模块；所述第二归一化子模块，用于对来自第二加法单元的输入向量执行归一化操作； 分类预测模块，用于对译码模块输出的一维向量执行全连接操作，然后执行分类输出操作，从而得到最终的分类预测结果；所述第一多头注意力计算子模块和第二多头注意力计算子模块均包括依次相连的数据寄存单元、第一矩阵向量乘单元、乘法单元、掩码选择子模块和第一softmax函数子模块；所述数据寄存单元，用于缓存输入数据和输出数据；所述第一矩阵向量乘单元，用于执行多头注意力计算子模块内的多头注意力运算；所述乘法单元，用于对输入数据执行乘法操作；所述掩码选择子模块，在使能信号高电平时开启，将输入矩阵的部分元素置零后输出，在使能信号低电平时关闭，将输入矩阵直接输出；所述第一softmax函数子模块，用于对一维输入向量执行归一化操作； 所述第一矩阵向量乘单元包括字线驱动电路以及依次相连的位线驱动电路、基于光电存算一体器件的计算阵列、源线驱动电路、电流电压转换电路、模数转换电路和移位累加电路；所述字线驱动电路的输出端与基于光电存算一体器件的计算阵列相连；所述基于光电存算一体器件的计算阵列采用两个阵列，第一个阵列用于存储权重中的正值，第二个阵列用于存储权重中负值的绝对值，两个阵列中其余位置置零；之后，在执行矩阵向量乘运算的过程中，将第一个矩阵执行矩阵向量乘的运算结果减去第二个阵列的运算结果，即可得到包含负数权重的最终运算结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南京大学，其通讯地址为：210046 江苏省南京市栖霞区仙林大道163号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。