买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海交通大学申请的专利面向黑盒模型的表征诊断与解释、模型比较、训练样本收集的方法与系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114462291B 。

龙图腾网通过国家知识产权局官网在2025-08-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111155124.3，技术领域涉及：G06F30/27；该发明授权面向黑盒模型的表征诊断与解释、模型比较、训练样本收集的方法与系统是由张拳石设计研发完成，并于2021-09-29向国家知识产权局提交的专利申请。

本面向黑盒模型的表征诊断与解释、模型比较、训练样本收集的方法与系统在说明书摘要公布了：本发明涉及机器学习技术领域，公开了一种面向黑盒模型的表征诊断、模型比较、训练样本收集的方法与系统，可实现自动解释黑盒模型的内部逻辑，得到表示黑盒模型内部逻辑的“与或图”模型，从而实现面向黑盒模型的表征诊断、模型比较、训练样本收集。其包括：提供某一黑盒模型；将样本输入黑盒模型，样本包含一定维度的输入单元；基于黑盒模型的中层输出特征，对样本的输入单元间交互配合的作用进行建模，计算输入单元形成间组合的交互强度，将黑盒模型表示为输入单元间组合间的“与加关系”；优化交互计算中各输入单元上的基准值，使得从黑盒模型得到的“与加关系”表达更加简洁；基于上述关系建立表达该黑盒模型内部逻辑的“与或图”模型。

本发明授权面向黑盒模型的表征诊断与解释、模型比较、训练样本收集的方法与系统在权利要求书中公布了：1.一种解释黑盒模型的方法，其特征在于，所述方法包括以下步骤： 1选取模型； 选取所需要解释的黑盒模型，其中所述黑盒模型包括神经网络； 2获取建模所需数据： 选取某一样本输入所述黑盒模型以此获得基于所述输入样本得到的中层特征输出或黑盒模型输出样本，将所述输入样本与所述中层特征输出或黑盒模型输出样本作为建模时的数据，其中所述输入样本包含W个维度的输入单元，其中W为≥5的正整数； 3确定一级primary“与加关系” 基于所述黑盒模型的中层输出特征或模型输出样本，对所述输入样本的输入单元间的交互配合作用进行建模，获得由所述输入单元组成的组合，并计算所述输入单元间组合的交互强度，然后根据所述交互强度确定所述黑盒模型的输入单元组成的组合间的一级“与加关系”；具体的，通过Harsanyidividend指标对输入单元间的交互配合作用进行量化，计算输入单元间组合S内部的输入单元之间交互配合对中层输出特征或模型输出的数值贡献，记为IS，并将黑盒模型的输出vN拆分为各输入单元间组合S的交互作用大小之和，在所述拆分方法中，每个输入单元间组合S内部的交互作用当且仅当S内所有输入单元均存在时才触发，使得输入单元间组合S内的输入单元形成了“与”的关系，从而确定黑盒模型中输入样本上的输出vN与输入单元间的一级“与加关系”，即将黑盒模型中输入样本上的输出vN表示为输入单元间的“与加关系”； 4建立二级secondary“与加关系” 基于所述步骤3中的所述“与加关系”，通过优化交互计算中各输入单元上的基准值，将所述“与加关系”中关联性强的输入单元间组合进一步结合，并将非重要输入单元间组合剔除，从而将所述“与加关系”表达的更加简洁、稀疏；具体的，将所有输入单元的基准值构成的向量记为b，其中每一维bi表示输入单元i的基准值，通过惩罚只产生微小影响或干扰的输入单元间组合S的交互强度|IS|，优化输入样本N每一维输入单元的基准值bi，使交互强度|IS|较小的输入单元间组合S的交互强度|IS|趋于0，得到稀疏的输入单元间交互，从而确定黑盒模型中输入样本上的输出vN与输入单元间的二级“与加关系”； 其中，所述稀疏的输入单元间交互是指，大多数输入单元间组合的交互强度|IS|较小，即趋近于0，对网络输出没有影响；只有少量输入单元间组合的交互强度|IS|较大，对网络输出有重大影响； 5建立“与或图”模型 基于步骤4所述的二级“与加关系”，建立表达该黑盒模型内部逻辑的“与或图”模型，具体的，所述“与或图”包含至少三层，由若干节点与连边组成，其中，底层的n个叶节点表示n个输入单元；中间的若干“与节点”表示某一输入单元间组合S内部输入单元之间的“与”关系,每个“与”节点被分配一个分数score＝IS，表示该节点所对应的输入单元间组合的交互对中层输出特征或模型输出的数值贡献；顶层的根节点是一个“或节点”，表示对其所有子节点分数的加和，即黑盒模型的输出vN最终表示为所有输入单元间组合S的交互作用IS的加和； 其中，所述稀疏的输入单元间交互是指，大多数输入单元间组合的交互强度|IS|较小趋近于0，对网络输出没有影响；只有少量输入单元间组合的交互强度|IS|较大，对网络输出有重大影响。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海交通大学，其通讯地址为：200240 上海市闵行区东川路800号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。