(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211148419.2 (22)申请日 2022.09.20 (71)申请人 北京航空航天大 学 地址 100191 北京市海淀区学院路37号 (72)发明人 郭园方　王俊富　王蕴红　 (74)专利代理 机构 北京航智知识产权代理事务 所(普通合伙) 11668 专利代理师 陈磊　曹红梅 (51)Int.Cl. G06V 10/764(2022.01) G06V 10/82(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于关系表征图神经网络的异质图节点分 类装置及方法 (57)摘要 本发明公开了基于关系表征图神经网络的 异质图节点分类装置及方法， 装置包括： 异质 节 点特征投影模块、 异质关系表征模块、 自链接关 系表征模块、 表征参数梯度放缩模块、 同质图神 经网络模块； 方法包括： 异质图输入、 异质节点特 征投影、 异质关系表征、 自链接关系表征、 表征参 数梯度缩放、 生成赋权邻接矩阵、 同质图神经网 络和结果输出； 图神经网络可以有效的使同质图 神经网络处理具有更加复杂关系的异质图， 表征 参数梯度放缩模块可以使不同类型的参数： 关系 表征参数和图神经网络参数， 能够在同一个优化 框架中均被优化至较佳的结果， 计算方式简单有 效， 仅仅引入极少的参数， 方法复杂度远低于主 流异质图神经网络 。 权利要求书3页 说明书6页 附图2页 CN 115457328 A 2022.12.09 CN 115457328 A 1.基于关系表征图神经网络的异质图节点分类装置， 其特征在于， 包括： 异质节点特征 投影模块、 异质关系表征模块、 自链接关系表征模块、 表征参数梯度放缩模块、 同质图神经 网络模块； 所述异质节点特征投影模块用于将异质图所有的节点的原始特征投影到同一个特征 空间； 其中， 对相同类型的节点采用同一个可 学习的线性投影矩阵； 所述异质关系表征模块用于为每个类型节点的关系采用一个可学习的参数变量表征 节点类型的重要性， 并通过一个解析函数为每种类型节点的关系产生 一个非负的权 重； 所述自链接关系表征模块用于为每个节点添加自链接关系， 并且根据节点的类型标明 自链接关系的类型， 采用一个可学习的参数变量表征自链接关系的重要性， 并通过解析函 数为每种类型的自链接产生 一个非负的权 重， 以使异质图转 化成带有权 重的同质图； 所述表征参数梯度放缩模块用于引入梯度放缩因子， 对自链接关系和关系的参数变量 学习的尺度进 行放缩， 以保证自链接关系和关系的参数变量能够和图神经网络模块中的参 数共同地被网络所 学习； 所述同质图神经网络模块用于使用同质图神经网络作为骨干网络， 处理带有权重的同 质图， 进而完成异质图节点分类。 2.根据权利要求1所述的基于关系表征图神经网络的异质图节点分类装置， 其特征在 于， 所述异质节点特征投影模块将每个类型节点的原始特征线性投影到指 定维度的特征空 间。 3.根据权利要求1所述的基于关系表征图神经网络的异质图节点分类装置， 其特征在 于， 所述同质图神经网络模块采用的同质图神经网络， 包括图卷积网络或图注意力网络 。 4.基于关系表征图神经网络的异质图节点分类方法， 其特 征在于， 包括如下步骤： S1:构建具有不同类型节点和关系的训练数据集的异质图； S2:将步骤S1中节点的特征， 按照节点的类型， 使用不同的线性变换矩阵投影至同一个 维度的空间中， 输出的同质节 点的特征为X∈RN*d， 其中N为节 点的个数， d为投影后的空间维 度； S3:将步骤S1中异质图内不同类型的关系进行赋权， 为每一个类型的关系设置一个可 学习的权 重参数ei， ei∈R1表示第i类关系的重要性， 用Ai表示第i类关系的邻接矩阵； S4:根据步骤S3中设置的权重参数ei， 计算每个类型的关系的权重τ(ei)， 其中τ(·)为 聚合权重的函数， 设置 τ 为 LeakyReLU函数以保证权 重的非负性； S5:为每个节点添加自链接关系， 使用sj∈R1来表示第j类节点自链接关系的权重参数， Ij表示第j类自链接关系的邻接矩阵； S6:根据步骤S5中设置的权重参数sj， 计算每个类型 的自链接关系的权重τ(sj)， 其中τ 为LeakyReLU函数； S7:对节点类型关系的权重参数ei和自链接关系的权重参数sj进行梯度放缩， 以获得τ ( αi)和 τ( βj)； S8:根据步骤S7中得到的τ( αi)和 τ( βj)， 计算最终的邻接矩阵： 其中 是关系类型 的集合， 是节点类型 的集合， 赋权邻接矩阵；权　利　要　求　书 1/3 页 2 CN 115457328 A 2S9:根据步骤S2中得到的同质节点特征X和步骤S7中得到的赋权邻接矩阵 通过同质 图神经网络进行建模， 并进行训练； S10:通过训练后的同质图神经网络对节点进行分类， 将结果输出； 其中， 所述基于关系表征图神经网络的异质图节点分类方法通过如权利要求1 ‑3任一 项所述的基于关系表征图神经网络的异质图节点分类装置实现。 5.根据权利要求4所述的基于关系表征图神经网络的异质图节点分类装置， 其特征在 于， 所述S1的步骤， 具体包括： S101： 针对当前处理的任务， 将不同类型的节点根据节点之间不同的关系构 建异质图， 并标注节点的类型和关系的类型； S102： 将每 个类型的节点 根据常见规则提取相关信息作为节点的特 征。 6.根据权利要求4所述的基于关系表征图神经网络的异质图节点分类装置， 其特征在 于， 所述S7的步骤， 具体包括： S701:引入预设的梯度放缩因子λ>0， 以使关系的权重参数和图神经网络参数 能够同时 训练， 将关系的权重参数ei进行放缩， 使αi＝λei， 然后将τ( αi)作为第i类节点类型关系的权 重； S702:引入预设的梯度放缩因子λ>0， 以使自链接关系的权重参数和图神经网络参数能 够同时训练， 将自链接关系的权重参数sj进行放缩， 使βj＝λsj， 然后将τ( βj)作为第j类自链 接关系的权 重； S703:每个类型关系的权重参数ei和自链接关系的权重参数sj初始化为 使τ( αi)和 τ ( βj)均初始化 为1， 以保证权 重初始化与未进行梯度放缩之前保持一 致。 7.根据权利要求5所述的基于关系表征图神经网络的异质图节点分类装置， 其特征在 于， 所述S9的步骤， 具体包括： S901:使用同质图神经网络， 对步骤S2中得到的同质节点特征X和步骤S7中得到的赋权 邻接矩阵 进行建模， 每层中间层特征为 其中H(0)＝ X， GNNLayer(·)为同质图神经网络； S902:将步骤S901中得到的最后一层的H(L)表示为分类置信度， 用于获得最后的分类结 果； S903:根据损失函数对同质图神经网络进行训练。 8.根据权利要求7所述的基于关系表征图神经网络的异质图节点分类装置， 其特征在 于， 所述步骤S9中的同质图神经网络使用4层的同质图神经网络层； 其中， 当所述同质图神经网络为图卷积神经网络时， 每个中间层具有64个神经元， 或当 所述同质图神经网络为图注意力网络时， 每 个中间层具有64个神经 元以及4个注意力头 。 9.基根据权利要求7所述的基于关系表征图神经网络的异质图节点分类装置， 其特征 在于， 所述 步骤S903中的损失函数为交叉熵损失函数， 具体为： 其中， 为分类置信度， Y为步骤S1获得的节点类型的标注， Y＝权　利　要　求　书 2/3 页 3 CN 115457328 A 3