(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210899003.8 (22)申请日 2022.07.28 (71)申请人 上海光之树科技有限公司 地址 200433 上海市杨 浦区国和路6 0号 (72)发明人 夏长达　张子扬　夏家骏　张佳辰　 (74)专利代理 机构 广州鼎贤知识产权代理有限 公司 44502 专利代理师 刘莉梅 (51)Int.Cl. H04L 9/40(2022.01) H04L 9/08(2006.01) G06N 20/00(2019.01) G06F 17/16(2006.01) (54)发明名称 联邦学习框架下基于安全聚合和密钥交换 的矩阵分解方法 (57)摘要 本发明公开了一种联邦学习框架基于安全 聚合和密钥交换的矩阵分解方法， 通过在联邦学 习框架下对矩阵分解的物品矩阵I的梯度进行安 全聚合， 为联邦学习增强数据安全性提供了新的 思路； 利用不出本地 和安全聚合的梯度 高效地利用上推荐模型(即联邦学习模型)的训 练样本， 确保了用户数据不离开本地， 同时使得 推荐模型训练过程更加安全； 对梯度加掩码和噪 声， 有效避免了数据因暴露真实梯度而造成源数 据信息的泄露； 提供的基于安全聚合的梯度汇总 方式， 相比较背景技术中采用的同态加密技术， 对梯度加解密的计算复杂度更低， 计算速度更 快， 利于提高推荐 模型的训练速度。 权利要求书3页 说明书7页 附图2页 CN 115225405 A 2022.10.21 CN 115225405 A 1.一种联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特征在于， 步骤 包括： S1， 记联邦学习框架的调度 方为服务端， 各参与训练方为客户端， 所述服务端将初始化 后的物品的嵌入矩阵I广播给每 个所述客户端； S2， 每个客户端X利用所述嵌入矩阵I计算关于各自本地用户嵌入矩阵UX的梯度 并 利用 更新本地用户的嵌入矩阵UX； S3， 每个所述客户端X利用本地更新后的UX， 计算对所述嵌入矩阵I产生的梯度 S4， 采用密钥交换方法更新所述梯度 并对 进行汇总得到 后， 利用 更新所述 嵌入矩阵I； S5， 重复步骤S2 ‑S4， 直至达到联邦学习的终止条件。 2.根据权利要求1所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特征在于， 步骤S2中， 所述嵌入矩阵 中关联本 地用 户i的嵌入向量 的梯度 通过以下公式(1)计算而得： 公式(1)中， L 为客户端X进行 联邦学习的损失函数， MX表示所述 客户端X处的评分矩阵； IT是I的矩阵转置； ||·||F表示矩阵的Froben ius范数； Ij∈R1×k表示所有所述客户端共有的物品j的嵌入向量， 是嵌入矩阵I＝[I1， I2， ...， Ij， ...， Id]∈Rd×k的第j行； 表示Ij的向量 转置； 表示所述客户端X拥有的所述用户i关于物品j的评分(用户i关于物品j没有实际评 分的缺失项是建模完后需要预测的)； j： 表示所述 客户端X拥有的所述用户i实际评过分的物品j； ∑j： 表示对所述客户端X拥有的所述用户i实际评过分的物品j关于记号j进行 求和。 3.根据要求2所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特 征在于， 步骤S2中， 通过以下公式(2)更新每 个所述客户端X各自本地的用户嵌入矩阵： 公式(2)中， λU表示UX的正则化 参数， 4.根据权利要求1所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特征在于， 步骤S3中， 所述嵌入矩阵I中关联物品j的嵌入向量 Ij对应的梯度 通过以下 公式(3)计算而得： 权　利　要　求　书 1/3 页 2 CN 115225405 A 2公式(3)中， 表示 的第j行； 表示所有所述 客户端共有的所述物品j的嵌入向量 Ij的向量转置； 表示所述嵌入矩阵UX中关联本地用户i的嵌入向量； 表示所述 客户端X本地拥有的所述用户i关于所述物品j的评分； i： 表示所述 客户端X拥有的对物品j有过评分行为的那些用户i； ∑i： 表示对所述客户端X拥有的对物品j有过评分行为的那些用户i关于记号i 进行求和。 5.根据权利要求1所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特征在于， 步骤S4中， 更 换所述梯度 采用的所述密钥交换 方法具体为： S41， 每个客户端X本地生成私钥 sX和公钥pX， 所述服务端对每个所述客户端X产生的公 钥进行交换， 每 个所述客户端X得到对应的交换公钥集 合， 记为CX； S42， 根据CX和每个所述客户端X在本地生成的私钥 sX， 在所述客户端X和 其他每个客户 端Y的两两客户端之间生成密钥协定， 记为 key_agreement(X， Y)； S43， 所述客户端X将本地生成的key_agreement(X， Y)作为种子生成掩码， 记为mask(X， Y)， 然后更新 步骤S3中的所述梯度 6.根据权利要求5所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特征在于， 步骤S41中， CX通过以下表达式(4)表达： CX＝{p1，…， pX，…， pN}   表达式(4) 表达式(4)中， 表示所述 客户端X本地 生成的公钥； p表示素数， 各客户端预 先约定好； g表示模p的原根， 各客户端预 先约定好； ％p表示对素 数p取模运 算； {p1，…， pX，…， pN}表示所服务器接收到 的所有共N个所述客户端在本地生成的公钥的 集合。 7.根据权利要求6所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特征在于， 步骤S42中， key_a greement(X， Y)的生成方法为： 所述客户端X从所述交换公钥集 合CX中取出所述客户端Y的公钥pY； 所述客户端X根据所述公钥pY和本地生成的所述私钥sX生成为key_agreement(X， Y)。 8.根据权利要求7所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特征在于， key_a greement(X， Y)的生成公式表达如下： 公式(5)中， 表示pY的sX次幂； p表示各客户端预 先约定好的素 数； ％p表示对素 数p取模运 算。 9.根据要求5所述的联邦学习框架下基于安全聚合和密钥交换的矩阵分解方法， 其特 征在于， 步骤S43中， 通过以下公式(6)更新所述梯度 权　利　要　求　书 2/3 页 3 CN 115225405 A 3