(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211010855.3 (22)申请日 2022.08.23 (71)申请人 西安电子科技大 学 地址 710071 陕西省西安市太白南路2号 (72)发明人 马卓　杨易龙　金嘉玉　李腾　 张俊伟　刘洋　 (74)专利代理 机构 陕西电子 工业专利中心 61205 专利代理师 陈宏社　王品华 (51)Int.Cl. H04L 9/40(2022.01) H04L 9/08(2006.01) H04L 67/1001(2022.01) (54)发明名称 基于门限同态的自适应采样联邦学习隐私 保护方法 (57)摘要 本发明公开了一种基于门限同态的自适应 采样联邦学习隐私保护方法， 其实现步骤为： 构 建联邦学习系统， 联邦服务器S初始化参数， 密钥 分发中心KDC生成客户端密钥， 客户端An获取加 密采样梯度向量和位置比特串， 联邦服务器S对 加密采样梯度向量进行聚合并发送聚合结果， 客 户端Aw对加密聚合梯度向量进行解密， 联邦服务 器S恢复梯度明文并获取隐私保护联邦学习结 果； 本发明通过自适应采样、 门限同态解密任务 分发和梯度恢复， 可用于降低联邦学习过程中客 户端通信负载， 提高联邦学习隐私保护的通信效 率， 拓宽联邦学习隐私保护适用范围， 具有通信 效率高， 适用范围广的优点。 权利要求书4页 说明书8页 附图1页 CN 115378707 A 2022.11.22 CN 115378707 A 1.一种基于门限同态的自适应采样联邦学习隐私保护方法， 其特征在于包括如下步 骤： (1)构建联邦学习 系统： 构建包括联邦服务器S、 密钥分发中心KDC和N个客户端A＝{A1,A2,...,An,...,AN}的联 邦学习系统， 每个客户端An持有图像数据集Dn＝{Xn,Yn}， 其中N≥2， An表示身份信息为IDn的 第n个客户端， Xn表示包含Z幅图像的图像集， Yn表示Xn中包含的 目标的真实类别标签集， (2)联邦服 务器S初始化 参数： (2a)联邦服务器S初始化每个客户端An的卷积神经网络模型Fn， 最小压缩率为CRmin， 窗 口时间time， Fn的权值参数为 并将CRmin、 time和Fn发送至An， 其 中M表示模型 Fn的权值个数， M≥5 0000， 表示Fn的第m个权值； (2b)联邦服务器S初始化(T,N)门限的Paillier同态加密算法中的解密门限为T， 训练 轮数为r， 第r轮训练的卷积神经网络模型为 最大训练轮数R， 并将T和客户端的数量N发 送给密钥分发中心KDC后， 令r＝0， 其中0＜ T≤N且T＜CRmin·N， R≥100； (3)密钥分发中心KDC生成客户端密钥： 密钥分发中心KDC根据T和N生成每个客户端An的私钥skn后将skn发送给An， 并生成公开 的公钥pk； (4)客户端An获取加密采样梯度向量和位置比特串： (4a)客户端An将图像数据集Dn作为卷积神经网络模型Fn的输入进行前向传播， 得到所 有图像的预测标签 集Pn， 然后采用交叉熵损失函 数， 通过Pn和Yn计算Fn的损失值Ln， 然后通过 Ln对权值参数 求偏导计算梯度向量元 素 得到梯度向量 (4b)客户端An测量第r轮客户端An向给联邦服务器S发送位置比特串和加密采样梯度向 量的通信带宽为Br， 并计算本轮训练的采样梯度 元素个数 然后根据 对 梯度向量Gn进行自适应采样， 得到包括 个采样梯度的采样梯度向量 再使用公钥集 合pk对每 个采样梯度向量元 素 进行加密， 得加密采样梯度向量 其中 y为梯度向量元素 所占 用的计算机存储空间大小， E( ·)表示(T,N)门限的Paillier同态加密算法中的加密函数， 表示采样梯度向量中第 个元素， 表示加密采样梯度向量中第 个元素； (4c)客户端An初始化与梯度向量 对应的每一位均 为0的二进 制比特串In'＝<In1,In2,...,Inm,...,InM>， 并判断 是否成立， 即判断 是否在自适 应采样中被选中， 若是， 令 对应的比特Inm＝1， 否则令Inm＝0， 得到记录采样梯度向量元 素 在梯度向量Gn中位置的二进制位置比特串In＝<In1,In2,...,Inm,...,InM>；权　利　要　求　书 1/4 页 2 CN 115378707 A 2(4d)客户端An将位置比特串In和加密采样梯度向量E(Gn')发送给 联邦服务器S； (5)联邦服 务器S对加密采样梯度向量进行聚合并发送聚合结果： (5a)联邦服务器S通过位置比特串In对客户端An的加密采样梯度向量E(Gn')进行展开 得到 表示An的第m个展开采样梯度向 量元素： 其中 J＝m； J表示 Inm在In中的位置索引； (5b)联邦 服务器S对N个客户端中第m个展开采样梯度向量元素 进行聚合， 得到加 密聚合梯度向量 其中 表示第m个加密聚 合梯度向量元 素： (5c)联邦 服务器S构建以 为键值对的分 发字典D， 其中键 值对按 的大小降序 排列； 同时， 构建由T个加密聚合梯度向量E(Ga)组成的分发列表L＝<E1(Ga),E2(Ga),...,Et (Ga),...,ET(Ga)>， 其中Et(Ga)表示组成分发列表L的第t个E(Ga)； (5d)联邦服务器S按照分发字典D中IDn的顺序， 将分发列表L中元素发送 给客户端Aw， 收 到分发列表L元素的客户端集合为A'＝{A1,A2,...,Aw,...,AW}， 其中， Aw表示第w个 接收到分发列表L元 素的客户端， W≤N； (6)客户端Aw对加密聚合梯度向量进行解密： 客户端Aw使用其私钥skw解密接收到的分发列表L元素， 得到部分解密聚合梯度向量 然后将D(E(g))n发送 给联邦服务器S， 其 中， skw表示客户端Aw的私钥， D( ·)表示(T,N)门限的Paillier同态加密 算法的解密函数， 表示部分解密聚合梯度向量中的第 个元素； (7)联邦服 务器S恢复梯度明文并获取隐私保护联邦学习结果： (7a)联邦服务器S将客户端Aw发送的D(E(g))n按照D中IDn的顺序填入长度为len＝M ·T 的一维回收列表L'中， 然后将L'均均分为T段， 得到T个回收向量C1,C2,...,Ct,...,CT， 其 中， T即是(T,N)门限的Paillier同态加密算法中的解密门限T， 表 示第t个回收 向量， 表示回收 向量Ct的第m个元 素； (7b)联邦服务器S使用公钥集合pk和T个回收向量Ct中对应位置的 恢复聚合梯度向量 元素明文 得到聚合梯度向量 并权　利　要　求　书 2/4 页 3 CN 115378707 A 3