计算机工程与科学

作者：肖迪, 余柱阳, 李敏, 王莲

单位：重庆大学计算机学院，重庆 401331

关键词：联邦学习,模型安全,后门攻击,差分隐私；隐私保护,

基金：国家自然科学基金(62072063);重庆市研究生科研创新项目(CYB23045)

联邦学习中的模型安全以及客户隐私是亟待解决的重要挑战。为了同时应对这2大挑战，提出了一项基于差分隐私与模型聚类的联邦学习方案，该方案兼顾模型安全与隐私保护。通过在客户更新中引入局部差分隐私扰乱客户上传的参数以保护客户的隐私数据。为保证对加噪模型更新的精准聚类，首次定义余弦梯度作为聚类指标，并根据聚类结果精准定位恶意模型。最后引入全局差分隐私以抵御潜在的后门攻击。通过理论分析得到全局噪声的噪声边界，并证明了本方案引入的噪声总量低于经典模型安全方案所引入的噪声总量。实验结果表明，本方案能够达成在精度、鲁棒以及隐私3方面的预期目标。

来源：2024年第9期

《计算机工程与科学》期刊编辑部

查看计算机工程与科学杂志2024年第9期