首页|基于区块链的中间参数动态差分隐私联邦学习方案研究

基于区块链的中间参数动态差分隐私联邦学习方案研究

吴晗

基于区块链的中间参数动态差分隐私联邦学习方案研究

吴晗1
扫码查看

作者信息

  • 1. 北京邮电大学
  • 折叠

摘要

随着人工智能技术的不断发展,其已渗透到人们的生产和生活中。人工智能的核心是机器学习,而深度学习是机器学习的一个重要分支,它利用深层神经网络来实现人工智能的各种功能。深度学习通过构建深层神经网络,从大量的数据中自动学习抽象特征,进而在图像识别、自然语言处理和语音识别等多个领域的大放异彩。深度学习的快速发展所带来的问题愈加突出,其中在海量数据集不断激增的背景下,保护个人数据隐私已成为一项紧迫而重要的任务。 联邦学习作为一种保护数据隐私、提高机器学习隐私性的框架受到广泛关注。本论文通过分析联邦学习的基本概念和流程,将联邦学习漏洞来源概括为通信协议、用户数据和中心聚合服务等方面,接着重点探讨了现有联邦学习算法中存在的隐私安全威胁,包括模投毒攻击,参数推理攻击和中间参数聚合服务器攻击等,最后是本文提出的为解决隐私安全问题所用的解决方案。 差分隐私是一种隐私保护技术,可以在不暴露个人敏感信息的情况下进行数据分析和共享。其基本思想是对数据添加一定的噪声,添加的随机扰动对结果的影响非常小,从而达到保护隐私的目的。 区块链技术是一种基于分布式网络和密码学技术的新型计算模式,被广泛应用于去中心化、安全性和透明性高的应用场景。它的基本概念是将数据分散储存在多个节点上,通过去中心化的方式实现数据交换和共识达成。每个区块链节点都有相同的数据副本,数据的完整性和不可篡改性由加密算法来确保,同时通过共识算法来保证数据的一致性和可信性。由于区块链技术具有去中心化、安全性高等优点。本文针对联邦学习自身的特点与其存在的隐私安全隐患,结合差分隐私与区块链技术,提出了一种基于区块链的联邦学习模型,本文的主要研究内容与创新点如下: (1)提出了一种自适应中间参数梯度裁剪机制,针对联邦学习本地训练慢的问题,依据前轮训练的梯度参数对本轮的参数进行梯度裁剪,降低模型训练时间; (2)提出了一种基于高斯机制的加权添噪差分隐私方法,针对联邦学习中所面临的参数推理攻击,对差分隐私技术进行改进,基于高斯加权法添噪在训练前为本地参与者设置数据隐私性权值,保护参与者隐私性的同时也降低了噪声对模型精度影响; (3)提出了一种随机性K-N调度联邦聚合机制,针对传统联邦学习聚合过程要求所有参与者参加聚合导致模型收敛时间慢的问题,对联邦学习聚合方式进行改进,采用随机K-N是联邦调度聚合,降低了模型的训练时间; (4)设计并实现一种基于区块链的隐私安全联邦学习模型系统,联邦学习依然存在模型投毒攻击与中心聚合服务器攻击等问题,使用区块链系统代替传统联邦学习的中心聚合服务器,设计适合于本章的区块链系统,包括区块设计、交易数据设计、智能合约设计和网络共识机制选型等等,区块链的特性使整个联邦学习模型的隐私安全性、模型安全性和公平性都进一步得到保障。

关键词

数据安全/联邦学习/区块链/差分隐私

引用本文复制引用

授予学位

硕士

学科专业

计算机技术

导师

彭海朋

学位年度

2023

学位授予单位

北京邮电大学

语种

中文

中图分类号

TP
段落导航相关论文