报告题目：面向联邦学习的用户级隐私攻击
报告时间：2019年11月13日下午16:00
报告地点：计算机楼A521
报告人：王志波 教授
报告人简介：
王志波，博士，武汉大学国家网络安全学院教授，入选湖北省“楚天学者”、武汉大学“珞珈青年学者”，并荣获了ACM武汉学术新星奖。2007年毕业于浙江大学信息学院自动化专业，获学士学位；2014年毕业于美国田纳西大学，获计算机工程博士学位。研究方向包括物联网、移动感知与计算、网络安全与隐私保护、人工智能安全。在网络与安全领域著名期刊和会议上发表论文80余篇，包括CCF A类长文19篇，分别发表在TMC、TDSC、TPDS、ICCV、CCS、INFOCOM等顶级期刊和会议上，其中7篇论文入选ESI高被引论文。主持或参与多项国家级省部级项目，受邀担任IEEE ACCESS等期刊编委，以及IEEE INFOCOM、IEEE IPCCC、Globecom、ICC等多个国际会议的大会程序委员。现为IEEE高级会员、ACM会员及CCF高级会员，CCF物联网专委会常委，CCF网络与数据通信专委会委员，中国通信学会云计算与大数据应用委员会首届委员。
报告内容简介：
联邦学习是一种分布式机器学习框架，近年来在隐私安全与机器学习领域受到广泛关注和研究。相比于传统的集中式学习框架，联邦学习将模型的训练过程转移到了用户端，仅需要用户周期性地提交模型参数更新就能完成模型训练，避免了服务端对用户数据的恶意访问和滥用。本次报告针对联邦学习中的隐私问题，提出了一个基于恶意服务端的用户隐私数据重建攻击方法。该方法通过建立一个多任务生成对抗网络模型来模拟用户的数据分布，并利用用户参数更新来计算其数据表征，以此重建特定用户隐私数据。相比已有的攻击方法只能重建表征某个类别的样本数据，这种新的攻击方法可以实现用户级的数据重建，并通过手写数字分类和人脸识别两个任务验证了攻击有效性。此外，阐明了模型参数更新中包含了过多的隐私信息，现有联邦学习框架仍存在安全隐患。
主办单位：
吉林大学计算机科学与技术学院
吉林大学软件学院
吉林大学计算机科学技术研究所
符号计算与知识工程教育部重点实验室
吉林大学国家级计算机实验教学示范中心
