运维
文件操作
渗透测试
缩位求和
编码
unix
rviz
DBSCAN
python考级
框架
NPDP
数据统计
rknn
微机原理
NISCTF
发sci
管理微信小程序登录态
PyQt5
轮廓
hotseat图标
联邦学习
2024/4/12 0:39:39
最新研究：可审计的具有拜占庭鲁棒的联邦学习方案
本人新论文，可免费下载：https://download.csdn.net/download/liangyihuai/87727720
Y. Liang, Y. Li and B. -S. Shin, “Auditable Federated Learning With Byzantine Robustness,” in IEEE Transactions on Computational Social Systems, doi: 10.…
Communication-Efficient Learning of Deep Networks from Decentralized Data
本文目录1. 摘要2. 介绍3. FedAvg算法4. 实验结果5. 结论和未来工作其它学习记录独立同分布随机梯度下降参考学习视频参考学习视频1. 摘要
现代移动设备可以访问大量适合学习模型的数据，这反过来又可以极大地改善设备上的用户体验。例如，语言模型可以改…
隐私计算加速崛起，这份技术趋势白皮书揭示了什么？
去年9月1日，历经三次审议修改的《数据安全法》终于正式实施，也让数据安全领域的关键技术--隐私计算彻底火了，引起社会各界的广泛关注。
有人认为隐私计算如今是多光环加持，如张弦之箭，正开启属于它的时代。Gartner甚至…
深入理解联邦学习——联邦学习的价值
分类目录：《深入理解联邦学习》总目录 毫无疑问，如今我们正经历互联网第四次信息革命，坐拥海量的信息与数据。这些数据如果能够用AI的方式进行解读，将会为人类日常生活带来颠覆性变革。联邦学习作为未来AI发展的底层技术ÿ…
联邦学习之安全聚合SMPC
联邦学习之安全聚合联邦学习过程1. 设备选择2. 参数分发3. 本地更新4. 全局更新5.收敛判停DSSGDFedAVG安全聚合SMPCDH密钥交换秘密分享secret share引理1Shamir′s Secret Sharing with 2−out−of−3 (t 2, n 3)FedAVG场景Masking with One-Time Pads场景Masking with One-T…
FedAvg算法+LSTM模型+ Shakespeare数据集——字符预测任务
本文目录1. Shakespeare数据集介绍2. LSTM训练模型3. Client模型4. Serves模型5. 数据处理工具函数6. 数据读取函数7. 训练函数8. 训练结果1. Shakespeare数据集介绍
任务：下一个字符预测
参数说明：总共4,226,15条样本，可使用官方给出的划分…
联邦学习：对“数据隐私保护”和“数据孤岛”困境的破局
作者：vivo 互联网安全团队- Tu Daxi 随着计算力、算法和数据量的巨大发展，人工智能迎来第3次发展高潮，开始了各行业的落地探索。然而，在“大数据”兴起的同时，更多行业应用领域中是“小数据”或者质量很差的数据。“数…
【FedCoin: A Peer-to-Peer Payment System for Federated Learning】
在这篇论文中，我们提出了FedCoin，一个基于区块链的点对点支付系统，专为联邦学习设计，以实现基于Shapley值的实际利润分配。在FedCoin系统中，区块链共识实体负责计算SV，并且新的区块是基于“Shapley证明”&a…
联邦聚合(FedAvg、FedProx、SCAFFOLD)
目录
联邦聚合算法对比(FedAvg、FedProx、SCAFFOLD)
解决问题
FedAvg
FedProx
SCAFFOLD
实验结果 联邦聚合算法对比(FedAvg、FedProx、SCAFFOLD)
论文链接：
FedAvg：Communication-Efficient Learning of Deep Networks from Decentralized Data …
联邦学习系统攻击与防御技术
摘要
联邦学习作为一种使用分布式训练数据集构建机器学习模型的新兴技术，可有效解决不同数据用户之间因联合建模而导致的本地数据隐私泄露问题，从而被广泛应用于多个领域并得到迅速发展。然而，现有的联邦学习系统已被证实在…
Towards Blockchain-Based Reputation-Aware Federated Learning
Towards Blockchain-Based Reputation-Aware Federated Learning FINE-GRAINED FEDERATED LEARNINGA. Problem StatementB. DefinitionC. Requirements BLOCKCHAIN-BASED REPUTATION-AWARE FL 论文地址：https://www.researchgate.net/profile/Muhammad-Habib-Ur-Reh…
深入理解联邦学习——联邦学习与现有理论的区别与联系
分类目录：《深入理解联邦学习》总目录 作为一种全新的技术，联邦学习在借鉴一些成熟技术的同时也具备了一定的独创性。下面我们就从多个角度来阐释联邦学习和其他相关概念之间的关系。
联邦学习与差分隐私理论的区别
联邦学习的特点使其可以被用来保护用…
【论文 | 联邦学习】 | Towards Personalized Federated Learning 走向个性化的联邦学习
Towards Personalized Federated Learning 标题：Towards Personalized Federated Learning
收录于：IEEE Transactions on Neural Networks and Learning Systems (Mar 28, 2022)
作者单位：NTU，Alibaba Group，SDU&…
从AI到BI：隐语SCQL深度解读（附视频）
3月29日，“隐语开源社区开放日”活动顺利举办。当天隐语社区正式开源SCQL引擎，在工业界首次实现了隐私数据从Al到BI分析，是隐语走向易用的重要一步！下文为隐语框架负责人王磊在活动现场的分享内容。 我们知道，在隐私计算目前应用较多的场景中，无论是风控场景的LR、XGB，还…
深入理解联邦学习——联邦学习的分类：基础知识
分类目录：《深入理解联邦学习》总目录 在实际中，孤岛数据具有不同分布特点，根据这些特点，我们可以提出相对应的联邦学习方案。下面，我们将以孤岛数据的分布特点为依据对联邦学习进行分类。
考虑有多个数据拥有方&…
【FATE联邦学习】使用flow命令查看FATE服务情况
目的
我想找一个命令，能够看到FATE服务整个的overview，包括已经部署的模型列表等。于是开始寻找。
flow命令的所有选项
flow： checkpoint Checkpoint Operationscomponent Component Operationsdata Data Operationsinit …
区块链和联邦学习研究现状（翻译）
目前，有很多联邦学习区块链的的研究工作。 Martinez提出使用EOS区块链作为联邦学习的激励层。通过日志、和激励，能够保证联邦学习参与方的热情和高质量的数据贡献。 Martinez I, Francis S, Hafid AS. In: CyberC 2019 Workshop on Blockchain. Record a…
深入理解联邦学习——联邦学习的定义
分类目录：《深入理解联邦学习》总目录 假设有两个不同的企业 A A A和 B B B，它们拥有不同的数据。比如，企业 A A A有用户特征数据，而企业 B B B有产品特征数据和标注数据。这两个企业按照GDPR准则是不能粗暴地把双方数据加以合并的…
《Secure Analytics-Federated Learning and Secure Aggregation》论文阅读
背景
机器学习模型对数据的分析具有很大的优势，很多敏感数据分布在用户各自的终端。若大规模收集用户的敏感数据具有泄露的风险。 对于安全分析的一般背景就是认为有n方有敏感数据，并且不愿意分享他们的数据，但可以分享聚合计算后的结果。 联…
《PFL》论文阅读笔记
一、概要
随着联邦学习的发展，简单的聚合算法已经不在有效。但复杂的聚合算法使得联邦学习训练时间出现新的瓶颈。本文提出了并行联邦学习（parallel federated learning，PFL），通过调换中心节点聚合和广播的顺序。本文…
《Dataset Condensation with Differentiable Siamese Augmentation》
《Dataset Condensation with Differentiable Siamese Augmentation》 在本文中，我们专注于将大型训练集压缩成显著较小的合成集，这些合成集可以用于从头开始训练深度神经网络，性能下降最小。受最近的训练集合成方法的启发，我们提…
pandas数据处理之构建联邦学习数据
本文以天池比赛《车辆贷款违约预测》的数据为例，通过pandas处理数据，构建联邦学习数据，用于FATE框架联邦学习。
通过pandas处理数据
1. 读取数据
下载car_loan_train.csv数据后，用pandas读取数据。
import pandas as pddatapd…
个性化联邦学习-综述
介绍阅读的三篇个性化联邦学习的经典综述文章
Three Approaches for Personalization with Applications to Federated Learning
论文地址 文章的主要内容
介绍了用户聚类，数据插值，模型插值三种个性化联邦学习的方法。 用户聚类：
目的&a…
【FATE联邦学习】高度costumized定制联邦学习 costumize all所有步骤
overview
https://fate.readthedocs.io/en/latest/zh/tutorial/pipeline/nn_tutorial/
使用自己的数据集
homo场景： https://fate.readthedocs.io/en/latest/tutorial/pipeline/nn_tutorial/Homo-NN-Customize-your-Dataset/ hetero场景：https://fate…
【FATE联邦学习】FATE框架的大坑，使用6个月有感
安装
如果是standalone安装那其实还算简单。
但是如果是集群部署，有坑。 集群部署的方式分为kubeFATE、AnsibleFATE、DockerCompose部署。 其中kubeFATE和AnsibleFATE都需要关闭集群的防火墙，而这在生产环境几乎是不可能的。
我个人只尝试过用虚拟机A…
【阅读记录】《联邦学习》杨强
第2章 隐私、安全及机器学习
2.3 威胁与安全模型
2.3.1 隐私威胁模型
对机器学习系统的攻击可能在任何阶段发生，包括数据发布、模型训练和模型推理。
模型训练阶段：重构攻击（避免使用寻存储显式特征值的模型，SVM KNN等&…
联邦学习目前面临的挑战以及解决方案
学习目标： 联邦学习目前面临的挑战以及解决方案 学习内容：
联邦学习是一种新兴的人工智能基础技术，它在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的…
![[阅读笔记] 联邦学习攻防综述 An Overview of Federated Deep Learning Privacy Attacks and Defensive Strategies](https://zhangruiyuan.oss-cn-hangzhou.aliyuncs.com/picGo/images/image-20220105215250780.png)
[阅读笔记] 联邦学习攻防综述 An Overview of Federated Deep Learning Privacy Attacks and Defensive Strategies
✍️ [阅读笔记] An Overview of Federated Deep Learning Privacy Attacks and Defensive Strategies 本文是一篇关于联邦学习的隐私攻击和防御策略的综述文章，作者2020年挂在CoRR上。 🙋♂️张同学 📧zhangruiyuanzju.edu.cn 有问题请联系…
【L2GD】: 无环局部梯度下降
文章链接：Federated Learning of a Mixture of Global and Local Models
发表期刊（会议）: ICLR 2021 Conference（机器学习顶会）
往期博客：FLMix: 联邦学习新范式——局部和全局的结合 目录 1.背景介绍2. …
联邦学习FedAvg算法复现任务
本文目录1. 准备工作2. 分割数据集3. 数据节点类4. CNN模型类5. 利用FedAvg算法训练6. client训练函数7. 模型评估函数8. 模型训练结果附录：关键函数记录**torch.nn.Module.load_state_dict****nn.utils.clip_grad_norm_**torch.nn.Embedding1. 准备工作
FedAvg算法…
深入理解联邦学习——联邦学习的分类
分类目录：《深入理解联邦学习》总目录 在实际中，孤岛数据具有不同分布特点，根据这些特点，我们可以提出相对应的联邦学习方案。下面，我们将以孤岛数据的分布特点为依据对联邦学习进行分类。
考虑有多个数据拥有方&…
Pytorch中的梯度知识总结
文章目录1.叶节点、中间节点、梯度计算2.叶子张量 leaf tensor (叶子节点) (detach)2.1 为什么需要叶子节点？2.2 detach()将节点剥离成叶子节点2.3 什么样节点会是叶子节点2.3 detach()，detach_() 的作用和区别2.4 clone()与detach()的区别5.optimizer.z…
《Robust and Communication-Efficient Federated Learning From Non-i.i.d. Data》论文阅读
目录1. 摘要2. 介绍3. 联邦学习环境的挑战4. 贡献5. 相关工作6. 现有压缩方法的限制7. 稀疏三元压缩（STC）1. 摘要
联合学习允许多方在其组合数据上联合训练深度学习模型，而无需任何参与者将其本地数据透露给中央服务器。然而，这种…
FATE框架中pipline基础教程
目录 1. 用pipline上传数据2. 用 Pipeline 进行 Hetero SecureBoost 的训练和预测3. 用 Pipeline 构建神经网络模型3.1 Homo-NN Quick Start: A Binary Classification Task3.2 Hetero-NN Quick Start: A Binary Classification Task 4. 自定义数据集示例：实现一个简…
《基于同态加密和秘密分享的纵向联邦LR协议研究》论文阅读
论文地址：https://xueshu.baidu.com/usercenter/paper/show?paperid1b7e04e0r41x0ax0976q0gy0m5242465
摘要
提出了一种新颖的两方纵向联邦逻辑回归协议,并在半诚实安全模型下证明了该协议的安全性, 包括模型训练流程和模型推理流程的安全性,且无需对非线性函数使…
FedAT：分层机制更新的联邦学习
文章链接：FedAT: A Communication-Efficient Federated Learning Method with Asynchronous Tiers under Non-IID Data
发表会议: SC’21 (International Conference for High Performance Computing, Networking, Storage, and Analysis) 高性能计算，体…
Federated Unlearning for On-Device Recommendation
WSDM 2023 CCF-B
Federated Unlearning for On-Device Recommendation
本文工作的主要介绍
本文主要介绍了一种名为FRU（Federated Recommendation Unlearning）的联邦学习框架，用于在设备端的推荐系统中实现用户数据的有效擦除和模型重建。…
深入理解联邦学习——联邦学习概念的产生
分类目录：《深入理解联邦学习》总目录 从1955年达特茅斯会议开始，人工智能经过两起两落的发展，迎来了第三个高峰期。第一个高峰期的出现是因为人们看到了AI的希望，也就是自动化算法对提高效率的希望，但是受算法能力的限…
FedAT：异步更新联邦学习方法
文章链接：FedAT: A Communication-Efficient Federated Learning Method with Asynchronous Tiers under Non-IID Data
发表会议: SC’21 (International Conference for High Performance Computing, Networking, Storage, and Analysis) 高性能计算，体…
阅读记录【PMLR2023】The Aggregation–Heterogeneity Trade-off in Federated Learning
The Aggregation–Heterogeneity Trade-off in Federated Learning
Abstract
机器学习的传统观点认为，训练模型的数据越多，模型的性能就越好。因此，人们开发了多种联邦学习方法来聚合尽可能多的本地样本。与这种观点相反，本文表…
缓存驱动联邦学习架构赋能个性化边缘智能 | TMC 2024
缓存驱动联邦学习架构赋能个性化边缘智能 | TMC 2024
伴随着移动设备的普及与终端数据的爆炸式增长，边缘智能（Edge Intelligence, EI）逐渐成为研究领域的前沿。在这一浪潮中，联邦学习（Federated Learning, FL…
【联邦学习+区块链】TORR: A Lightweight Blockchain for Decentralized Federated Learning
文章目录 I.CONTRIBUTIONII. ASSUMPTIONS AND THREAT MODELA. AssumptionsB. Threat Model III. SYSTEM DESIGNA. Design OverviewB. Block DesignC. InitializationD. Role SelectionE. Storage ProtocolF. Aggregation ProtocolG. Proof of ReliabilityH. Blockchain Consens…
AICC 2021，这些AI热门话题你一定要知道
提到AI，我们总会想起AlphaGo横扫围棋高手、波士顿机器狗逆天的运动能力、特斯拉人型机器人的炫酷炸天……
这些固然能够吸引大家的眼球，但真实的AI产业如何？AI算力对于社会经济发展到底有何作用？AI呈现出哪些发展趋势？…
《NTP-VFL - A New Scheme for Non-3rd Party Vertical Federated Learning》模型原理
一、概要
目前现存算法的三个局限性：
理论上的可信三方现实不存在，通常是联邦学习的主要瓶颈。通信和计算成本随着迭代次数的提升，增长很快。扩展性不好，隐私保护的最优模型在两方和多方中不兼容。
本文提出一个没有第三方的联…
边缘智能相关论文(Edge Intelligence Federated Learning)
边缘智能相关论文Fast InferenceModel CompressionReduction in CommunicationFederated Learning and OptimizationFederated Learning and security最近边缘计算方面出了很多新的研究成果，在AI背景下，边缘智能（Edge Intelligence࿰…
联邦推荐系统相关论文创新点总结
FD-GATDR: A Federated-Decentralized-Learning Graph Attention Network for Doctor Recommendation Using EHR
本文的主要内容是基于电子健康记录（EHR）构建了一个医生推荐系统。该系统通过分析患者的EHR历史，提供个性化的医生推荐…