📌MSAFL论文速读
1. 标题
Mobility-Aware Semi-Asynchronous Federated Learning for Vehicular Networks
面向车联网的移动性感知半异步联邦学习
①车联网场景,然后研究的是半异步联邦学习
②车辆也是移动性的
2. 摘要
①现有大多数联邦学习方法依赖同步训练来保证较好的收敛性能。但是,联网车辆的移动会造成通信不稳定,并可能引发严重的“拖尾客户端”问题。此外,车辆经常会在成功上传本地模型之前驶离路侧单元 RSU 的覆盖范围,从而降低全局模型的准确率。
②为了解决上述问题,本文提出了一种适用于车联网、具有较高通信效率的半异步联邦学习方法 ESAFL,以提升联邦学习性能。
<1>车辆分层与分组:根据车辆的训练时间和通信延迟,将车辆划分到不同网络层。
<2>半异步参与机制:为不同层的车辆设置不同的参与频率,减少 RSU 等待慢车辆的时间。
<3>加权模型聚合机制:在聚合时结合车辆的数据量和模型信息年龄,对不同车辆上传的模型分配不同权重。
3. 场景流程
①车辆进入 RSU 覆盖范围。
道路上的联网车辆不断移动,当车辆进入某个 RSU 的通信范围后,就可以通过无线链路与 RSU 进行联邦学习通信。车辆之间不直接交换模型,而是由 RSU 负责接收和处理车辆上传的模型。由于车辆速度、位置和通信质量不同,每辆车能够停留在 RSU 覆盖范围内的时间也不同。
②RSU 估计车辆的训练和上传时间。
RSU 会估计每辆车完成一轮联邦学习所需要的时间,包括下载全局模型、本地训练模型以及上传模型参数的时间。这个时间可以反映车辆的处理能力和通信能力,所需时间越长的车辆,就越可能成为拖慢整体训练过程的慢客户端。
③RSU 根据延迟对车辆进行分层。 【模块1】
RSU 根据车辆预计完成任务的时间,将车辆划分到不同的逻辑网络层中。训练和通信较快的车辆被划分到较快的层,训练或上传较慢的车辆被划分到较慢的层。这种分层不是按照固定地理位置划分,也不是永久固定的车辆分组,车辆的通信状态发生变化后,所属层次也可能发生变化。
④RSU 为不同层设置不同的参与频率。
ESAFL 不要求所有车辆每一轮都参加训练,而是根据车辆所在的网络层设置不同的参与周期。较快的车辆可以更频繁地参与,较慢的车辆则隔若干轮参与一次。这样既可以减少 RSU 等待慢车辆的时间,又能够避免完全放弃慢车辆,使不同车辆的数据仍有机会参与全局模型训练。
⑤RSU 向符合条件的车辆下发全局模型。
每一轮开始时,RSU 根据当前轮次和车辆的参与计划,确定哪些车辆需要参加本轮训练,然后将当前的全局模型发送给这些车辆。车辆收到全局模型后,以它作为本地训练的初始模型,而不是从随机模型重新开始训练。
⑥车辆利用本地数据进行训练。
车辆在本地使用自身收集的数据训练模型,例如道路环境、交通标志或驾驶行为相关数据。原始数据不会被直接上传到 RSU,车辆只需要根据本地数据计算模型更新结果,从而降低隐私泄露风险和原始数据传输开销。论文还在本地损失函数中加入正则化项,以减轻不同车辆参与频率不同造成的模型差异。
⑦车辆将本地模型上传给 RSU。
本地训练完成后,车辆把更新后的模型参数上传给 RSU。由于车辆处于移动状态,可能在训练或上传过程中驶离 RSU 的覆盖范围,也可能因为信道质量较差而上传速度较慢,导致本轮模型无法及时到达 RSU,这就是车联网联邦学习中的移动性和通信不稳定问题。
⑧RSU 进行半异步模型聚合。 【模块2】
与同步联邦学习必须等待所有车辆不同,ESAFL 不会无限等待最慢车辆,而是在规定的聚合时机利用当前已经收到的车辆模型进行聚合。这样,已经完成上传的车辆可以及时参与训练,尚未完成上传的车辆不会阻塞整个系统。不过,它也不是收到一个模型就立即聚合,而是按照预先设计的半异步规则进行阶段性聚合。
⑨RSU 根据模型年龄调整聚合权重。 【模块3】
不同车辆上传模型的时间可能不同,因此模型的新旧程度也不同。RSU 会记录车辆距离上一次获得全局模型经过了多少轮,并将其作为模型年龄的一种衡量。在聚合时,RSU 不仅考虑车辆本地数据量,还会考虑模型年龄和车辆参与频率,从而避免参与较少的车辆长期被忽略。
⑩RSU 生成新的全局模型并进入下一轮。
RSU 完成模型聚合后,会生成新的全局模型,并将它发送给下一轮需要参与训练的车辆。车辆再次进行本地训练和模型上传,RSU 继续执行车辆分层、参与安排和模型聚合,整个过程不断重复,直到达到预设训练轮数或模型基本收敛。
4. 总结
车辆-rsu场景下,先对车分组,然后按组进行半异步联邦学习,并引入新旧模型权重……其实图3画的不错,把论文变得简单易懂!






