📌SMARL论文速读
0. 介绍
这是我师兄被拒稿的论文,我入手来大修!
1. 标题
Resilient and Efficient Split Federated Learning in IoV via Stackelberg Multi-Agent Meta-Reinforcement Learning
基于 Stackelberg 多智能体元强化学习的车联网高韧性与高效分割联邦学习
①云—边—端三层架构,车联网场景下,车辆通过网络与边缘服务器协作。
②分割联邦学习(SFL),即把模型拆分到车辆和服务器侧执行,并进行协作学习。【模型切分是在端—边之间进行的】
③使用的方法是:Stackelberg 多智能体元强化学习。
④主要解决的是:SFL 更高效,并在故障或环境变化时更有韧性。
2. 摘要
①车联网里的车辆需要快速运行 AI 任务,但车载设备算力有限;把任务交给远处的云,又可能因为网络传输而变慢。于是论文考虑把 AI 模型拆成两部分:一部分在车辆上运行,另一部分交给附近的边缘服务器。
难点是车辆会移动、网络状况会变化,边缘服务器也可能故障。论文因此研究如何安排模型切分、选择边缘服务器和分配计算资源,让系统尽量保持高效,并在故障后尽快恢复。
②主要可以分成4个模块,如下所示
任务聚类(DBSCAN):把不同运行场景分组。
任务编码(VAE):从历史经验中提取场景信息,帮助策略适应环境变化。
车辆—边缘决策(Stackelberg 博弈):车辆先选切分位置、服务器和资源需求,边缘服务器再分配算力。
策略训练(CTDE-DDPG):训练多智能体策略;车辆和服务器分散决策,云端集中评估和指导训练。
场景流程
① 系统里有多辆车、多台边缘服务器和一个中心云
每辆车是一个客户端,拥有本地数据和计算能力;附近的路侧单元或 5G 基站作为边缘服务器,提供额外算力;云端负责系统级的模型聚合等功能。
论文的通用模型里有 N 辆车和 M 台边缘服务器。仿真实验中则设置了 20 辆车、4 台边缘服务器和 1 台云服务器。
② 车辆要完成机器学习任务,但车载算力有限
例如车辆要做车辆识别或驾驶员疲劳检测。完全在车上运行模型,可能计算太慢;把任务送到较远的云端,又可能增加通信时延。
因此论文考虑把模型拆成两段:前一段在车辆上运行,后一段在边缘服务器上运行。论文没有把模型再拆出一段交给云端执行。
③ 车辆先决定把任务交给哪台边缘服务器、模型在哪里切开
每辆车要做几项选择:
④ 边缘服务器收到车辆的选择后,再决定怎么分配算力
辆车可能同时请求同一台边缘服务器,而服务器的计算资源有限。服务器要决定把多少算力分给每辆车。
论文把这个先后关系称为 Stackelberg 领导者—跟随者结构:车辆先作选择,作为“领导者”;边缘服务器观察车辆的选择后再分配资源,作为“跟随者”。
⑤ 运行模型时,车辆先算前半段,再把中间结果发给边缘
车辆把输入数据放进本地模型部分,得到中间特征,再通过无线网络发送给选定的边缘服务器。车辆发送的是模型切分处产生的中间数据,不是把原始图片或完整模型都交给云端。
⑥ 边缘服务器接着计算模型后半段
边缘服务器收到中间特征后,继续运行模型剩余部分,完成这次推理或训练所需的计算。
如果执行的是训练任务,车辆和边缘服务器之间还需要交换训练过程所需的信息,例如反向传播的梯度;论文的时延模型也分别考虑了前向和反向传输。
⑦ 联邦学习时,各方还要参与模型聚合
在分割联邦学习过程中,各车辆的数据保留在本地,车辆与边缘服务器协作完成模型计算;模型更新还需要经过聚合。论文把客户端到边缘、再到云端的通信开销纳入聚合时延模型。
这里的云端聚合和“把模型切一段放在云上运行”是两回事:前者是模型更新汇总,后者是模型执行位置;论文描述的是前者,并未设置云端模型分段执行。
⑧ 环境变化或服务器故障时,车辆和服务器需要重新安排
车辆会移动,网络速率会变化;边缘服务器也可能故障。一旦原来连接的服务器不可用,车辆可能需要重新选服务器、调整模型切分位置,服务器也需要重新分配算力。
论文希望 SMARL 能根据变化后的任务和系统状态调整策略,并降低故障后的恢复成本。
⑨ SMARL 学习如何作出这些选择
论文用任务聚类和 VAE 从历史交互中提取当前场景的表示;车辆策略根据场景和本地观测选择服务器、切分位置及资源请求,边缘服务器策略决定资源分配。训练时,云端的集中式 Critic 利用全局信息指导策略更新;实际决策时,各智能体根据各自可用的信息行动。
4. 总结
这篇论文是研究分割联邦学习方面的,创新点是:①客户端如何选择它的边缘服务器?②客户端的模型应该如何切分?③边缘服务器的资源应该如何分配?
5. 补充一
特别补充一点,模型训练好了之后并不是直接放车子上,车子上只有一部分,模型的中间部分会被保存在边缘服务器,所以推理时也要用到边缘服务器






