跳到正文
arXiv cs.LG· Kai Li, Hanlin Cai, Zihao Liu, Yichen Li, Jose Alcaraz Calero, Wei Ni, Falko Dressler, \"Ozg\"ur B. Akan·· 7 小时前AI 评分17

基于超图消息传递的拜占庭鲁棒联邦大语言模型

Byzantine-Resilient Federated Large Language Model via Hypergraph Message Passing

AI 导读

研究提出 HMP-GAE 框架,将低秩模型更新表示为超图节点,通过迭代消息传递利用多智能体间高阶语义关系,识别并抑制联邦训练中语义不一致的恶意更新。该框架以 Qwen-2.5 和 Llama-3.2 为预训练 FedLLM 骨干,在 AG News 和 Yahoo!

来源:arXiv cs.LG · arxiv.org