arXiv cs.LG· Jiacheng Liang, Yuhui Wang, Tanqiu Jiang, Ting Wang·· 6 小时前AI 评分27
RASA：面向 MoE 模型的路由感知安全对齐框架
Routing-Aware Safety Alignment for Mixture-of-Experts Models
AI 导读
针对 MoE 模型稀疏路由机制导致全参数安全微调出现路由或专家主导等退化行为的问题，研究者提出路由感知的专家级对齐框架 RASA。RASA 先识别被成功越狱不成比例激活的专家，在固定路由下仅微调这些专家，再强制其与安全对齐上下文的路由一致性。
来源：arXiv cs.LG · arxiv.org