arXiv cs.AI· Tianyi Wang, Huawei Fan, Yuanchao Shu, Peng Cheng, Cong Wang·· 3 小时前AI 评分36
重新审视延迟拒绝服务攻击:攻击 LLM 服务框架而非模型
Rethinking Latency Denial-of-Service: Attacking the LLM Serving Framework, Not the Model
AI 导读
研究发现算法层面的延迟攻击对现代 LLM 服务系统基本无效,连续批处理等系统级优化提供了逻辑隔离。为此提出 Fill and Squeeze 攻击策略,针对调度器状态转换:Fill 耗尽全局 KV cache 引发队头阻塞,Squeeze 迫使系统反复抢占。
来源:arXiv cs.AI · arxiv.org