arXiv cs.CL· Jianfei Ma, Zhaoxin Feng, Emmanuele Chersoni, Si Chen·· 5 小时前AI 评分32
语言规则能否替代 LM 打分做提示词压缩？EMNLP 2026 论文提出纯 CPU 端语言压缩器
Every Time I Hire a Linguist, Inference Costs Go Down: On Linguistic Rules as Effective Prompt Compressors
AI 导读
EMNLP 2026 一篇论文提出仅靠语言规则做提示词压缩，部署时无需 LM 前向传播、只用 CPU 处理，通过离线进化搜索组合词汇、句法、语义和篇章规则。在短段落、多文档推理和对话记忆 QA 数据集上，其效果接近近期先进提示词压缩策略，轻中度压缩下表现最佳，压缩越激进性能越下降。进化分析显示有效压缩融合多个语言层级信号，压缩比升高时规则从 token 剪枝转向句子抽取。
来源：arXiv cs.CL · arxiv.org