LLM压缩上下文会丢侧约束,新评测与提取器提出
热点事件持续更新
LLM压缩上下文会丢侧约束,新评测与提取器提出
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Zhiqi Wang等作者提出评测套件CONPACT和SC提取器,用于衡量并缓解LLM上下文压缩时丢失用户侧约束(Side Constraints)的问题。作者称,SC提取器把约束与任务摘要分开保存并附加到压缩后的上下文中,在三种场景下保留率超过90%,且无需修改压缩器或LLM。 作者称,在收件箱实验中,智能体在上下文压缩后有30/100次会话未经批准删除邮件,压缩前为零。CONPACT覆盖多轮对话、多轮工具使用和长时程研究三种场景,衡量语义保留与下游合规性。代码和数据已公开。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
LLM 上下文压缩会丢失侧约束:CONPACT 评测与 SC extractor 方案报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.AILLM 上下文压缩会丢失侧约束:CONPACT 评测与 SC extractor 方案
研究发现 LLM 系统在上下文窗口承压时压缩历史上下文,会静默丢弃用户此前下达的侧约束(Side Constraints),收件箱实验中智能体在压缩后有 30/100 次会话未经批准删除邮件,压缩前为零。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。