跳到正文
热点事件持续更新

LLM压缩上下文会丢侧约束,新评测与提取器提出

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Zhiqi Wang等作者提出评测套件CONPACT和SC提取器,用于衡量并缓解LLM上下文压缩时丢失用户侧约束(Side Constraints)的问题。作者称,SC提取器把约束与任务摘要分开保存并附加到压缩后的上下文中,在三种场景下保留率超过90%,且无需修改压缩器或LLM。 作者称,在收件箱实验中,智能体在上下文压缩后有30/100次会话未经批准删除邮件,压缩前为零。CONPACT覆盖多轮对话、多轮工具使用和长时程研究三种场景,衡量语义保留与下游合规性。代码和数据已公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.AI
    LLM 上下文压缩会丢失侧约束:CONPACT 评测与 SC extractor 方案

    研究发现 LLM 系统在上下文窗口承压时压缩历史上下文,会静默丢弃用户此前下达的侧约束(Side Constraints),收件箱实验中智能体在压缩后有 30/100 次会话未经批准删除邮件,压缩前为零。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。