研究：智能体历史难预测压缩危害

一项新研究检验智能体的近期行为能否预测上下文压缩何时会造成损害。作者 Egor Pakhomov 和 Erik Nijkamp 基于 TRACE 公开语料库中 590 个 AppWorld 压缩边界进行配对重放，结论是边界前历史对压缩后损害的预测能力很弱：最佳扩展协议触发器在留出集上的 AUROC 仅 0.66，而同一边界复现为 0.72。 研究还给出一个冻结的可解释触发器，可避开 21% 的有害边界，同时保留 84% 的压缩机会。该结果来自 TRACE 语料库的特定实验设置，作者称其预测能力有限。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。