arXiv cs.LG· Yajie Zhao, Yingjun Mo, Zhiyong Wang, Bo Tang, Chao Xu, Fang Kong·· 7 小时前AI 评分22
可证明的 Transformer 上下文压缩：面向上下文强化学习
Provable Transformer Context Compression for In-Context Reinforcement Learning
AI 导读
研究证明，在固定策略 TD 评估中，精确复现前 L 次 TD 迭代所需的最小上下文维度等于采样转移诱导的 Krylov 维度；当上下文维度 m 低于该阈值时，最优近似误差以 Θ(γ^m·max{1,1/(m(1-γ))}) 衰减。精确连续表示的最优保留内存为 Θ(nk_L)，实验显示在数值秩较小的采样任务上，精度达 10⁻² 的上下文比 TD 稀疏充分统计量小 88.7%。
来源：arXiv cs.LG · arxiv.org