arXiv cs.AI· Gal Arnon, Andrej Bogdanov, Paul Lou, Giulio Malavolta, Alon Rosen, Lorenzo Taschin·· 8 小时前AI 评分27
自回归 token 生成的局限:顺序采样器的能力边界研究
Limitations on Autoregressive Token Generation via Sequential Sampling
AI 导读
研究通过顺序采样器框架分析自回归 token 生成,证明 k 位状态的顺序采样器可用无状态采样器以约 O(2^k) 规模开销模拟,且高效插入式采样强于任意固定顺序的高效顺序采样。小状态顺序采样器无法建立特定形式的隐蔽密码信道,这为防范恶意 LLM 智能体间的潜意识协调提供了潜在安全机制。
来源:arXiv cs.AI · arxiv.org