arXiv stat.ML· Abiel Malkani Talwar, Christopher Nemeth, Henry Moss·· 2 小时前AI 评分24
研究质疑 Power Sampling 在测试时锐化 LLM 的有效性
A Critical Look at Power Sampling when Test Time Sharpening LLMs
AI 导读
研究发现，通过 MCMC 或 SMC 从幂分布 π_α ∝ π_base^α 采样的 Power Sampling 方法，在现实算力预算下无法收敛到目标分布，其收益大多可由配合合适评分的 Best-of-N 复现。即便直接微调基座模型逼近 π_α，收益仍不稳定且因模型和采样任务而异，表明其价值在于筛选基座模型已认为高概率的序列，而非精确逼近幂分布。
来源：arXiv stat.ML · arxiv.org