arXiv cs.CL· Ran Li, Lei Chen·2026-10-07 12:00· 9 小时前AI 评分26

预填充决策模型的读出稳定性：零标签预测与推理时算力分配

Readout Stability in Prefill-Only Decision Models:Zero-Label Prediction and Inference-Time Compute Allocation

AI 导读

受 Jev 模型启发的预填充决策模型单次前向即可为候选菜单打分，成本比同规模生成式语言模型低一到两个数量级。当干预只改变候选菜单而输入文本不变时，其干预后准确率可由缓存的首次前向分布预测，无需标签和第二次前向，在七个模型族、十个数据集上误差在 4.2 分以内。

来源：arXiv cs.CL · arxiv.org