arXiv cs.CL· I\c{s}{\i}l \"Ozg\"u, Yaoxuan Wu, Guy Van den Broeck, Miryung Kim·· 4 小时前AI 评分22
SHIM：利用解析器状态实现轻量级约束解码偏差校正
The Parser Already Knows: Lightweight Bias Correction in Constrained Decoding
AI 导读
针对语法约束解码（GCD）因逐步掩码导致输出分布偏离语言模型语法条件分布的问题，研究者提出 SHIM——一种离线训练的轻量级下一 token 概率校正方法，以解析器和词法分析器状态及候选 token 为条件。
来源：arXiv cs.CL · arxiv.org