SHIM：约束解码的轻量偏差校正

研究者 Işıl Özgü 等人提出一种名为 SHIM 的方法，用于校正语法约束解码（GCD）中的输出偏差。GCD 通过逐步掩码强制输出符合语法，但这会使模型输出的概率分布偏离语言模型原本的语法条件分布。 SHIM 是一种离线训练的轻量级下一 token 概率校正方法，以解析器和词法分析器的状态以及候选 token 为条件。研究者称，该方法针对的是 GCD 因逐步掩码导致的分布偏离问题。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。