arXiv cs.CL· Mingqing Yuan (Soochow University), Xiaobo Liang (Soochow University), Junwei Yang (University of Cambridge), Ziwei Chen (Chalmers University of Technology), Zeren Zhang (Peking University), Hejin Wang (Tsinghua University), Yubin Wang (The Hong Kong University of Science,Technology), Juntao Li (Soochow University)·· 4 小时前AI 评分29
LatentGRM：通过语义保持压缩实现高效生成式奖励建模
Judging in Latent Space: Efficient Generative Reward Modeling via Semantics-Preserving Compression
AI 导读
LatentGRM 是一个基于语义分块、压缩与重建的潜在评估框架，通过让评分标准引导压缩，学习紧凑的连续轨迹来完成成对判断，无需生成文本评估。在相同训练数据和骨干下，LatentGRM 在 4B 和 8B 规模上取得与显式 SFT 评判模型相当的偏好准确率，其中 LatentGRM-8B 在四个基准领域将评估轨迹压缩 8.9–9.2 倍，vote@5 下评判推理总时间减少 6.1–7.0 倍。
来源：arXiv cs.CL · arxiv.org