跳到正文
arXiv cs.CL· Yuxuan Wang, Guangxiang Zhao, Xinyu Tan, Yahui Han, Xinxiang Yin, Zhonghai Wu, Xiangzheng Zhang, Lin Sun, Tong Yang·· 5 小时前AI 评分22

超越分布匹配:选择性边界保持的监督微调 SRP-SFT

Beyond Distribution Matching: Selective Margin Preservation for Supervised Fine-Tuning

AI 导读

研究者提出选择性排序保持微调 SRP-SFT,一种软边界目标,对参考模型 top-K 非目标 token 对的参考缩放下界施加 hinge 约束,达标即停止,无需冻结参考分布。

来源:arXiv cs.CL · arxiv.org