arXiv cs.AI· Jingxiang Meng, Aofan Liu, Yaoshuai Ma, Fangxin Liu, Yongbiao Chen·· 8 小时前AI 评分26
REA:从正确的 LLM 判断到安全的决策交付
REA: From Correct LLM Judgments to Safe Decision Delivery
AI 导读
针对推理型安全护栏输出无法被应用解析的问题,研究者提出 Resolve–Express–Act(REA)框架,追踪判断经解析与回退到应用动作的全过程。实验显示,正确预测可能出现在格式错误的输出中,解析安全判定可保留推理护栏的准确率优势,而更严格的解释要求会拒绝部分正确预测,接受格式变体则能找回其中大部分。
来源:arXiv cs.AI · arxiv.org