arXiv cs.AI· Tianyu Chen, Chujia Hu, Wenjie Wang·· 3 小时前AI 评分31
Safety Sentry:基于 EXECUTE-ASK-REFUSE 路由的上下文感知人工干预
SAFETY SENTRY: Context-Aware Human Intervention via EXECUTE-ASK-REFUSE Routing
AI 导读
Safety Sentry 将 LLM 智能体的动作安全判定重构为 {EXECUTE, ASK, REFUSE} 的逐实例三路路由决策,用一个轻量级 guard 模型实现,推理仅需一次解码调用。单一解码阈值即可让同一 checkpoint 在不同风险容忍度的部署中重新定位,无需重新训练。该模型在整体准确率和安全相关召回率上优于多种开放权重与前沿闭源基线,同时控制双向错误率。
来源:arXiv cs.AI · arxiv.org