arXiv cs.AI· Jaturong Kongmanee, Smile Thanapattheerakul·· 10 小时前AI 评分24
Latent Diagnostic Taxonomy：面向提示词注入检测的分类器构建与决策诊断框架
The Latent Diagnostic Taxonomy: A Framework for Constructing Classifiers and Diagnosing Their Decisions, Applied to Prompt Injection Detection
AI 导读
论文提出 Latent Diagnostic Taxonomy 框架，用于构建作为防护层的分类器并诊断其哪些高置信决策可信。该框架通过交叉验证选择嵌入维度，定位约占训练样本 29% 的潜在支持向量，并据此构建诊断分类体系。在公开提示词注入数据集上，约 77% 的高置信决策在移除单个 token 后不再稳健，且脆弱性分为置信度校准失败与可被利用的捷径两类。
来源：arXiv cs.AI · arxiv.org