跳到正文
arXiv cs.AI· Vineet Kumar, Kanishka, Bhuvanesh Mandora·· 3 小时前AI 评分32

Structure Tax:结构化输出如何影响 LLM 性能

Structure Tax: How Structured Output affects LLMs Performance

AI 导读

研究重新审视了结构化输出必然带来精度损失的"结构税"说法,发现该损失取决于 schema 设计而非结构本身。推理优先的字段顺序可匹配甚至超过自由格式精度,答案优先的顺序则导致精度大幅下降,小模型尤为明显。保留推理顺序的 schema 还能改善置信度校准,CKA 显示中间 Transformer 层正确与错误表征的可分离性更强。

来源:arXiv cs.AI · arxiv.org