arXiv cs.LG· Xi Ding, Naichen Shi, Jiawei Zhang·· 9 小时前AI 评分24
STAVE:用两个向量替代上下文示例,实现结构化任务适配
Two Vectors Replace In-Context Demos: Structured Task Adaptation via Embeddings
AI 导读
研究者提出 STAVE,用两个任务专属向量替代上下文示例,实现冻结大模型的任务适配。一个 readout 向量更新生成答案的 token,一个 context 向量更新其他结构 token 组,二者用带/不带示例的提示词答案标签训练。
来源:arXiv cs.LG · arxiv.org