arXiv cs.AI· Jiaqi Zheng, Yi Hu, Yadong Mu, Muhan Zhang·· 8 小时前AI 评分24
超网络持续学习中的知识交互:冲突与组合
Knowledge Interaction in Hypernetwork-based Continual Learning: Conflict and Composition
AI 导读
研究在超网络适配框架下考察LLM持续学习中的知识交互,该框架由共享网络根据上下文生成适配器,使冻结的基础模型无需任务特定更新即可适配。知识冲突时模型优先遵循上下文,其选择更多取决于知识呈现位置而非内容;多跳推理中模型无法可靠组合基础模型、适配器与上下文三源知识,关键断裂来自超网络与基础模型及上下文的交互。
来源:arXiv cs.AI · arxiv.org