GRAFT：持续多教师蒸馏框架发布

Zhenghao Zhao 等人提出并发布 GRAFT，一个持续多教师蒸馏框架，让统一骨干网络从开放序列的基础模型中逐步获取能力。其设计目标是新增教师时只需一次蒸馏，而非对全部教师重新蒸馏。 该框架引入 Teacher Specific Readout Tokens，为每个教师提供独立读出，并用 Geometry Agnostic Relational Loss 对齐视觉语言教师。上述内容来自论文作者在 arXiv 上的自述。

AI 根据报道生成 · 14 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。