arXiv cs.CV· Adrian Bulat, Yassine Ouali, Georgios Tzimiropoulos·· 3 小时前AI 评分24
reViT:单块循环、深度编程专家的循环视觉 Transformer
One Block, Multiple Depths: Recurrent Vision Transformers with Depth-Programmed Experts
AI 导读
reViT 用单个 Transformer 块循环复用,在同等推理 FLOPs 下达到全深度视觉编码器的精度,且无需中间特征蒸馏。它将每个循环深度的 FFN 表示为小型共享专家库的凸组合,由归一化深度坐标编程,形成可重采样的 FFN 参数轨迹。
来源:arXiv cs.CV · arxiv.org