VALSE自适应层跳过推理方法论文发布

Jia-Dong Zhang 发布论文，提出 VALSE——一种面向大语言模型高效推理的垂直自适应层跳过方法。该方法按样本处理：用轻量难度估计器从前几层为每个输入打分，再通过逐层门控选择性跳过冗余层，可跳过任意中间层而保留更深层，只为每个输入激活必要深度。 论文同时给出期望 FLOPs 的闭式公式，证明跳层模型的函数空间是全层函数空间的真子集，并指出其与 MoE 架构存在结构对偶关系。论文称可行性已在原型规模初步验证。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。