通过 Flow Matching 实现理由分布蒸馏的分布式连续隐式推理

研究者提出理由分布蒸馏（RDD），通过从多条文本推理路径中蒸馏，在定长隐式序列上训练条件流，并用 within-query mixup 在完整隐式理由间插值以扩展蒸馏目标。该流模型非自回归生成整段隐式序列，再由冻结语言模型从采样理由上下文中自回归解码答案。实验显示，该分布式推理器在高等数学任务上的答案覆盖率优于所评估的点值隐式推理基线。