跳到正文
arXiv cs.LG· Kyeongmin Yeo, Minhyuk Sung·· 6 小时前AI 评分26

MUNITE:面向任意到任意多模态生成的统一隐变量推理框架

MUNITE: Unified Multimodal Latent Inference for Any-to-Any Multimodal Generation

AI 导读

MUNITE 是一个隐变量框架,将编码与隐变量生成统一为同一推理问题,用单一条件流模型处理任意模态子集的条件隐变量推理。它通过自蒸馏扩展条件流匹配,从含缺失模态的训练样本中学习条件分布。在 PolyMNIST-D-Q、FFHQ64 和图像-文本-音频任务上,MUNITE 取得有竞争力或更优的生成质量与源-目标对齐,并在所有一对多及无条件图像-文本-音频对比中取得最高连贯性。

来源:arXiv cs.LG · arxiv.org