跳到正文
arXiv cs.CV· Chen Zhao, Xingping Dong, Jiachun Shi, Liang Peng, Chong Wang, Zhen Lei, Ran He, Bo Du·· 3 小时前AI 评分22

ResOT:通过局部分布对齐修复大型视觉语言模型的目标幻觉

From Suppression to Repair: Mitigating Object Hallucination in Large Vision-Language Models via Localized Distribution Alignment

AI 导读

针对大型视觉语言模型(LVLM)的目标幻觉问题,研究者提出免训练方法 ResOT,在推理时通过局部分布对齐修复隐藏表示。该方法将主导幻觉方向投影出忠实子空间,形成低维残差子空间,并用高斯最优传输(OT)对齐幻觉分布与忠实分布,自适应控制每个 token 状态向 OT 目标的移动幅度。

来源:arXiv cs.CV · arxiv.org