arXiv cs.AI· K. P. Santoso, N. Z. Fadil, F. P. Harsanti, R. V. H. Ginardi, G. N. Iyer·· 13 小时前AI 评分22
各向同性却无法解码：潜在预测式文本表征中的序列内容充分性缺口
Isotropic Yet Undecodable: The Sequential Content-Sufficiency Gap in Latent-Predictive Text Representations
AI 导读
研究提出信息论分解，将输入歧义、表征损失与读出失配分离，并构建可恢复视图证明完美一致与联合各向同性高斯性可同时与零目标信息共存。基于此提出非自回归框架 CANOPE，在 40,000 条验证序列上，latent-agreement（PL0）与 token-grounded（PL2）池化排名几乎相同，但位置 Recall@1 分别为 13.5% 和 98.8%。
来源：arXiv cs.AI · arxiv.org