跳到正文
arXiv cs.AI· Zihui Zhao, Yuanbo Tang, Yang Li·· 9 小时前AI 评分22

稀疏-存储-精度权衡:简约激活字典学习(PADL)的理论刻画与算法

On the Sparsity-Storage-Accuracy Tradeoff in Parsimoniously Activated Dictionary Learning

AI 导读

研究提出简约激活字典学习(PADL),证明其等价于带全局激活模式隐变量的结构化生成模型下的最大后验估计,并据此推导出稀疏度、存储成本与重建精度之间的解析权衡关系,实现最优超参数的数据驱动估计。基于该理论开发的 PADL 算法无需人工调参,在视觉基准上同等稀疏度下取得更优重建性能,并可用于加速视觉-语言模型推理。

来源:arXiv cs.AI · arxiv.org