研究者提出PGSVD低秩压缩框架
热点事件持续更新
研究者提出PGSVD低秩压缩框架
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
研究者 Ryan Solgi 等人提出低秩压缩框架 PGSVD(Pareto-Guided SVD),用于大语言模型和视觉语言模型的压缩。该框架通过逐层激活压缩误差上界网络损失变化,并将低秩压缩建模为双目标优化,作者称单一统一容差可产生代理帕累托最优的异构秩。 据作者介绍,这一零样本流程结合帕累托引导秩选择与交替最小二乘实现,在同等压缩率下于 LLM 和 VLM 上取得更高精度,并实现推理加速。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 12:00
PGSVD:面向高效 LLM/VLM 的激活感知帕累托引导低秩压缩报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv cs.CLPGSVD:面向高效 LLM/VLM 的激活感知帕累托引导低秩压缩
研究者提出低秩压缩框架 PGSVD(Pareto-Guided SVD),通过逐层激活压缩误差上界网络损失变化,并将低秩压缩建模为双目标优化,证明单一统一容差可产生代理帕累托最优的异构秩。该零样本流程结合帕累托引导秩选择与交替最小二乘实现,在 LLM 和 VLM 上同等压缩率下取得更高精度并实现推理加速。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。