跳到正文
热点事件持续更新

研究者提出PGSVD低秩压缩框架

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究者 Ryan Solgi 等人提出低秩压缩框架 PGSVD(Pareto-Guided SVD),用于大语言模型和视觉语言模型的压缩。该框架通过逐层激活压缩误差上界网络损失变化,并将低秩压缩建模为双目标优化,作者称单一统一容差可产生代理帕累托最优的异构秩。 据作者介绍,这一零样本流程结合帕累托引导秩选择与交替最小二乘实现,在同等压缩率下于 LLM 和 VLM 上取得更高精度,并实现推理加速。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv cs.CL
    PGSVD:面向高效 LLM/VLM 的激活感知帕累托引导低秩压缩

    研究者提出低秩压缩框架 PGSVD(Pareto-Guided SVD),通过逐层激活压缩误差上界网络损失变化,并将低秩压缩建模为双目标优化,证明单一统一容差可产生代理帕累托最优的异构秩。该零样本流程结合帕累托引导秩选择与交替最小二乘实现,在 LLM 和 VLM 上同等压缩率下取得更高精度并实现推理加速。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。