arXiv cs.LG· Adeline Pittet, Shien Zhu, Val\'erie Verdan, Gustavo Alonso·· 9 小时前AI 评分22
SSR:面向三值 GEMM 加速的稀疏分段归约方法
SSR: Sparse Segment Reduction for Ternary GEMM Acceleration
AI 导读
研究者提出 Sparse Segment Reduction(SSR),一种针对三值 LLM 与三值权重网络(TWN)推理的三值矩阵乘法方法,通过专用三值数据格式和随稀疏度扩展的计算树利用稀疏结构。
来源:arXiv cs.LG · arxiv.org