跳到正文
arXiv cs.AI· Mehmet Emre Akbulut, Johannes Geier, Ulf Schlichtmann·· 9 小时前AI 评分22

MemFLoRA:面向边缘端 CNN 适配的内存下限 LoRA

MemFLoRA: Memory-Floor LoRA for CNN Adaptation at the Edge

AI 导读

MemFLoRA 是一种面向 CNN 边缘适配的低秩适配器,采用内存优先设计而非直接套用面向 Transformer 的 LoRA。它冻结下投影、训练尺度匹配的上投影,并将保存状态压缩到低秩分支,在三个 HAR 数据集和两个 CNN 骨干上,相比全量微调减少 98.5-98.7% 的激活内存和 94.9-97.3% 的峰值训练状态内存,同时匹配或超过 CNN PEFT 基线。

来源:arXiv cs.AI · arxiv.org