arXiv cs.LG· Junlin Liao, Harshit Kondle, Di Liu, Zonghua Gu·· 7 小时前AI 评分24
边缘平台上的视觉语言模型推理能耗实测:Qwen2-VL-2B 在树莓派 5 与 Jetson Orin Nano 上的表现
Seeing at the Edge: Energy Characterization of Vision-Language Model Inference on Edge Platforms
AI 导读
研究实测了 Qwen2-VL-2B-Instruct 及其纯文本版本在搭载 Hailo-10H NPU 的树莓派 5 和 Jetson Orin Nano Super 上的总系统能耗、延迟与热行为。
来源:arXiv cs.LG · arxiv.org