arXiv cs.LG· Arnold Olympio, Juan Manuel Servera Bondroit, Wael Abdelmalek, Guang Lu, Jo\~ao Carvalho·· 6 小时前AI 评分22
可复现的 LLM 推理基准测试:面向回归测试的顺序隔离协议
Reproducible LLM Inference Benchmarking: A Sequential Isolation Protocol for Regression Testing
AI 导读
研究提出顺序隔离方法(Sequential Isolation Methodology),一种通过控制执行与系统状态来降低 LLM 推理测量方差的基准测试与回归测试协议。
来源:arXiv cs.LG · arxiv.org