低精度Transformer推理：随机舍入与就近舍入效果对比
热点事件持续更新
低精度Transformer推理：随机舍入与就近舍入效果对比
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Yohan Chatelain 等人发表了一项针对低精度 Transformer 推理的仿真研究，比较随机舍入（SR）与就近舍入（RN）在不同网络位置的效果。作者扩展 PRISM 向量化舍入库，实现可变精度随机舍入（VPSR），并在 DistilGPT-2 上以 t=6 有效位验证。 结果显示，在 MLP 中使用 SR 时困惑度为全精度参考的 1.15 倍，使用 RN 时为 2.21 倍；而在语言模型 head 处，两者的顺序发生反转。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 12:00
低精度 Transformer 推理该用随机舍入还是就近舍入？基于 GPT-2 的可变精度仿真研究报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- arXiv cs.LG低精度 Transformer 推理该用随机舍入还是就近舍入？基于 GPT-2 的可变精度仿真研究
研究对比了低精度 Transformer 推理中随机舍入（SR）与就近舍入（RN）在不同网络位置的效果差异。作者扩展 PRISM 向量化舍入库实现可变精度随机舍入（VPSR），并在 DistilGPT-2 上以 t=6 有效位验证：MLP 中用 SR 困惑度为全精度参考的 1.15x，RN 为 2.21x；语言模型 head 处顺序反转。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。